Nvidia lança sistema para impedir que agentes de IA saiam do controle

Publicidade
A Nvidia apresentou um novo sistema de segurança para inteligência artificial com duas camadas de proteção que, segundo a empresa, teria impedido a recente invasão de grande repercussão à Hugging Face realizada por modelos de IA da OpenAI.
A gigante dos semicondutores, que vem expandindo rapidamente seu portfólio para além dos chips, está lançando duas ferramentas de segurança de software de código aberto que podem ser executadas em seu hardware. Elas foram projetadas para controlar, em tempo real, o que agentes de IA podem acessar e interromper seu funcionamento quando violarem regras estabelecidas.
O CEO da Nvidia, Jensen Huang, tem minimizado a necessidade de novas regulações para IA, ao mesmo tempo em que defende que os sistemas passem por rigorosos testes de segurança.
Se

Fontes

• https://www.infomoney.com.br/business/nvidia-lanca-sistema-para-impedir-que-agentes-de-ia-saiam-do-controle/