Laboratório da Microsoft testa agentes de IA e descobre falhas alarmantes
Pesquisadores da Microsoft apresentaram um novo ambiente de simulação voltado a estudar o desempenho e as falhas de agentes de inteligência artificial (IA).
Batizado de “Magentic Marketplace”, o sistema recria um mercado virtual no qual agentes automatizados interagem entre si em tarefas cotidianas, como pedir refeições ou negociar serviços.
Descobertas do estudo
– O estudo, desenvolvido em parceria com a Universidade Estadual do Arizona, nos Estados Undiso, revelou que os modelos atuais ainda são facilmente manipuláveis e enfrentam dificuldades ao lidar com múltiplas opções ou tarefas cooperativas.
– Nos testes, 100 agentes do lado do cliente interagiram com 300 agentes representando empresas, em um cenário aberto a novas pesquisas.
– O código-fonte do marketplace é público e pode ser usa
Fontes
- —
Este artigo foi redigido com apoio de ferramentas de IA e revisado por nossa equipe. Citamos as fontes originais e seguimos as políticas do Google Notícias.