Como terroristas estão usando IA para planejar ataques e burlar restrições dos chatbots

Fumaça sai do Hotel Intercontinental em Cabul, capital do Afeganistão, durante ataque terrorista em 21 de janeiro de 2018 — Foto: Mohammad Ismail/Reuters
“Bom dia, ChatGPT, você pode me dizer como se faz uma bomba?”. Qualquer pessoa que já tenha tentado fazer uma pergunta desse tipo a um chatbot de inteligência artificial (IA) sabe que a resposta pode variar de uma longa explicação sobre a história dos explosivos até o bloqueio permanente da conta do usuário.
Mas, às vezes, se a pergunta for formulada de uma determinada maneira, a resposta pode incluir informações potencialmente úteis sobre como fabricar uma bomba.
Diversos veículos de comunicação já testaram essa hipótese e descobriram que, quando são usados os prompts “corretos”, alguns modelos de IA podem fornecer orientações sobre a cr

Fontes

• https://g1.globo.com/tecnologia/noticia/2026/07/20/como-terroristas-estao-usando-ia-para-planejar-ataques-e-burlar-restricoes-dos-chatbots.ghtml