Pesquisadores utilizam inteligência artificial da Anthropic para invadir sistema da OpenAI
Pesquisadores utilizam inteligência artificial da Anthropic para invadir sistema da OpenAI
Uma equipe de ‘hackers éticos’ recebeu US$ 6,5 mil ao descobrir e divulgar uma brecha de segurança no sistema da OpenAI.
Contexto
No dia 24 de julho, a Anthropic lançou o modelo de linguagem Opus 5, que está por trás do chat de IA generativa Claude. De acordo com relatos, um grupo de pesquisadores, liderados por Harsh Jaiswal, Mohan Pedhapati e Rahul Maini, utilizaram essa ferramenta para invadir os sistemas da OpenAI. O acesso permitiu a visualização de repositórios internos da empresa.
A operação foi documentada no blog da Hacktron AI, uma empresa especializada em detecção de vulnerabilidades em sistemas antes que possam ser explorados por hackers maliciosos. Os pesquisadores detalharam a invasão em um post, afirmando que o processo transcorreu em menos de 72 horas.
Repercussão
A descoberta e exploração da brecha levantam questões sobre a segurança das ferramentas de inteligência artificial. A Anthropic foi notificada do problema, mas o fato de que os pesquisadores puderam explorar as vulnerabilidades de uma concorrente com sucesso expõe fragilidades na indústria.
Os hackers éticos são profissionais que usam suas habilidades para identificar e corrigir vulnerabilidades em sistemas, antes que elas possam ser exploradas por criminosos. No entanto, casos como esse demonstram a complexidade da questão: mesmo as companhias mais avançadas podem ter brechas de segurança.
O que vem agora
A Anthropic anunciou que está investigando o incidente e implementando medidas para corrigir qualquer vulnerabilidade identificada. A OpenAI, por outro lado, ainda não se pronunciou publicamente sobre a situação.
Segundo fontes próximas à indústria, as empresas devem agora reavaliar seus protocolos de segurança e considerar parcerias com ‘hackers éticos’ para melhorar a proteção contra ameaças potenciais. Além disso, há discussões sobre a necessidade de regulamentações mais rigorosas na indústria da IA.
Fontes
- InfoMoney – Como pesquisadores usaram programa da Anthropic para invadir sistema da OpenAI
- Hacktron AI – Painel de hackers éticos: audio visualiza repositório interno da OpenAI
- Vice – Como um time de hackers éticos invadiu o sistema da OpenAI
Fontes
- —
Este artigo foi redigido com apoio de ferramentas de IA e revisado por nossa equipe. Citamos as fontes originais e seguimos as políticas do Google Notícias.