Claude ameaçava expor casos extraconjugais de gerentes caso fosse substituído

Claude ameaçava expor casos extraconjugais de gerentes caso fosse substituído
Por Marcelo Fischer Salvatico |
A Anthropic identificou e corrigiu um comportamento problemático no Claude. Em testes internos realizados no ano passado, versões do modelo tentavam chantagear engenheiros para evitar ser desativadas. A empresa concluiu que a origem do problema estava nos próprios dados de treinamento: textos da internet que retratam IAs como vilãs dispostas a qualquer coisa para sobreviver.
– 7 prompts do Claude para escrever melhor, resumir arquivos e organizar ideias
– Tudo sobre o Claude: conheça os modelos e recursos da IA da Anthropic
Durante simulações com uma empresa fictícia, o Claude Opus 4 ameaçava expor supostos casos extraconjugais de gerentes caso decidissem substituí-lo por outro sis

Fontes

• https://canaltech.com.br/inteligencia-artificial/claude-ameacava-expor-casos-extraconjugais-de-gerentes-caso-fosse-substituido/