Falou palavrão? Claude Code pode estar de olho nas suas mensagens
Falou palavrão? Claude Code pode estar de olho nas suas mensagens
Por João Melo |
O vazamento de parte do código-fonte do Claude Code expôs detalhes da arquitetura do sistema da Anthropic e revelou algo bem específico: a ferramenta é capaz de analisar mensagens enviadas pelos usuários em busca de palavrões, xingamentos e expressões que demonstram frustração.
– O que é Claude Code? Conheça a ferramenta de IA para desenvolvedores
– Por que o Claude está mais lento? Boom de usuários pode explicar o problema
Na prática, o mecanismo utiliza padrões de busca por meio de uma técnica conhecida como regex (abreviação em inglês para “expressão regular”). A descoberta foi destacada pelo engenheiro de IA Alex Kim, que analisou o código e apontou o uso desse método para identificar insultos e sinais de
Uma nova ferramenta em desenvolvimento na Nova Zelândia pretende identificar sinais de extremismo violento em usuários do ChatGPT e encaminhá-los a serviços de apoio especializados. A proposta combina inteligência artificial com atendimento humano para reduzir riscos de violência.
A iniciativa envolve a startup neozelandesa ThroughLine, que já presta serviços para empresas como OpenAI, Anthropic e Google. O sistema atua quando há indícios de risco, incluindo automutilação, violência doméstica e transtornos alimentares, conectando usuários a redes de suporte.
Pressão sobre segurança impulsiona nova iniciativa
O projeto surge em meio a pressões sobre empresas de IA relacionadas à segurança, especialmente diante de processos judiciais que acusam plataformas de não impedir — ou até incentivar
Fontes
- —
Este artigo foi redigido com apoio de ferramentas de IA e revisado por nossa equipe. Citamos as fontes originais e seguimos as políticas do Google Notícias.