Modelos de IA famosos estão usando artigos científicos retratados como fonte

Modelos de IA famosos estão usando artigos científicos retratados como fonte
Por Nathan Vieira • Editado por Melissa Cruz Cossetti |
Alguns modelos de inteligência artificial, incluindo chatbots populares como o ChatGPT, podem recorrer a artigos científicos retratados ao formular respostas. Isso levanta preocupações sobre a confiabilidade dessas ferramentas, especialmente em áreas críticas como saúde e ciência. O alerta vem do MIT Technology Review.
– Ilusão antropomórfica | A IA mente quando diz que “está pensando”; ela não está
– “Você está me testando” | Novo modelo de IA da Anthropic detecta a sua intenção
Os pesquisadores descobriram que, ao responder perguntas sobre estudos já invalidados, os modelos citam os artigos como fontes mesmo assim, e não alertam o usuário de que o material

Fontes

• https://canaltech.com.br/ciencia/modelos-de-ia-famosos-estao-usando-artigos-cientificos-retratados-como-fonte/