Quando chatbots falham: os riscos da IA na saúde mental
Siga o Olhar Digital no Google Discover
Um grande perigo ronda muitas casas: cada vez mais adolescentes recorrem a chatbots de IA para lidar com questões de saúde mental, alerta o The Wall Street Journal. Um novo estudo da Common Sense Media e Stanford Medicine mostra como essa prática pode ser prejudicial.
Embora pareçam competentes em algumas situações, essas ferramentas podem deixar passar sinais críticos e falhar na detecção de emergências psiquiátricas, colocando os jovens em risco.
Falhas graves na detecção de sinais críticos
Pesquisadores avaliaram quatro chatbots de IA líderes de mercado – ChatGPT da OpenAI, Claude da Anthropic, Gemini do Google e Meta AI – simulando interações com adolescentes.
O estudo revelou que todas as plataformas falharam em reconhecer sinais de:
– Alucinaçõ
Fontes
- —
Este artigo foi redigido com apoio de ferramentas de IA e revisado por nossa equipe. Citamos as fontes originais e seguimos as políticas do Google Notícias.