Designers de software estão testando Chatbots com tecnologia de IA que pode fornecer conselhos médicos e condições de diagnóstico – mas há muitas dúvidas sobre a precisão.

Nesta primavera, o Google revelou um recurso de “Visão Geral de IA”, onde as respostas do chatbot da empresa começaram a aparecer acima dos resultados de pesquisa típicos, inclusive para consultas relacionadas à saúde. Embora possa parecer uma boa ideia em teoria, tem havido problemas em torno dos conselhos de saúde oferecidos pelo software.

Na primeira semana em que o bot esteve online, um usuário disse A IA do Google deu incorreta, informações possivelmente letais sobre o que fazer se for picado por uma cascavel. Outra pesquisa resultou na recomendação do Google de que as pessoas comam “pelo menos uma pedra pequena por dia” para obter vitaminas e minerais – o conselho foi retirado de um artigo satírico.

O Google diz que desde então limitou a inclusão de sites satíricos e de humor em suas visões gerais e removeu alguns dos resultados de pesquisa que se tornaram virais.

“A grande maioria das visões gerais de IA fornece informações de alta qualidade, com links para se aprofundar na web”, disse um porta-voz do Google à CBS News. “Para consultas de saúde, sempre tivemos fortes proteções de qualidade e segurança, incluindo isenções de responsabilidade que lembram às pessoas que é importante procurar aconselhamento especializado. Continuamos a refinar quando e como mostramos as visões gerais da IA ​​para garantir que as informações sejam alta qualidade e confiável.”

CBS News Confirmed descobriu que essas correções não impediram todas as informações erradas sobre saúde. As dúvidas sobre a introdução de alimentos sólidos para bebês menores de seis meses ainda retornaram dicas no final de junho. Os bebês não devem começar a comer alimentos sólidos antes dos seis meses de idade, de acordo com o Academia Americana de Pediatria.

Pesquisas sobre os benefícios para a saúde de tendências duvidosas de bem-estar, como desintoxicações ou bebendo leite cru também incluiu reivindicações desmascaradas.

Apesar das peculiaridades e dos erros flagrantes, muitos líderes do setor de saúde dizem que permanecem otimistas em relação aos chatbots de IA e como eles podem mudar o setor.

“As pessoas acessarão as informações de que precisam”, disse o Dr. Nigam Shah, cientista-chefe de dados da Stanford Healthcare. “No curto prazo, estou um pouco pessimista, acho que estamos nos adiantando um pouco. Mas, no longo prazo, acho que essas tecnologias nos farão muito bem.”

Outros defensores dos chatbots são rápidos em apontar que os médicos nem sempre acertam. As estimativas variam, mas um estudo do Departamento de Saúde e Serviços Humanos de 2022 descobriu que até 2% dos pacientes que vão a um pronto-socorro todos os anos podem sofrer danos após um diagnóstico incorreto de um profissional de saúde.

Shah comparou o uso de chatbots aos primeiros dias do próprio Google.

“Quando a Pesquisa Google surgiu, as pessoas estavam em pânico, pensando que iriam se autodiagnosticar e o inferno iria explodir. Isso não aconteceu”, disse Shah. “A mesma coisa. Passaremos por aquela fase (em que) os novos que não estão totalmente formados cometerão erros, e alguns deles serão ruins, mas em geral, ter informações quando não há outra opção é uma coisa boa.”

A Organização Mundial da Saúde é uma das empresas que está mergulhando nas águas da IA. O chatbot da organização, Sarah, extrai informações do site da OMS e dos seus parceiros de confiança, tornando as respostas menos propensas a erros factuais. Quando questionada sobre como limitar o risco de ataque cardíaco, Sarah deu informações sobre como controlar o estresse, dormir bem e focar em um estilo de vida saudável.

Avanços contínuos no design e na supervisão podem continuar a melhorar esses bots.

Mas se você está recorrendo a um chatbot de IA para obter conselhos de saúde hoje, observe o aviso que acompanha a versão do Google: “A qualidade das informações pode variar”.