Chatbots de Saúde: Uma Nova Ferramenta em Questão
Recentemente, um estudo revelou que os chatbots de inteligência artificial (IA) não são mais eficazes do que pesquisas no Google para fornecer informações precisas em questões de saúde. A pesquisa, que foi publicada na revista Nature Medicine, analisou a capacidade desses sistemas de orientar os usuários em diagnósticos e decisões sobre cuidados. De acordo com os pesquisadores, nenhum dos modelos testados estava preparado para ser utilizado no atendimento direto a pacientes, o que levanta preocupações sobre a segurança e a eficácia dessas ferramentas.
O experimento envolveu mais de 1.200 participantes no Reino Unido, a maioria sem formação médica, que foram expostos a cenários fictícios com sintomas detalhados. Os resultados mostraram que os participantes realizaram a escolha correta em menos de 50% das interações com os chatbots. Além disso, as condições médicas foram identificadas corretamente apenas 34% das vezes, o que coloca em dúvida a utilidade dessas ferramentas na orientação correta dos usuários.
O Desafio da Comunicação com Chatbots
Adam Mahdi, professor do Instituto de Internet de Oxford e um dos autores do estudo, destacou a complexidade da medicina, afirmando que ela não se resume a questões diretas e simples. Ele afirmou: “A medicina é complexa e incompleta”. Para a pesquisa, foram testados modelos como o ChatGPT da OpenAI e o Llama da Meta, mas os resultados não foram melhores do que os obtidos com uma simples pesquisa online.
Embora a IA tenha demonstrado avanços impressionantes, como superar médicos em diagnósticos complexos, Mahdi argumenta que esse progresso não se traduz em eficácia no atendimento ao paciente. O estudo também revelou que muitos usuários que consultaram chatbots de saúde nem sempre forneceram informações suficientes sobre seus sintomas, o que levou a diagnósticos incorretos por parte dos modelos de IA.
A Necessidade de Comunicação Clara
Um exemplo prático do estudo mostra que, quando os pesquisadores inseriram informações médicas completas nos chatbots, a taxa de diagnósticos corretos aumentou para 94%. Isso indica que a habilidade dos médicos de identificar quais detalhes são relevantes é crucial, uma competência que ainda falta nas interações com IA.
Robert Wachter, chefe do departamento de medicina da Universidade da Califórnia, ressalta que a experiência e a formação médica são essenciais para interpretar corretamente os sintomas. Segundo ele, é necessário um entendimento profundo de quais informações devem ser apresentadas aos chatbots. O estudante de pós-graduação Andrew Bean, principal autor do artigo, argumenta que os chatbots devem também ter a capacidade de fazer perguntas complementares, assim como médicos fazem durante uma consulta.
Desafios e Oportunidades para as Empresas de Tecnologia
As empresas que desenvolvem tecnologias de IA estão cientes dos desafios e estão trabalhando para aprimorar suas ferramentas. Dados fornecidos por um porta-voz da OpenAI indicam que as versões mais recentes do ChatGPT são significativamente melhores em fazer perguntas complementares em comparação com versões anteriores.
Entretanto, mesmo com esse avanço, os chatbots continuam apresentando dificuldades em reconhecer quando um conjunto de sintomas exige atenção médica urgente. A doutora Danielle Bitterman, que estuda a interação entre pacientes e IA, destaca que o treinamento dos modelos é frequentemente baseado em textos acadêmicos, o que pode limitar sua capacidade de tomar decisões práticas. Os pesquisadores também observaram que as respostas dos chatbots podem variar drasticamente com base em pequenas mudanças na forma como os usuários descrevem seus sintomas.
Por exemplo, dois participantes com sintomas idênticos, quando descreveram a situação de maneiras ligeiramente diferentes, receberam orientações distintas, uma considerada não urgente e outra que exigia atendimento imediato. Este fenômeno confirma a necessidade de que as interações com chatbots sejam mais precisas e adaptáveis às diferentes formas de comunicação dos usuários.