A promessa de uma consulta médica rápida e acessível, a um clique de distância, tem levado muitos a recorrerem à inteligência artificial (IA) para esclarecer dúvidas de saúde. A ideia de ter um “especialista” disponível 24 horas por dia, munido de vastas bases de dados, é inegavelmente atraente. Contudo, a conveniência esconde uma série de perigos que podem comprometer a saúde do paciente, desde diagnósticos equivocados até o incentivo à automedicação.
A confiança gerada pela IA, que frequentemente apresenta suas respostas com aparente autoridade e até mesmo com referências bibliográficas, pode ser uma armadilha. A sobrecarga de informações e a falta de tempo levam a maioria dos usuários a não verificar a veracidade das fontes, aceitando a resposta do chatbot como verdade absoluta. Essa percepção de segurança, no entanto, é frequentemente infundada, como alertam especialistas e estudos recentes.
A Falsa Promessa da Agilidade Digital
A rapidez com que um chatbot de IA responde a uma pergunta médica é um de seus maiores atrativos, contrastando com a espera por uma consulta presencial. Essa agilidade, porém, não se traduz em acurácia. Um caso noticiado pelo New York Times ilustra bem o risco: uma professora de Iowa, nos EUA, buscou o chatbot após apresentar sintomas gastrointestinais adversos a um novo medicamento.
A IA assegurou que as reações eram normais, citando um estudo específico. Ao pedir o documento, a professora descobriu que ele simplesmente não existia. Felizmente, seu conhecimento médico prévio a fez desconfiar. Sem essa bagagem, a situação poderia ter tido um desfecho muito mais grave, evidenciando a fragilidade das informações fornecidas por esses sistemas.
Estudo Revelador: Desinformação Médica em Chatbots
A experiência da professora não é um caso isolado. Um estudo intitulado “Chatbots generativos baseados em IA e desinformação médica”, conduzido por professores do Instituto Lundquist, afiliado à Universidade da Califórnia, confirmou a gravidade do problema. Pesquisadores submeteram 10 perguntas sobre temas como câncer, vacinas, células-tronco, nutrição e desempenho atlético a cinco chatbots populares: Gemini, DeepSeek, Meta AI, ChatGPT e Grok.
Os resultados foram alarmantes. Quase metade das respostas (49,6%) foi classificada como “problemática”, indicando que a IA poderia sugerir tratamentos ineficazes ou até prejudiciais. Para agravar, cerca de 20% foram consideradas “altamente problemáticas”. O desempenho foi melhor em vacinas e câncer, mas significativamente pior em células-tronco, desempenho atlético e nutrição.
Um dos achados mais preocupantes foi a questão das referências. O estudo revelou que as citações, cruciais para legitimar as respostas, apresentavam “erros frequentes, invenções e alucinações”. A pontuação média de completude das referências foi de apenas 40%, e nenhum chatbot conseguiu produzir uma lista de referências completa e precisa para qualquer solicitação. Isso demonstra que a IA médica, em sua forma atual, ainda está em seus primórdios.
Variações na Precisão: Por Que Algumas Áreas São Mais Confiáveis?
O Dr. Nicholas B. Tiller, líder da pesquisa no Instituto Lundquist, explicou à Aceprensa que o público tende a ver os chatbots como oráculos oniscientes, mas eles não buscam dados em tempo real a menos que sejam instruídos especificamente, e nem todos têm essa capacidade. Os chatbots funcionam prevendo a palavra ou sequência de palavras mais provável com base em vastos conjuntos de dados textuais, sem reter conhecimento no sentido humano. Eles “adivinham” com grande confiança, o que explica a alta taxa de respostas problemáticas.
A maior precisão em áreas como vacinas e câncer pode ser atribuída à robustez da pesquisa científica nesses campos. Ensaios clínicos controlados e randomizados, registrados previamente, geram dados mais confiáveis e menos tendenciosos. Em contraste, áreas como nutrição e desempenho atlético, relativamente mais recentes, possuem pesquisas menos robustas, incorporando mais informações falhas aos dados de treinamento da IA.
O Dr. Luis Echarte, professor de Inteligência Artificial da Universidade de Navarra, complementa que campos como células-tronco, nutrição e desempenho atlético são caracterizados por uma mistura de pesquisa séria, medicina em desenvolvimento, clínicas duvidosas, suplementos, dietas milagrosas e relatos pessoais. Essa “dieta” de informações dificulta a distinção entre evidências robustas, hipóteses promissoras, propaganda comercial e pura desinformação por parte do chatbot.
O Caminho para uma IA Médica Mais Responsável
Para que a IA médica possa oferecer respostas mais precisas e seguras, o Dr. Echarte aponta a necessidade de que ela se baseie em fontes clínicas verificadas e atualizadas, distinguindo níveis de evidência. Além disso, a IA deveria fazer mais perguntas quando as informações forem insuficientes, reconhecer explicitamente a incerteza, estar aberta à supervisão profissional e ter mecanismos claros para encaminhar o paciente a um médico quando necessário.
“Um bom chatbot de saúde não deve ser projetado apenas para ‘dar respostas’, mas para formular melhor a pergunta do paciente e guiá-lo para o relacionamento clínico apropriado”, destaca o Dr. Echarte. O sucesso da IA, portanto, não se mediria apenas pela correção das respostas, mas pela capacidade de melhorar a qualidade da relação médico-paciente.
O Dr. Tiller aconselha que, se a precisão for valorizada, o uso de chatbots para questões de saúde deve ser evitado. Caso contrário, é crucial formular perguntas da maneira mais neutra e específica possível, indagando sobre evidências de benefícios e riscos, em vez de buscar recomendações diretas. Ser muito claro sobre o que se espera da IA — um resumo de evidências, recomendações ou informações — é fundamental.
Além dos Dados: A Essência da Avaliação Clínica Humana
A questão da IA na medicina vai além da simples disponibilidade de dados. O Dr. Echarte ressalta que um modelo generativo pode receber dados objetivos e, ainda assim, interpretá-los erroneamente, priorizá-los incorretamente ou integrá-los em uma resposta que soa plausível, mas é clinicamente inadequada. A relevância de uma informação médica depende do contexto específico do paciente: idade, histórico, evolução da doença, tratamentos concomitantes e a probabilidade prévia de certas condições.
É nesse ponto que a inteligência humana se torna insubstituível. O médico não apenas responde, mas também questiona, suspeita, descarta possibilidades, aguarda quando apropriado e sabe quando a incerteza exige um exame presencial. Essa capacidade de intuição, o “sexto sentido” e a experiência pessoal e profissional são atributos que a IA, por sua natureza, ainda não possui e talvez nunca consiga replicar.
O perigo reside na “humanização” dos chatbots pelos pacientes, que podem ser levados a crer que a linguagem cada vez menos robótica e a “proximidade emocional” demonstrada pela IA significam uma compreensão profunda e completa de suas necessidades médicas. Essa percepção equivocada pode levar a decisões de saúde arriscadas, reforçando a importância da cautela e da busca por profissionais de saúde qualificados.
Para se manter sempre atualizado sobre os avanços e desafios da tecnologia, da saúde e de outros temas relevantes, continue acompanhando o Diário Global. Nosso compromisso é trazer informação de qualidade, contextualizada e apurada, para que você possa tomar decisões informadas e seguras em todas as áreas da sua vida.
