A inteligência artificial já não é mais uma promessa distante na área da saúde – é uma realidade em rápida expansão. No final de 2025, a FDA norte-americana já havia autorizado mais de 1.450 dispositivos médicos habilitados para IA, e dois em cada três clínicos nos Estados Unidos relatam usar IA em seu trabalho . No Brasil, a tendência é semelhante, com hospitais e clínicas adotando ferramentas que vão desde a interpretação de exames até o planejamento terapêutico.

Os benefícios são inegáveis. Sistemas de IA têm aumentado a produtividade em especialidades como a radiologia, com um estudo mostrando que um sistema autônomo de diagnóstico ampliou a produtividade de clínicas especializadas em 40% . No entanto, o entusiasmo precisa vir acompanhado de cautela. Por trás do brilho da inovação, há riscos concretos que exigem regulamentação, transparência e uma governança robusta.

O paradoxo da IA na saúde

O problema central é que a IA na saúde é uma faca de dois gumes . Pode avançar ou comprometer os resultados em saúde, dependendo de como é governada, implementada e monitorada. E os números são preocupantes: estudos estimam que modelos de linguagem de grande escala usados para apoio à decisão clínica apresentam taxas de alucinação — quando a IA gera informações falsas ou inventadas — de 8% a 20%.

O que isso significa na prática? Uma IA que "alucina" pode sugerir um diagnóstico incorreto, recomendar uma terapia inadequada ou classificar erroneamente a gravidade de um quadro. Em saúde, erros como esses podem ter consequências fatais. Como alertou o procurador-geral da Califórnia, Rob Bonta: "Quando a IA erra na área da saúde, as consequências podem ser mortais".

O vácuo regulatório

Apesar do crescimento vertiginoso da IA na saúde, a regulação não acompanhou o mesmo ritmo. Nos Estados Unidos, a FDA autorizou centenas de dispositivos de IA, mas menos de 2% deles foram submetidos a ensaios clínicos randomizados . Isso significa que muitos sistemas são aprovados com evidências limitadas sobre seu desempenho no mundo real.

Mais grave: o governo norte-americano propôs, em janeiro de 2026, uma regra que elimina os requisitos de transparência para ferramentas de IA na saúde, removendo as chamadas "model cards" — documentos que funcionam como rótulos nutricionais, descrevendo como o sistema foi treinado, testado e quais são suas limitações . Esses registros são hoje "uma das mais significativas salvaguardas em nível federal" para o uso de IA na saúde.

Sem transparência, hospitais e clínicas perdem a capacidade de avaliar se uma ferramenta é justa, se foi testada contra vieses raciais ou se apresenta riscos para determinados grupos de pacientes. Um exemplo clássico é o de um algoritmo hospitalar amplamente utilizado que, em 2019, foi identificado como racialmente tendencioso, subestimando as necessidades de pacientes negros.

Chatbots e o risco da desinformação clínica

Os chatbots de saúde são um dos exemplos mais emblemáticos dos riscos. Ferramentas de IA generativa são cada vez mais usadas por pacientes para obter orientações médicas, e por profissionais para agilizar diagnósticos. No entanto, um relatório do Global Health Hub Germany alerta que essas ferramentas frequentemente operam com "governança insuficiente e transparência limitada".

No Reino Unido, um chatbot usado para triagem de encaminhamentos no NHS demonstrou benefícios claros, mas também expôs lacunas: pacientes não são informados de que a IA está envolvida em seu cuidado, e não há infraestrutura pública para monitorar o desempenho desses sistemas após sua implementação . O que acontece quando um chatbot orienta um paciente a não buscar atendimento para um sintoma grave? Ou quando sugere uma interação medicamentosa perigosa?

O caminho a seguir

Diante desse cenário, especialistas defendem uma abordagem baseada em três pilares:

1. Transparência regulatória: é essencial exigir que desenvolvedores publiquem informações padronizadas sobre como seus sistemas foram treinados, validados e testados contra vieses. A transparência não é um fardo burocrático, mas uma ferramenta para que hospitais possam comparar fornecedores, auditar modelos e cumprir suas obrigações legais.

2. Governança institucional: hospitais e clínicas precisam criar comitês multidisciplinares — incluindo médicos, especialistas em qualidade, gestão de risco e ética — para avaliar cada sistema de IA antes da implantação e monitorá-lo continuamente. Essa estrutura deve garantir que os sistemas sejam testados nas populações reais que atenderão e que seus parâmetros sejam ajustados de acordo com cada contexto.

3. Supervisão humana: a IA deve apoiar o julgamento profissional, nunca substituí-lo. Profissionais de saúde precisam entender as bases das recomendações geradas pela IA, reconhecer quando elas podem ser não confiáveis e ter autonomia para contestá-las. Isso exige treinamento, protocolos claros e canais para reportar incidentes.

A inteligência artificial na saúde veio para ficar e tem o potencial de salvar vidas. Mas esse potencial só será realizado se acompanhado de regulamentação rigorosa, transparência total e uma governança que coloque a segurança do paciente acima de tudo. O entusiasmo é bem-vindo — desde que não nos cegue para os riscos. Afinal, na saúde, o custo de um erro pode ser muito alto.