Erros da IA na saúde: alerta de especialistas e Dr. Kalil

Especialistas e Dr. Kalil alertam para erros da IA na saúde

A inteligência artificial não é infalível. Esse foi o alerta central de especialistas que participaram do programa CNN Sinais Vitais com Dr. Roberto Kalil, ao discutir os riscos e as possibilidades do uso de algoritmos na área da saúde. Os radiologistas Giovanni Guido Cerri, professor titular da Faculdade de Medicina da USP e presidente do Inova HC, e Cesar Namura, diretor do Departamento de Radiologia do Incor, debateram com Kalil os principais desafios para a adoção segura dessas tecnologias no ambiente médico.

Por que a IA pode errar na saúde?

Cerri e Namura foram enfáticos ao afirmar que a qualidade dos dados utilizados no treinamento dos algoritmos é determinante para o seu desempenho. "Se o dado é ruim, só vai sair algoritmo ruim. Se o dado é bom, o algoritmo vai ser bom", explicou Namura. Segundo ele, muitos algoritmos são validados em populações de outros países, como a China, e quando aplicados em contextos diferentes, podem não apresentar a mesma acurácia e sensibilidade.

Isso significa que um algoritmo treinado com dados de uma população específica pode não funcionar bem em outra realidade. A diferença nos padrões de saúde, nos hábitos e até na genética pode comprometer os resultados. Por isso, é necessário um processo de adaptação, o que ele chamou de "tropicalização", para que a tecnologia funcione adequadamente em outras realidades.

O papel do curador humano

Namura citou como exemplo prático o uso de algoritmos para detectar tromboembolismo pulmonar. Ele explicou que, em exames de abdômen realizados para check-up ou acompanhamento oncológico, o radiologista pode estar focado em outras estruturas e acabar não identificando um achado nas bases dos pulmões. Nesse cenário, a IA pode atuar como um alerta importante.

No entanto, o especialista ressaltou que o algoritmo pode "apontar demais", gerando falsos positivos, o que reforça a necessidade de um profissional qualificado para revisar as imagens. "Por isso que não substitui. Por isso que você precisa de um curador para olhar as imagens", afirmou.

IA como aliada da eficiência no SUS

Cerri destacou que a inteligência artificial já impacta positivamente a eficiência dos sistemas de saúde. Segundo ele, a tecnologia pode auxiliar na gestão de filas, direcionando os pacientes para os especialistas mais adequados às suas necessidades. Ele afirmou que já existem algoritmos em prática capazes de entrevistar pacientes e identificar seus problemas de saúde.

Para Kalil, que considerou o Sistema Único de Saúde (SUS) como o melhor sistema de saúde do mundo, a discussão sobre como a IA pode otimizar recursos e melhorar a eficiência do sistema é fundamental. A ideia é que a tecnologia ajude a reduzir gargalos e a direcionar melhor os recursos, que são sempre limitados.

Desigualdade no acesso: um desafio histórico

A questão da desigualdade no acesso às novas tecnologias também foi abordada no debate. Cerri reconheceu que, como toda tecnologia nova, a inteligência artificial demanda recursos e investimentos, o que pode tornar sua adoção mais lenta em sistemas públicos universais como o SUS. No entanto, ele fez uma comparação histórica: assim como os tomógrafos e as ressonâncias magnéticas foram inicialmente acessíveis apenas a uma parcela da população e hoje estão disponíveis para todos, a tendência é que a IA siga o mesmo caminho.

"A transformação tecnológica tem um tempo de desenvolvimento e um tempo de aceleração", ponderou. Cerri ainda destacou que as tecnologias de transformação digital, como telemedicina, inteligência artificial e interoperabilidade, apresentam um custo significativamente mais baixo do que grandes equipamentos médicos, o que favorece uma democratização mais rápida do acesso.

O que isso significa para o paciente?

Para o paciente, a mensagem é de cautela e esperança. A IA pode melhorar o diagnóstico e a gestão do cuidado, mas não substitui o olhar do especialista. O médico continua sendo o responsável pela decisão final, e a tecnologia atua como uma ferramenta de apoio. Em sistemas públicos, a adoção tende a ser gradual, mas o custo menor das soluções digitais pode acelerar o processo.

Conclusão: IA sim, mas com curadoria

O debate no CNN Sinais Vitais deixou claro que a inteligência artificial na saúde é uma realidade promissora, mas que exige cuidado. Dados de qualidade, adaptação local e revisão humana são pilares para evitar erros. A "tropicalização" dos algoritmos e a presença de um curador são passos essenciais para que a tecnologia entregue o que promete, sem colocar pacientes em risco.

Perguntas Frequentes

A IA pode substituir o médico?

Não. Especialistas afirmam que a IA não substitui o profissional de saúde. Ela atua como um alerta, mas a revisão humana é indispensável para evitar falsos positivos e garantir a precisão do diagnóstico.

Por que a IA pode errar em diferentes países?

Algoritmos validados em populações de outros países, como a China, podem não ter a mesma acurácia em contextos diferentes. Por isso, é necessário um processo de adaptação, chamado de "tropicalização".

Como a IA pode ajudar o SUS?

A IA pode auxiliar na gestão de filas, direcionando pacientes para os especialistas mais adequados, e otimizar recursos, melhorando a eficiência do sistema.

A IA na saúde é acessível a todos?

Inicialmente, o acesso pode ser desigual, mas o custo menor das tecnologias digitais, comparado a grandes equipamentos, tende a acelerar a democratização, como aconteceu com tomógrafos e ressonâncias.

O que é um curador de imagens?

É um profissional qualificado, geralmente um radiologista, que revisa as imagens apontadas pela IA para confirmar ou descartar os achados, evitando erros de diagnóstico.