Ordem dos Médicos alerta para riscos do uso de Inteligência Artificial na saúde

O bastonário da Ordem dos Médicos, Carlos Cortes, diz que a inteligência artificial (IA) não pode substituir um médico, alertando que ferramentas como o ChatGPT não estão habilitadas a fazer diagnósticos médicos.

“É fundamental afirmar que a IA não é, nem pode ser, um substituto do julgamento clínico, da experiência médica nem do contacto humano. O diagnóstico é parte essencial do ato médico, que envolve não apenas dados objetivos, mas também interpretação contextual, escuta ativa e empatia”, afirmou Carlos Cortes, em declarações à agência Lusa.

O bastonário acrescentou que a IA deve ser encarada como uma ferramenta de apoio à decisão clínica e não como agente autónomo de diagnóstico.

Carlos Cortes insiste que as ferramentas de IA não estão habilitadas a fazer diagnósticos, pois faltam “evidência científica robusta, mecanismos de validação rigorosos, e sobretudo, transparência algorítmica que permite aos médicos compreender e confiar nas decisões sugeridas”.

A Comissão para a Inteligência Artificial da Ordem dos Médicos salienta que “a adoção de IA na medicina só deve ocorrer com base em validação científica, com explicabilidade, responsabilização e supervisão médica contínua. A integração de IA nos fluxos clínicos exige o respeito por princípios éticos como a autonomia, a não maleficência e a justiça”.

Nos casos de diagnósticos errados o bastonário refere que as “consequências podem ser gravíssimas: atrasos no início de terapêuticas adequadas, agravamento de estados clínicos, exposição a tratamentos desnecessários ou inapropriados, sofrimento evitável e até perda de vidas humanas”, ao mesmo tempo que não assumem responsabilidade moral.

Além disso, a ausência de explicabilidade em muitos algoritmos dificulta a identificação de erros, esbate a fronteira da responsabilidade e ameaça a confiança dos doentes nos médicos e na medicina.

O responsável diz ainda que em Portugal não foram identificados casos em que o uso de IA tenha causado consequências clínicas relevantes, embora a ausência de casos não possa ser confundida com a ausência de risco.

“A implementação de tecnologias disruptivas exige vigilância, capacidade de auditoria, sistemas de reporte estruturado e regulação proativa”, até porque o país não dispõe de entidade dedicada ao acompanhamento da IA na saúde, representando uma “lacuna grave no setor onde estão em causa a segurança clínica, os diretos dos doentes e a integridade do ato médico”, conclui o bastonário.

As declarações do bastonário surgem depois de a plataforma espanhola Maldita ter alertado para a circulação em sites e redes sociais de depoimentos de pessoas que pediram diagnósticos a modelos de IA.

Alegações como “pedi ao ChatGPT para ler a minha mão e ele detetou cancro de pele” ou “ChatGPT diagnostica uma mulher com cancro um ano antes dos médicos” circulam nas redes sociais, afirmando que a ferramenta de IA é capaz de fazer diagnósticos médicos.

Contudo, os resultados dos chatbots de IA são baseados em probabilidades, os dados de treino podem não ser confiáveis e não podem fazer a análise abrangente que um médico faz, refere a plataforma.