Inteligência artificial na saúde: quem responde pelos erros da máquina?

A adoção da inteligência artificial (IA) na saúde tem gerado debates sobre questões éticas, especialmente no que diz respeito à relação entre profissionais e pacientes. Um estudo recente, publicado na revista Bioética, analisou pesquisas dos últimos cinco anos em bancos de dados como SciELO, BVS e PubMed, selecionando 13 artigos para revisão. Assinado por Sérgio Yarid, Ranna Gabriele e outros autores da Universidade Estadual do Sudoeste da Bahia (UESB), o levantamento destaca preocupações como o possível distanciamento na interação médico-paciente, a redução do pensamento crítico dos profissionais ao dependerem passivamente da IA e dúvidas sobre responsabilidade em casos de efeitos negativos aos pacientes.

Sérgio Yarid, um dos autores, enfatiza a questão central de quem atesta o uso da ferramenta: “Quem será o responsável por um diagnóstico, exame ou situação em que o paciente, com problema de saúde, enfrenta?” Isso pode transformar o papel do profissional em validador de resultados gerados pela IA, alterando a dinâmica com o paciente, que deve ser informado sobre o uso da tecnologia. O estudo alerta para o “paternalismo de máquina”, onde decisões automatizadas sobrepõem a autonomia humana, e reforça que a IA não substitui empatia e análise crítica no cuidado à saúde.

Outro ponto crítico é a ausência de legislação específica para o uso de IA na saúde, com normativas incipientes no Brasil em comparação a países como os Estados Unidos. Os autores defendem a necessidade de regulamentação estatal para proteger dados e privacidade, além de incorporar debates éticos na formação de profissionais. Ferramentas como o ChatGPT podem auxiliar na educação, promovendo transparência e supervisão multidisciplinar para um uso seguro da IA.