Um novo comentário publicado no Journal of the Royal Society of Medicine alerta que as actuais abordagens regulamentares baseadas no risco à Inteligência Artificial (IA) nos cuidados de saúde são insuficientes na protecção dos pacientes, levando potencialmente ao excesso e ao subtratamento, bem como à discriminação contra grupos de pacientes.
Os autores descobriram que, embora a IA e os sistemas de aprendizagem automática possam melhorar a precisão clínica, permanecem preocupações sobre a sua imprecisão inerente, opacidade e potencial de enviesamento, que não são adequadamente abordados pelos actuais esforços regulamentares introduzidos pela Lei da IA da União Europeia.
Aprovada em 2025, a Lei da IA categoriza a IA médica como de “alto risco” e introduz controlos rigorosos sobre fornecedores e implantadores. Mas os autores argumentam que este quadro baseado no risco ignora três questões críticas: preferências individuais dos pacientes, efeitos sistémicos e a longo prazo da implementação da IA, e a falta de poder dos pacientes nos processos regulamentares.
Os pacientes têm valores diferentes quando se trata de precisão, preconceito ou do papel que a IA desempenha em seus cuidados. A regulamentação deve ir além da segurança ao nível do sistema e ter em conta os direitos e a participação individuais.”
Thomas Ploug, autor principal, professor de ética em dados e IA, Universidade de Aalborg, Dinamarca
Os autores apelam à introdução dos direitos dos pacientes relacionados com a IA gerada diagnóstico ou planejamento de tratamento, incluindo o direito a:
- solicitar uma explicação;
- dar ou retirar consentimento;
- procure uma segunda opinião; e
- recusar diagnóstico ou triagem com base em dados publicamente disponíveis sem consentimento.
Alertam que, sem o envolvimento urgente das partes interessadas nos cuidados de saúde – incluindo médicos, reguladores e grupos de pacientes – estes direitos correm o risco de ficar para trás na rápida evolução da IA nos cuidados de saúde.
“A IA está a transformar os cuidados de saúde, mas não deve fazê-lo à custa da autonomia e da confiança dos pacientes”, afirmou o Professor Ploug. “É hora de definir os direitos que protegerão e capacitarão os pacientes num sistema de saúde orientado pela IA”.
A necessidade de direitos dos pacientes nos cuidados de saúde baseados na IA – a regulamentação baseada no risco não é suficiente (DOI: 10.1177/01410768251344707) é do Dr. Thomas Ploug, Rikke Frank Jørgensen, Hanne Marie Motzfeldt, Naomi Ploug e Søren Holm.
Fonte: