O QUE É CORRETO PARA ‘ESTE’ PACIENTE? AUTONOMIA, CONFIANÇA E TRANSPARÊNCIA NA ERA DA INTELIGÊNCIA ARTIFICIAL MÉDICA

Resumo

Neste artigo, comparamos as capacidades e limitações dos algoritmos de inteligência artificial e dos médicos humanos no contexto de recomendações terapêuticas. A literatura tem levantado preocupações éticas acerca da transparência, da responsabilização e da interpretabilidade dos algoritmos de IA no âmbito médico. A autonomia dos pacientes dificilmente será respeitada se as recomendações de tratamento forem opacas ou incompreensíveis. Os algoritmos de IA médica são programados para priorizar objetivos predefinidos que podem não estar alinhados com as preferências dos pacientes, podendo comprometer sua autonomia sem que eles tenham consciência disso. No entanto, médicos humanos frequentemente enfrentam desafios semelhantes, como a dependência de dados de ensaios clínicos cujos desfechos podem não ser plenamente compreendidos pelos pacientes. Concluímos que existem oportunidades, já no estágio de projeto, para incorporar considerações sobre a autonomia do paciente nos algoritmos de IA e para tornar explícitos aos usuários finais — tanto médicos quanto pacientes — esses objetivos e os eventuais pesos atribuídos a eles.

Palavras-chave: Inteligência artificial. Autonomia. Alinhamento. Ética médica.