AUTONOMIA E RESPONSABILIDADE MORAL NO CONTEXTO DOS SISTEMAS AUTÔNOMOS

Resumo

: Este artigo tem como objetivo reavaliar a conexão tradicional entre autonomia e responsabilidade moral, demonstrando sua inadequação para sistemas de IA avançados e contextos humanos complexos. A análise parte das críticas de Oshana à noção idealizada de autodeterminação e da problematização de Matthias sobre a lacuna de responsabilidade para agentes artificiais. A hipótese central é que a solução para os danos causados por sistemas autônomos não reside na tentativa de atribuir culpa individual a agentes não humanos. Em vez disso, propõe-se que a justiça e a segurança exigem o desenvolvimento de estruturas normativas alternativas. Como resultado, o estudo defende a substituição da busca por culpados por um modelo pragmático de governança coletiva. Para tanto, propõe a implementação de mecanismos como corresponsabilidade institucional, seguros obrigatórios e regulação baseada em risco, adaptando as instituições sociais para gerir tecnologias que, embora funcionalmente autônomas, carecem de agência moral.