INTELIGÊNCIA ARTIFICIAL EMOCIONAL: UMA ANÁLISE ÉTICA

Resumo

Dentre os vários desenvolvimentos recentes da Inteligência Artificial, iremos nos concentrar nos companheiros artificiais na forma de chatbots. Destacamos dois problemas principais relacionados a esse produto. O primeiro diz respeito à atribuição de uma “capacidade empática”, característica que supostamente lhes capacita a atuarem como agentes relacionais e íntimos com seres humanos. Analisamos as limitações atuais de sua arquitetura afetiva e apontamos as ambiguidades existentes no campo da computação afetiva. O segundo problema, de caráter ético, surge como consequência do primeiro. Uma vez que suas limitações são explicitadas, revela-se um desalinhamento entre seu design altamente antropomórfico, com amplo escopo de ação, e suas capacidades reais de operar de forma ética e responsável no espaço relacional íntimo. Finalmente, argumentamos que as características desses dispositivos incentivam a projeção de status moral e agência aos chatbots, o que acarreta riscos e danos aos usuários.

Palavras-chave: Inteligência Artificial. Computação afetiva. Companheiros artificiais. Capacidade empática. Status moral.