Artigo // IA emocional e design capcioso: a questão da soberania para a subjetividade
13 de maio de 2025
Os pesquisadores do MediaLab.UFRJ publicaram o artigo “IA emocional e design capcioso: a questão da soberania para a subjetividade” em edição especial voltada para questões de IA e soberania do periódico Liinc em Revista. Assinado por Fernanda Bruno, Paulo Faltay, Alice Lerner e Helena Strecker, o artigo focaliza dois domínios os sistemas de inferência automatizada de estados emocionais e as estratégias utilizadas pelo design comportamental para atuar nas brechas da consciência das usuárias a fim de conduzir suas condutas dentro e fora do ambiente digital. Diante de sistemas e ferramentas tecnológicas que prometem interpretar as nossas emoções e influenciar no nosso comportamento, é possível a produção de subjetividades soberanas nas relações humano-máquina? Nos dois casos, o artigo analisa as implicações para a questão da soberania do sujeito e da subjetividade e defende que esta problemática não pode ser assegurada no plano individual ou jurídico, mas é, antes, um problema sociotécnico e tecnopolítico coletivo.
Resumo:
Este artigo aborda a questão da soberania digital não somente como questão política e econômica, mas no âmbito do sujeito e da subjetividade ou da relação humano-máquina. Focalizaremos dois domínios em que a questão da soberania do sujeito se coloca de forma mais explícita: os sistemas de IA voltados para a inferência automatizada de características emocionais e psicológicas e a incorporação de padrões obscuros de design herdados da economia comportamental na construção das plataformas. Nos dois casos, analisaremos as implicações para a questão da soberania do sujeito e para o debate sobre regulação da IA a partir da pergunta disparadora: que modalidade de soberania do sujeito poderia ser proposta em plataformas de IA? Discutimos como na tentativa de impor barreiras à manipulação ou à influência insidiosa sobre indivíduos e populações, os marcos regulatórios correm o risco de reivindicar, de um lado, um sujeito plenamente autônomo e livre de influências ou, de outro, um sujeito definitivamente vulnerável que precisa ser protegido. Apontamos como nenhum desses extremos se sustenta quando se trata de compreender como as subjetividades, os processos psicológicos e emocionais são interpelados em plataformas de IA. Concluímos, por fim, que nos ambientes digitais, plataformas e aplicações de IA visados nesse artigo, a soberania do sujeito ou da subjetividade não pode ser assegurada de modo definitivo no plano individual nem no plano jurídico. Ela é, antes, um problema sociotécnico e tecnopolítico coletivo a ser continuamente trabalhado e revisado.
Como citar: BRUNO, Fernanda; FALTAY, Paulo; LERNER, Alice; STRECKER, Helena. IA emocional e design capcioso: a questão da soberania para a subjetividade. Liinc em Revista, [S. l.], v. 20, n. 2, 2024. DOI: 10.18617/liinc.v20i2.7311. Disponível em: https://revista.ibict.br/liinc/article/view/7311. Acesso em: [data].
