Economia Psíquica dos Algoritmos em Linha do Tempo

Cada vez mais habituados ao monitoramento de nosso comportamento conectado, sabemos pouco sobre os trajetos e usos das inúmeras informações pessoais que são continuamente coletadas em plataformas, serviços e dispositivos digitais. A noção de Economia Psíquica dos Algoritmos (EPA) (Bruno, 2018) aponta para uma finalidade específica e crescente desse monitoramento: a elaboração de métodos, saberes e ferramentas que visam inferir aspectos psíquicos e emocionais dos dados digitais. 

Economia Psíquica dos Algoritmos na Linha do Tempo apresenta um mapeamento de diferentes casos e iniciativas que, em diversos campos – comercial, científico, político, securitário, evidenciam o crescente interesse em capturar, analisar e direcionar imensos volumes de dados para revelar aspectos de nossas personalidades, estados emocionais, vieses cognitivos e vulnerabilidades comportamentais por meio de mecanismos automatizados. Os casos mapeados também apontam para o desenvolvimento de estratégias de interpretação, predição e modulação comportamental. 

Cabe esclarecer que os casos e iniciativas aqui relatados são de naturezas distintas, incluindo desde lançamentos de aplicativos ou softwares até denúncias e vazamentos ou pesquisas^[1]As datas de cada caso na linha do tempo correspondem a momentos relevantes, como lançamento de tecnologias, fundação de empresas e repercussão pública dos casos.. O ponto comum entre eles é o fato de tornarem visível o interesse pela extração e utilização de informações psicológicas e emocionais de dados digitais e da experiência online. O mapeamento é resultado de um levantamento de casos na literatura e imprensa especializadas.

Em nosso primeiro mapeamento, lançado em março de 2021, apontamos para a popularização de ferramentas que pretendem tornar legíveis e inteligíveis nossas emoções e estados psíquicos a partir da análise de dados digitais e de comportamentos online, baseando-se principalmente em conjuntos de textos e microações, como cliques, curtidas, postagens, compras online, velocidade de digitação, etc. Neste segundo mapeamento, lançado em março de 2024, observamos um deslocamento do comportamento online ao corpo humano. Os casos mais recentes mostram que estas tecnologias de inferência sobre estados emocionais e características psíquicas passam a se ancorar fortemente em outros territórios extrativos, em especial a análise do rosto – microexpressões faciais, movimentos oculares – e o reconhecimento de voz – aspectos e mudanças no timbre e velocidade vocal, por exemplo. É uma transformação que acompanha a proliferação de ferramentas baseadas em inteligência artificial (IA) capazes de coletar tais dados, como as câmeras de reconhecimento facial, as assistentes de voz e os dispositivos wearables – relógios, pulseiras e óculos inteligentes. 

Esta mudança de foco, no entanto, não aponta que a inferência a partir da análise de rastros digitais do nosso comportamento monitorado em plataformas e dispositivos digitais refluiu. Ao contrário, nos três anos que separam os dois mapeamentos, observamos a consolidação da EPA na infraestrutura de serviços digitais – como os pacotes e APIs oferecidos por empresas como Google e Microsoft, que facilitam a integração de ferramentas de reconhecimento emocional e análise de sentimentos em produtos como buscadores, assistentes virtuais, tradutores, entre outros. O território extrativo visado pela Economia Psíquica dos Algoritmos, portanto, envolve tanto o rastreamento do comportamento humano em plataformas digitais, quanto  o corpo e seus diversos marcadores expressivos, motores e fisiológicos – voz, rosto, olhos, modo de andar, gestos e frequência cardíaca.

Observamos também no mapeamento uma expansão de pesquisas científicas combinando diferentes abordagens, metodologias e aplicações nas interseções entre computação, ciência de dados, design de plataformas, neurociência e outras ciências humanas, psicológicas e comportamentais. Áreas como Computação Afetiva, IA Emocional, Psicometria Computacional e Neuroinformática se consolidaram como importantes campos interdisciplinares no estudo destas interseções. Neste sentido, a colaboração íntima entre academia e mercado e os experimentos científicos (Bruno, 2018) é um aspecto que marca este grande campo que nomeamos de EPA. O aplicativo-teste de personalidade usado pela Cambridge Analytica, por exemplo, foi inspirado nas pesquisas realizadas no Centro de Psicometria da Universidade de Cambridge pelos pesquisadores Michal Kosinski e David Stillwell. Rosalind Picard, referência nos campos de Computação Afetiva e IA Emocional, é simultaneamente professora no MIT Media Lab e cofundadora da startup Affectiva, que desenvolve softwares para as indústrias automotiva, médica e publicitária. Entre as pesquisas científicas e os usos comerciais, mapeamos casos como o crachá inteligente da empresa Humanyze, construído a partir de pesquisas no MIT Media Lab, e o Superpower Glass, óculos inteligentes para crianças autistas desenvolvido em parceria entre Google e Stanford.

Importante pontuar também que a promessa de detectar estados emocionais a partir de mecanismos automatizados está ancorada, muitas vezes, no alegado potencial de promoção ou cuidado em saúde mental, bem como no auxílio a pessoas deficientes visuais, auditivas e cognitivas. Mapeamos casos de tecnologias que prometem detectar e prever com alta precisão estados emocionais como depressão, ansiedade e estresse – como o Kintsugi Voice Device e a Sonde Health –, bem como aplicativos, chatbots e assistentes de voz voltados para o cuidado psicológico – como o Clintouch, o Lumen, o Wyse e o Limbic Acess, chatbot terapêutico que passou a integrar em 2023 o serviço público de saúde mental do Reino Unido. A interpretação do que é saúde mental e o cuidado promovido através destas tecnologias, portanto, passa a ser atravessado por redes comerciais de extração e coleta de dados.

Alguns dos casos que demonstram falhas ou erros em interpretar as emoções humanas – como a tecnologia Face++ da Microsoft, que atribui sentimentos mais negativos a pessoas negras do que pessoas brancas –, apontam os limites da racionalidade tecnocientífica e dos modelos epistemológicos que embasam as aplicações deste campo. Historicamente, as tentativas de mensuração ou quantificação das emoções humanas a partir de características físicas e faciais estiveram alinhadas com campos do conhecimento como a frenologia e a fisiognomia, que contribuíram para a legitimação científica de preconceitos e hierarquias de raça e gênero. Algumas das tecnologias apresentadas nessa linha do tempo demonstram como teorias e modelos epistemológicos controversos e historicamente contestados são recuperados e reaplicados, como a Teoria das Emoções Universais, desenvolvida por Paul Ekman na década de 1970. Não apenas o pressuposto de que as emoções seriam inatas e universais, mas a própria ideia de que comportamentos e estados emocionais podem ser mensuráveis e calculados vem sendo questionados há décadas (Despret, 1999; Barrett, 2017; Barrett et al., 2019)

Esses são alguns dos inúmeros casos que evidenciam o aumento do investimento em informações psicológicas e emocionais por técnicas algorítmicas e sistemas de IA, constituindo uma economia psíquica e afetiva que alimenta as atuais estratégias de previsão e indução de comportamentos nas plataformas digitais (e eventualmente fora delas). O caráter quanti e qualitativo dos exemplos mapeados em nossa linha do tempo demonstram que não estamos diante de  casos pontuais e isolados, mas de expressões de uma nova lógica que entrelaça, de modo singular, corporações de tecnologia digital, ciência e sociedade (Bruno, Bentes, Faltay, 2019). 

Em contínua atualização e alimentação, Economia Psíquica dos Algoritmos na linha do tempo é uma ferramenta de visualização que pretende demonstrar a escalada nos últimos anos desse investimento em dados psicoemocionais e suas diferentes modalidades, bem como atravessamentos políticos e econômicos, modelos de subjetividade e vieses sociais e discriminatórios. A versão da linha do tempo lançada em 2024 aponta que essa escalada se intensifica com a penetração dos sistemas de IA nos mais variados âmbitos da cultura digital. Recomendamos também outras aplicações dessa ferramenta de visualização como a Linha do Tempo do Racismo Algorítmico/Tecnológico, desenvolvida por Tarcízio Silva, e a 2018 in review do AI Now, desenvolvida pelo AI Now Institute. 

A Linha do tempo é mais um dos resultados dos projetos Economia Psíquica dos Algoritmos: Racionalidade, Subjetividade e Conduta em Plataformas Digitais e Mediação algorítmica em plataformas digitais: racionalidade, subjetividade e conduta, coordenados pela professora Fernanda Bruno e realizado pela equipe do MediaLab.UFRJ, com o apoio do CNPq e da FAPERJ, respectivamente. Os dois projetos estão vinculados à Rede LAVITS e recebem apoio da Fundação Ford.

PARA ACESSAR A TIMELINE EM TELA CHEIA CLIQUE AQUI

COMO CITAR?

MEDIALAB.UFRJ. Economia Psíquica dos Algoritmos em Linha do Tempo. Blog do MediaLab.UFRJ, 2024. Disponível em: <https://medialabufrj.net/projetos/economia-psiquica-dos-algoritmos-em-linha-do-tempo/>. Acesso em: dia, mês, ano.

FICHA TÉCNICA:

Coordenação da pesquisa 

Fernanda Bruno, professora associada da UFRJ, PPGCOM-UFRJ, coordenadora MediaLab.UFRJ. 

Pesquisa

Anna Bentes, professora FGV- ECMI e pesquisadora do MediaLab.UFRJ. 

Alice Lerner, mestranda do PPGCOM-UFRJ, pesquisadora do MediaLab.UFRJ.

Debora Pio, doutoranda do PPGCOM-UFRJ, pesquisadora do MediaLab.UFRJ. 

Helena Strecker, mestranda do PPGCOM-UFRJ, pesquisadora do MediaLab.UFRJ.

Juliana Fernandes, pesquisadora do MediaLab.UFRJ

Laís Sebben, mestranda do PPGCOM-UFRJ, pesquisadora do MediaLab.UFRJ.

Manuella Caputo, mestranda do PPGCOM-UFRJ, pesquisadora Medialab.UFRJ. 

Mariana Antoun, mestranda do PPGCOM-UFRJ, pesquisadora MediaLab.UFRJ. 

Paula Cardoso, doutoranda do PPGCOM-UFRJ, pesquisadora MediaLab.UFRJ. 

Paulo Faltay, pesquisador do PPGCOM-UFPE e do MediaLab.UFRJ. 

Pesquisa (Iniciação Científica)

Natássia Rocha, graduanda em Psicologia UFRJ.  

Elaboração e supervisão de conteúdo

Anna Bentes

Alice Lerner

Juliana Fernandes

Helena Strecker

Laís Sebben

Paula Cardoso

Paulo Faltay

Design gráfico 

Paula Cardoso

Alice Lerner 

Parcerias

Apoio

Referências:

BARRETT et al. (2019). Emotional Expressions Reconsidered: Challenges to Inferring Emotion From Human Facial Movements. Psychological Science in the Public Interest, v. 20, n. 1. Disponível em: https://journals.sagepub.com/doi/10.1177/1529100619832930 

BARRETT, L. F. How emotions are made: The secret life of the brain. Houghton Mifflin Harcourt, 2017.

BRUNO, Fernanda. Algoritmo da felicidade. In: Dossiê: Subjetividades, Política E Mídia. Revista DR, 2015. Disponível em: http://revistadr.com.br/posts/algoritmo-da-felicidade/

______.. A economia psíquica dos algoritmos: quando o laboratório é o mundo. Jornal NEXO, 12 de junho de 2018. Disponível em: < https://www.nexojornal.com.br/ensaio/2018/A-economia-ps%C3%ADquica-dos-algoritmos-quando-o-laborat%C3%B3rio-%C3%A9-o-mundo>

BRUNO, Fernanda; BENTES, Anna; FALTAY, Paulo. Economia psíquica dos algoritmos e laboratório de plataforma: mercado, ciência e modulação do comportamento. Revista Famecos, Porto Alegre, v. 26, nº 3, set-dez, 2019.  Disponível em: <http://revistaseletronicas.pucrs.br/ojs/index.php/revistafamecos/article/view/33095 >

BRUNO, F.; BENTES, A.; ANTOUN, M.; CARDOSO; P.; FALTAY, P.; STRECKER, H.; MARRAY , M.; ROCHA, N. (2020). “Tudo por conta própria”: aplicativos de autocuidado psicológico e emocional. Rio de Janeiro: MediaLab.UFRJ. Disponível em: <https://medialabufrj.net/wp-content/uploads/2020/05/Relatorio_PsiApps_MediaLabUFRJ-1.pdf>

DESPRET, Vinciane. Ces émotions qui nous fabriquent. Ethnopsychologie de l’authenticité. Points, 1999.

GUATTARI, Félix. O inconsciente maquínico: ensaios de esquizo-análise. Tradução de Constança Marcondes César e Lucy Moreira César. Campinas: Papirus, 1988.

HUI, YUK. Cosmotechnics as Cosmopolitics. e-flux journal 86 (Novembro de 2017). Acessado em 19 de novembro de 2017. Disponível em: http://www.e-flux.com/journal/86/161887/cosmotechnics-as-cosmopolitics/

LAZZARATO, Maurizio. Signos, máquinas, subjetividades. São Paulo; Helsinque: n-1 Edições; Edições Sesc São Paulo, 213p., 2014.

LEONELLI, Sabine. What difference does quantity make? On the epistemology of Big Data in biology. Big Data & Society 1, 2014.

PARISI, Luciana. Contagious Architecture: Computation, Aesthetics and Space. Cambridge, MA: MIT Press, 2013.                             

PASQUINELLI, Mateo. Um diagrama do capitalismo cognitivo e da exploração da inteligência social geral. 16 de março de 2010. Disponível em:  <http://matteopasquinelli.com/docs/Pasquinelli_PageRank.pdf* traduzido pelo coletivo Vila Vudu> Acesso em 10 de abril de 2018.

______. Anomaly Detection: The Mathematization of the Abnormal in the Metadata Society, 2015. Disponível em:

https://www.academia.edu/10369819/Anomaly_Detection_The_Mathematization_of_the_Abnormal_in_the_Metadata_Society. Acessado em: 01 de maio de 2018..

SRNICEK, Nick. Platform Capitalism. Malden: Polity Press, 2017

ZUBOFF, Shoshana. Big Other: Surveillance Capitalism and the Prospects of an Information Civilization. Journal of Information Technology, n. 30, pp.75–89, 2015.

_______. Secrets of Surveillance Capitalism. Publicado em 05 de março de 2016. Disponível em: <http://www.faz.net/aktuell/feuilleton/debatten/the-digital-debate/shoshana-zuboff-secrets- of-surveillance-capitalism-14103616.html?printPagedArticle=true#pageIndex_2  > Acesso em: 4 de abril de 2018.