// Nota do MediaLab.UFRJ sobre uso de IA para diagnósticos de transtornos mentais no SUS

A revista Veja noticiou em agosto deste ano que o Governo Federal irá investir aproximadamente R$12 milhões em uma plataforma que pretende utilizar Inteligência Artificial para diagnóstico e tratamento de transtornos mentais na atenção primária. Com intuito de contribuir para o debate sobre a implementação de tecnologias digitais no SUS e acumulando anos de pesquisa sobre o processo de datificação da saúde mental, o MediaLab.UFRJ vem a público manifestar sua preocupação quanto ao desenvolvimento do projeto.

Concebido pelo Centro de Pesquisa e Inovação em Saúde Mental (CISM), o projeto “e-Saúde Mental no SUS” consiste em um aplicativo que reunirá questionários de “avaliação dos sintomas”, sistemas de “identificação de risco” e até mesmo algoritmos para diagnóstico e indicação de tratamentos para os pacientes. A ferramenta terá três níveis de acesso: paciente, profissional da Atenção Primária e gestores do Sistema Único de Saúde. Apresentada pelo Hospital das Clínicas da Faculdade de Medicina da Universidade de São Paulo (FM-USP) em parceria com o Instituto de Pesquisas Eldorado, a iniciativa foi uma das selecionadas pelo Programa de Desenvolvimento e Inovação Local (PDIL), do Ministério da Saúde (MS).

Segundo seus idealizadores, o projeto pode contribuir para a modernização do Sistema Único de Saúde (SUS), ajudando a simplificar e otimizar diagnósticos, ampliar o acesso e aliviar a demanda crescente por serviços de atendimento psicológico – além de gerar uma economia de até 70% nos custos de saúde relacionados a transtornos mentais.

Mas, apesar de atraente, o projeto oferece à saúde pública uma solução que pode ser frágil e alinhada às estratégias de individualização neoliberais, em detrimento da coletividade e do cuidado humanizado que servem de base ao SUS e à Rede de Atenção Psicossocial (RAPS).

Desde 2018, o MediaLab.UFRJ vem realizando pesquisas sobre os processos de datificação da saúde mental, por meio de estudos sobre aplicativos de autocuidado psicológico (PsiApps) e sistemas de inteligência artificial voltados à inferência automatizada de características emocionais e psicológicas. No âmbito do projeto Economia Psíquica dos Algoritmos, temos analisado o crescente interesse econômico pela extração, análise e utilização de informações psíquicas e emocionais a partir de dados digitais, assim como os riscos associados à expansão desses processos.

À luz dessa trajetória e visando contribuir com o debate público sobre o tema, destacamos alguns pontos de preocupação em relação ao projeto “e-Saúde Mental no SUS”:

1. Precarização:

A aposta em tecnologias digitais reflete um cenário de pressão social por soluções rápidas e pouco “custosas” para o cuidado em saúde mental, tanto no setor público quanto privado. Diante do subfinanciamento histórico do SUS e da crescente demanda por cuidados, o aplicativo surge como uma forma de compensação tecnológica para a insuficiência estrutural dos serviços. Não por acaso, seus idealizadores destacam como principal benefício a redução de custos: estima-se que o “e-Saúde Mental” possa gerar uma economia de até 70% nos gastos relacionados a transtornos mentais. É fundamental garantir que a redução de custos não resulte na precarização do cuidado em saúde mental.

2. Tecnossolucionismo:

A proposta encontra ressonâncias com o que as ciências humanas e sociais vêm designando por tecnossolucionismo, que apresenta inovações tecnológicas (sites, apps, IAs) como soluções rápidas e eficazes para problemas sociais complexos. Embora pareçam bem intencionadas e soem atraentes, essas soluções imediatistas e simples tendem a invisibilizar as dimensões sociais e contextuais do sofrimento psíquico, despolitizando o debate sobre o cuidado psicológico e a atenção a reformas mais profundas.

3. Datificação da saúde mental:

O projeto prevê a coleta massiva de dados psicoemocionais altamente sensíveis, incluindo sintomas, diagnósticos, tratamentos e perfis emocionais dos usuários. A criação de uma grande base de dados psíquicos da população brasileira levanta sérias preocupações políticas e éticas: como serão armazenados, analisados, utilizados e, eventualmente, compartilhados esses dados? Que riscos estão envolvidos no armazenamento e processamento de uma base de dados extremamente sensíveis, tendo em vista que há um histórico recente preocupante de parcerias dos sistemas de gestão de dados da população brasileira com grandes empresas de tecnologia como Amazon, Google, Microsoft, entre outras. Quais são as políticas de soberania e autonomia tecnológicas previstas no projeto “e-Saúde Mental no SUS”?

4. Individualização do cuidado psicológico:

Pesquisas vêm mostrando como aplicativos dessa natureza tendem a reforçar uma lógica individualizante de cuidado, deslocando o cuidado em espaços coletivos para a esfera privada do sujeito diante de uma tela. Além de enfraquecer a dimensão social e relacional do cuidado, esse modelo promove ideais de autogestão, autocuidado e autoaperfeiçoamento, incitando os usuários a se cuidarem “por conta própria”, com base em métricas e recomendações algorítmicas.

5. Incompatibilidades com os princípios do SUS e da RAPS:

Ao propor um modelo centralizado e automatizado, o projeto “e-Saúde Mental” corre o risco de interferir em princípios fundamentais da RAPS e do SUS, que apostam na coletivização, na interdisciplinaridade e na construção de um cuidado humanizado, em rede e no território.

6. Fragilidade dos modelos de automação de diagnóstico psicológico:

Sistemas de IA emocional e inferência automatizada de diagnósticos psicológicos e psiquiátricos são baseados em modelos epistemológicos frágeis e controversos. Uma das principais críticas é que eles partem de pressupostos questionáveis sobre a universalidade das emoções, além de frequentemente reproduzirem vieses de raça e gênero. Aplicar tais tecnologias em larga escala, no contexto do SUS, poderia contribuir para diagnósticos excessivos e imprecisos, além de uma hipermedicalização.

Ao transferir aspectos fundamentais do cuidado em saúde mental para um aplicativo, o projeto “e-Saúde Mental” pode contribuir para a consolidação de uma cultura terapêutica aliada tanto à individualização do cuidado psicológico e emocional quanto à progressiva datificação da saúde mental.

Neste sentido, queremos chamar atenção para o quanto a incorporação de tecnologias dessa natureza implica uma reconfiguração do cuidado, que se desloca de uma perspectiva comunitária e relacional para uma lógica técnica, individualizada e alinhada a valores de eficiência, rapidez, otimização e disponibilidade 24/7.

O Conselho Federal de Psicologia também mostrou preocupação diante da possibilidade de adesão acrítica do e-SUS, frisando que “a atuação de psicólogas e psicólogos é essencial e insubstituível no cuidado em saúde mental, mesmo com o avanço das tecnologias baseadas em inteligência artificial (IA)”.

Na esteira do investimento público neste projeto, é fundamental refletir sobre qual cultura terapêutica está sendo promovida e privilegiada quando o cuidado psicossocial é reduzido a algoritmos, métricas gerenciáveis, modelos preditivos e diagnósticos automatizados. Como nos lembra Donna Haraway, “nada vem sem o seu mundo”. Mais do que nunca, é preciso atentar para os laços entre tecnologia, subjetividade e política.

Para conhecer as contribuições do MediaLab.UFRJ neste domínio, consulte:

Economia Psíquica dos Algoritmos na Linha do Tempo:

https://medialabufrj.net/projetos/economia-psiquica-dos-algoritmos-em-linha-do-tempo/

PsiApps: recodificando a cultura terapêutica: https://psiapps.medialabufrj.net/

BRUNO, F.; BENTES, A.; ANTOUN, M.; CARDOSO; P.; FALTAY, P.; STRECKER, H.; MARRAY , M.; ROCHA, N. (2020). “Tudo por conta própria”: aplicativos de autocuidado psicológico e emocional. Rio de Janeiro: MediaLab.UFRJ. Disponível em: <https://medialabufrj.net/wp-content/uploads/2020/05/Relatorio_PsiApps_MediaLabUFRJ-1.pdf>

BRUNO, Fernanda; FALTAY, Paulo; PEREIRA, Paula Cardoso; STRECKER, Helena; CAPUTO, Manuella. Recodificando a terapia: um estudo de caso do aplicativo Cíngulo. In: CARVALHO, Mariana Martins de; BANDEIRA, Olívia; MURTINHO, Rodrigo (orgs.). Proteção de Dados Pessoais nos Serviços de Saúde Digital. Rio de Janeiro: Edições Livres, 2025. Disponível em: https://portolivre.fiocruz.br/node/2645

BRUNO, Fernanda; FALTAY, Paulo; LERNER, Alice; STRECKER, Helena. IA emocional e design capcioso: a questão da soberania para a subjetividade. Liinc em Revista, [S. l.], v. 20, n. 2, 2024. DOI: 10.18617/liinc.v20i2.7311. Disponível em: https://revista.ibict.br/liinc/article/view/7311.

BRUNO, Fernanda; BENTES, Anna; FALTAY, Paulo. Economia psíquica dos algoritmos e laboratório de plataforma: mercado, ciência e modulação do comportamento. Revista Famecos, Porto Alegre, v. 26, nº 3, set-dez, 2019. Disponível em: <http://revistaseletronicas.pucrs.br/ojs/index.php/revistafamecos/article/view/33095 >