// Entrevista com Icaro Ferraz Vidal Júnior: A totalização digital e o declínio das utopias revolucionárias

Em entrevista ao IHU On-Line, nosso pesquisador colaborador Icaro Ferraz Vidal Júnior aborda as implicações políticas, culturais, cognitivas e epistemológicas do cenário de “totalização digital”, proveniente da transformação de todos os aspectos da vida em dados passíveis de captura, quantificação e análise de processamentos algorítmicos. O pesquisador também comenta a obra “La vie algorithmique: critique de la raison numérique” (2015), de Éric Sadin, e a noção de “tecnopoder”. 

Os vídeos das conferências sobre o temas da entrevista podem ser vistos aqui e aqui.

IHU On-Line – Em que consiste o fenômeno da “totalização digital”?

Icaro Ferraz Vidal Junior – O que alguns autores vêm chamando de “totalização digital” é um fenômeno que resulta da confluência de dois processos que se retroalimentam. Um deles consiste na proliferação de captores de dados nos mais diversos contextos e objetos: internet dos objetos, smart cities, vigilância inteligente, medicina de dados etc. O outro está relacionado aos desenvolvimentos tecnológicos no armazenamento e no processamento do que conhecemos hoje como Big Data. Ou seja, o desenvolvimento paralelo da possibilidade de extração de vastos volumes de dados que documentam os mais variados padrões de vida e a possibilidade inédita de tratamento destes dados em uma escala que já não é antropomórfica estão na base desta ideia de que uma parcela crescente de nossa vida estaria sendo armazenada em grandes bancos de dados, cuja propriedade e direito de acesso são ainda bastante obscuros. O horizonte conceitual da “totalização digital” prevê, distopicamente, que, com o progressivo desenvolvimento destas tecnologias, nada escapará a esta captura. Dos hábitos de compra ao funcionamento de nosso organismo, nenhum rastro ficará de fora destes bancos de dados.

Aqui parece ser importante fazer uma ressalva com relação a esta leitura dos desenvolvimentos tecnopolíticos no âmbito da extração e do tratamento de dados. Pois embora este alarmismo possa ter uma eficácia política, no sentido de indicar o alcance das transformações em curso e promover uma conscientização por parte de determinadas parcelas da sociedade civil, ele parece reiterar o discurso dos desenvolvedores de tais tecnologias de que, do ponto de vista da técnica, será efetivamente possível traduzir toda a vida em informação armazenável e utilizável. Se, por um lado, isso inscreve fora do domínio da técnica, no âmbito da ética e da política, o estabelecimento de limites a estes investimentos de governos e corporações sobre nossas vidas, por outro lado, este discurso da “totalização digital” funciona como uma espécie de profecia autorrealizável. Isto se dá, inclusive, no que diz respeito aos financiamentos, públicos e privados, das pesquisas neste setor. Nossa ignorância a respeito das minúcias e dos reais limites técnicos nos quais estas pesquisas esbarram soma-se a um imaginário em torno da técnica como este novo Deus, que tudo vê e tudo entende, e diante do qual acabamos optando por pagar o dízimo, na expectativa de um lugar no Paraíso dos bancos de dados.

A questão que acredito tensionar toda essa construção conceitual em torno da “totalização digital” é se há algo e que algo seria este que escaparia indefinidamente à captura e ao processamento algoritmo dos dados.

IHU On-Line – Como esse fenômeno da “totalização digital” se manifesta na era da revolução 4.0?

Icaro Ferraz Vidal Junior – Não sei se eu pensaria a “totalização digital” como um elemento exterior e anterior à revolução 4.0. Penso que são processos indissociáveis. Em primeiro lugar, parece fundamental situar o lugar da técnica nisso que vem sendo chamado de revolução 4.0 ou quarta revolução industrial, termo que prefiro por ser mais preciso quanto ao domínio no qual estas transformações, ditas revolucionárias, estão ocorrendo. O termo Revolução 4.0 parece sintomatizar o declínio das utopias revolucionárias modernas, sobretudo no que diz respeito ao fim da estruturação da sociedade em classes. Podemos, sem dúvida, reivindicar uma série de transformações econômicas, políticas, culturais, epistemológicas etc. a partir das inovações tecnológicas e do incremento na capacidade de digitalização da vida, mas ao mesmo tempo observamos um recrudescimento da concentração de renda e níveis inéditos de desigualdade social, no Brasil e no mundo. Por isso, penso que a ideia de uma quarta revolução industrial é mais fiel ao cenário que vem efetivamente sofrendo transformações.

E neste contexto, a “totalização digital” que é, na verdade, este incremento inédito da capacidade de extração e processamento de dados, desempenha um papel central. O economista Klaus Schwab, em um documento importante do Fórum Econômico Mundial [1] reconhece que as novas tecnologias de informação encontram-se no cerne de todos os desenvolvimentos que seu relatório reúne como definidores disto que ele está chamando de quarta revolução industrial. Tais desenvolvimentos, que Schwab organiza em três categorias – física, digital e biológica –, vão dos veículos autônomos e da impressão 3D até a biologia sintética, passando pelo Bitcoin e por plataformas como Uber e AirBnB. Todos estes exemplos, mais ou menos familiares para nós no contexto brasileiro, operam a partir de uma desenvolvida capacidade de extração, armazenamento e processamento de dados que é precisamente o que vem sendo descrito como “totalização digital”.

IHU On-Line – Quais são as implicações subjetivas, éticas e políticas associadas à totalização digital, para as quais Éric Sadin chama atenção em sua obra “La vie algorithmique: critique de la raison numérique” (2015)?

Icaro Ferraz Vidal Junior – O livro de Sadin propõe uma vasta cartografia das transformações decorrentes da “totalização digital” que assenta suas bases sobre o que, já no título do livro, está formulado como a “razão digital”. Um primeiro diagnóstico importante para compreendermos as implicações subjetivas, éticas e políticas associadas a este fenômeno é o de que haveria atualmente uma hegemonia epistemológica dos números e da matemática, que resultaria de uma aposta cega na precisão de uma “razão pura”.

Um deslocamento recente e importante no curso desta história consiste no declínio de uma aposta nos processos de digitalização como estratégia de ampliação do acesso aos bens culturais ou aos diversos campos do saber em favor da transformação de cada fragmento do real em informação, através desta implementação massiva de captores no mundo. Este cenário, descrito por muitos teóricos como “internet dos objetos” e/ou como “era pós-simbólica” implica uma nova condição cognitiva, capaz de observar as coisas e acompanhá-las no curso do tempo, submetendo-as integralmente à racionalidade algorítmica.

Outro deslocamento importante consiste em que esta “totalização matemática” deixa de ser associada a um ideal filosófico, vinculando-se mais a uma práxis que concebe o real como indefinidamente apreensível. A informatização (datafication) e a dimensão performativa dos dados são as características fundadoras do que Sadin chama de vida algorítmica. Indissociáveis entre si, esses traços delineiam-se através de mediações técnicas que comprimem o processo de tomada de decisão, suprimindo os délaishumanos e inscrevendo no chamado tempo real uma cadeia de percepções e ações.

Uma implicação importante deste cenário emerge da relação entre algoritmo e normatividade. Sadin traça um cenário que vai das recomendações de compra feitas pela Amazon à privatização da atenção operada pelo Google Glass, passando pela customização dos perfis do Netflix, pelo cuidado de si que lança mão da quantificação (quantified selves) e pela monetização da atenção operada pelo Facebook. A heterogeneidade destes cinco exemplos encobre um procedimento comum a todos eles: uma capacidade inédita de incorporar e capitalizar um elevado grau de liberdade individual. Esta espécie de narcisismo algorítmico, que também foi descrito comofilter bubble [2] e com o qual qualquer um que tenha uma conta no Facebook ou no Instagram está bastante familiarizado, repercute subjetiva, ética e politicamente, criando um contexto asséptico no qual a irrupção do Real e a existência do Outro encontram-se dificultadas. Portanto, é sobre esta pretensão de controle total, manifesta tanto nos vários filtros de recomendação quanto nas máquinas preditivas, que as subjetividades, a (impossibilidade da) ética e a política estão depositando seus alicerces.

Agora, penso que do ponto de vista filosófico, mais interessante do que especular sobre a efetiva possibilidade técnica de banimento do Real e do Outro de nossas vidas quotidianas, é o fato de que este projeto sintomatiza e, talvez, radicalize, a inabilidade moderna para lidar com tudo aquilo que há no mundo de indeterminado e incalculável, e isso em contexto no qual proliferam catástrofes associadas a fenômenos como oaquecimento global e o terrorismo, ambos marcados pela imprevisibilidade, pela surpresa e por uma total indiferença à racionalidade ocidental.

IHU On-Line – Como, na avaliação de Sadin, o Big Data tem modificado o mundo e as relações sociais?

Icaro Ferraz Vidal Junior – Primeiramente, o Big Data implica uma mutação epistemológica. À diferença do raciocínio hipotético-dedutivo, que fundamenta grande parte do pensamento ocidental moderno, o saber computacional não necessita supor uma hipótese inicial e dela derivar consequências lógicas. Este saber lida com agregados de dados volumosos e variados, inapreensíveis em escala humana e cuja leitura algorítmica tem o poder de revelar aspectos impensados e surpreendentes da realidade. Na lógica do Big Data opera, segundo Sadin, uma “interpretação indutiva robotizada”, que contempla a dimensão dinâmica dos eventos na medida em que prescinde de uma conclusão. O tempo real adquire certa primazia nestas novas epistemologias, reduzindo as incertezas “em favor do estabelecimento de tipos de salas de controle personalizadas e distribuídas por toda a parte” [3].

Esta nova epistemologia instaura uma medida quanto-qualitativa da vida, viabilizada pelo incremento progressivo da capacidade de armazenamento, processamento e leitura de dados. Neste contexto, Sadin observa ainda uma generalização dos regimes preditivos que vêm substituir qualquer leitura histórica ou sociológica, privilegiando ações entre o presente e o futuro próximo, para as quais o passado não desempenha outro papel que não o de banco de dados capaz de auxiliar na interceptação de ações consideradas “de risco”, antes mesmo que elas venham a acontecer. Trata-se, ao que parece, da obstrução de toda linha de fuga, o que associa-se, amplamente, ao projeto (irrealizável?) de banimento das dimensões sensíveis desta experiência de totalização digital.

É importante mencionar também que parte substancial da crítica ao Big Data provém do fato de que este fluxo de dados resulta tanto de gestos deliberados (por exemplo: conversas telefônicas, navegação na internet, compras com cartões de crédito) quanto de procedimentos passivos que, de maneira imperceptível, registram diversos tipos de informação (trajetos de pessoas, imagens de videovigilância, a fisiologia dos corpos através de braceletes conectados etc.). A posição ocupada no cenário internacional por empresas como o Google e o Walmart e por instituições como a Agência de Segurança Nacional dos Estados Unidos – NSA testemunham a chegada efetiva desta nova realidade, sobretudo em suas facetas econômicas e políticas, que são os âmbitos que alimentam de modo mais substancial a crítica formulada por Sadin a esta rede sociotécnica.

IHU On-Line – O que é o tecnopoder, como ele se manifesta na sociedade hoje e em quais aspectos ele se diferencia de outras formas de poder?

Icaro Ferraz Vidal Junior – Para Sadin, o tecnopoder consiste em uma nova e expansiva forma do poder, em cujo cerne encontram-se as indústrias de tratamento massivo de dados, que passam a ser dotadas de uma inédita potência de governabilidade sobre os seres e as sociedades. Além de interferirem no cotidiano e nos “estilos de vida”, as tecnologias digitais sob a forma de objetos e sistemas programados pelo tecnopoder chegam a organizar os quadros perceptivos e as ações humanas. Trata-se de um regime descentralizado, composto por uma pluralidade de atores e que se humaniza através de figuras carismáticas, estrelas ou gurus, que personificam a genialidade fora do normal, alheia ao poder político e ao direito, do tecnopoder. Ao descrever nestes termos o ethos desta nova forma de poder, fica a sensação de que Sadin abandona o pressuposto cartográfico que prevê a ultrapassagem de a prioris em favor de uma efetiva auscultação da realidade.

A contraposição de seu conceito de tecnopoder à asserção foucaultiana de que “o poder está por toda a parte”, a partir da alegação de que “não somente o poder não está por toda a parte, mas sua fonte, seu coração, pode ser hoje precisamente localizada: eles se situam nos laboratórios de pesquisa animados pelos sonhos sem limites dos engenheiros” [4] parece ser o ponto frágil do livro. Contrariando toda a arquitetura argumentativa construída cartograficamente, a seção mobilizada em torno do tecnopoder escorrega em a prioris ideológicos e não leva em consideração nem mesmo a ação de figuras como Edward Snowden, citado em outra passagem do livro e, sem dúvida, um pulverizador do tecnopoder ou um ator subversivo desta tecnopolítica.

IHU On-Line – Quais são os autores que influenciam o pensamento de Sadin e o modo como ele compreende a técnica?

Icaro Ferraz Vidal Junior – O pensamento de Eric Sadin estrutura-se a partir de referências provenientes sobretudo do campo da filosofia. Acho interessante observar, em seu texto, a confluência de argumentos de autores como Gilbert Simondon e Bruno Latour, que permitem a Sadin pensar a técnica a partir de uma agência que não é determinista e que se exerce sobre uma complexa rede sociotécnica. O livro como um todo pode ser pensado justamente como um convite à tomada de consciência diante das transformações catalisadas pelo Big Data, o que já o inscreve fora do terreno apocalítico do determinismo tecnológico. Afinal, pode-se supor que esta tomada de consciência poderia desembocar em reações tanto micro quanto macropolíticas.

Ao mesmo tempo, o pensamento de Sadin, diferentemente do de Simondon e do de Latour, é profundamente humanista, no sentido em que a tecnicidade mesma, sua composição material e seu modo técnico de existência não são levados em consideração. Não acredito, entretanto, que o posicionamento humanista diminua a potência do pensamento de Sadin consignado em La vie algorithmique. Sua tese, profundamente moderna, é um contraponto interessante ao estado de coisas descrito no livro, e uma das possibilidades de resistência às políticas de dados contemporâneas.

Mas se Sadin dá conta da complexidade das redes sobre as quais as novas tecnologias de captura, armazenamento e processamento de dados se exerce, não podemos negar que há uma certa negligência com respeito às redes, igualmente complexas, a partir das quais tais tecnologias emergem. Seu conceito de tecnopoder, sobre o qual comentei na questão anterior, testemunha uma necessidade – demasiadamente moderna – de identificação dos sujeitos por detrás de um projeto de sociedade unívoco, que se pretende viabilizar tecnicamente. Se recuamos um pouco historicamente e estudamos, por exemplo, como se desenvolveu a cibernética e como se deu sua complexa apropriação pelo domínio militar, entenderemos que por maior que seja a pretensão ao controle de uma tecnologia, sua própria história, as capturas e subversões que atravessam seus usos restarão, em maior ou menor grau, em aberto.

IHU On-Line – O que seria uma teoria ética da técnica? Quais são os aspectos fundamentais dessa teoria ética?

Icaro Ferraz Vidal Junior – Embora se dedique ao contexto contemporâneo descrito a partir da proliferação de mediações algorítmicas em diversos âmbitos da vida social – a vida algorítmica –, Eric Sadin introduz sua proposição de uma ética da técnica a partir do diagnóstico de sua carência, não apenas em nossa época, mas em toda a história. Esta lacuna filosófica é atribuída por Sadin à fascinação exercida pelos objetos técnicos sobre nós, que teria ocultado as reverberações de tais objetos sobre a própria ontologia do humano. Paradoxalmente, do ponto de vista histórico, a própria humanidade foi descrita a partir de suas concreções técnicas: idade da pedra lascada, idade da pedra polida etc.

Antes de passar aos três níveis em torno dos quais Sadin estrutura sua ética da técnica, é importante ressaltar a diferenciação operada pelo autor entre ética e moral. Diferentemente da moral, o investimento da ética sobre a vida não se arvora em variações históricas, culturais ou ideológicas. A ética assume que há algo de inalienável à condição humana, e consiste em propor critérios valorativos estruturados em torno deste algo.

Dito isto, o primeiro nível do exame ético da técnica proposto por Sadin consiste em averiguar se valores fundamentais e trans-históricos encontram-se ameaçados pela agência dos objetos técnicos. Valores como o direito à liberdade individual e a uma vida privada, o imperativo de não exercer violência sobre o outro e de preservar seu livre-arbítrio, a interdição à instrumentalização das pessoas e à redução das relações humanas a uma lógica utilitarista devem, na ética de Sadin, servir como parâmetro para a valoração ética da técnica. O segundo parâmetro proposto pelo autor vem da Ética de Spinoza. Trata-se de uma verificação constante de se as tecnologias aumentam ou diminuem a potência de pensamento e de ação, sem restringir o campo de ação do outro. Por fim, o terceiro nível incide sobre uma revisão das fronteiras entre ética e política, a partir de uma visão da preservação de um comum como condição de organização social, como uma questão ética. Este último nível da ética da técnica de Sadin coloca em xeque os argumentos econômicos que se hipertrofiaram nas discussões acerca dos limites e da regulação da exploração de dados em nossas sociedade neoliberais. A primazia da vida social sobre os lucros privados das corporações que exploram a coleta e processamento de dados é mais um elemento a levar em consideração ao valorarmos eticamente a paisagem tecnológica na qual estamos imersos.

Notas:

[1] SCHWAB, Klaus. A quarta revolução industrial. São Paulo: Edipro, 2016. (Nota do entrevistado)

[2] PARISER, Eli. The Filter Bubble: What the Internet is Hiding from You. Londres: Penguin Books, 2012. (Nota do entrevistado)

[3] SADIN, Eric. La vie algorithmique: Critique de la raison numérique. Paris: L’échappée, 2015, p. 107. (Nota do entrevistado)

[4] idem, p. 203. (Nota do entrevistado)