A banalidade da rede

Este texto busca estabelecer paralelos entre o relato feito por Hannah Arendt sobre o julgamento de Adolf Eichmann no livro Eichmann em Jerusalém (Cia. das Letras, 1999) e a análise de Jaron Lanier sobre a contemporaneidade hiperconectada em Dez argumentos para você deletar agora suas redes sociais (Intrínseca, 2018). A relação entre estas obras de temática bastante distinta deve ser estruturada a partir do contexto histórico de cada uma, e com especial destaque para o aspecto da naturalização de comportamentos questionáveis.

Hannah Arendt nasceu na Alemanha em 1906, filha de uma família judia, e de lá partiu em 1941 para se refugiar nos Estados Unidos, já tendo sido tornada apátrida pelo regime nazista. Considerada uma das principais filósofas políticas do século XX, é autora de Origens do Totalitarismo, A Condição Humana, entre outros. Já Jaron Lanier nasceu em Nova Iorque em 1960, mesmo ano em que Adolf Eichmann foi capturado na Argentina para ser julgado pelo povo judeu em Jesuralém, e é cientista da computação, músico e defensor de sistemas sustentáveis de desenvolvimento digital. Além do livro aqui tratado, tem publicadas no Brasil as obras Gadget — Você não é um aplicativo e Bem-vindo ao futuro. É considerado criador do termo Realidade virtual, tema com que trabalha desde a década de 1980.

Ainda que seja cada vez mais recorrente a ideia de que possamos estar utilizando telefones celulares e redes sociais em excesso, é natural que ainda soe exagerado propor paralelismos com o holocausto. Entretanto, o foco de comparação é justamente a dificuldade de se compreender a gravidade de determinadas situações quando se está inserido em um contexto sob seu domínio. Arendt e Lanier se esforçam para demonstrar, respectivamente, como a sociedade alemã (e em escalas variadas, de outras regiões europeias) foi conivente com o agravamento das medidas anti-semitas impostas por Hitler, e como a sociedade global do século XXI releva sistematicamente a influência frequente que redes controladas por poucas empresas centralizadas nos Estados Unidos exerce sobre povos inteiros.

É consenso que no presente século, principalmente na década de 2010, a popularização da internet móvel e das redes sociais já causou mudanças significativas na forma como as pessoas se relacionam, escolhem seus presidentes e como consomem e repercutem notícias, reais ou falsas. O que Lanier denuncia em seu livro não é o uso da internet ou mesmo a ideia de redes sociais em si, mas sim um modelo de negócio baseado na venda de dados e manipulação de comportamento dos usuários através de algoritmos, usado majoritariamente pela Google (proprietária também do YouTube) e pelo Facebook (dono do WhatsApp e do Instagram), que o autor chama de Bummer, palavra em inglês para algo chato ou maçante, justificada com algum contorcionismo pelo acrônimo “‘Behaviors of User Modified, and Made into an Empire for Rent’, que em português significa Comportamentos de Usuário Modificados e Transformados em um Império para Alugar” (2018, p.42)

Uma primeira característica em comum aos dois autores que pode saltar aos olhos é a importância que ambos dão à linguagem usada por seus objetos de estudo. Enquanto Arendt constrói o seu texto usando ironicamente uma profusão de citações de termos nazistas como “Solução Final”, “tratamento especial” ou “resolver a questão judaica”, e relata ainda o modo como operava a “Regra de Linguagem” dentro do regime, baseada em uma série de códigos e eufemismos utilizados para amenizar o conteúdo de correspondências entre seus membros, Lanier faz questão de reforçar diversas vezes durante seu livro que não se deve tratar os clientes da Bummer como “anunciantes” e sim como “manipuladores”, e ataca a apropriação por essas empresas de termos como “engajamento” e “empatia”, quando se trata de “vício” e “modificação de comportamento”. Em um cenário em que esse vício se alastrou por uma parcela tão grande da população mundial é possível associar também o seu domínio a alguns aspectos de um território ocupado.

A necessidade constante de estar conectado às redes, seja pela dependência de estímulos e microdoses de dopamina criada pelo seu funcionamento ou pelas facilidades que ela convence o usuário que traz a seu cotidiano, faz com que seja muito difícil subitamente abandoná-las, ou mesmo trocar os sites hegemônicos por possíveis alternativas, já que não há como convencer todo o resto da base de usuários a fazer a mesma troca simultaneamente. Para quem tem necessidades profissionais (como divulgar um determinado serviço), a situação de lock-in é ainda mais grave. O autor argumenta que “O Facebook e outras empresas Bummer […] tem tanto controle sobre a atenção de tanta gente e por tanto tempo do dia que se tornaram os guardiões do cérebro. […] É o início de uma máfia existencial.” (2018, p.154). É uma armadilha em certa medida análoga à do povo alemão conforme os mandos do Partido Nazista se tornavam injustificáveis. Nas palavras de Arendt: “a sociedade alemã de 80 milhões de pessoas se protegeu contra a realidade e os fatos […] com o mesmo auto-engano, mentira e estupidez […] tão comum, quase um requisito moral para sobrevivência.”. (1999, p.65.)

Usando exemplos ainda um pouco mais sinistros, mas ainda para evidenciar como a consciência é suscetível ao contexto, podemos notar como cada autor tem histórias sobre a maleabilidade da relação das pessoas com a morte. Arendt se vale de relatos dos últimos meses da guerra, quando o extermínio generalizado dos judeus já não era segredo para ninguém, em que cidadãs alemãs aparecem dispostas a irem elas mesmas para as câmaras de gás no momento em que a derrota do Reich se tornasse iminente, inclusive agradecendo a Hitler por disponibilizar tal estrutura a esses fins. (1999, p. 126–127). Já Lanier trata da empresa aberta pela Google com a pretensão de “resolver a morte”, de como o Facebook criou mecanismos para que se um usuário falecer, sua página de perfil no site se torne um memorial oficial e de como diretores de empresas do Vale do Silício se preocupam seriamente em organizar todo o conhecimento humano não para a própria humanidade, mas para a vida de inteligência artificial que acreditam que herdará a Terra no futuro. (2018, p. 173–175)

À parte de ambições metafísicas, a massificação das relações via internet traz consequências mortais práticas, desde linchamentos e atentados a tiro resultantes de boatos até o boicote à vacinação de crianças, bastante difundido e supostamente embasado por teorias conspiratórias que circulam online — o funcionamento dos algoritmos é autocentrado, de modo a manter o usuário cada vez mais ativo, portanto estimular a paranoia e o extremismo é bastante eficiente. “Não existe nenhum gênio maligno sentado em um cubículo de uma empresa de mídia social calculando e concluindo que fazer mal às pessoas é ‘engajador’ e, portanto, mais lucrativo que fazê-las se sentirem bem.” (LANIER, 2018, p.30)

Lanier chega a dizer que conhece pessoalmente muitos funcionários de empresas Bummer e que sua frustração é saber que essas pessoas, sem más intenções, trabalham desenvolvendo produtos nocivos. Essa abordagem inevitavelmente remonta às diversas menções que Arendt faz da personalidade de Eichmann, de como ele buscou alternativas menos desumanas para “resolver a questão judaica”, como criar um protetorado para o povo judeu (1999, p.88) ou despachá-los para Madagascar, antes de se resignar a contribuir com o assassinato em massa. Por outro lado, sua obstinação inesgotável em cumprir ordens e manter a lealdade ao Führer talvez o aproxime menos de funcionários do Facebook que do próprio algoritmo, uma série de parâmetros funcionando ininterruptamente alheio a causas e efeitos de seu trabalho e com o único objetivo de funcionar de maneira cada vez mais otimizada.

Sobre a frieza do modus operandi algorítmico, Lanier dá um testemunho pessoal que é especialmente conveniente para o paralelismo com o qual estamos trabalhando:

Do ponto de vista dos algoritmos, você já não é um nome, mas um número: o número de seguidores, curtidas, cliques ou outras medidas da sua contribuição para a máquina em tempo real.

As ficções distópicas com frequência imaginam um império do mal que substitui nomes por números, Prisões da vida real fazem isso com os detentos. Há um motivo: tornar-se um número é estar na condição explícita de subserviência a um sistema. Um número é uma verificação pública de liberdade, status e pessoalidade reduzidos. Para mim isso é especialmente assustador porque minha mãe sobreviveu a um campo de concentração, no qual um número foi tatuado no seu braço. Fazer isso hoje seria caro demais. Os nazistas apenas guardariam o número na nuvem, juntamente com a biometria. (LANIER, 2018, p. 90)

Um pouco adiante desse trecho, o autor se pergunta se sua crítica é cabível perante usuários que se considerem satisfeitos com os termos em que funcionam os serviços da Bummer. O tema remete novamente ao julgamento de Eichmann, durante o qual foi levantada diversas vezes uma mesma questão: porque os judeus teriam “aceitado” o tratamento que recebiam e não se rebelado? Porque autoridades regionais judaicas cooperaram com a organização das massas vitimadas? Não houve resposta fácil na época nem nunca haverá, podendo-se contabilizar a incompreensão dos objetivos nazistas, a fé de que aquilo era parte de um destino a ser cumprido ou ainda a brutal repressão a quem se rebelava como fatores que levaram a essa cooperação inusitada e sem a qual “dificilmente teria sido possível para uns poucos milhares de pessoas, a maioria das quais, além de tudo, trabalhava em escritórios, liquidar muitos milhares de pessoas” (ARENDT, 1999, p. 133). Quanto aos usuários de redes sociais que relutam a considerar a ideia de que elas podem fazer mal a sua saúde e capacidade de socialização, pode-se considerar uma reação esperada de um viciado confrontado com os malefícios de seu vício; a ilusão de controle e livre-arbítrio que o design cria para situações em que o usuário está sendo conduzido por impulsos inconscientes ou ainda a tendência a interpretar essas denúncias como alarmismo, reação que aconteceu também no Reich e que somente a posteriori deixou de fazer sentido. Ao menos até a ascensão das redes sociais.