37 anos depois

Por Alan Fernandes

O romance 1984 descreve uma sociedade distópica em que as formas de totalitarismo do século passado se estenderam de tal modo que alcançaram todos os aspectos da vida. Há uma espécie de conclusão da obra que sugere que das democracias às ditaduras nunca foi possível ultrapassar a barreira prática, punindo também os pensamentos das pessoas antes que elas cometessem crimes. O Grande Irmão — que curiosamente ou não compartilha o nome com Reality Shows prestigiados pela sociedade — longe de ser onipresente, conta com tecnologias e demais técnicas de disciplina para contornar contestações ou quaisquer desvios da ordem.

Somos apresentados logo no início da trama por teletelas, utensílios similares às televisões, mas que têm a função dupla de reproduzir material ideológico do Estado e lembrar o espectador que ele está sempre sob vigilância, porque a ferramenta também trabalha com uma câmera embutida. Por mais que não se possa identificar crimes antes de sua execução, as teletelas captam expressões, oscilações, enfim, toda a gama de comportamento estranho ao cotidiano de um servidor do Estado.

Comparado às teletelas a “Alexa”, assistente de voz criado pela Amazon, ela é revolucionária — ou melhor, reacionária. São duas as razões:

1984 nos passa um clima constante de medo e como vemos Orwell narrar o cotidiano angustiante de Winston temos a impressão que tudo é cinza e as teletelas passam constante sensação de medo. As punições, pensava Winston, seriam contornadas se ele sempre mostrasse para essas telas que levava o seu cotidiano sem problemas. Já as tecnologias de voz de hoje são interativas. Ao invés de se passar uma mensagem de tutela, de constante risco, o aparelho aparece como um “ombro amigo”, coisa que lhe dá a segunda vantagem sobre as teletelas.

Na medida em que Winston não está sendo vigiado por uma câmera que entrega seus pensamentos para a polícia das ideias, mas para um inofensivo aparelho feito para “auxiliar” o cliente, não é preciso recorrer à tortura para obter aquilo que o mais árduo totalitarismo é incapaz de extrair, pelo contrário, o usuário é estimulado a documentar sua rotina, seus gostos, tudo isso de livre e espontânea vontade. Como já dissemos, a barreira entre o fazer e o pensar é aquilo que nem o Grande Irmão era capaz de suprimir. E não foi um regime ditatorial centralizado quem o solucionou, mas um totalitarismo descentralizado que engolimos acriticamente.

A “Alexa”, apelido carinhoso para designar uma personalidade artificial e não uma simples máquina, segundo os próprios desenvolvedores nasce para interagir com outros aplicativos, Bluetooth, e inclusive outros dispositivos. Dentro dos Termos de Uso, aquelas letras miúdas que ninguém lê, lê-se que:

Quando você interage com a Alexa, ela grava e envia áudio para a nuvem. (…) Ela se atualiza automaticamente por meio da nuvem para adicionar novos recursos e funcionalidades. Para fornecer o serviço Alexa, personalizá-lo e melhorar nossos serviços, a Amazon processa e armazena na nuvem suas Interações com a Alexa, tais como suas entradas de voz, suas listas de reprodução de músicas e suas listas de tarefas e de compras da Alexa

E continua no Item 3:

O Software fornecerá à Amazon informações de seu uso da Alexa, de suas Interações com a Alexa e de seus Produtos Habilitados para Alexa, bem como de Produtos Acessórios (por exemplo, tipo de dispositivo, nome, recursos, status, conectividade de rede e localização). Essas informações podem ser armazenadas em servidores fora do país em que você mora.

No romance, não se explica como as teletelas começaram a ser usadas, mas podemos presumir que muitas famílias, ao contrário de Winston, se sentiam mais à vontade com o uso do aparelho. Crianças eram ensinadas, na estória, a vigiarem seus próprios pais, para que não tramassem contra o Estado secretamente. Da mesma forma os pais, hoje, interrogam as Alexas para saberem o que seus filhos andam pesquisando. E a polícia das ideias perdeu seu componente humano, errôneo, vacilante, e transformou-se em um algoritmo. É a isso que devemos dirigir nossos olhares hoje, qualquer inquérito policial, por mais trabalhado que seja não consegue armazenar mais dados do que as empresas privadas de tecnologia eletrônica. E hoje, curiosamente, o questionamento às Big Techs é quase exclusividade da extrema-direita.

A imagem de destaque deste artigo pertence a Arno Senoner, em seguida temos um ‘print-screen’ de tweets da própria Amazon.