A Inteligência Artificial é o sonho humano do serviçal perfeito: uma máquina que aja como nós, mas não tenha as necessidades mundanas que tanto dificultam a escravidão de outros humanos e animais. Uma entidade que não precise ser alimentada, não precise dormir, não tenha desejos e não anseie por liberdade. Queremos máquinas inteligentes e eficientes para identificar nossas necessidades e satisfazê-las, mas será possível desenvolver uma inteligência consciente que não possua sentimentos e sensações?
Desde o começo da Revolução Industrial, histórias sobre o medo de máquinas que tomam consciência própria e aniquilam seus criadores começaram a povoar o imaginário popular. O cinema também representou inúmeras vezes essa ansiedade humana. O modo como a figura feminina é implementada nessas máquinas, e a visível associação na vida real de assistentes eletrônicas a um gênero feminino chamou a atenção da escritora Laurie Penny. Traduzimos abaixo o seu texto sobre o assunto.
*****
Por que existem tantos robôs projetados para se assemelhar a mulheres? A pergunta está se tornando inevitável ao passo em que mais e mais Inteligências Artificiais (IAs), que não precisam ter um gênero, aparecem no mercado com vozes e rostos femininos, incluindo Cortana da Microsoft, Alexa da Amazon e uma nova onda de estranhas robôs sexuais comercializadas quase que exclusivamente para homens. Enquanto entramos em uma nova era de automação, a tecnologia que estamos criando diz muito sobre a maneira que a sociedade vê as mulheres e o trabalho.
Este mês, a Microsoft lançou Tay, robô com rosto e maneirismos de uma garota adolescente que foi projetada para aprender e interagir com usuários no Twitter. Dentro de horas, Tay tinha sido bombardeada com abuso sexual e foi ensinada a defender Hitler, que é o que acontece quando você dá ao Twitter um monstrinho para criar. O jeito que Tay foi tratada pelos usuários do Twitter foi abominável, mas não sem precedentes – os primeiros robôs e assistentes digitais foram projetados para parecer femininos, em parte para que usuários, presumidamente homens, pudessem explorá-los sem culpa.
Isso faz sentido quando consideramos que boa parte do trabalho que estamos antecipando que será feito um dia por esses assistentes é atualmente feito por mulheres e meninas, por salários baixos ou sem pagamento algum. Semana passada, um relatório da ONS (IBGE britânico) finalmente quantificou o valor anual da “produção econômica doméstica” – a manutenção doméstica, cuidado com os filhos e tarefas organizacionais feitas em sua maioria por mulheres – em 1 trilhão de libras, quase 60% da economia “oficial” (do Reino Unido). Desde enfermeiras, secretárias e profissionais do sexo a esposas e namoradas, o trabalho emocional que mantém a sociedade funcionando é ainda feminizado – e ainda estigmatizado.
Neste momento, enquanto antecipamos a criação das IAs para servir a nossas necessidades particulares, organizar nossas vidas e tomar conta de nós, e fazer tudo isso de graça e sem reclamações, é fácil ver quantos designers talvez se sintam mais confortáveis com essas entidades tendo vozes e rostos femininos. Se IAs forem projetados como masculinos, usuários podem ser tentados a tratá-los como iguais, reconhecê-los como humanos de alguma forma, talvez até oferecê-los um salário de nível inicial e um drink depois do trabalho.
Na imaginação pública, robôs humanóides tem sido por muito tempo substitutos para classes exploradas. Até mesmo a palavra “robô” é derivada da palavra tcheca para “escravo”. A filósofa Donna Haraway observa em Um Manifesto Ciborgue que “a divisão entre a ficção científica e a realidade social é uma ilusão ótica”, e a história das robôs femininas em filmes é quase tão longa quanto a história do cinema em si. Em quase toda encarnação de robôs femininas na tela, de Metrópolis de Fritz Lang à obra prima moderna Ela, a mesma questão surge: IAs são realmente pessoas? E, se sim, podemos viver com o que fizemos a elas?
Em estórias como Blade Runner, Battlestar Galactica e Ex Machina, robôs femininas são estupradas por homens e os espectadores são convidados a ponderar se esses estupros foram realmente criminosos, baseados na nossa avaliação de se a robô tem consciência suficiente para merecer autonomia. Esta é a mesma avaliação que juízes homens ao redor do mundo estão tentando fazer sobre mulheres humanas hoje.
Toda a repetição da estória romântica é também uma estória de horror. O protagonista, que é geralmente frustrado sexualmente e rabugento, passa por agonias tentando definir se seu crush de silicone é realmente consciente. Se ela é, é certo ele explorá-la, ser servido por ela, dormir com ela? Se ela não é, pode ele realmente se apaixonar por ela? Isso importa? E – o mais aterrorizante de tudo – quando ela define sua própria posição, ela vai se rebelar? Como ela pode ser impedida?
Essas são questões que a sociedade em geral tem feito por séculos – não sobre robôs, mas sobre mulheres. As permutações ansiosas são familiares para a maioria das mulheres que namoram homens. Nós podemos vê-los, lentamente, tentando decidir se somos realmente humanas, se realmente pensamos e sentimos como eles.
Essa não é uma questão acadêmica abstrata. A ideia de que afro-americanos eram menos humanos que pessoas brancas estava consagrada na constituição dos Estados Unidos até 1868. Da mesma forma, a noção de que mulheres são menos humanas que homes tem sido usada desde os tempos de Aristóteles para justificar a privação de seus direitos básicos. Até mesmo hoje, encontramos homens argumentando que mulheres e meninas são menos inteligentes que homens, ou “programadas pela natureza” para uma vida de submissão e plácida reprodução. Por muitos séculos, a primeira tarefa filosófica das pessoas oprimidas tem sido convencer tanto a si mesmas quanto seus opressores – assim como as IAs em nossas ficções culposas – que eles são seres vivos, pensantes, e com sentimentos, e portanto merecem liberdade.
Consideremos a cena clímax em Ex Machina, onde o gênio megalomaníaco Nathan é mostrado colecionando corpos nus de modelos antigos de robôs femininas em seu quarto. Para Nathan, a consciência de suas escravas sexuais está fora de questão: de carne ou de metal, mulheres nunca serão realmente humanas. Para as robôs femininas, os homens que as possuem – quer seja o louco bilionário Nathan, ou o doce desafortunado Caleb – são obstáculos a serem vencidos, com violência se necessário.
Quando os ciborgues dominarem as máquinas, os homens ainda importarão? Na ficção, como na vida, uma maneira das pessoas oprimidas se libertarem é usando tecnologia para tomar o controle das máquinas que os fizeram. “O maior problema com ciborgues, claro, é que eles são a prole ilegítima do militarismo e do capitalismo patriarcal”, escreve Haraway. “Mas prole ilegítima é frequentemente infiel às suas origens. Seus pais, afinal, são não-essenciais”.
A triste paranóia que está no cerne dessas visões do futuro é que, um dia, IAs seriam capazes de se reproduzir sem nós, e sumariamente decidiriam que somos irrelevantes. Desde Metropolis até Matrix, o pesadelo é o mesmo: se andróides tiverem acesso aos meios de reprodução, nada os deterá. Isso é, coincidentemente, o medo básico que os homens tem nutrido em relação às mulheres desde o nascimento do feminismo, e particularmente desde o advento da contracepção e da tecnologia reprodutiva. Esse medo é a raiz de muito da opressão feminina atual.
Alan Turing, o pai da robótica, se preocupava que “máquinas pensantes” pudessem ser exploradas porque não eram conscientes do mesmo modo que “seres humanos reais” são. Nós ainda não decidimos, como espécie, que mulheres são conscientes – e enquanto mais e mais robôs femininas aparecem em nossas telas e nossas estórias, nós devíamos considerar como nossa tecnologia reflete nossas expectativas de gênero. Quem são os usuários, e quem é usado? A menos que possamos recalibrar nossa tendência a explorar uns aos outros, a questão pode não ser se a raça humana pode sobreviver a era das máquinas – mas se merece.
Tradução de Carol Lucena e ilustração por Deixadebanca