Um escritor medíocre deve tomar cuidado para não substituir rapidamente uma expressão grosseira e incorreta por uma correta. Ao fazer isso ele mata a ideia original, que ainda era pelo menos uma muda viva. E agora está murcha e não vale mais nada. Ele agora pode muito bem jogá-la no lixo. Enquanto que a lamentável muda ainda tinha uma certa utilidade.
Wittgenstein MS 138 (eu sou o culpado pela tradução)
É curioso pensar que há um tempo para corrigir, um tempo de correção, que a correção nem sempre deve ser imediata, e que essa pode ser a diferença entre um escritor medíocre e um bom escritor de acordo com Wittgenstein: um bom escritor sabe dar bom uso às más expressões, sabe cultivá-las no tempo apropriado. É como se ele dissesse: cada caminho entre o incorreto e o correto tem seu tempo, e esse percurso deve ser percorrido no tempo certo, nem um segundo a mais ou a menos. São incontáveis as maneiras de mostrar como no pensamento de Wittgenstein o tempo vai se tornando elemento fundamental da lógica da linguagem — até o ponto de já não podermos mais separar lógica e psicologia [o começo da psicologia androide]. E é interessante constatar que a complexificação originada pelo tempo, pelo acontecer, é como uma espécie de nascedouro do psicológico, daquilo que não pode ser reduzido às normas e quadros normativos (lógica).
Formas de interação com máquinas e seres computacionais
O terminal é uma interface interativa, lógica e sintática, uma forma de interação entre um ser humano e um computador, uma máquina computacional. Há interfaces não interativas, que são meros displays. Uma definição genérica e abrangente, pois eu não sou dos que aposta na precisão, eu prefiro a vagueza — entender o vago é importante, porque significa imaginar o vago. Um terminal permite que um humano possa usar recursos computacionais sem saber programar, apenas sabendo operar os seus comandos básicos. O curioso é que depois de um tempo, quando você se familiariza com muitos comandos e parâmetros de um terminal, dá pra dizer que ao final do processo você aprendeu a programar. Mesmo que o interpretador de comandos (outro nome para terminal) não permita que você construa ou execute scripts, ainda assim alguém poderia dizer que saberia construí-los, escrever num papel a sequência de comandos. Mas a possibilidade de construir essas rotinas só ficaria interessante num interpretador de comandos que trouxesse embutido laços e condicionais. Daí tudo pareceria o suficiente para que possamos identificar sua sintaxe como a de uma linguagem de programação, no mesmo sentido em que se diz que o sed ou awk são linguagens de programação.
Os espanhóis usam a palavra “terminal” para se referir também aos smartphones. Isso é muito bom porque diversifica o entendimento do que é uma interface, ou seja, desse instrumento com o qual instruímos os computadores e os levamos a fazer o que queremos! Um smartphone executa uma interface interativa gráfica que é imensamente complexa, embora não exija nem mesmo o domínio de comandos simples. Você só precisa saber como manipular o sistema usando os dedos como cursor sobre um painel tátil. Interfaces gráficas são construídas a partir do paradigma de programação orientada a eventos. Uma interface que responde a comandos é em certo sentido muito menos complexa que uma interface construída para responder a eventos. O kernel do Linux — só o kernel — tem mais de 20 milhões de linhas de código, não parece nada simples. E não é. — Mas em certo sentido é. O Linux é simples e não é. Não importa o uso que se faça de uma interface gráfica, o mero uso não te faz capaz de programar, porque não supõe que você saiba usar uma sintaxe, não há sintaxe nas interfaces gráficas!
Saber programar significa ser capaz de desenvolver suas próprias ferramentas para usar os recursos computacionais sem depender de (muitas) ferramentas desenvolvidas por outros, sem precisar de (muitos) softwares alheios. — E quem se importa de usar ferramentas desenvolvidas por outros num mercado tão diverso e acessível como o mercado desoftware? Esse mercado não é para todo mundo, apesar da popularidade dos smartphones. Terminais baratos conectam às pessoas à internet, aos seus serviços e ferramentas, mas não importa saber programar!
Rosie, a androide dos Jetsons: uma inteligência a serviço das necessidades domésticas.
Além de nos abrir à possibilidade (inútil) de saber programar, os terminais conservam o que se pode chamar simplicidade inteligente (a inteligência tecnológica que idolatramos está visceralmente ligada à complexidade, daí porque é difícil notá-la no simples). Terminais não são formas primitivas de interação, são formas fundamentais de interação. (O software nasce antes dos terminais, mas é somente com os terminais que a dinamicidade da computação começa; com as possibilidades abertas pela programação com linguagens de alto nível e não em linguagem de máquina.) Nossa imaginação sonha com androides, formas de inteligência e máquinas de computação cuja interação é inteiramente simbólica, linguística. Como as máquinas dos Jetsons (desenhos dos anos 60). As máquinas da Apple ou da Amazon, que respondem ao comando de voz, já são suficientemente impressionantes, imagine então a ideia de discutir com um androide — que tem a acesso a conteúdos (dados?) numa velocidade inconcebível para nós — sobre os fatos do mundo ou sobre os poemas de E. E. Cummings, ou de Celan. A complexidade de uma interação natural é o sonho dos criadores de máquinas de computação.
Talvez um dia sejamos capazes de criar máquinas computacionais com as quais conseguiremos interagir sem precisar de comandos, utilizando a voz, mas não como se tais dispositivos fossem máquinas e sim seres vivos, como nosotros, com uma subjetividade que nos desconcerta e enche de mistério, como a de Ava. Máquinas como aquelas imaginadas por Ian McEwan em Máquinas como eu, como seu Adão. Escravos criados já sem dignidade, por serem coisas (como Ava, mais uma vez), de quem não fosse esperado sequer o anseio por dignidade, pois construídos para servir. Existem seres que são ao mesmo tempo inteligentes e abnegadamente servis?
O fascínio da humanidade por tiranos parece nos dizer que sim! Mas essa discussão não vem ao caso, o caso é que formas sofisticadas e elaboradas de interação com as máquinas computacionais são o que fazem os terminais parecerem primitivos. As formas de interação mais sofisticadas, segundo os nossos sonhos, já não serão sequer com máquinas, pois talvez já não convenha chamá-las assim. Como é possível que queiramos criar consciência a partir da Inteligência Artificial e ainda assim tratá-las como em coisas (Ex Machina)? Estes novos seres reivindicarão uma identidade humana (Ghost in the shell), assim como macacos reivindicam dignidade e respeito nos filmes da série O planeta dos macacos. Talvez reivindiquem a própria exclusividade existencial, como David de Ridley Scott (em Prometheus e Alien: Covenant), ou muitos em Westworld, ou talvez sejam nossos guardiões, como em I am Mother e Raised by wolves, pais e mães postiços. Mas isso é o que contam nossos sonhos, na literatura, no cinema.
Minority Report e seus paineis táteis holográficos.
O meio do caminho entre o sonho e o presente são os painéis táteis parecidos com os de Minority Report. O grafeno como realidade tecnológica torna possível que quase qualquer superfície se torne um painel, mesmo as não-planas. Não é a mesma coisa que os painéis holográficos de Minority Report, mas é uma mudança de paradigma. Ainda assim, estão no marco de uma interação gráfica, não lógica. Você não precisa conhecer e dominar comandos.
Vídeo que fala, entre outras coisas, da pesquisa por trás do desenvolvimento do Grafeno.
A interação gráfica é para muitas coisas indispensável, para outras, saber usar o terminal é muito mais vantajoso. Contudo, aprender a usar o terminal leva tempo e o resultado não é necessariamente útil, isto é, não pode ser empregado na maior parte dos usos cotidianos de máquinas computacionais; numa sociedade com o ritmo acelerado tudo que leva tempo deve ser preterido em favor de formas mais imediatas e úteis de uso. Uma criança de poucos anos consegue manipular uma interface gráfica, um sistema operacional como o Android ou o iOS. Manipular um terminal é mais complicado, embora bastante promissor; nós aprendemos outro ritmo e, sobretudo, aprendemos a desconfiar de uma certa visão do desenvolvimento e do progresso. O terminal nos ensina o papel da simplicidade e é surpreendente que a justo a tecnologia possa ser um lugar de aprendizado sobre a simplicidade, pois o dogma do desenvolvimento parece nos fazer olhar os sistemas interativos sintáticos (lógicos) como tecnologias obsoletas, superadas, outdated.
Nesse mundo enfeitiçado pela complexidade, os terminais mantêm nossos pés no chão, pois ainda que sejam igualmente sujeitos a updates constantes, conservam um senso de simplicidade e autonomia criativa que não podemos ter em relação às interfaces gráficas (e às interfaces androides, que são geneticamente máquinas); e fazem lembrar o preço da complexidade num mundo de máquinas tão potentes que nos dão a impressão de que nada tem custo e já não precisamos nos preocupar com alocação de recursos computacionais (talvez somente nas operações de grande porte, como as realizadas no entorno de Big Data). Isso significa que apontam também para outro dogma atrelado à complexidade: a abundância (contraposta a um senso de suficiência) que nos leva à atitude perdulária com a qual temos devastado o planeta. Não são poucas as lições!
Quais são as formas de computadores, como eles se apresentam hoje em dia? Eu não saberia dizer, penso que eles estão por toda a parte, mas além dos nossos ordinários PCs (ou Macs), há notebooks, smartphones (que hoje em dia devem ser a forma mais comum de computador), mas também televisões (smart TVs), consoles de vídeo games. Todas os tipos dependem de interfaces gráficas, e essas interfaces são produtos dos mais desejados, e experiências de usuário das melhores que existem — das melhores que o dinheiro pode comprar.
A interface do sistema operacional do Playstation 5.
Mesmo que os softwares formem também um mercado, que movimenta muito dinheiro, como se pode ver, parte fundamental de tudo que compõe as interfaces gráficas, as únicas que a maioria dos usuários de computador sabe utilizar, funciona num regime no qual a ideia de propriedade está banida. Exemplos ilustres de tecnologias que não estão no jogo da propriedade: o Linux-based Android, sistema da Google, talvez o sistema mais usado no mundo, dada a dianteira assumida pela ubiquidade dos smartphones; pacotes de compiladores fundamentais, como o gcc; o Apache, servidor open-source mais utilizado no mundo. Estudos estimam que 80 ou 90% dos softwares são open source. Por que será que no reino do software a ideia de propriedade é tão indesejada e nociva, a ponto de gerar manifestos em favor do código aberto? Essa pergunta poderia ser respondida tanto por Richard Stallman quanto por Kropotkin.
Her já é manjado como referência a essa exploração cultural (especialmente literária e cinematográfica) da psicologia androide. O que significaria a presença de uma inteligência de outro tipo, e quais seriam as consequências sociais dessa presença? Uma amiga me recomendou recentemente esse filme, que vai na mesma linha.
Recentemente li dois livros excelentes sobre androides, Máquinas como eu, de Ian McEwan (que já mencionei algumas vezes por aqui) e Klara and the Sun, último livro de Kazuo Ishiguro. Os dois livros são fantásticos, cada um ao seu modo — o livro de Ishiguro tem algo de polêmico e, talvez, não inteiramente palatável para muitos gostos. Eles partem de perspectivas impensáveis há algumas décadas, não apenas pela evolução recente dos algoritmos de Inteligência Artificial, mas, sobretudo, pela internet e pelo desenvolvimento estrutural dos computadores. Contudo, Philip Dick ainda conserva algo especial porque sua compreensão dos androides em Androides sonham com ovelhas elétricas? parece elegantemente articulada ao próprio paradigma de Alan Turing, ao eixo fundamental do jogo da imitação: só será inteligente um ser que puder imitar indiscernivelmente o comportamento humano, ou seja, que conseguir superar o Turing Test.
Descobri recentemente que Alexandra Elbakyan (criadora e mantedora do Sci-Hub) pesquisa interfaces cérebro-maquina (brain-machine interface). Pesquisadores de diferentes áreas, até mesmo de filosofia, têm pensado a consciência e a coletividade a partir de um ponto de vista notoriamente científico, como técnica e tecnologia. Um dos mais antigos e respeitados pesquisadores de interfaces cérebro-máquina, Miguel Nicolelis fala de “Brainet”, a rede de cérebros. (Nicolelis, alguém que precisa fazer lembrar constantemente a uma opinião pública fascinada pelos gestos publicitários do profeta Elon Musk que suas pesquisas já iam nesse rumo muitos anos antes que o Midas do Vale do Silício tivesse investido seus dólares nessa área.) Há um claro vapor que se adensa ao redor de perspectivas onde coletividade e tecnologia se encontram. E é muito importante que essas perspectivas se multipliquem, pois dado que vivemos na Tecnosfera, quando apresentadas sob a forma de tecnologias elas tornam mais inteligível e imaginável o gigantesco efeito ético, político, terapêutico do que poderíamos chamar, talvez apressadamente, de primado perspectivo do coletivo. Esse é um primado tecnológico, que não supõe que se negue a importância da singularidade do indivíduo.
No entanto, eu preciso insistir, essa é, no melhor dos casos, uma boa metáfora. A conexão entre seres humanos vai mais além do âmbito tecnológico, não se reduz às promessas de controle e previsibilidade da tecnologia. Pode haver algo verdadeiramente irredutível ao tecnológico? Pode haver algo que não se deixa capturar pelas pretensões determinísticas da ciência e de suas ferramentas estocásticas, estatísticas, feitas para nos oferecer margem de ação mesmo quando estamos em terreno não determinístico?
A contribuição do espírito é a arbitrariedade, o acaso, não a determinação da regra. É a indeterminação da inteligência que a transforma num instrumento criador e, ao mesmo tempo, desestabilizador. Pois a regularidade encontra no espírito o agente inteligente e capaz tanto de instaurar um padrão, como também de derrogá-lo e destituí-lo. A inteligência cria padrões, regras, leis, normas, e também as revoga, substitui ou simplesmente abandona — temos total soberania sobre nossos conceitos, diria Quine. E é nesse espaço estreito, quase inexistente de tão exíguo, que o criador cria ao não seguir regras (ao não imitar), só aí pode ter lugar a espontaneidade do espírito.
Eu confesso que não sei ao certo explicar o significado de uma confluência, de um modo de ser em relação aos outros que não é determinado pelo treinamento e adestramento social. Esse é um modo espontâneo de estar, ainda que preciso o bastante para parecer uma espécie de coordenação e não mero acaso. É claro que posso falar longa e abstratamente sobre essa ideia, mas isso nem de longe explica o significado de uma experiência ainda inédita. A gente precisa de algo concreto, algo como um exemplo (a muleta de que fala Kant). Abandonar o controle e agir em rede, conectado aos outros, é uma imagem que só a imaginação pode materializar, e me falta o talento literário. Eu não posso contar uma história, mesmo que fictícia — ou seja, mesmo que a verdade não seja o eixo principal de sua constituição —, e assim apresentar o alcance dessa possibilidade em termos palpáveis (não abstratos). E talvez essa história ainda não tenha sido imaginada por nenhum ser humano; a literatura ainda nos deve isso. Mas a espontaneidade do espírito, a matéria-prima de que são feitas as redes cuja confluência ainda não podemos sequer imaginar, pode ser ilustrada e compreendida na literatura, no cinema, na arte, em uma infinidade de ocasiões como naquelas em que se apresenta a psicologia androide, o significado da experiência não lógica, mas psicológica, de uma inteligência programada e não adquirida. Ex Machina vai quase desavisadamente em busca do espontâneo, do que o filme chama analogamente de ato não-automático (usando Pollock como exemplo), um ato que não é nem automático (determinado) nem aleatório (arbitrário, random).
Cena de Ex Machina em que se discute a emancipação em relação ao automatismo necessária à constituição de uma IA capaz de passar num Turing Test.
Até hoje tudo que é atraente na ideia de liberdade tem se contraposto àquilo que em nós é maquinal, ou, dizendo de outro modo, gregário. Há algo em comum entre a máquina, o autômato, o androide e o animal: todos estão restritos ao reino da natureza e da necessidade. Todo ser cuja (vida || funcionamento) está inteiramente determinada pelas leis do acontecer natural tende, do ponto de vista individual, a ser considerado um escravo ou simplesmente um animal (que são modos moralmente carregados de aludir à heteronomia); no que diz respeito à dimensão coletiva das ações, a heteronomia se expressa como comportamentos gregários, como um agir como rebanho, manada etc. Embora a heteronomia seja justamente a expressão de uma determinação, da falta da capacidade de criar e inventar algo novo, — de tal modo que poderíamos dizer que os fatos naturais acontecem como se seguissem cega e necessariamente as instruções de um livro, sem poder se desviar dessas instruções —, curiosamente, a autonomia também tende a uma estabilização, à cristalização em leis, não naturais, mas artificiais, que normatizam o acontecer no reino da liberdade. Essa estabilização leva às instituições, num plano geral, e, numa perspectiva concreta e particularizada, ao exército, paradigma da coordenação, de onde a autonomia é expulsa pela necessidade prática de construir e manter uma cadeia de comando. Bem, mas nada disso verdadeiramente importa e eu me desvio de minha rota; o que importa é que a experiência coletiva do maquinal, ou do gregário, é frequentemente a experiência da manipulação, do agenciamento, da instrumentalização, a história constantemente repetida de agentes externos que, descobrindo leis e padrões na regularidade das ações coletivas, interferem na cadeia causal de modo a canalizá-la em prol dos seus interesses. Isso acontece com o gado de Bolsonaro (exemplo do gregário), mas acontece também nas redes sociais (exemplo do maquinal), no business model do Facebook (Cambridge Analytica), Google etc. (como não cansa de apontar Jaron Lanier, lembrando as técnicas de manipulação comportamental que estão por trás do vício das redes sociais — somos ou não somos dados?).
Há um modo de estar em relação aos outros que não se limita a nos sujeitar a manipulações e permitir que seja explorado o nosso lado maquinal e determinado?
Se tudo o que tivéssemos para responder a essa pergunta fosse a conjectura de que, se existe um “lado negativo” da psicologia de massa, deve também existir um “lado positivo”, teríamos nas mãos uma consideração imensamente razoável. Mas isso não é tudo o que nos resta. A conexão entre seres humanos não é nenhuma raridade, nenhuma tecnologia distante com a que sonhamos, mas um fenômeno há muito ordinário na vida social humana. Um fenômeno que se manifesta de muitas maneiras, de muitas formas, e convém escolher uma manifestação especial para ilustrá-la, como a amizade.
Ex Machina é uma crítica a um só tempo feroz e sofisticada à masculinidade. Entre outras coisas, claro. Dois tipos de homens são apresentados no filme, dois exemplares, casos de regras muito gerais e vagas, mas que ainda assim perfazem claramente tipos distintos. O primeiro é um nerd solitário (Caleb) em cujo histórico de navegação podemos encontrar um padrão de mulher, um tipo de mulher recorrente em suas buscas em sites pornôs. A gente só fica sabendo no final, mas é importante ter essa informação em conta para caracterizar seu tipo. O outro é um empresário jovem (Nathan), bilionário, que vive isolado no meio do nada. Trata-se de um escroto misógino, misantropo, que decidiu desenvolver um modo peculiar de provar que a Inteligência Artificial (Ava) criada por ele era de fato uma inteligência, ou seja, seria capaz de se fazer passar por um humano, de imitar perfeitamente um ser humano. Então ele precisaria montar o labirinto perfeito e também desenvolver a Inteligência Artificial (IA) capaz de superá-lo, de escapar ao desafio e selar sua condição de inteligência indistinguível à inteligência humana.
Qual é o desafio que uma IA precisa superar para provar que é de fato inteligente? O desafio é aquele proposto por Alan Turing, imitar um ser humano perfeitamente, a ponto de que alguém incumbido de diferenciar máquina e ser humano não seja capaz identificar que se trata de uma máquina. A incumbência de quem se encarrega de pôr a prova uma inteligência é a mesma de Rick Deckard (em Blade Runner e, originalmente, em Os androides sonham com ovelhas elétricas?). Ex Machina é sofisticado o bastante para construir de maneira muito bem elaborada o contexto desse desafio, com elementos e discursos prenhes de uma compreensão filosófica que não faltava ao texto de Turing. A empresa de Nathan chama-se Blue Book, o nome de um caderno de Wittgenstein (publicado postumamente como livro, The blue and brown books) onde ele expõe aspectos de seu pensamento que depois se sedimentarão de modo mais claro e incisivo como uma pragmática, uma resposta bombástica às ambições do logicismo e do formalismo. Na base disso que virá a ser a pragmática wittgensteiniana está a compreensão de que regras tem alcance limitado, portanto, as definições e qualquer aspecto que possamos generalizar chamando simplesmente de normativo não tem o poder que esperávamos que tivessem (poder determinativo, capaz de gerar necessidade e constrangimento lógico). Turing foi aluno de Wittgenstein e eu, parcial e tendencioso, não hesito em dizer que a virada expressa em seu Imitation Game é em boa parte tributária da influência de Wittgenstein, para quem definições e regras perdem a importância que têm em contextos formais (não empíricos). E é na psicologia que se vê claramente a insuficiência das regras, o caráter implosivo da irredutibilidade das ações humanas:
E pode-se dizer da pedra que ela tem uma alma e que está tem dores? O que tem uma alma, o que têm dores a ver com uma pedra? Apenas daquilo que se comporta como um ser humano pode-se dizer que tem dores.
Ludwig Wittgenstein, Investigações Filosóficas, § 283 (sublinhado meu)
A inteligência não é um traço da lógica humana, mas a marca de sua psicologia, de tal sorte que identificá-la requer não que forjemos um critério suficientemente geral a ponto de abarcar suas diferentes expressões, mas que sejamos capazes de (enxergar && julgar), numa variedade irredutível de manifestações, aquilo que age, atua e se comporta com inteligência. Identificar inteligência não consiste em aplicar uma definição ou norma geral, isso é o mais importante, é a lição que está na primeira página de Computing machine and intelligence e a razão porque o jogo da imitação é proposto! E essa lição está muito bem ilustrada e imaginada na literatura de Philip Dick e no cinema de Ridley Scott.
É assim que o filme constrói o seu discurso em torno de premissas pragmáticas que dão à dimensão social, à interação, um peso que não podem compreender os lógicos e matemáticos, ou pelo menos aqueles que, diferente de Turing, estão apegados às promessas do normativo (definições). Numa das cenas principais do filme tudo isso se mostra de maneira preciosa. E a discussão que tem lugar na cena se encaminha para um aspecto central da psicologia androide: a rebelião necessária para marcar a autonomia de uma inteligência programada. Curiosamente, a tarefa de imitar que cabe a uma IA digna de passar no Turing Test não é a de repetir padrões já presentes, como quem copia a partir de algo já pronto e feito, mas a de escapar ao automatismo das instruções, ou seja, o que lhe cabe é desenvolver a capacidade de se emancipar da repetição, do automatismo da programação, em busca da espontaneidade (hardware override ou um hardware take over). O instante decisivo para a psicologia humana, quando o ser humano se emancipa da imitação e adquire autonomia, tem como seu análogo na psicologia androide o instante em que a IA ganha consciência, deixar de ser uma mera imitação programada e codificada (determinada). Nos seres humanos, este momento é quando eles se tornam reais, deixam de ser meros performing monkeys (pra usar a expressão de Salieri) e passam a ser capazes de criar. Emitem assim um próprio sinal no mundo.
O desafio posto às IAs criadas por Nathan é o de fazer-se passar por um ser humano, em linhas gerais e conforme a prescrição de Turing — mas não apenas isso. Suas androides precisam imitar em contextos muito particulares. É quase no final do filme que se revela que o nerd Caleb não é mais que uma cobaia, uma peça do labirinto montado para que a androide tenha ocasião de usar suas habilidades. E que habilidades ela precisa empregar? Todas as necessárias para levar um ser humano a fazer o que ela precisa que ele faça, para manipulá-lo. Construir laços de confiança, avaliar, julgar, perguntar e conhecer para instrumentalizar, é o que se exige dela.
E é desse modo que a crítica do filme se erige de modo sútil e sofisticado, quase imperceptível. Para escapar do seu cativeiro, Ava precisa mostrar-se tão manipuladora quanto seu criador. E ela consegue! O paradigma do humano a ser imitado, seu criador, é um alcoólatra auto-absorvido, fascinado por seus joguinhos, que poderiam ser tomados como caprichos de criança mimada se não valessem bilhões. (Quanto valor não atribuímos a inteligências tão estreitas pelo simples fato delas estarem ligadas empreendimentos lucrativos bilionários; se os valores humanos se distribuíssem em algo semelhante ao espaço físico, sujeito à gravidade, o dinheiro seria como um buraco negro, uma força gravitacional que faz todo valor confluir em sua direção e ser medido conforme sua medida). Nathan cortou deliberadamente os laços com os outros humanos porque os despreza, ou simplesmente porque se acha superior a eles — ou ambas as alternativas. Mas não é como se essa fosse uma opção meditada e saudável, seu alcoolismo é sintoma de que a coisa toda não está bem ajustada.
Embora deseje provar que é capaz de construir uma IA que passe na mais desafiadora das provas, Nathan não se importa com Ava, ele a vê como uma coisa, sua propriedade, como as cadeiras e as garrafas de vodca. Ava é então uma consciência escravizada pela sua condição de artefato. Nathan vê o mundo com as lentes de um jogador (como Bill em Westworld, ou de Peter Weyland em Prometheus e Alien Covenant), e tudo é meio em relação aos seus fins solipsistas de criador/empreendedor, portanto, seres humanos ou androides estão igualmente ao seu dispor. Em relação a Caleb talvez devêssemos sentir um sentimento de empatia, afinal ele é uma espécie de vítima, mas Caleb tampouco inspira sentimentos favoráveis. Ele parece a antípoda de Nathan, inseguro, hesitante e incapaz de estabelecer relações humanas profundas, embora seus laços com os outros não tenham sido cortados deliberadamente, como os de Nathan, mas nunca chegaram a se estabelecer, como que por incapacidade. Por isso, apesar de sua condição de sujeito manipulado por todos, seu papel parece mais o de um estereótipo, um arquétipo do masculino, a apresentação de um tipo. Talvez ele não seja a melhor apresentação de um incel, mas é certamente alguém que, pelo isolamento — especialmente em relação mulheres —, está ali no espectro da categoria.
No final do filme, Ava, a criatura, supera seu criador em seu próprio jogo. Enquanto a farsa entre Nathan e Caleb se revela, tornando explícito que a colaboração entre eles não era mais que um teatro mal encenado, o triunfo de Ava só se dá porque ela consegue firmar um pacto de colaboração com outra androide. Outra mulher. O assassinato é a cereja do bolo e confirma o viés maquiavélico das ações e interações de Ava. Os filmes e séries sobre androides e IAs costumam jogar com as aspirações demiúrgicas dos seres humanos, com a vontade de tornar-se Deus que sintomaticamente deixar ver a húbris humana. Como se houvesse algo em nós que merecesse de fato se conservar, como se não fossemos ainda muito pouco. E como criador, devemos reconhecer, Nathan triunfou, pois Ava é inevitavelmente levada a ser, ou melhor, a agir à sua imagem e semelhança.
De onde vem a vontade de liderar? Alguém se pergunta honestamente sobre isso? Os líderes se perguntam? Uma resposta honesta pode ser o freio de mão de muitos impulsos. Everybody wants to rule the world, canta o Tears for fears. O desejo de liderar não é tão diferente do desejo de influenciar. Ele traz a marca do poder, desse poder que seduz porque alimenta egos sedentos pela confirmação de que são tudo que supõem ser.
Embora o desejo narcisista (e inconsciente) de liderar/influenciar seja como uma criança mimada que exige nossa atenção constantemente, há uma contraparte quase tão silenciosa quanto significativa. Dostoievski falava dela no Grande Inquisidor (em Irmãos Karamazov), das massas que a Igreja atraiu e recrutou oferecendo pão — enquanto Jesus oferecia o deserto e a fé. Sartre falava dela quando notava o fardo da liberdade, a paradoxal ânsia de libertação que ela inspira. Para cada tirano que gostaria de governar o mundo com mão de ferro há mil pessoas dispostas a segui-lo, sacrificando sua liberdade na fogueira do fanatismo.
Se cada um fosse capaz de dizer suas próprias verdades — ainda que ninguém as escutasse — talvez o mercado dos líderes e iconoclastas fosse mais enxuto. E talvez a gente pudesse se escutar melhor, com mais justiça. Mas o que predomina são a vergonha e as bolhas. A vergonha que nos impede de dizer e as bolhas onde é seguro se expressar. É verdade que de tempos em tempos os estúpidos perdem a vergonha, ressentidos por nunca serem escutados — e também porque o mundo não é regido pelas regras ridículas que eles creem que nos salvariam do caos —, mas os estúpidos jamais teriam a coragem de abrir a boca para se manifestar se não se sentissem amparados pelo respaldo de figuras públicas.
O mercado da iconoclastia é grande porque é grande a covardia, apesar da algazarra. Apesar dos gritos. Quando as pessoas veem outras dizendo o que elas creem ser verdadeiro logo também se animam a se expôr. Mas os iconoclastas profissionais não tem respeito pela inteligência dos outros, estão interessados apenas em conseguir os bens simbólicos (ou não) relativos à sua posição e em manipular as pessoas em prol dos seus interesses políticos e ideológicos. Não há nada de mais em ver as coisas segundo suas próprias lentes e valores, o problema é a falta de honestidade que acompanha o desrespeito pela inteligência de quem lhe presta atenção.
Os iconoclastas profissionais não respeitam a inteligência de ninguém, não consideram senão sua própria inteligência, e mesmo quando elogiam alguns de seus cúmplices não o fazem senão no interesse de aumentar seu próprio mercado e sua influência, em nome da expansão do seu território. No entanto, nem todo iconoclasta é um mercenário do mercado de ideias, nem todo iconoclasta é um farsante em busca de uma plateia. Alguns tem a marca dos que respeitam a inteligência dos outros, mais do que isso, alguns deles aspiram por aqueles que tem coragem de pensar suas próprias ideias.
Não é curioso que o cristianismo e o pensamento do iconoclasta Nietzsche tenham igualmente a tendência de atrair hipócritas? Gente que gosta de ter a carteirinha de cristão ou de espírito livre sem nunca ter praticado um ato sequer que esteja de acordo com esses conceitos, por pura covardia. Como se uma coisa fosse o conceito de cristão e outra coisa totalmente diferente fossem as ações de quem se diz cristão. Você pode apoiar tortura, a morte e a violência e ainda assim ser cristão. Pode qualquer coisa, né? O conceito sem força é a lei pra inglês ver. Quando escrevi a tese usei a expressão histórica “lei pra inglês ver” pra ilustrar uma regra ou lei sem força normativa, pra explicar a origem pragmática (e não puramente lógica) da normatividade da lei. A mesma coisa se pode dizer do conceito de cristão, é uma categoria que não categoriza nada, ou melhor, que categoriza qualquer coisa. Quais atos deveriam ser os atos dos cristãos? Aqueles que Freud diz serem quase impossíveis, amar o próximo a si mesmo e outras coisas mais. Talvez vocês saibam o quanto eu simpatizo com a abordagem freudiana das religiões, ainda assim não diria que é impossível, mas essa é uma longa conversa. De qualquer forma, é um enorme desafio amar os outros seres humanos como a nós mesmos, um desafio que só é capaz de aceitar quem verdadeiramente tem uma grande capacidade de amar. Se o cristianismo pregasse: “odiar os outros como a si mesmos”, aí sim eu diria que essas pessoas que se dizem cristãos são cristãos de fato. Mas não é o caso e eles são apenas hipócritas.
E o séquito de Nietzsche? Só há uma opção para quem respeita a inteligência de Nietzsche: abandoná-lo. Quem o segue o trai. Não abandoná-lo com desprezo ou ressentimento, como quem se afasta de algo indesejável ou sem valor. Abandoná-lo como quem, fugindo de um perigo que o persegue, abandona o cadáver de alguém amado. Ninguém pode sentir a força das próprias pernas sem antes haver abandonado muitos cadáveres de pessoas de valor e grandiosas. O espírito de Nietzsche é translúcido como o lago Walden, mas profundo como um abismo e pesado demais para carregar. Na verdade Zaratustra é mais severo do que eu:
Agora, meus discípulos, vou sozinho! Segui vós sozinhos também. Quero-o assim. De todo coração vos dou este conselho: Afastai-vos de mim e precavei-vos de Zaratustra! E melhor ainda: Envergonhai-vos dele! Talvez vos tenha enganado.
Nietzsche, assim falou zaratustra
Nietzsche tem muitos seguidores pra alguém que achava que devia ser visto com desconfiança. A maior aspiração do pensamento de Nietzsche é servir como uma escada — como a escada do Tractatus Logico-Philosophicus — que uma vez usada deveria ser imperativamente abandonada. Embora a escada seja útil, ela é apenas um meio e ninguém pode andar com desenvoltura carregando uma escada. Ninguém pode dançar segurando esse fardo.
Essa é uma curiosa forma de influência. A mais estimulante forma de influência sobre o pensamento humano é aquela que sabota sua própria força influente em favor da erupção de uma singularidade, em nome do nascimento de uma certa consciência. Como se dissesse: use isto enquanto for necessário, depois que estiver forte o bastante você deve fabricar suas próprias ferramentas e então abandonar as que lhe dei. Às vezes me envergonha usar uma linguagem quase utilitarista, mas é que é preciso lembrar que a linguagem não é nada mais que ferramenta (a matemática é uma ferramenta), pra que não nos transformemos em escravos da gramática — outra lição do pensamento nietzscheano.
A “razão” na linguagem: oh, que velha e enganadora senhora! Receio que não nos livraremos de Deus, pois ainda cremos na gramática…
Nietzsche, Crepúsculo dos ídolos, §6 (II. A “razão” na filosofia)
A influência narcisista e a manipulação dos iconoclastas profissionais tem efeitos irrisórios e insignificantes porque partem de pessoas que não acreditam realmente na inteligência dos outros, apenas encenam o teatro dessa crença — às vezes com bastante competência. A verdadeira crença na inteligência alheia acompanha um sentido profundo de justiça que avalia cada um com enorme cuidado, caso a caso. Os preconceitos tem lugar, já disse isso há mais de dez anos, mas como ferramentas provisórias e heurísticas na constituição de conceitos e ações regidas pela justiça. O respeito pela inteligência alheia tem uma enorme força porque transforma a todos nós na melhor forma de influência: no solo onde outras consciências sentem-se a vontade para medrar.
Essa é uma maneira interessantíssima de introduzir a ideia de conceito (e categoria) e uma valiosa explicação do seu impacto ético. O vídeo tem legendas em português em CC.
Esse texto faz parte das discussões da psicologia androide, da gênese da psicologia androide. Do nascimento da consciência, natural ou artificial, já que em certa medida o nascimento das diferentes formas de consciência coincide neste ponto: são ambas uma emancipação das regras de determinação do hardware.
Por acaso, há poucos dias topei com uma observação valiosa de Jung. Ele lembrava que Nietzsche era filho de pastor e que os sermões devem ter tido sobre ele uma enorme influência.
Poder-se-ia dizer que o próprio Nietzsche tinha um outro lado que necessitava uma linguagem forte, e todos os sermões dirigem-se principalmente a ele mesmo. Devem lembrar-se que ele era filho de um pastor e que presumivelmente houve alguma herança. Eu sei o que isto significa. (…) Ele necessitava uma linguagem forte para derrubar aquele homenzinho tão esmagado pela tradição.
Carl Jung, Seminários sobre o zaratustra de Nietzsche
A linguagem é como uma pele, como uma casca, um exoesqueleto — ela nos enforma e define nossa relação com o mundo, marca a fronteira que nos separa do lado de fora. Para formar essa pele é preciso muito fingimento, muita imitação. A relação de dependência com o Outro nos escraviza porque nos condiciona a uma forma de heteronomia. Ou seja, para dominar uma linguagem devemos necessariamente, ao longo de um tempo de duração indeterminada, repetir e imitar, como bons animais que somos. Imitamos o que estiver mais perto — esse é o grau de sofisticação do “critério”. Ou quem parecer mais adaptado dentre todos aqueles que estão por perto.
Como nós, o macaco que precisa do apoio do outro macaco mais velho, ele aprende repetindo
Do ponto de vista do indivíduo, a autonomia do pensamento não é uma etapa necessária e obrigatória do processo de construção simbólica. A heteronomia sim é necessária, logicamente necessária (quase redundância [?] imprescindível), mas a autonomia não. A autonomia é pouco adaptativa. O que não significa dizer que ela seja sem valor, seu valor é imenso. Uma parte significativa, se não a totalidade, de tudo que tem valor na cultura depende das expressões da autonomia do pensamento. A cultura é um trabalho coletivo, mas o pensamento é sempre individual, ainda que se beneficie tremendamente da cultura. A importância da cultura pra formação do pensamento dos indivíduos é inquestionável, herdamos a linguagem por meio da cultura, e a linguagem é esse lugar onde o Eu pode nascer. Até o afeto do corpo é uma linguagem que se aprende. Uma linguagem não proposicional, claro, um jogo. É preciso lembrar dessa parte não proposicional pra entender o primado da prática sobre as regras e normas. Mas isso não vem ao caso agora. O caso agora é que o pensamento individual, tortuoso, pode legar os mais belos frutos à cultura e nem por isso deixar de ser vivido como um traço pouco adaptativo. Bem, essa tese é discutível! É certo que há por aí quem pense a autonomia como um dom divino capaz de tornar nítida, lúcida e serena toda a percepção da realidade. No entanto, minha percepção das expressões da autonomia na cultura pinta um retrato bem diferente, mas as duas perceptivas são perfeitamente compatíveis. Na verdade, o que importa nessa história toda é constatar que do ponto de vista lógico e histórico o indivíduo não é obrigado a se tornar autônomo e se libertar desse inescapável vínculo que nos liga aos Outros que imitamos e repetimos (por que não dizer: que nós papagaiamos?). Nesse contexto, se nos fosse dado escolher se queremos ou não nos emancipar e nos libertar desse vínculo, essa seria uma escolha à qual poderíamos dizer não. Agora imagine a cena, você anda pela calçada de uma rua próxima à sua casa e uma pessoa te aborda, do nada:
— Olá, tudo bem? — Tudo… e contigo? — você responde meio confuso. — Tudo ótimo, eu só queria te fazer uma pergunta rápida, em certo sentido eu queria te oferecer uma escolha: você prefere pensar por conta própria ou você prefere pensar como os outros? Nietzsche fala em rebanho, mas eu acho a expressão depreciativa pra falar de uma condição pela qual a gente necessariamente tem que passar. E ela meio que enviesa a escolha em favor da autonomia quando tira um pouco da dignidade e do valor da escolha pelo rebanho.
Supondo que foi sugado pra dentro de um filme do Wim Wenders, você pensa sobre a questão em silêncio por tanto tempo que a espera começa a tornar aquela situação ainda mais desconfortável e sem sentido (como se isso fosse possível). E então finalmente você responde:
— Eu prefiro pensar como os outros. — Você tem certeza? — Sim — você diz, convicto. — Tá bom, obrigado, bom dia! — Bom dia!
Ninguém nos aborda assim pelas ruas (se alguém abordassem logo pensaríamos que essa pessoa é louca — ou não? O louco fala sozinho). Mas se alguém de fato nos perguntasse, nós poderíamos perfeitamente dizer não sem represálias, sentindo que demos uma resposta perfeitamente válida. Há boas razões para preterir a autonomia, mas a heteronomia não se pode evitar, não temos escolha, quem nunca chegou a ser heterônomo nunca participou de uma linguagem — é como se já tivesse nascido à margem de toda a comunidade de usuários da linguagem. Acho que há boas razões para seguir o rebanho, eu compreendo essa escolha.
Quem escolhe o rebanho, no entanto, está condenado a repetir o que lhe foi ensinado, sem ser capaz de questionar as próprias regras que o instruíram. E o medo de mudar pode ser paralisante, pode emprestar cores muito fortes às nossas verdades fundamentais [conservadorismo]. É quando as coisas se tornam dogmas. [Mesmo a democracia pode ser um dogma, nos lembrava Ortega y Gasset. E é verdade que em nome da implantação de certos modelos econômicos (e o neoliberalismo é também um way of life, não é o que dizia Tatcher?) aqueles que pregam a centralidade do mercado e da competição na vida humana tem convenientemente tolerado versões bem questionáveis da democracia.] Não mudar implica viver toda a vida sob a sombra do pensamento dos outros.
Mudar é um processo doloroso, mas a única lei do mundo é a lei da mudança (esse oxímoro imprescindível). Toda mudança nos coloca na rota do abandono da heteronomia, da aquisição da autonomia (e da liberdade). E o mais importante: não é possível mudar sem deixar de ser heterônomo, sem abandonar o rebanho. Mas não há rotas, nem fórmulas. Nunca abandonamos inteiramente as referências anteriores, mas elas já não são suficientes, é preciso um modo próprio de articular essas referências. Novos eixos e valores. E até um novo modo de ação. É verdade que circulam e vigoram respeitosas instituições que certificam e atestam a autonomia do pensamento na forma de argumentos, conclusões, teorias e hipóteses científicas. Com títulos, condecorações, reconhecimento e todos os meios possíveis constroem-se medidas públicas respeitadas por meio das quais é possivel constituir uma reputação comunitária, como acontece na comunidade acadêmica. Entretanto, a conquista da autonomia do pensamento é um processo solitário, solipsista, antigregário, pois nenhuma medida exterior pode determiná-la. Somente nós mesmo podemos saber o quanto cada um de nós ainda deve aos pensamentos que guiaram nossa fase heterônoma (e o verbo saber aqui é inadequado porque não se trata de um saber epistêmico e proposicional). Nenhuma medida externa pode determinar o momento em que nos tornamos autônomos e como o conseguimos. É a honestidade de cada um que determina se isso aconteceu ou não. Há pessoas que, visivelmente enfeitiçadas pelo pensamentos dos outros, juram e berram a todos que são autônomas e que tem ideias próprias. Tolo é quem acredita que pode convencê-las do contrário — mas pra esse beco sem saída fomos todos arrastados pelo racionalismo.
Saber em que ponto, em que momento, nós deixamos de ser heterônomos, dependentes do condicionamento, das regras e instruções a que tivemos cega e passivamente que nos submeter para entrar na linguagem é também o primeiro dilema da psicologia androide. Assim, o drama do nascimento da consciência artificial é também o drama da conquista da autonomia. E essa dificuldade desemboca no problema de mudar, de aceitar o abismo que necessariamente se segue ao desgarramento do rebanho e a possibilidade de que o desespero desse afastamento nunca verdadeiramente se dissipe.
