Por Bruno Cava
Imagem: Chris F, Woman in Doorway in Darkness (2023). Fonte: Pexels.
—
De todos os nossos enganos, talvez o mais difícil de desfazer seja a crença de que o mundo foi feito à nossa medida e de que nos cabe, em algum lugar do universo, uma posição privilegiada.
Quando imaginamos a vida em outros planetas, logo nos perguntamos se os alienígenas seriam mais ou menos inteligentes do que nós. Fazemos o mesmo com os animais, as plantas e até os microrganismos, sempre à procura de algum sinal do que, por um misto de vaidade e capricho, convencionamos chamar de inteligência. Julgamos os outros pelas qualidades que mais admiramos em nós. E mais: como somos nós que decretamos a medida, não é de espantar que a comparação nos favoreça.
Copérnico retirou a Terra do centro do cosmos, Darwin inscreveu nossa espécie na história comum dos viventes. Freud veio depois abalar a última fortaleza, a crença de que somos senhores em nossa própria casa. Nem assim deixamos de procurar um altar onde venerar a própria imagem.
Diz a lenda que haveria em nós alguma coisa que falta a todos os demais seres, uma essência, talvez uma alma sob seus mil nomes — o sentimento, a beleza, a fé, alguma interioridade misteriosa —, à qual nenhuma outra máquina, seja ela técnica, social ou biológica, poderia se equiparar.
Em Humano, demasiado humano (§ 1), Nietzsche denunciava o velho expediente da metafísica de atribuir uma origem milagrosa ao que temos em mais alta conta, como se a razão não pudesse emergir da desrazão, nem a verdade do erro. A oposição entre os dois termos embute a exigência do milagre da passagem de um a outro.
Nietzsche desconfiava do eu que se julga senhor dos próprios pensamentos. A consciência, da qual tanto nos orgulhamos, é um desenvolvimento tardio e parcial da vida, não seu princípio soberano.
Depois de tantas críticas à soberania do sujeito, uma certa mitologia do cérebro veio oferecer abrigo à antiga metafísica. O sujeito expulso pela porta das filosofias do século XX reapareceu numa versão vulgarizada das neurociências, doravante reinstalado no interior da caixa craniana. Mudou de endereço, mas manteve as prerrogativas.
Foi finalmente preciso que as máquinas passassem a realizar, com assombrosa desenvoltura, operações que julgávamos exclusivas da inteligência para que a excepcionalidade humana voltasse a ser posta à prova.
Essas máquinas, porém, são humanas, demasiado humanas. Nascidas de uma longa história de trabalho e cooperação, põem agora em questão a excepcionalidade de quem as fabricou. Não vieram de outro mundo, porque foram nutridas e apascentadas pelo nosso, com os conhecimentos cumulados por sucessivas gerações.
O mais revelador é observar como empurramos a fronteira a cada conquista das máquinas. Enquanto determinada operação nos parece irrealizável por um artefato, tomamo-la como prova da excepcionalidade humana. Uma vez realizada, passamos a dizer que isso não era propriamente inteligência, mas cálculo ou imitação. A verdadeira inteligência continua sempre mais adiante, a salvo da experiência que poderia afinal desmenti-la.
Talvez estejamos diante da última astúcia de um antropocentrismo renitente. Quanto mais aprendemos sobre os processos materiais do pensamento, mais nos inclinamos a reservar sua natureza a alguma coisa que ainda desconhecemos.
É o criacionismo secularizado do Milagre do Cérebro. Depois de Copérnico, Darwin e Freud, encontramos onde recolher as sombras de Deus: o córtex, sucessor da glândula pineal, a massa cinzenta discretamente promovida à qualidade de substância divina.
*
Vejamos uma das mais engenhosas objeções à ideia de que reproduzir as operações da inteligência basta para compreender: o Quarto Chinês, experimento de pensamento proposto pelo filósofo John Searle em 1980.
Imagine a leitora um homem trancado num quarto, sem saber uma palavra de chinês. Suponhamos, porém, que tenha à mão manuais capazes de lhe indicar a resposta apropriada a qualquer pergunta nessa língua. Basta reconhecer os caracteres e seguir as regras para combiná-los, sem precisar entender o que significam. Alguém passa ao nosso homem do quarto uma pergunta por uma portinhola. Ele consulta os manuais e devolve a resposta em chinês, sem fazer ideia do que leu ou escreveu.
As instruções constantes dos manuais são tão precisas que, por mais que a conversa se prolongue, as respostas do homem do quarto são semelhantes às de um falante fluente. Quem está do lado de fora não percebe a diferença. Entretanto, o homem continua durante todo o experimento sem entender uma palavra de chinês. Limita-se a seguir regras.
Substitua agora o homem pelo computador.
Para Searle, produzir respostas adequadas não significa compreender o que se diz. Uma coisa é combinar símbolos segundo regras formais, operação sintática; outra é compreender seu significado, questão semântica. Por mais complexas que sejam, as operações sintáticas não bastariam para produzir compreensão.
O argumento searliano continua vivo. Sempre que alguém afirma que os grandes modelos de linguagem, os chamados LLMs, “apenas” combinam palavras e calculam probabilidades, sem compreender coisa alguma, é o Quarto Chinês que volta a aparecer.
O “apenas” merece atenção. Ocorre que as palavras que as máquinas combinam portam uma longa história de significados, nascidos da convivência humana e cultivados nela. Ao aprender suas relações, os modelos apreendem também algo das distinções que fazemos no mundo.
Uma máquina pode discorrer sobre a morte sem temê-la. Mas há duas questões distintas: compreender aquilo de que se fala e experimentar o que se compreende. A desenvoltura verbal não demonstra nenhuma das duas. Esse é o fio da objeção de Searle.
Pois bem. O que está em jogo quando uma máquina escreve um poema sobre a saudade capaz de comover-nos? O fato de ela própria não sentir saudade muda alguma coisa? A beleza estaria guardada na alma do poeta, à espera de ser transportada para o papel? Platão, no Íon (533d–536a), comparava a inspiração poética a uma corrente de anéis imantados, em que a força passa da Musa ao poeta, deste ao intérprete e, por último, ao público. Mesmo atribuindo sua origem ao divino, Platão não encerrava a força da poesia na interioridade de quem a escrevia.
O mesmo raciocínio valeria para o justo. Um argumento não se torna justo porque seu autor experimentou a justiça dentro de si, em alguma interioridade da consciência julgadora, e depois a comunicou às palavras, nem perde sua força por ter sido formulado por uma máquina. Os fundamentos da justiça é que precisariam ser examinados. É claro que a experiência de quem escreve conta, mas não é senhora do sentido do que foi escrito.
É aqui que devemos começar a desconfiar da enganosa simplicidade do Quarto Chinês.
A dificuldade aparece quando a distinção entre sintaxe e semântica é tomada como uma fronteira entre operações computacionais e compreensão. Afinal, não existe primeiro uma língua feita de sinais e regras, à qual o significado viesse depois se acrescentar. Ora, nunca se viu língua assim. As palavras adquirem sentido nas relações que estabelecem entre si, e o que dizemos ganha seu alcance nas circunstâncias em que é dito. Não há, de um lado, sinais desprovidos de significado e, de outro, uma consciência que viria insuflar-lhes sentido. Essa separação pressupõe o milagre que se pretendia explicar.
Tomemos a frase “A porta está aberta”. Pode ser uma informação, um convite, uma advertência. Depende da situação. As palavras são as mesmas, mas o que fazemos ao dizê-las muda muito em cada circunstância. Há casos em que a linguagem chega a produzir o próprio acontecimento. Exemplo: uma autoridade competente declara alguém demitido e, quando satisfeitas certas condições legais, a declaração pode efetivar a demissão.
Voltemos, então, aos manuais de Searle.
De onde viriam esses maravilhosos manuais? Não se trata de contar suas combinações possíveis, e sim de explicar como regras indiferentes ao significado poderiam gerar respostas pertinentes numa língua cujo sentido se transforma no uso. Searle concede ao mecanismo, por hipótese, uma aptidão cuja gênese permanece obscura. Se os manuais precisassem incorporar a história das relações humanas para dar conta das circunstâncias de cada enunciado, já teriam introduzido pela portinhola o que o experimento pretendia deixar de fora.
Aí reside o impensado do Quarto Chinês: na história material que tornou possíveis os manuais. O filósofo a deixa fora de cena para depois procurar, entre as folhas de papel, o sentido cuja formação não chegou a inquirir.
Concedamos a Searle sua conclusão. Sim, a execução de regras formais não basta para explicar a compreensão. Mas daí não se segue que outras organizações materiais sejam incapazes de produzi-la. O experimento mostra os limites de uma explicação e pretende fazer deles os limites do que pode ser explicado. Esse é um salto que não podemos conceder a Searle.
Os LLMs tornam esse salto ainda mais difícil de justificar. Treinados sobre a linguagem produzida socialmente, aprendem relações que lhes permitem fabricar enunciados inéditos e passar a integrar situações em que se criam sentidos.
Aqui Searle poderia retrucar que tudo continua sendo “apenas” computação. Mas essa classificação nada decide sobre as capacidades que um sistema adquire ao ser integrado à vida social.
Não é preciso que o significado apareça milagrosamente entre os circuitos para que uma máquina participe de sua produção. O curioso é que, para negar inteligência aos artefatos, tantas vezes acabamos por atribuir aos humanos o poder sobrenatural de produzir sentido a partir de uma interioridade que, aliás, ninguém sabe explicar.
*
No antigo teatro grego, uma divindade podia surgir no palco suspensa por cordames e engenhocas para resolver os impasses da trama. Era o deus ex machina, o deus que vinha da maquinaria cênica. Talvez tenhamos atualizado esse artifício, com uma mudança de cenário. Como não sabemos explicar o que seria uma “inteligência natural”, fazemos surgir no cérebro uma faculdade mágica que resolve tudo por sua presença.
Por trás do Quarto Chinês há, então, outro quarto, bem mais antigo, que é o crânio humano. Imaginamos a compreensão guardada lá dentro e depois perguntamos se alguma coisa semelhante habita o computador. Primeiro inventamos o deus na caixa cerebral; em seguida, negamos que possa existir na máquina digital.
Para indicar um único filme, vale assistir a eXistenZ (1999), de David Cronenberg, no qual corpos e dispositivos se ligam numa intimidade perturbadora. A própria vontade de desmascarar a máquina, descobrindo onde termina o humano e começa o artifício, perde sua evidência.
Há um Marx cortante para essa discussão, anterior à imagem escolar do crítico do fetichismo. Ainda jovem, estudou o atomismo antigo (Demócrito e Epicuro) e, nos Manuscritos de 1844, concebeu a natureza como corpo inorgânico do ser humano. Não somos inteligências prontas que depois entram em contato com o mundo. Nossas potências se formam nessa intimidade material com o que nos cerca.
Até os sentidos corporais têm uma história. O ouvido musical, por exemplo, desenvolve-se no encontro com a música, que por sua vez é obra de muitas gerações precedentes. A sensibilidade não vem pronta ao mundo para depois encontrar seus objetos. Forma-se com eles. O que há de mais interior em nós deve parte de sua existência ao que nos é exterior.
A linguagem é consciência prática, existente também para os outros e, por isso mesmo, para cada um de nós. E a consciência, desde o começo, é um produto social. Não há um pensamento etéreo que primeiro se forme dentro da cabeça para depois ganhar expressão na linguagem. Pensamos numa língua que já encontramos em uso, entre pessoas que falam antes de nós e por nós. Seria preciso acompanhar a vida material em que a consciência se produz, antes de se individualizar.
Essa intuição marxiana alcança o ponto de vertigem nos Grundrisse, os cadernos manuscritos que Marx deixou inéditos. Ali, explica-se uma tendência da Revolução Industrial: o conhecimento acumulado pela sociedade incorpora-se às máquinas e passa a agir como força produtiva. É o que Marx chama de general intellect, a inteligência social que ganhou corpo na maquinaria.
Marx descreve um gigantesco Automaton, em que os operários aparecem como órgãos conscientes de uma maquinaria que os comanda. A ciência, acumulada ao longo de gerações, volta-se contra seus produtores como força do capital. É uma Verselbständigung, a autonomização de uma potência social que passa a governar aqueles que a criaram, ainda que continue dependendo de seu trabalho.
Hoje, esse Automaton transbordou as paredes da fábrica e se espalhou pela metrópole, pelo tecido conjuntivo das relações sociais. Suas engrenagens são também as redes em que produzimos credibilidades (créditos sociais), os modelos de linguagem que mobilizam o conhecimento acumulado, sem falar nas infraestruturas que permitem negociar com desconhecidos. A maquinaria articula multidões inteiras, cuja cooperação produz capacidades que ninguém seria capaz de desenvolver sozinho. Até a confiança se inscreve num agenciamento sociotécnico, do qual a vida econômica passou a depender.
Pensemos no Pix. Duas pessoas que nunca se viram podem realizar um pagamento em segundos, amparadas por uma infraestrutura comum que dispensa uma relação prévia de confiança pessoal. Mais que um canal para transferir dinheiro, a rede transforma as condições em que podemos trabalhar e fazer negócios. Nas plataformas digitais, algo semelhante acontece com as credibilidades. Relações entre desconhecidos adquirem eficácia monetária e passam a nutrir novas atividades.
Enquanto o Pix repousa sobre uma infraestrutura pública, as plataformas privadas procuram apropriar-se das relações que ajudam a organizar. A riqueza produzida em comum reaparece como propriedade de poucos. O general intellect não é apenas uma força produtiva comum, mas também um terreno de disputa sobre quem governa a cooperação social.
*
Nietzsche suspeitava do eu que se proclama autor de seus pensamentos. Marx permite levar a suspeita mais longe. Até mesmo esse eu, tão zeloso da sua consciência, deve suas capacidades a uma inteligência social que o precede. A língua em que pensa não emergiu dentro de sua cabeça, assim como a confiança que lhe permite negociar com um desconhecido não reside em nenhum dos dois. São potências da vida comum que nenhum indivíduo poderia produzir isoladamente.
Nos LLMs, essa inteligência social ressurge como uma maquinaria capaz de participar da elaboração de novos enunciados e até de transformar nossas maneiras de pensar. Para reconhecer a novidade, não precisamos conjecturar uma consciência oculta entre seus circuitos.
E há nisso um recorte marxiano. O capital se apropria das condições em que o sentido se produz e ganha eficácia social. O que ninguém poderia criar sozinho reaparece como capacidade explorada comercialmente, cujos rendimentos esperados podem ser capitalizados em ativos financeiros. A questão deixa de ser se a inteligência artificial compreende o mundo e como o compreenderia, e sim quem governa os meios pelos quais participamos de sua compreensão.
Voltemos de novo ao homem de Searle.
O chinês da mensagem que entra pela portinhola pertence a uma história que nenhuma sala poderia conter. Os manuais são frutos de uma inteligência coletiva que o experimento toma por dada. Fechar a porta e procurar ali o segredo da compreensão seria repetir o expediente metafísico de que falávamos, ao isolar uma capacidade de sua gênese e depois procurar uma causa mágica para o que ficou sem explicação.
Aí está o deus ex machina desta época. Não precisamos fazer descer uma divindade sobre o palco. Basta imaginar que, em algum recanto do cérebro, subsistiria uma faculdade soberana que nenhuma outra organização da matéria poderia alcançar.
Depois de tanto procurar uma alma na massa cinzenta, corremos o risco de procurá-la entre os algoritmos. Mudamos de caixa, mantemos a superstição. E talvez não tenhamos percebido que, enquanto examinamos o interior das máquinas, a inteligência social já transforma o mundo à nossa volta e a nós mesmos.
COPÉRNICO, Nicolau. De revolutionibus orbium coelestium. Norimbergae: apud Ioh. Petreium, 1543.
CRONENBERG, David (dir.). eXistenZ. Canadá; Reino Unido, 1999. 1 filme (97 min).
DARWIN, Charles. On the origin of species by means of natural selection, or the preservation of favoured races in the struggle for life. London: John Murray, 1859.
FREUD, Sigmund. Uma dificuldade da psicanálise (1917). In: FREUD, Sigmund. Obras completas, v. 14: História de uma neurose infantil (“O homem dos lobos”), Além do princípio do prazer e outros textos (1917–1920). Tradução de Paulo César de Souza. São Paulo: Companhia das Letras, 2010. p. 240–251.
MARX, Karl. Diferença entre a filosofia da natureza de Demócrito e a de Epicuro. Tradução de Nélio Schneider. São Paulo: Boitempo, 2018.
MARX, Karl. Manuscritos econômico-filosóficos. Tradução de Jesus Ranieri. São Paulo: Boitempo, 2004.
MARX, Karl. Grundrisse: manuscritos econômicos de 1857–1858: esboços da crítica da economia política. Tradução de Mario Duayer e Nélio Schneider. São Paulo: Boitempo; Rio de Janeiro: Editora UFRJ, 2011.
MARX, Karl; ENGELS, Friedrich. A ideologia alemã: crítica da mais recente filosofia alemã em seus representantes Feuerbach, B. Bauer e Stirner, e do socialismo alemão em seus diferentes profetas. Tradução de Rubens Enderle, Nélio Schneider e Luciano Cavini Martorano. São Paulo: Boitempo, 2007.
NIETZSCHE, Friedrich. Além do bem e do mal: prelúdio a uma filosofia do futuro. Tradução de Paulo César de Souza. São Paulo: Companhia das Letras, 2005.
NIETZSCHE, Friedrich. Humano, demasiado humano: um livro para espíritos livres. Tradução de Paulo César de Souza. São Paulo: Companhia das Letras, 2005.
PLATÃO. Íon. Tradução de Cláudio Oliveira. Belo Horizonte: Autêntica, 2011.
SEARLE, John R. Minds, brains, and programs. Behavioral and Brain Sciences, Cambridge, v. 3, n. 3, p. 417–424, 1980. DOI: https://doi.org/10.1017/S0140525X00005756.
As opiniões expressas neste artigo são de responsabilidade exclusiva de seus autores e não refletem necessariamente a posição da Universidade Nômade.
