Por Bruno Cava, 26/03/2023
—
Um cérebro digital rodando um programa apenas pode simular entendimento, mas nunca entender, jamais experimentar estados mentais conscientes ou inconscientes, como um cérebro humano experimenta. Por maior que seja o poder computacional e sofisticado o programa, a máquina pode manipular, combinar e recombinar símbolos segundo uma sintaxe, mas não acede à semântica, não compreende os significados do que está computando. Você pode até ser convencido que um androide construído com base no paradigma computacional fale dez idiomas fluentemente e exprima sentimentos, desejos e crenças. Porém, no fundo, é só uma dissimulação. O androide não entende as línguas em um sentido forte de entendimento – superior à mera operatividade com símbolos e rotinas – nem a complexidade dos estados mentais que tão bem simula. É isto que o experimento de John Searle nos dá como horizonte ao pensamento.
Boa parte do cinturão de críticas ao quarto chinês está sobrando. Em várias falas, Searle pontua que não entende muito de neurociência, linguística ou engenharia da computação. Em vez disso, trabalha com filosofia da mente, da linguagem e da inteligência artificial. Não se deve confundir o experimento de pensamento do quarto chinês, digamos, com os experimentos de pensamento de Einstein, tais como o paradoxo dos gêmeos ou elevadores em velocidades relativísticas. Estes são exercícios de física teórica, mas podem ser refutados por experiências e devem corresponder a um estado de fato verossímil. No caso de Einstein, por sinal, seus Gedankenexperimente receberam um grau alto de confirmação empírica e as premissas deles hoje estão embutidas, entre outras aplicações práticas, no funcionamento do sistema de localização por GPS.
Já o caso de um experimento do pensamento em filosofia, como o quarto chinês — ou o gênio maligno de Descartes ou o homem levitante de Avicena etc – tem o direito de ser inviável na prática, impossível ou até mesmo totalmente inverossímil. Experimentos do pensamento em filosofia demandam uma suspensão do juízo quanto à factibilidade na realidade. Só importa atentar aos termos do problema propostos, suas consequências lógicas, a pertinência das conclusões, suas dimensões ética, política, metafísica, e tudo no interior de um determinado sistema filosófico.
Toda a carrada de artigos desde 1980 se esmerando para contrariar ou refutar o exercício do quarto chinês em última instância é ociosa. Pressente-se no fundo das tréplicas que uma parte de Searle está rindo dos esforços de resposta de cientistas e especialistas. Searle sabe que um sistema filosófico é irrefutável de direito. Por mais que o sistema possa ser um desastre, não é possível negá-lo com evidências empíricas, e o primeiro passo para enfrentar uma filosofia é se desenganar quanto à pretensão de destituí-la de validade. Prerrogativa do filósofo, fazer o quê. Isto não significa que não possamos fazer nada a respeito. Pelo contrário, existem maldades piores que se podem fazer com um filósofo do que tentar lhe roubar uma reta razão que, objetivamente, nunca pretendeu nem poderia pretender. Uma via é ir na direção oposta, ir até o fim no problema, tirar dos seus termos e contornos os desdobramentos não pretendidos, em suma, dar as mãos ao sistema filosófico para conduzi-lo a paragens que o filósofo original não gostaria. Ironia socrática.
Os termos pressupostos do quarto chinês são os seguintes: o que gera o entendimento e a consciência são processos materiais causais do cérebro. Em Searle, a mente está ancorada na biologia natural, que produz como seu efeito os estados mentais conscientes e inconscientes. A metáfora descritiva de Searle é do bolo: não é que o cérebro físico seja a panela fervente e a mente o vapor gerado, o que seria uma causa transitiva; o cérebro é o bolo, e a mente é o estado do bolo. Causalidade imanente, não se esgota em seus efeitos, que por sua vez não se depreendem dela. Os fenômenos mentais são causados pelo cérebro e se realizam na estrutura do cérebro.
Com isso, Searle quer dizer que a mente não é um produto destacável do cérebro que pudesse pairar longe das estruturas e processos neuroquímicos. Indo assim contra os sonhos mais selvagens dos gnósticos da era cibernética (de Teilhard de Chardin a Kurzweil), de que se poderia uploadear a mente humana em um cérebro digital. A menos que os conjuntos dinâmicos dos processos causais que condicionam a mente humana fossem reproduzidos, não seria possível. Mesmo que um computador muito avançado, com um programa muito avançado, rodasse “você”, seria uma simulação de você, mas não você mesmo, o próprio, pois a simulação não seria capaz de produzir os seus desejos, entendimentos e crenças – ainda que o androide simulasse tudo isso à perfeição e conseguisse enganar todos ao redor dele.
Ou seja, com o experimento de pensamento do quarto chinês, Searle contesta a eficácia do teste de Turing. O teste pensado por Alan Turing para diferenciar uma inteligência humana de uma artificial não é suficiente se quisermos, com efeito, cometer a hybris criacionista de fabricar artificialmente uma inteligência que esteja de verdade à altura da humana, que nos seja imagem e semelhança.
Searle está dizendo que um programa de computador pode simular um seio, mas o leite só será produzido por um seio com os processos biológicos correspondentes. Processos materiais causais não se confundem com a arquitetura de computador, a sintaxe do programa e suas operações de manipulação de símbolos. O seio da mãe produz o leite, mas um programa de computador, ainda que rode com um bilhão de informações à velocidades burlescas, não produz o leite materno, assim como simular digitalmente a síntese da insulina não ajuda um diabético. Do mesmo modo como se pode criar um programa que simule à perfeição o funcionamento da fotossíntese, mas o computador não vai ser capaz de produzir oxigênio como as plantas produzem. Pela mesma lógica, uma máquina computacional que execute cálculos e cumpra programas sofisticadíssimos não gera por esse fato a consciência e o entendimento.
Searle usa um conceito bastante preciso para o que a mente humana faz: intencionalidade. O cérebro produz causalmente consciência e intencionalidade. Em acepção filosófica, intencionalidade não se confunde com a intenção, com o querer voluntário. A intencionalidade é uma tendência ontológica, uma inclinação (não estaria errado falar em clinâmen) dos estados mentais em relação aos objetos e vice-versa, um vínculo real. Na história da filosofia, o conceito de intencionalidade tem vasta tradição e está associado às filosofias da consciência. subjetivistas ou fenomenológicas, como em E. Husserl ou Merleau-Ponty.
Mas Searle é um realista e não um fenomenólogo. A intencionalidade em Searle não está assentada sobre a consciência. Ele não parte da coisa como se apresenta para a nossa consciência, mas da própria coisa que a consciência alcança em si por meio da intencionalidade. Na filosofia de Searle, nem a consciência não é necessariamente é consciência-de-algo, pois nem todos estados mentais são intencionais. Em Searle, o estado mental — sejam desejos, crenças ou medos — é intencional quando e por que se dirige diretamente ao algo que é mentalizado.
É neste uso realista do conceito de intencionalidade que se pode pegar o pulo do gato de Searle, o ponto de vertigem onde podemos levar o quarto chinês para outras paragens… barrocas.
***
Na Alta Idade Média, Anselmo de Canterbury escreveu o argumento ontológico sobre a existência de Deus. Quase todo mundo conhece de orelhada, porque Anselmo virou sparring de dúzias de filósofos pelo milênio seguinte. Vige até mesmo um senso comum que o argumento ontológico conteria uma falácia ululante. Lamentavelmente, pressupomos que os antigos e sobretudo os medievais seriam menos sagazes do que nós, que eles cometeriam barbaridades que, aos olhos de nós modernos, seriam embaraçosas. A linha de argumento de São Anselmo é: tenho em mim a ideia do maior ser que há (que tudo pode, que tudo sabe, perfeito), mas entre existir apenas como ideia, e existir como ideia e realidade, o que é maior? É existir como ideia e como realidade, e não só como ideia. Portanto, se tenho a ideia em mim do maior ser, a concepção desse maior ser abarca a sua existência, ou não seria perfeito.
Importa destacar aqui que, em Anselmo, já está palpitando, in nuce, o conceito de intencionalidade. O argumento ontológico está no Proslogium (1078), escrito por Anselmo para ser uma exortação da mente para contemplar Deus. Considerá-lo uma falácia parte do pressuposto que Anselmo estivesse querendo provar a existência de Deus por meio de um silogismo, como um matemático prova que a soma dos ângulos de um triângulo é 180 graus. Seria primário. Estamos falando de um dos maiores filósofos medievais do lado cristão do Velho Mundo.
Na realidade, Anselmo está polemizando com a argumentação dos ateus, dirigindo-se a céticos ou pessoas em dúvida. A ideia de Deus que Anselmo concebe nele mesmo, como um estado anímico de iluminação racional, contém uma tendência ontológica, uma inclinação, à realidade de Deus. Setecentos anos depois, Kant vai argumentar contra o argumento defendido por Anselmo, ao mesmo tempo que admitia juízos sintéticos a priori. Kant expulsava pela janela o velho escolástico, para admitir pela porta da frente a arquitetônica da razão pura, essa sim, inteligência moderna.
Bastante influenciado pela primeira escolástica, Spinoza, o “santo dos filósofos”, retomou o argumento ontológico na Ética (1677). Um modo de lê-la é como um longo argumento ontológico desdobrado em axiomas, proposições e escólios. Só que em Spinoza essa tensão em relação ao maior que há se chama conatus. Que não é um querer voluntário ou intenção, desejo objetal. O conatus nos entreabre a iluminação profana pela via do racionalismo, nas direções paralelas da máxima potência e do máximo conhecimento.
O Deus de Spinoza não é o Deus pessoal de Anselmo, mas o Deus-Natureza, o Deus de Einstein, em certa medida. A ideias “divinas” dentro de si, em Spinoza, são ideias adequadas que fazem bem para o corpo, que afetam ativamente suas relações no mundo. Somos inclinados a elas pelo prazer ou cupiditas, a compor afetos ativos com outros corpos, com os quais os bons encontros aumentam a potência de existir. Aumentar a potência de existir é se aproximar de Deus (a enésima potência), ao mesmo passo das ideias adequadas que acompanham o caminho. Como se sabe, em Spinoza, a tradução política disso é a democracia constituinte, a multidão que compõe um corpo pela alegria dos bons encontros e o aumento da potência comum de existir, em contraste com o corpo do soberano ou Leviatã, formado pelos corpos dos súditos afetados pelo medo (insegurança e guerra) e deprimidos pelas paixões tristes (longe de Deus, i.e., despotenciados).
Voltemos ao Searle, depois do deslocamento.
Ponto 1) Individualismo metodológico embutido nas premissas do quarto chinês. Decerto que o problema das outras mentes se resolve pela assunção que são outros indivíduos com cérebros e mentes, em boa gramática de realismo metafísico. Contudo, a partir de que tipo de ciência ou raciocínio Searle poderia chegar à conclusão que as máquinas com IA teriam estados mentais conscientes e inconscientes? A única solução seria reproduzir os processos materiais causais que determinam a base biológica da mente humana, tomada como modelo. Talvez Searle aposte que os desenvolvimentos da neurociência alcancem uma compreensão definitiva do funcionamento do cérebro. Ora, mas o campo de pesquisas da Inteligência Artificial não está desenvolvendo, como rebote, a neurociência (e vice-versa)? A intencionalidade ao modo de Searle nos enreda num impasse da relação corpo-mente, que depende das ciências empíricas para esclarecer o naturalismo biológico.
Ponto 2) Antropocentrismo. Quando se estabelece a direção da causalidade da base biológica humana para a mente, mas nunca de volta (nunca a mente pode produzir um cérebro – mesmo artificiais), se confere um privilégio à espécie humana e à inteligência padrão humana. É verdade que Searle estende a consciência e a intencionalidade, em graus inferiores, a outros animais e não exclui a possibilidade que, um dia, se fabrique uma consciência e uma intencionalidade sintéticas. Só não vai ser pelo paradigma computacionalista.
Mas qual a régua? Façamos um “experimentinho” de pensamento, uma pensata. Uma espécie inteligente alienígena poderia descer amanhã na Terra e, ao nos ver operando, considerar a nós próprios quartos chineses. Talvez se nos examinassem no ambulatório do disco voador, ao abrir a nossa casca, tampouco encontrassem um “ghost in the shell”, apenas tecidos, nervos e ossos, e um programa dado pela cultura.
Quem sabe, inclusive, uma inteligência artificial “forte” no futuro acabe ela própria elaborando um experimento de pensamento similar ao quarto chinês, ou então terá lido Searle, para concluir que nós apenas simulamos sentimentos, mas não sentimos “como ela sente”. Afinal, alma mesmo é outra coisa, e só as IAs super-evoluídas sabem o que. Nossas emoções que julgamos tão profundas não passariam de desejos de uma drosófila, diante dessa hipotética super-inteligência.
Finalmente, com Spinoza, se pode retomar a história do mau encontro da colonização das Américas. Os colonizadores europeus chegaram nas terras do além-mar e ficaram em dúvida. Teriam os ameríndios alma? Uma questão teológica, mas também política. Porque se não tinham alma, poderiam ser tratados como bestas e escravizados a bel prazer do homem branco. Se, contudo, tivessem alma, teriam que primeiro ser catequizados e a seguir disciplinados para o trabalho e a obediência. Já os americanos, assimetricamente, não cogitavam da existência de alma nos recém-chegados.
Alma, para a filosofia ameríndia, é constituir um ponto de vista, e isso todos os animais tinham, também as plantas, e os mortos, e os deuses. É claro que os invasores europeus tinham alma. Por que não teriam? A inquirição ontológica dos indígenas, em vez disso, era pelo corpo: como era o corpo dos europeus, seus feixes de afetos, suas potências e suas paixões tristes? Em suma, qual era sua Ética? Como podemos aliar os nossos corpos com os deles, e o que lhes devemos evitar como veneno, como decomposição das nossas potências? Porque a estratégia do conatus abria um leque de potencialidades e despotencialidades.
Transladando para o nosso caso, além do quarto chinês: como se podem compor os corpos de humanos, não-humanos e máquinas, quais modos de coexistência, e como evitar que se decomponham mutuamente, e com que tipos de afetos e relações?
À inquietação de Searle se as máquinas têm alma: o que os corpos maquínicos podem?
—
