Por Bruno Cava, 19/03/2023
Chomsky virou aquelas matronas de livro que se arrogam o dever moral de alertá-lo sobre os perigos do mundo. Afinal, algo pode dar errado, existem pessoas más lá fora, não se deixe enganar, os lobos em pele de cordeiro, nem tudo que brilha é ouro e chavões admonitórios do tipo. É um macete.
Na recente intervenção no New York Times, traduzida ao português pela Folha (‘A falsa promessa do ChatGPT‘), Chomsky acusa o último protótipo de chatbot de exibir a “banalidade do mal”, “degradação da ciência”, “rebaixamento da ética” e “é pra rir ou chorar de sua popularidade”.
Chomsky investe contra um dos mais instigantes e densos campos de pesquisa científica hoje: Inteligência Artificial e/ou aprendizado de máquina.
Segundo Chomsky, é o triunfo do plágio no mais alto grau. De fato, milhões de estudantes em língua inglesa já estão usando o ChatGPT para fazer seus deveres de casa. Isso mostra como o ChatGPT é amoral? Que as crianças e adolescentes são imorais? Não. Mostra como devemos reavaliar o dever de casa que é passado nas escolas do século XXI.
A fronteira da IA revela mais sobre nós, sobre o que realmente é aprendizado e inteligência no humano “natural”, do que cassandras chomskyanas imaginam estarem desmascarando no ser artificial.
Fazer profecias apocalípticas é um truque velho para parecer mais inteligente do que se é. Por mais inteligente e palpitante que o conjunto da obra e todas as intervenções públicas de Chomsky sejam, esse seu último artigo ficou aquém do sofrível.
O artigo é tão fraco que acusa o ChatGPT de não conseguir captar a nuance da frase “João é teimoso demais para conversar”, porque o bot ficaria “marinando no big data”. O autor nem se deu ao trabalho de fazer o teste, como aqueles jesuítas que acusaram Galileu, mas não olhavam no telescópio. Ora, uma multidão foi lá checar e o ChatGPT, na grande maioria das interações, pegou a referida nuance. Não foi difícil.
Nem a citação de Borges no início funciona bem com o desenvolvimento argumentativo adotado por Chomsky e os dois coautores. Ficou parecendo mais um enfeite, um penduricalho retórico. E justo de Borges, que tem tantos textos sobre bibliotecas imensas, mas fúteis e inúteis. A obra borgiana tem diversas passagens que Chomsky poderia ter aproveitado para ilustrar sua acusação. A mim, só um leitor esparso e irregular de Borges, me ocorrem de imediato o conto “Funes, o memorioso” e “A biblioteca de Babel”, que sentariam muito melhor no artigo do que a passagem escolhida por eles.
Nem dá para dizer que Chomsky se apegou a algum sentimento de velha guarda, que não consegue mais compreender as novas gerações, que olha torto para as ciências de fronteira, repetindo “nada de novo sob o Sol”.
Não é isso. Não pode ser falta de atualização. A base teórica para o desenvolvimento do ChatGPT pode ser encontrada na teoria matemática da comunicação de Claude Shannon, publicada em um artigo de 1948, na década anterior aos primeiros trabalhos acadêmicos de Chomsky. Supõe-se que ele tenha lido, porque é canônico. E para um a-b-c sobre modelagem estatística de aprendizado linguístico, se pode conferir o livrinho de capa verde de Eugene Charniak (MIT press, 1993), super-pertinente.
Não foi a primeira vez que Chomsky desmereceu o campo da IA. Convidado para falar num simpósio por ocasião do 150º aniversário do MIT, de que foi docente, desdenhou em sua fala dos pesquisadores presentes e de suas pesquisas em IA/aprendizado de máquina. A fala completa dele está disponível online. Extraio alguns pontos quentes das acusações de Chomsky:
1) Não seria ciência, apenas aplicação prática de engenharia;
2) Apenas se aplicariam métodos indutivos de força bruta num conjunto abissal de dados para produzir as respostas, mas a máquina não compreende o significado, não interpreta os dados, não agrega valor de conhecimento;
3) Trabalha-se apenas com correlação e não causalidade, o que não alcança estatuto científico; e
4) Não se eleva ao método humano de aprendizado e uso da linguagem, o único significativo, criativo e ético, enquanto o da máquina seria apenas maquinal, vazio de sentido.
A palavra apenas está sobrando nos quatro pontos chomskyanos. Apresento abaixo alguns motivos por que está sobrando:
1) As engenharias não deixam de ser ciências, embora sejam ciências aplicadas, debruçadas em como os sistemas funcionam, o que fazem, para que servem. Nessa atividade prática, suscitam desenvolvimentos das ciências teóricas e seus modelos. Frequentemente, engenheiros e inventores vêm antes dos pesquisadores que, a posteriori, aproveitam os achados e vão teorizar sobre o que fizeram, sobre o que funcionou ou não funcionou.
Chomsky parece esquecer capítulos relevantes da história das ciências. Por exemplo, que a Termodinâmica não antecedeu os primeiros motores a vapor e o ciclo de Carnot. Não é que vieram os físicos e ensinaram os engenheiros a fazer motores. Ao contrário, os técnicos da revolução industrial precederam as formulações e modelagens da Termodinâmica.
Outro exemplo é a teoria monetária: praticada por mercadores, banqueiros e financistas antes de qualquer economista modelar a lógica do dinheiro ou lhes guiar a prática.
Dei dois exemplos de antecedência nítida, mas no geral o funcionamento é entretecido e concomitante, em circuito virtuoso.
Não bastasse isso, desde o final da década de 1940, a virada cibernética que apontou para a IA se deu abrindo um espaço transdisciplinar, interligando ciências exatas, humanas e biológicas. O título do chef d´œuvre de Norbert Wiener, também de 1948, é: “Cybernetics: or control and communication in the animal and the machine”.
Chomsky fazer uma defesa purista da ciência teórica em 2023 denota um desconhecimento básico sobre pelo menos 80 anos de pesquisa e desenvolvimento desse campo.
2) Pode-se dizer o que quiser que o chatbot não está compreendendo o que diz, que não entende “como um humano” entende, ou que está apenas adensando sentenças por funções de probabilidade. Ocorre que se, tomando as respostas, você não conseguir diferenciar o que o bot faz do que uma pessoa humana faz, a diferença não é relevante. A máquina em questão passa no teste de Turing se você não conseguir mais distinguir, num teste informado e esclarecido, entre as respostas dela e as respostas humanas. Não estou dizendo que o ChatGPT passa no teste de Turing em sua versão qualificada. Porém, a recente evolução dos modelos de linguagem, associada a melhores algoritmos e maior volume de dados, está caminhando nesse sentido.
O que acontece no interior do silício, o grau de “consciência” imanente ao processo, é uma questão interessante; contudo, qualquer que seja a resposta, não desqualifica a produção dos resultados, como Chomsky parece acreditar.
3) Esta objeção é a única pertinente, mas pressupõe que a inteligência humana tenha facilidade em diferenciar causalidade de correlação. Não temos. É um problema geral e que corta transversalmente as ciências e as pesquisas mais avançadas. É verdade, contudo, que o ser humano tem acesso a um senso comum, generalista, capaz de reduzir enormemente o leque possível de inferências causais. Porém, nem sempre isso é uma vantagem para a inteligência humana, pois o bom senso também pode ser uma prisão, impedindo-nos de ousar novas soluções para velhos problemas. Pensar criativamente significa, muitas vezes, enfrentar o senso comum, fazer inferências antes impensáveis e, por meio de raciocínio abdutivo, romper com o modo de pensar habitual e estabelecido. Nesse sentido, a inteligência artificial pode até oferecer insights sobre as relações entre ocorrências na realidade que simplesmente não conseguimos enxergar, devido à petrificação de uma certa forma de ver e processar.
De todo modo, não significa que um modelo algorítmico transformador de linguagem não possa ser treinado de modo a tornar-se mais seletivo, para abarcar a distinção correlação/causalidade. Essa objeção de Chomsky, no fundo, é um limite produtivo, pois leva os pesquisadores e engenheiros a aprofundar não só o modelo matemático implicado, como também as distinções sutis e metafisicamente manhosas entre correlação e causalidade.
4) Neste ponto, vale remeter ao debate entre Foucault e Chomsky em 1971. Nele, Chomsky defende que a natureza humana contém, em seu código genético, invariantes estruturais que ordenam uma gramática universal.
Já Foucault argumenta que habitamos um solo epistemológico que nos condiciona o que pode ser dito e as relações entre o dito e o não-dito, entre o saber e o poder, nada existindo de universalmente válido. Por assim dizer, Foucault historiciza o sujeito transcendental kantiano, isto é, ele nega a unidade de um ser humano que teria surgido como ser mudo e depois adquirido a linguagem. Em Foucault, a própria noção de uma natureza humana é um constructo epistêmico específico e delicado, que aliás caiu em desuso com a passagem para a idade moderna (a dita “Morte do Homem”, que sucede a de Deus). Seria interessantíssimo ler o que Foucault, da mesma geração de Chomsky, teria escrito sobre o ChatGPT se estivesse vivo.
Isso não significa que a posição de Foucault no referido debate corresponda à do relativismo, em relação ao qual Chomsky seria um universalista convicto. Chomsky assume, de fato, uma posição de dogmatismo da natureza humana, com contornos universais, enquanto Foucault, filósofo igualmente interessado na ética e nos regimes da veridicção, remonta às condições transcendentais que permitem o surgimento na história de algo como um sujeito universal o Homem (até um dia desaparecer). Com a obra de Foucault podemos compreender melhor como a passagem no teste de Turing nos conduz a uma realidade epistêmica diferente, na qual a ação humano-máquina torna-se central no mundo do trabalho, nas relações interpessoais e na relação de si consigo mesmo. Em vez de uma ética universal deduzida da humanidade de todos, um ethos, uma nova forma de vida ligada ao mundo maquínico para o qual somos arrastados há algumas décadas e com o qual teremos de lidar.
Não me admira que Chomsky, um libertário e inventivo intelectual no século XX, tenha se tornado um conservador tout court. Outras manifestações recentes dele, no campo político, caem nesse mesmo problema: o que parecia ousado e subversivo há 40 anos, repetido hoje, numa nova conjuntura, soa somente melodramático.
—
