A máquina pensante

Uma questão atazanou Ludwig Wittgenstein: Poderá uma máquina pensar? Isso nos idos de 1933, o filósofo vienense, naturalizado britânico, ditou uma série de reflexões que revolucionariam a filosofia ocidental. E, tais reflexões ficaram grafadas em cópias encadernadas com capaz azuis.

Por essa razão ficou famoso em ser O livro azul ou Blue Book. E, sua fama, aliás, extravasou as fronteiras da filosofia, chegando até a cultura pop. Novamente, essas reflexões são pertinentes em face do debate contemporânea sobre a inteligência artificial.

No momento em que foram formuladas tais questões a proposta era meramente teórica, mas já indicavam que os humanos se assustavam com o poder e possíveis ameaças da ciência moderna. E, lembremos do monstro criado a partir de retalhos humanos feito pelo Barão Victor Frankenstein, na obra famosa de Mary Shelley que foi publicada em 1818.

O principal temor seria que tais máquinas pudessem dominar a vida e pensamento e, portanto, todo o mundo o que foi expresso em diversos livros e filmes. Afinal, qual seria o terrível fim reservado ao planeta Terra. É verdade que tais cogitações somente habitavam o território da ficção científica.

Contemporaneamente toda nossa vida está eivado pelo uso de computadores e um repositório de informação quase infinito disponível na internet.

Com o advento do ChatGPT e, ainda, outras ferramentas de inteligência artificial novo cenário se apresenta com maior dinâmica e riqueza. As máquinas agora parecem mesmo falar e interagir conosco de maneira muito pouco distinguível da de outro ser humano. Estas realizam tarefas que, até poucos meses, considerávamos a quintessência de nossa própria humanidade: fazer ilustrações, compor trilhas sonoras, escrever toda sorte de textos. Estariam as máquinas ganhando vida, consciência, pensamento?

A questão proposta por Wittgenstein em seu Livro azul volta a nos assombrar. Agora não mais na ficção, mas em nossa vida mais cotidiana.

Mas, retornando ao questionamento: Não, as máquinas não podem pensar. Para Wittgenstein, a própria pergunta conteria um sério problema. Não porque seja difícil respondê-la, no sentido científico da palavra.

O problema central, aqui, não reside na falta de dados suficientes ou de experimentos adequados para investigar a questão. Em outras palavras, para Wittgenstein, o problema não é factual ou empírico.

O problema é lógico. A despeito das aparências, a pergunta “Uma máquina pode pensar?” simplesmente não faz sentido. “É como se nós tivéssemos perguntado”, diz Wittgenstein no Livro azul, “se o número três tem uma cor”.

Enfim, para entender do que Wittgenstein está cogitando, vale a pena examinar algumas outras perguntas do mesmo tipo, que só aparentemente fazem sentido, como: “A formiga trabalha?” ou “A cigarra canta?”.

Com relação à cigarra, certamente emite sons em volume expressivamente alto, sendo capaz de sustentar essas emissões por longos períodos. E, em certo sentido, isso é cantar. Há, de fato, sucessões melódicas e, as combinações altamente organizadas do sistema tonal, com propósito lúdico ou estético.

Porém, há uma concreta distância entre o canto de Maria Callas para o canto da cigarra. E, o inseto somente por uma metáfora canta. E, tal riqueza analógica pode nos levar a muitos equívocos, dos quais frequentemente temos grande dificuldade escapar.

Aliás, o filósofo vienense costumava afirmar que o objetivo da filosofia era auxiliar a mosca a sair da garrafa onde está presa. Essa garrafa era a linguagem.

Numa fábula inventada pelo filósofo e publicada em suas Observações sobre os fundamentos da matemática poderá esclarecer em qual medida os seres humanos e máquinas calculadoras fazem coisas diferentes.

E, afirmou que se encontrássemos calculadoras surgindo, como se fossem frutos. Propomos então alguns cálculos, simplesmente apertando suas teclas e, descobrimos que esses frutos sempre dão resultados corretos. E, não temos a menor noção de como fazem isso. E, ao inspecioná-los, descobriríamos como as máquinas calculam.

Existe aqui, portanto, uma assimetria fundamental: somos nós, por meio de nossos cálculos, que estabelecemos se os frutos misteriosos estão chegando aos resultados esperados – e não o oposto. É verdade que, com o decorrer do tempo, passaríamos a confiar cada vez mais nesses resultados, chegando até mesmo a utilizá-los para descobrir erros cometidos por humanos.

Tal confiança, porém, estaria baseada em mera extrapolação empírica. Como nossas repetidas experiências com o fruto-calculador mostraram que vale a pena confiar nos dados que produz, iremos supor que o melhor é seguir confiando nele.

Mesmo assim, a assimetria permaneceria intocada: em caso de divergência no futuro, serão nossas contas que vão determinar se os frutos ainda funcionam bem, pois é somente na nossa atividade de fazer contas que estão dados os critérios para que uma conta esteja certa.

A referida fábula promove a simples constatação de que os símbolos corretos aparecem em um visor não é suficiente para afirmar que as calculadoras calculam. Há, uma segunda razão que leva a pessoa a afirmar que a calculadora calcula.

Aliás, é um dispositivo cuidadosamente construído com sofisticados mecanismos internos para exibir os resultados corretos de operações matemáticas. E, o faz por meio de mecanismos e programas que simulam as etapas lógicas que produzem o sentido e resultado do cálculo matemático e, não a mera aparição no visor que coincidem com o referido resultado.

O problema dos possíveis erros que podem ocorrer. De fato, tanto uma calculadora como um ser humano podem cometer erros no cálculo.

No caso de um ser humano, o erro pode acontecer por diversos motivos: por esquecimento da regra correta que deveria ser aplicada em determinado passo, pela compreensão errada dessa regra, por simples distração etc. Em todos esses casos, podemos dizer à pessoa que ela está errando e explicar qual é o erro.

A depender da complexidade dos cálculos, esse erro pode ser mais fácil ou mais difícil de ser reconhecido, e pode até mesmo surgir uma discordância quanto à maneira correta de proceder em certa etapa. Qualquer que seja a discussão, porém, ela terá sempre a mesma forma.

Uma pessoa dirá à outra: “O modo correto de fazer a conta é este, e não aquele. É assim que você deve proceder, e é este o resultado que você deve obter.”

É a possibilidade do erro que torna mais clara a analogia entre calculadores humanos e as calculadoras artificiais. Enquanto corrigimos seres humanos, lhes ensinamos, ministramos estudos e pesquisas oferecemos prêmios como incentivos para novos acertos, censuramos erros etc.

De outro, nós consertamos (ou reprogramamos) máquinas. Somente loucos poderiam oferecer uma tarde no parque para as calculadoras que tiverem os melhores resultados no escritório (aquelas que fizeram o que deveria ter sido feito).

O que justifica a diferença de nosso comportamento em relação a máquinas e humanos é que coisas não podem nunca justificar a si mesmas. Um ato adicional é necessário para que digamos que ela agiu como deveria ter agido, ou que agiu de modo correto, ou que calculou corretamente. Trata-se de um ato valorativo, ou seja, capaz de atribuir valor a certos fatos.

A respeito de algum resultado, que ele está “correto” ou “incorreto”; mas podemos dizer também que ele é “inaceitável” ou que é “belo”. Ao fazer isso, mobilizamos nossa “humanidade”: toda a civilização humana a que pertencemos, simplesmente por falar uma língua comum e interagir com outros humanos por meio dela.

Alan Turing pareceu embaralhar a distinção entre máquinas e humanos. Em 1950, o prodígio matemático apresentou um desafio aos desenvolvedores da inteligência artificial do futuro.

Se uma máquina, em certo contexto específico, for capaz de convencer humanos de que é um humano, então, segundo Turing, deveríamos atribuir inteligência à máquina. O teste, baseado num jogo de salão popular à época (o “jogo da imitação”), segue sendo bastante útil em nossos dias.

Há muitas pessoas já familiarizadas com os captchas, que são obstáculos que usualmente se interpõem entre nós e determinada página da internet que gostaríamos de visitar. Para vencê-los, precisamos provar que conseguimos ler letras e números distorcidos ou até reconhecer certo número de semáforos numa sequência de fotografias, por exemplo.

E, assim, periodicamente, estamos nos submetendo aos testes de Turing, Captcha é o acrônimo, em inglês, de Teste de Turing Completamente Automatizado para Distinguir Computadores e Humanos.

Se uma pessoa consegue passar por esse cérebro no século XXI, cruzar o portão do Captcha e chegar à página de destino, então ela pode se sentir plenamente humana, ou, ao menos, sentir-se um ser ao qual se pode atribuir inteligência. O conforto era apenas momentâneo Em breve, diferentes máquinas conseguirão resolver uma série cada vez mais ampla desses desafios.

Urge ter algum cuidado aqui. Turing não pretendia dizer que máquinas capazes de nos convencer de que são seres humanos são, efetivamente, seres humanos.

A capacidade de passar no teste de Turing diz muito pouco a respeito de uma máquina: diz apenas que ela é capaz de agir, em certas situações, como um ser humano age. Contudo, é justamente a partir dessa premissa inocente que muitos se sentem confiantes para dar um passo além e afirmar: “Não há razões para não chamar de pensante uma máquina que age como um humano pensante.”

Essa dedução é um embaralhamento que Turing ajudou a produzir. Pois seguimos sem ter um critério claro e seguro para dizer o que é este “algo a mais” que nos torna humanos.

Além disso, somos apresentados a um teste que sugere que este “algo a mais”, seja o que for, é irrelevante: bastaria que uma máquina fosse capaz de emular os processos de pensamento humanos para que a classificássemos como “dotada de inteligência” – uma inteligência artificial, certo, mas indistinguível da inteligência humana. As coisas, entretanto, não se dão bem assim.

John Searle, um dos mais importantes filósofos americanos em atividade (aliás, que foi profundamente inspirado por Wittgenstein), imaginou-se sozinho, com um grande livro de instruções, em um quarto com duas pequenas janelas. Por uma das janelas, ele recebe folhas com sinais escritos em mandarim, língua que desconhece completamente.

Seguindo as instruções do livro, o filósofo consegue fazer uma série de correlações de sinais nas folhas recebidas pela janela e produzir novas folhas, com novos símbolos em mandarim, que ele entrega pela segunda janela.

Mas eis o plot twist: Searle não sabe que as folhas em mandarim que recebeu contêm perguntas, que o livro de instruções funciona como um programa de computador e que, recorrendo a ele, o filósofo apresentou respostas corretas e convincentes às perguntas formuladas.

Enfim, a grande moral da história, denominada como o argumento do quarto chinês que é o livro de instruções que permite que essa pessoa passe no teste de Turing. O falante de chinês, do lado de fora, insere perguntas por escrito por uma das janelinhas do quarto e, irá atribuir à inteligência à máquina que lhe fornecerá respostas.

Como era sabido, Serle não sabe uma palavra de chinês, o significa que a pessoa ou dispositivo capaz de passar no teste de Turing não precisa necessariamente compreender as perguntas que recebe, nem as respostas que fornece.

O referido valor de tal argumento parece mostrar o equívoco de supor que passar no testo de Turing é algo suficiente para tratar uma inteligência artificial como análoga à nossa inteligência. E, também mostra que um procedimento meramente mecânico ou estatístico, ainda que muito complexo, com imensas bases de dados, como é o caso de uma inteligência artificial, ainda não é um comportamento dotado de compreensão.

Se máquinas são apenas mecanismos e seu modo de operar é mecânico, no sentido de que pode ser resumido às correlações de dados e, nada mais, então deveríamos pensar muitas vezes, antes de questionar: Máquinas podem pensar?

Ao traçar a distinção entre seres humanos e máquinas, em nenhum momento fomos obrigados a nos referir a qualquer espécie de substância imaterial, daquele tipo que costuma ser invocado, num passe de mágica, como propriedade exclusiva dos homens. Também não recorremos a nenhuma entidade misteriosa a ser descoberta, quem sabe, na “interioridade” humana.

Em suma, não cogitamos nem de alma, nem de consciência, nem de mente. Recorrer a tais expedientes foi o caminho frequente da religião e de boa parte da filosofia. Mas, Wittgenstein dedicou grande parte de seu trabalho a desmistificá-los como equívocos derivados, mais uma vez, de uma má compreensão do uso da linguagem.

Referências

RODRIGUES, Giovane; TRANJAN, Tiago. "Uma máquina pode pensar?" O que Wittgenstein tem a dizer sobre a capacidade de pensar da inteligência artificial. Revista Piauí. Disponível em: https://piaui.folha.uol.com.br/materia/o-que-wittgenstein-tem-a-dizer-sobre-a-capacidade-de-pensar-da-inteligencia-artificial/ Acesso em 4.1.2024.