Leituras pela manhã - Não somos meros geradores de palavras. Somos criadores de sentido.

 

Raiva à máquina

Apesar de todas as promessas e perigos da IA, os computadores não conseguem pensar. Pensar é resistir - algo que nenhuma máquina faz

Alva Noë

Na realidade, os computadores não fazem nada. Não escrevem, nem jogam; nem sequer computam. O que não significa que não possamos brincar com os computadores, ou usá-los para inventar, fazer ou resolver problemas. 

A nova IA está a remodelar as formas de trabalhar nas artes e nas ciências, na indústria e na guerra. Temos de aceitar as promessas e os perigos transformadores desta nova tecnologia. Mas deveria ser possível fazê-lo sem sucumbir a afirmações falsas sobre as mentes das máquinas.

O que nos poderia fazer a levar a sério a ideia de que estes dispositivos da nossa própria invenção podem de facto compreender, pensar e sentir, ou que, se não agora, mais tarde, podem um dia vir a abrir os seus olhos artificiais para finalmente contemplar um mundo brilhante e próprio? 

Uma das fontes pode ser simplesmente a sensação de que, agora libertada, a IA está fora do nosso controlo. Rápida, microscópica, distribuída e astronomicamente complexa, é difícil compreender esta tecnologia e é tentador imaginar que ela tem poder sobre nós.

No entanto, isto não é nada de novo. A história da tecnologia - desde a pré-história até à actualidade - tem sido sempre a das formas como somos condicionados pelas ferramentas e sistemas que nós próprios criámos. 

Pensemos nos caminhos que fazemos ao caminhar. A cada ferramenta corresponde um hábito, ou seja, uma forma automatizada de agir e de ser. Do humilde lápis à imprensa, passando pela Internet, a nossa acção humana é exercida, em parte, pela criação de paisagens sociais e tecnológicas que, por sua vez, transformam o que podemos fazer e, assim, parecem, ou ameaçam, governar-nos e controlar-nos.
No entanto, uma coisa é apreciar as formas como nos fazemos e refazemos através da transformação cultural dos nossos mundos por meio da utilização de ferramentas e da tecnologia, e outra é mistificar a matéria bruta posta em acção por nós. 

Se há inteligência nas proximidades de lápis, sapatos, isqueiros, mapas ou calculadoras, é a inteligência dos seus utilizadores e inventores. O digital não é diferente.

Porém, há uma outra origem do nosso impulso para conceder existência de mente a dispositivos da nossa própria invenção e, é nisso que me concentro aqui: a tendência de alguns cientistas para dar por adquirido o que só pode ser descrito como uma imagem extremamente simplista da vida cognitiva humana e animal. Confiam, sem qualquer controlo, em concepções unilaterais e, na verdade, banais da atividade humana, da capacidade e da realização cognitiva. 

A substituição sub-reptícia (para usar uma frase de Edmund Husserl) desta versão pouco elaborada da mente em ação - uma substituição que espero convencer-vos que remonta a Alan Turing e às próprias origens da IA - é o movimento decisivo do truque de magia.

O que os cientistas parecem ter esquecido é que o animal humano é uma criatura de perturbação. Ou, como escreveu o filósofo da biologia de meados do século XX, Hans Jonas: 

“A irritabilidade é o germe e, por assim dizer, o átomo da existência de um mundo...”

Connosco, há sempre, por assim dizer, uma pedra no sapato. E é isso que nos move, nos vira, nos orienta para nos reorientarmos, para fazermos diferente, para continuarmos. É a irritação e a desorientação que estão na origem da nossa preocupação. Na ausência de perturbação, não há nada: não há linguagem, não há jogos, não há objectivos, não há tarefas, não há mundo, não há cuidados, e por isso, sim, não há consciência.

Podem as máquinas pensar? Turing rejeitou esta questão como “demasiado insignificante para merecer discussão”. Em vez de tentar criar uma máquina capaz de pensar, contentou-se em conceber uma que pudesse contar como um substituto razoável de um pensador. Em todo o trabalho de Turing, o foco está na imitação e substituição.

Consideremos a sua contribuição para a matemática. Uma máquina de Turing é um modelo formal da ideia informal de computação: ou seja, a ideia de que alguns problemas podem ser resolvidos “mecanicamente”, seguindo uma receita ou algoritmo. (Turing propôs que substituíssemos a noção familiar pelo seu análogo mais preciso. 

Se uma dada função é computável por Turing é uma questão matemática, uma que Turing forneceu os meios formais para responder com rigor. Mas se a computabilidade de Turing serve para captar a essência da computação tal como a entendemos intuitivamente e se, portanto, é uma boa ideia fazer a substituição, estas não são questões que a matemática possa decidir. 

De facto, presumivelmente por serem elas próprias “demasiado insignificantes para merecerem discussão”, Turing deixou-as para os filósofos. No mesmo espírito anti-filosófico, Turing propôs que substituíssemos a questão sem sentido Can machines think? pela questão empiricamente decidível Podem as máquinas passar [o que veio a ser conhecido como] o teste de Turing? Para compreender esta proposta, precisamos de olhar para o teste, a que Turing chamou o Jogo da Imitação.

O jogo deve ser jogado por três jogadores: um homem, uma mulher e uma pessoa cujo género é indiferente. Cada um tem uma tarefa distinta. O jogador de género indeterminado, o interrogador, tem a tarefa de descobrir qual dos outros dois é um homem e qual é uma mulher. A tarefa da mulher é servir de aliada do interrogador; a do homem é fazer com que o interrogador faça a identificação errada.

Isto poderia ser um entretenimento divertido para adultos, mas Turing temia que fosse demasiado fácil. Mesmo hoje em dia, quando as experiências de género são comuns, não seria assim tão difícil, na maioria das circunstâncias, classificar as pessoas por género com base na aparência superficial. 

Assim, Turing propôs que isolássemos o interrogador numa sala, limitando o seu acesso a outras pessoas. E acrescentou: “Para que os tons de voz não ajudem o interrogador, as respostas devem ser escritas, ou melhor ainda, dactilografadas. O ideal é ter uma telei-mpressora a comunicar entre as duas salas”.
O que é que o Jogo da Imitação nos ensina sobre a inteligência das máquinas? 

Eis o que Turing diz:
Colocamos agora a questão: “O que é que acontece quando uma máquina toma o papel do [homem] neste jogo? Será que o interrogador decidirá erradamente com a mesma frequência quando o jogo é jogado desta forma do que quando o jogo é jogado entre um homem e uma mulher? Estas perguntas substituem a nossa pergunta original: “As máquinas podem pensar?”.

O objetivo do interrogador não é excluir o computador; é excluir os jogadores humanos como tendo este ou aquele género. Mas o objetivo de Turing, e o objetivo do jogo, é explorar se a substituição de um dos jogadores por uma máquina tem algum efeito na taxa de sucesso do interrogador. 

É esta última questão, se existe ou não um efeito nos resultados, que é proposta por Turing como substituto da questão “sem sentido” de saber se as máquinas podem pensar. Em vez de discutir o que é o pensamento, Turing imagina um cenário em que as máquinas podem ser capazes de entrar e participar em trocas humanas significativas. 

Será que a sua capacidade de o fazer estabelece que podem pensar, ou sentir, que têm mentes como nós temos mentes? De acordo com Turing, estas são precisamente as perguntas erradas a fazer. O que ele diz é que as máquinas vão melhorar no jogo, e foi ao ponto de arriscar uma previsão: que no final do século - estava a escrever em 1950 - “a opinião educada geral terá mudado tanto que se poderá falar de máquinas que pensam, sem esperar ser contrariado”.

Apesar da aparente hostilidade de Turing à filosofia, é possível lê-lo como tendo captado uma visão filosófica crítica. Por que razão deveríamos esperar que a evidência fosse capaz de assegurar as mentes das máquinas por nós, quando não desempenha essa função nas nossas relações humanas normais? 

Nenhum de nós alguma vez descobriu ou provou que as pessoas que nos rodeiam na nossa vida pensam ou sentem de facto. Simplesmente tomamos isso como um dado adquirido. E é esta observação que motiva a sua conceção da sua própria tarefa: não a de provar que as máquinas podem pensar; mas sim a de as integrar nas nossas vidas de modo a que a questão, de facto, desapareça ou se responda a si própria.

Acontece, no entanto, que nem todas as substituições de Turing são tão simples como parecem. Algumas delas são completamente enganadoras.

Consideremos, em primeiro lugar, a sugestão de Turing de substituir a conversação pelo uso de mensagens dactilografadas. Ele sugere que isso é para tornar o jogo desafiante. Mas a substituição do texto pela fala tem um efeito completamente diferente: dar um mínimo de plausibilidade à sugestão, de outro modo absurda, de que as máquinas poderiam participar. 

Para compreender isto, recordemos que uma máquina de Turing é aquilo a que em matemática se chama um sistema formal. Num sistema formal, há um alfabeto finito e um conjunto finito de regras para combinar elementos do alfabeto em expressões mais complexas. 

O que torna o sistema formal é o facto de o vocabulário ter de ser especificado apenas em termos de propriedades físicas, e as regras terem de ser formuladas apenas em termos dessas propriedades físicas, ou seja, formais. Este é o ponto crucial: a menos que se possa especificar formalmente as entradas e as saídas - o vocabulário - não se pode definir uma máquina de Turing ou uma função computável de Turing.

E, o que é crucial, é não ser possível especificar formalmente os inputs e os outputs da linguagem humana comum. A fala é um movimento quente e ofegante que se desenrola sempre com os outros, em contexto, e tendo como pano de fundo necessidades, sentimentos, desejos, projectos, objectivos e restrições. A fala é ativa, sentida e improvisada. Tem mais em comum com a dança do que com as mensagens de texto. Estamos tão à vontade, hoje em dia, sob o regime do teclado que nem nos apercebemos das formas como o texto esconde a realidade corporal da linguagem.

Embora a fala não seja formalmente especificável, o texto - no sentido de mensagem de texto - é. Assim, o texto pode servir como um substituto computacionalmente tratável para a troca humana real. Ao filtrar toda a comunicação entre os jogadores através do teclado, em nome de tornar o jogo mais difícil, Turing, na verdade - e trata-se de um truque de prestidigitação - varre para debaixo do tapete aquilo a que o filósofo Ned Block chamou o problema dos inputs e outputs.

Mas a substituição da fala por uma mensagem de texto não é o único truque de magia no argumento de Turing. O outro é introduzido de forma ainda mais sub-reptícia. Trata-se da substituição tácita de jogos por trocas humanas significativas. De facto, a gamificação da vida é um dos legados mais seguros e mais preocupantes de Turing.

O problema é que Turing parte de uma compreensão parcial e distorcida do que são os jogos. Do ponto de vista computacional, os jogos são - de facto, para serem formalmente tratáveis, têm de ser - estruturas cristalinas de inteligibilidade, mundos virtuais, onde as regras restringem o que se pode fazer e onde os valores não problemáticos (pontos, golos, a pontuação) e os critérios estabelecidos de sucesso e fracasso (ganhar e perder) são claramente especificados.

Mas a clareza, a regulamentação e a transparência dão-nos apenas um aspeto do que é um jogo. De alguma forma, Turing e os seus sucessores tendem a esquecer que os jogos também são competições; são campos de provas, e somos nós que somos testados e cujas limitações são expostas, ou cujos poderes e fragilidades são expostos no campo de kickball ou no campo de futebol. 

Uma criança que joga xadrez de competição pode sofrer de uma ansiedade tão extrema que chega a sentir náuseas. Esta expressão visceral não é um epifenómeno acidental, um elemento externo sem valor essencial para o jogo. Não, os jogos sem vómito - ou pelo menos sem essa possibilidade viva - não seriam reconhecíveis como jogos humanos.

Tudo isto para dizer que os verdadeiros jogos são muito mais do que parecem ser quando os vemos, como fez Turing, através da lente do regime do teclado. (O que não significa negar que podemos, e fazemos, modelar utilmente aspectos do jogo computacionalmente).

Eis o resultado crítico: os seres humanos não são meros fazedores (por exemplo, jogadores de jogos) cujas acções, pelo menos quando bem sucedidas, estão em conformidade com regras ou normas. Somos fazedores cuja actividade é sempre (pelo menos potencialmente) o local do conflito. Os actos de reflexão e crítica de segunda ordem pertencem ao próprio desempenho de primeira ordem. Estes estão interligados, o que faz com que nunca se possa excluir, do puro exercício da actividade em si, todas as formas em que a actividade desafia, retarda, impede e confunde. Tocar piano, por exemplo - essa outra tecnologia do teclado - é lutar com a máquina, lutar contra ela.

Explico-me: o piano é a construção e a elaboração de uma determinada cultura musical e dos seus valores. Ele instala uma concepção do que é musicalmente legível, inteligível, permitido e possível. Uma engenhoca feita com cerca de 12.000 peças de madeira, aço, feltro e arame, o piano é um sistema quase digital, em que os tons são obra de teclas, e em que os intervalos, as escalas e as possibilidades harmónicas são controlados pelo design e fabrico da máquina.

O piano foi inventado, é certo, mas não por si ou por mim. Nós encontramo-lo. Ele pré-existe-nos e solicita a nossa submissão. Aprender a tocar é ser alterado, obrigado a adaptar a sua postura, mãos, dedos, pernas e pés às exigências mecânicas do piano. Sob o regime do teclado do piano, exige-se que nós próprios nos tornemos pianos tocadores, ou seja, extensões da própria máquina.

Mas não podemos. E não o faremos. Aprender a tocar, assumir a máquina, para nós, é lutar. É difícil dominar as exigências do instrumento.

E este facto - a dificuldade que encontramos perante a insistência do teclado - é produtivo. Fazemos arte com isso. Impede-nos de ser pianistas, mas é exatamente o que é necessário para nos tornarmos pianistas.

Porque é a relação frágil do pianista com a máquina, e com a história e a tradição que a máquina impõe, que fornece a matéria-prima da invenção musical. Música e jogo acontecem nesse emaranhado. Dominar o piano, como só uma pessoa o pode fazer, não é apenas conformar-se com as exigências da máquina. É, pelo contrário, resistir, dizer não, enfurecer-se contra a máquina. E assim, por exemplo, damos bofetadas, batemos e gritamos. Desta forma, o piano torna-se não apenas um veículo de hábito e controlo - um mecanismo - mas antes uma oportunidade de ação e expressão.

E, tal como acontece com o piano, o mesmo se passa com toda a vida cultural humana. Vivemos no emaranhado entre governo e resistência. Lutamos contra isso.

Pensemos na língua. Não nos limitamos a falar, por assim dizer, seguindo cegamente as regras. Falar é um problema para nós e as regras, tais como são, estão em jogo e em disputa. Somos sempre, inevitavelmente, e desde o início, obrigados a lidar com a dificuldade de falar, com o risco de nos entendermos mal, embora na maior parte das vezes isso seja feito com naturalidade e sem stress excessivo. 

Falar, quase inevitavelmente, é questionar a escolha de palavras, exigir reformulação, repetição e reparação. O que é que quer dizer? Como é que se pode dizer isso? Deste modo, falar contém em si, desde o início, e como um dos seus modos básicos, as actividades de crítica e de reflexão sobre o falar, que acabam por mudar a forma como falamos. 

Não nos limitamos a agir, por assim dizer, no fluxo. O fluxo escapa-nos e, em seu lugar, conhecemos o esforço, a argumentação e a negociação. E assim mudamos a linguagem ao usar a linguagem; e é isso que uma linguagem é, um lugar de captura e libertação, de envolvimento e crítica, um processo. Nunca podemos excluir o mero fazer, a destreza, o hábito - o tipo de coisas que as máquinas são usadas eficazmente para simular - das formas como estes fazeres, compromissos e competências se tornam novos, transformados, através dos nossos próprios actos de os fazer. Tudo isto está interligado. Esta é uma lição crucial sobre a própria forma da cognição humana.

Se mantivermos a linguagem, o piano e os jogos em vista, e se não perdermos de vista aquilo a que chamo emaranhamento - as formas como o acto de continuar está emaranhado com tudo o que é necessário para lidar com o quão difícil é continuar! - então torna-se claro que a discussão sobre a IA tende a pressupor, irreflectidamente, uma simplificação unilateral e simplista da capacidade humana e da vida cognitiva. 

Como se falar fosse a aplicação direta de regras, ou tocar piano fosse apenas uma questão de fazer o que o manual manda. Mas imaginar utilizadores de línguas que não se debatem activamente com os problemas da fala seria imaginar algo que é, no máximo, a casca ou a aparência da vida humana com a linguagem. Seria, de facto, imaginar a linguagem das máquinas (como os LLMs).

O facto revelador: os computadores são utilizados para jogar os nossos jogos; são concebidos para se movimentarem nos espaços abertos pelas nossas preocupações. Não têm preocupações próprias e não criam novos jogos. Não inventam uma nova linguagem.

O filósofo britânico R. G. Collingwood observou que o pintor não inventa a pintura e o músico não inventa a cultura musical em que se encontra. Para Collingwood, isto serviu para mostrar que nenhuma pessoa é totalmente autónoma, uma fonte de criatividade semelhante a Deus; somos sempre, até certo ponto, recicladores e amostradores e, no nosso melhor, participantes em algo maior do que nós próprios.

Mas isto não deve ser entendido como uma demonstração de que nos tornamos naquilo que somos (pintores, músicos, oradores) fazendo o que, por exemplo, os LLMs fazem - ou seja, apenas treinando com grandes conjuntos de dados. Os seres humanos não são treinados. Temos experiência. Nós aprendemos. E para nós, aprender uma língua, por exemplo, não é aprender a gerar “a próxima ficha”. É aprender a trabalhar, brincar, comer, amar, namoriscar, dançar, lutar, rezar, manipular, negociar, fingir, inventar e pensar. E, o que é crucial, não nos limitamos a incorporar o que aprendemos e a continuar; resistimos sempre. Os nossos valores são sempre problemáticos. Não somos meros geradores de palavras. Somos criadores de sentido.

Não podemos deixar de fazer isto; nenhum computador consegue fazê-lo.