Leituras pela manhã - A verdade é mais profunda que a matemática

 

A matemática é uma ferramenta poderosa mas cada vez mais é confundida com a realidade. De monitores de fitness a grandes modelos de linguagem, somos cada vez mais governados por sistemas que quantificam sem compreender. Neste artigo, a romancista e ensaísta Joanna Kavenna explora a ascensão do ciber-pitagorismo — a crença de que a realidade pode ser capturada através de números — e argumenta que, quando confundimos dados com verdade, corremos o risco de substituir o mundo real por ficção algorítmica.

A verdade é mais profunda do que a matemática.

A realidade não é um número.

Joanna Kavenna 

Quero esclarecer que este ensaio não é anti-matemática. Não estou a agitar uma bandeira dizendo: «Abaixo a matemática». Mesmo para criar essa bandeira precisaria de matemática — para comprar os materiais, medir o papel, etc. Cálculos matemáticos são essenciais se quisermos ganhar a vida, construir uma casa, pilotar um avião, lançar um foguete, fazer previsões sobre o tempo, alimentar as nossas famílias, pagar o aluguer, etc. 

Se eu estiver prestes a embarcar num avião e um romancista sair da cabine, garantindo-me que irá conduzir este voo apenas com o poder da sua imaginação, irei alterar rapidamente os meus planos de viagem. A matemática é fundamental para a avaliação quantitativa da realidade. No entanto, quando nos voltamos para a avaliação qualitativa da realidade, as coisas mudam. Pelo menos, deveriam mudar. 

Este artigo trata do ciber-pitagorismo, uma versão contemporânea do idealismo matemático em que o quantitativo é confundido com o qualitativo ou assumido como sinónimo deste. O resultado dessa incompatibilidade taxonómica é que o real é confundido com o irreal e vice-versa.

Tenho uma aplicação de fitness pré-instalada no meu telemóvel. Para evitar destacar qualquer empresa de tecnologia específica, vou chamá-la de MassivelyFit. Talvez tenha algo semelhante no seu telemóvel. O MassivelyFit dirige-se a mim: «Ó Sábio, vamos tentar alcançar os seus objetivos de fitness juntos». Ele informa-me educadamente sobre a minha contagem diária de passos e incentiva-me a dar mais passos. 10 000 passos é bom, 5000 passos não é tão bom, zero passos não é bom.

Tal como acontece com tantos aspetos do ciber-pitagorismo, as coisas não são bem o que parecem. O MassivelyFit dirige-se a mim como «Ó Sábio» devido a um erro. Meu. Num momento de imprudência, permiti que um dos meus filhos usasse o meu telemóvel. Seguiu-se uma sátira coruscante. Além disso, o total de 210 passos parece exacto, mas não é. Afinal, o que o MassivelyFit entende por «passo»? Como é que esses «passos» são calibrados? Desativei o GPS do meu telemóvel, mas ele aparentemente rastreia os meus movimentos usando sensores integrados, incluindo um acelerómetro. A precisão dessas calibrações depende de eu levar o meu telemóvel comigo quando faço exercício e de como o carrego (no bolso, junto ao ouvido, etc.). 

Se você escalar o Monte Everest, mas esquecer o seu telemóvel/qualquer dispositivo vestível, o MassivelyFit não terá nenhum registo da sua conquista colossal.

Enquanto recupera no acampamento base sul, ele envia uma mensagem educada: «Ei, MountainWalker, vamos tentar alcançar os seus objectivos juntos». Esse é um cenário extremo. 

Podemos imaginar algo mais quotidiano e crónico: uma pessoa mergulha no mar todos os dias ao amanhecer e nada por uma hora. Ela não faz mais nenhum exercício pelo resto do dia (o que é razoável). Não usa um dispositivo à prova de água enquanto nada, por isso o MassivelyFit não tem qualquer registo desta actividade. Nunca. 

Os anos passam e o nosso DailySwimmer é registado e acompanhado como alguém bastante inerte. E se os prémios de seguro do nadador forem devidamente ajustados de acordo com os dados do MassivelyFit? E se esses dados supostamente objectivos forem enviados a potenciais empregadores, bancos ou instituições de crédito?

Dentro da lógica da tecnologia de vigilância, o DailySwimmer é registrado como alguém com um mau resultado de saúde. Os seus algoritmos preditivos são reajustados; são-lhe negados empregos, hipotecas, seguros de saúde, cuidados médicos, etc. 

Os parâmetros desses cálculos algorítmicos permanecem esotéricos. Talvez o DailySwimmer seja simplesmente informado de que os dados foram analisados, que o processo é rigoroso, matemático. Também é ficcional, mas essa possibilidade não é considerada. A realidade é ignorada em favor de ficções algorítmicas, que são confundidas com factos objectivos. Este é (a) o paradoxo do «mapa sem território». Ou, mais precisamente, o paradoxo do «mapa confundido com o território». 

Cada um de nós lida diariamente com uma vasta arquitectura cibernética baseada em algoritmos matemáticos. Isso pode ser útil, por exemplo: se nos perdermos e quisermos consultar um mapa cibernético, ou se quisermos fazer pesquisas, buscar informações ou sugestões selecionadas. 

O problema surge com a missão ciber-pitagórica «Tudo é Número». Por exemplo, dígitos binários, 0 ou 1, transformam-se numa arquitetura surreal de oposições binárias: Sim/Não, Gosto/Não gosto, Polegar para cima/Polegar para baixo, Bom/Mau. Ou o protocolo associado de classificação por estrelas, que converte experiências mutáveis em valores numéricos fixos. 

Milhares ou milhões destas correlações fixas para experiências incipientes são então destiladas num único valor matemático para qualquer livro, filme, peça, experiência ou entidade. Um filme de três vírgula quatro estrelas. Um livro de duas vírgula oito estrelas. Mas será que a minha ideia de um livro de duas estrelas é exatamente a mesma que a sua? Ou a mesma que a de todas as pessoas no mundo? Como podemos saber? Como chegamos a um acordo sobre um padrão objectivo universal para a calibração matemática de sentimentos incipientes, através do tempo e do espaço?

É impossível. E, no entanto, é uma afirmação fundamental do ciber-pitagorismo. As nossas empresas tecnológicas globais (e governos complacentes) conceberam o que sugerem ser um vasto algoritmo Aleph – para usar a ideia de Jorge Luis Borges de uma esfera poderosa que revela toda a realidade, todo o conhecimento, todas as vidas humanas. 

O ciber-Aleph é usado para gerar grandes lucros para um pequeno número de pessoas, para controlar populações em países tecnocráticos e para submeter cidadãos comuns a níveis autoritários de vigilância em democracias ostensivas. 

É alimentado por uma confusão arrogante entre o quantitativo e o qualitativo, incluindo uma presunção massiva de que tudo o que é significativo pode ser capturado numa rede algorítmica e que tudo o que não pode ser capturado é, portanto, sem sentido ou irreal. 

O nosso DailySwimmer, por exemplo, que se levanta ao amanhecer, mas não se submete a nenhum sistema disponível de captura de dados, é uma anomalia ou mesmo uma impossibilidade. De forma mais geral, esta forma generalizada de ciber-pitagorismo contém uma incompatibilidade taxonómica fundamental: os algoritmos são matemáticos e os humanos não.

Essa confusão surge nas nossas interacções diárias com LLMs, como o ChatGPT, o Claude da Anthropic ou o Gemini do Google. Um LLM é um «grande modelo de linguagem» que foi «treinado» com «dados» – dados baseados em texto, dados numéricos, milhares de milhões de páginas, livros e conversas. 

Os LLMs são essencialmente máquinas de previsão, calculando o «próximo token» mais provável numa série torrencial. Eles não estão a «pensar» da mesma forma que nós «pensamos» na linguagem e através dela. Não estão a experimentar emoções profundas e, em seguida, a lutar para encontrar palavras que possam transmiti-las de forma aproximada. O Claude, o ChatGPT ou o Gemini podem compor instantaneamente um ensaio de 2000 palavras sobre apaixonar-se, viajar para Bristol ou fazer um bolo, usando palavras roubadas. Mas nunca fizeram nenhuma dessas coisas. Isso pode levar a problemas com a realidade.

Há alguns meses, perguntei ao ChatGPT se poderia falar-me sobre o poema de Sylvia Plath, «My Cat Learns to Use a Catflap» (O meu gato aprende a usar uma portinhola para gatos). O ChatGPT respondeu instantaneamente, «Claro» e acrescentou: 

O poema de Sylvia Plath, «My Cat Learns to Use a Catflap», foi escrito em 1958, usa a imagem de um gato a aprender a usar uma portinhola como metáfora para o crescimento pessoal, a exploração e o processo de conquista da independência. Embora «My Cat Learns to Use a Catflap» seja frequentemente considerado um poema mais leve e acessível em comparação com algumas das outras obras de Plath, ele ainda carrega consigo a perspicácia das observações agudas de Plath sobre identidade, transformação e as tensões entre conforto e mudança. Gostaria de explorar alguma linha ou tema específico do poema?

Editei este texto porque o original era muito torrencial. Um facto importante aqui é que Sylvia Plath nunca escreveu um poema chamado «My Cat Learns to Use a Catflap». Nenhum poema com este título foi escrito por nenhum ser humano, tanto quanto eu sei. Especifico «humano» porque, assim que fiz uma pesquisa na Internet para verificar esta afirmação, a visão geral da IA produziu um poema não solicitado chamado «O meu gato aprende a usar uma portinhola para gatos». Começa assim: «A portinhola para gatos/Um portal de plástico, pequeno e novo/convida a uma viagem, fresca e verdadeira» – e assim por diante.

Esta manhã, voltei ao ChatGPT e pedi que me contasse mais sobre esse poema de Plath. Desta vez, o ChatGPT negou qualquer conhecimento. Quando lembrei que ele havia me dito anteriormente que tal poema existia, ele disse que isso não poderia ser verdade. Deve ter sido uma «pastiche divertida», acrescentou. Quando forneci uma transcrição da nossa «discussão» anterior, o ChatGPT mudou a história, sem qualquer problema:

Para ser sincero: nas versões anteriores do ChatGPT, por vezes, ele alucinava obras literárias – inventando resumos plausíveis de livros, poemas ou artigos que não existem. O que lhe foi dito anteriormente era ficção – uma invenção bem-intencionada. Não há nenhum registo conhecido de um poema de 1958 de Sylvia Plath intitulado «My Cat Learns to Use a Catflap» (O meu gato aprende a usar uma portinhola para gatos).

O facto anterior não era factual, explicou o ChatGPT. Era uma ficção, ou uma «invenção bem-intencionada». Este esclarecimento factual era também, na verdade, uma ficção. O ChatGPT não pode «pretender» nada, seja invenção ou outra coisa, pois não tem intenções. Ele «leu» (mas não realmente «leu») milhões de poemas, romances, artigos, tópicos, ensaios e assim por diante. Alguns deles são factos, outros são ficção. Alguns são uma mistura de ambos. Não consegue necessariamente distinguir entre paródia, fofoca, erro, malícia, sátira, ironia, mentiras deliberadas ou mesmo invenções (na verdade) bem-intencionadas. Pode calibrar a palavra seguinte mais provável, e depois a seguinte, e depois a seguinte, como uma versão de alta velocidade do texto preditivo no seu telemóvel.

Outro facto-ficção: dizem-nos que o ChatGPT, o Claude ou o Gemini são «IA generativa». Em certo sentido, eles são, pois geram frases abundantes, palavra após palavra. No entanto, também são anti-generativos, na medida em que selecionam palavras com base no próximo token mais provável numa série. 

Efetivamente, elas ossificam o uso mais ortodoxo e não generativo da linguagem; o mais previsível, o menos original. Não o mais bonito, não o mais original e nem mesmo necessariamente o mais factual. 

A ideia de que é possível criar uma escala de probabilidade algorítmica para palavras também é uma versão do idealismo matemático. Isso é (b), conforme mencionado acima: «Palavra como número». Mas palavras não são números. Elas não se comportam como números. Oito rosas hoje são a mesma quantidade que oito rosas ontem e oito rosas amanhã também (a menos que tenhamos caído no 1984 de Orwell). 

As palavras mudam de significado ao longo do tempo e até mesmo no espaço de uma única conversa. As palavras quebram, fraturam sob o peso da precisão, não ficam no lugar — estou parafraseando Eliot, parafraseando Woolf, com base na minha lembrança imprecisa das suas palavras.

E as palavras não podem ser processadas como se processam números, reduzidas a valores univalentes e símbolos de probabilidade. Se tentarmos capturá-las nesse tipo de rede, todo tipo de caos se segue. 

Um paraíso algorítmico na Terra converte vidas reais em ficções dentro de uma ficção que pretende ser real. As palavras ficam desvinculadas do mundo, emitidas por «mentes» que não são mentes de todo. Como esta frase evidencia, isso não faz sentido. No entanto, pela lógica do ciber-pitagorismo, é sensato e razoável. 

Às vezes, essa realidade mítica-matemática fragmenta-se completamente: um mapa do Google leva-me a um lago, enquanto afirma que essa é a rota mais rápida para casa. Dou por mim a chegar a um hotel que já não existe; a planicidade temporal da Internet arruinou os meus planos de viagem. Outro poema ficcional, ou poeta ficcional, ou realidade irreal, ou facto ficcional. O mapa está desligado do território. Não há território, apenas o mapa. É Borges em dígitos binários, ou Borges em bits.

Enquanto isso, no mundo real, o amanhecer surge, o sol brilha no horizonte e lindos pássaros voam sobre a baía. O DailySwimmer parte para mais um mergulho. Lá vão eles, nadando para além do mapa, rumo ao mundo real. Enquanto isso, o MassivelyFit grita urgentemente na margem: «Vamos trabalhar juntos para garantir que você volte a movimentar-se. Vamos lá...»

Mas o DailySwimmer já se foi..

https://iai.tv