Leituras pela manhã - Escapar ao Algoritmo

 

As tecnologias recentemente lançadas geraram excitação e preocupação, com o facto de estas tecnologias acabarem com a criatividade e os criativos, por exemplo. A IA já é usada para escrever notícias financeiras ou boletins meteorológicos. O modelo actual já é capaz de produzir explicadores coerentes, ainda que insípidos. Alguns escritores estão até a utilizá-la para preencher detalhes e gerar ideias, perguntando como poderiam continuar uma história em que bloquearam. E uma imagem gerada por IA ganhou recentemente o primeiro prémio numa feira de arte do Colorado.

Outros vêem algo ainda mais sinistro na tecnologia: a perspectiva do que se chama inteligência geral artificial. Versões mais avançadas desta tecnologia desenvolverão algo como uma mente própria e começarão a ir muito além dos estímulos que lhes são dados pelos utilizadores humanos, com resultados imprevisíveis e possivelmente perigosos.

Mas, por enquanto, o que é surpreendente nos produtos do GPT e do DALL-E [construtor de imagens] é a sua evidente falta de consciência. O GPT está programado para responder da forma mais conformista e inofensiva possível. A sua personalidade ou estilo é a média perfeita dos estilos do corpus em que foi formado. Mesmo quando lhe é pedido para escrever no estilo de outra pessoa, a fundamental falta de estilo do GPT transparece. Pedi-lhe para "escrever um tweet no estilo de Donald Trump sobre o porquê de up is down" e ele produziu isto: "Para cima é para baixo, pessoal! Acreditem, eu sei do que estou a falar. Os meios de comunicação falsos não querem que saibam isto, mas é verdade. Para cima é para baixo, e para baixo é para cima. Produziu uma tradução de Trump superliteral, sem estilo.

No seu magnum opus "Being and Time", o filósofo Martin Heidegger escreveu sobre "das Man"-man não sendo a palavra alemã para "homem", mas o pronome impessoal "um" ou "eles", como em "é apenas o que se faz" ou "é o que eles dizem". Na análise da existência humana de Heidegger, "eles" representa o fundo médio e quotidiano do ser colectivo de que todos dependemos para nos fazermos entender, para fazermos conversa de circunstância e do quotidiano. Mas há o risco de cair completamente no quotidiano, de nos perdermos nos "eles" e de vivermos efectivamente vidas não livres, onde as pessoas apenas fazem "o que se faz" e as suas "possibilidades mais pessoais" nunca são tomadas autenticamente, para não dizer nada de algumas vez se realizarem.

A linguagem dos "eles" é aquilo a que Heidegger chama "conversa ociosa". Esta não é uma linguagem que pertence a qualquer indivíduo que se expresse, mas é o sentimento médio e quotidiano que circula mais ou menos irreflectidamente - que pertence a todos e a ninguém. É a conversa de fundo contra a qual a expressão genuinamente original pode emergir. A "conversa ociosa" não é um problema em si mesma - faz parte da forma como a língua funciona. A vida seria insuportável e cansativa se tivéssemos de nos exprimir a cada oportunidade com uma nova visão e de nos confrontarmos constantemente com as efusões totalmente originais dos outros. A expressão média e a inteligibilidade da conversa ociosa é um padrão necessário.

O problema surge quando não nos envolvemos em nada mais do que conversa ociosa e confundimo-la com uma compreensão genuína da realidade. Pense, por exemplo, num historiador de arte pedante que absorveu tão profundamente o discurso convencional sobre o estilo de Paul Klee, digamos, que já não consegue realmente ver as pinturas. Para ele, qualquer pintura de Klee é apenas um pretexto para a conversa enciclopédica sobre expressionismo e Bauhaus. Embora pareça dar-nos acesso aos objectos de que aparentemente fala, a tagarelice ociosa fecha-os, selando-os sob interpretações que são aprendidas e repetidas por "líderes de pensamento" e seguidores do pensamento. Quanto mais circula, mais se afasta dos objectos reais e mais bloqueia a possibilidade de novas interpretações. 

Esta linguagem, claro, evolui, e há opiniões divergentes, mas "o discurso", como por vezes é chamado no Twitter é previsível, quase automatizado. Novas variações sobre o mesmo tema são desenvolvidas; novos mash-ups e remixes proliferam; e novos objectos são sujeitos ao ciclo quase industrial de interpretação, disseminação e reacção. Esta produção é involutiva e auto-referencial: é impulsionada por motivações e incentivos internos ao "discurso" e cada vez mais desligada do mundo exterior.

As redes sociais não criaram mas, aceleraram e aperfeiçoaram este processo. Os acontecimentos reais aparecem no Twitter e são rapidamente cobertos pelas interpretações prontas de um determinado contexto político ou cultural. O mundo em toda a sua ambiguidade e complexidade, muitas vezes contraditórias, ficam escondidos para serem encaixados num discurso já existente. Novos acontecimentos parecem existir apenas para fornecer forragem fresca para a interpretação que se estabelece sobre eles como um algoritmo sobre novos inputs. O resultado é uma linguagem que é mais sobre si mesma do que sobre o mundo.

A este respeito, o GPT pode não ser tanto um salto revolucionário, mas mais um passo em frente num caminho já percorrido. Na medida em que é utilizado para a produção cultural e comentários, irá racionalizar tendências já bem estabelecidas para a imitação, repetição, e pastiche. 

Uma das melhores utilizações de DALL-E 2 (cujo nome, uma combinação de WALL-E da Pixar e Salvador Dali) é produzir mash-ups divertidos e por vezes interessantes de estilo e conteúdo: "uma pintura ao estilo de Klimt do assassinato do JFK", "uma pintura ao estilo de Roy Lichtenstein de um casal nos seus smartphones", "um retrato de Super Mario de El Greco". O que é bom, por outras palavras, é o que a nossa cultura já faz: uma recombinação inane que gera novidade a partir do que já existe.

É claro que o facto de não ser original não é uma crítica à IA, mas parece provável que contribua para a proliferação de conteúdos culturais concebidos não para serem originais ou mesmo para dizer alguma coisa com conteúdo, mas para produzir, como uma droga, as mesmas experiências repetidas, a pedido. 

Isto é o que a nossa cultura já tem vindo a fazer há algum tempo. A cultura repete-se uma e outra vez, confiando em sequelas, reinícios e misturas, em vez de criatividade genuína, para produzir de forma fiável conteúdos lucrativos que possam ser entregues com precisão algorítmica nos feeds das pessoas. 

O efeito, diz Douthat, é uma espécie de maldição cultural, onde, como disse Antonio Gramsci, "o velho está a morrer e o novo não pode nascer".

No ensaio, "The Question Concerning Technology", Heidegger adoptou um termo para descrever o que ele considerou ser a essência da tecnologia moderna: Gestell, que é traduzido de várias maneiras como "enquadramento" ou "encenação". Ele usa a palavra para se referir não a qualquer produto particular da tecnologia, mas à forma como a tecnologia impõe uma determinada ordem e uma forma de estar sobre as coisas - como "revela" ou "esconde" as coisas com as quais entra em contacto. Num exemplo famoso, Heidegger contrapõe uma barragem hidroeléctrica no Reno a uma forma muito anterior de tecnologia, uma ponte pedonal que atravessa o rio:

A central hidroeléctrica não é construída no rio Reno, como foi a velha ponte de madeira que uniu as margem durante centenas de anos. Ao invés, o rio é represo pela central eléctrica. O que o rio é agora, ou seja, um fornecedor de energia hidroeléctrica, deriva da essência da central eléctrica.
Enquanto a ponte pedonal permite que o rio apareça como está, a central eléctrica transforma a natureza do rio num recurso. Sob a possibilidade de ser "assentado" pela tecnologia moderna, escreve Heidegger, o carácter das coisas muda: "em todo o lado tudo é ordenado para ficar a postos, para estar imediatamente à mão, ao serviço para uma nova encomenda". 

Para a IA generativa, as imagens e o texto da cultura humana, todos os nossos esforços para comunicar e expressar-nos, de facto toda a história humana pesquisável, podem em breve estar ali de prevenção para uma nova encomenda.

Heidegger contrapõe a forma de revelar a poesia, entendida em termos gerais como a articulação das coisas em linguagem. Onde a tecnologia moderna ordena as coisas em recursos, a poesia, "deixa que as presenças apareçam [se revelem]". 

O caso paradigmático deste tipo de revelação é a atribuição de nomes. Os nomes não dominam as coisas; eles dão-lhes contornos particulares que as tornam disponíveis para novas articulações. Permitem que surjam do fundo indefinido e indiferenciado da existência com características definidas e em relação definitiva com outras coisas, mas com uma certa incompletude, ambiguidade, e mistério que solicitam atenção e interpretação nunca acabadas.

Para Heidegger, o que se deve temer não é a tecnologia em si, mas sim o seu modo de revelar o mundo. A ameaça não é principalmente que a IA possa assumir certas actividades dos seres humanos, mas que consideremos estas actividades como funções semelhantes ao fornecimento de energia. "Onde reina a encenação", escreve Heidegger, "há perigo no sentido mais elevado". Depois cita o poeta Hölderlin: "Mas onde reina o perigo, cresce / O poder salvador também". Na medida em que o choque desta tecnologia nos pode orientar de volta para formas diferentes de ver, podemos ainda ser salvos."

— Alexander Stern