A IA está a homogeneizar os nossos pensamentos

Numa experiência realizada no ano passado no Instituto de Tecnologia de Massachusetts, mais de cinquenta estudantes de universidades dos arredores de Boston foram divididos em três grupos e foi-lhes pedido que escrevessem ensaios ao estilo do SAT em resposta a questões gerais como “Será que as nossas realizações devem beneficiar os outros para nos tornarmos verdadeiramente felizes?”. 

A um grupo foi pedido que utilizasse apenas o seu próprio cérebro para escrever os ensaios. A um segundo grupo foi dado acesso à Pesquisa Google para procurar informações relevantes. O terceiro foi autorizado a utilizar o ChatGPT, o modelo de linguagem de inteligência artificial (L.L.M.) que pode gerar passagens completas ou ensaios em resposta a perguntas do utilizador. 

Enquanto os estudantes dos três grupos realizavam as tarefas, usavam uns auscultadores com eléctrodos para medir a sua atividade cerebral. 

De acordo com Nataliya Kosmyna, investigadora do M.I.T. Media Lab e uma das co-autoras de um novo documento de trabalho que documenta a experiência, os resultados da análise revelaram uma discrepância dramática: os sujeitos que utilizaram o ChatGPT demonstraram menos atividade cerebral do que qualquer um dos outros grupos. 

A análise dos utilizadores do L.L.M. revelou menos ligações generalizadas entre diferentes partes do cérebro; menos conetividade alfa, que está associada à criatividade; e menos conetividade teta, que está associada à memória de trabalho. 

Alguns dos utilizadores do L.L.M. não se sentiam “donos de nada” sobre os ensaios que tinham produzido e, durante uma ronda de testes, oitenta por cento não conseguiram citar uma única passagem do que tinham supostamente escrito.

Outra descoberta notável foi que os textos produzidos pelos utilizadores de L.L.M. tendiam a convergir para palavras e ideias comuns. 

Os pedidos do SAT foram concebidos para serem suficientemente amplos para suscitar uma multiplicidade de respostas, mas a utilização da I.A. teve um efeito homogeneizador. 

O resultado foi muito, muito semelhante para todas estas pessoas diferentes, que vieram em dias diferentes, falando sobre temas pessoais e sociais de alto nível, e foi distorcido em algumas direcções específicas. - Kosmyna. 

Para a pergunta sobre o que nos faz “verdadeiramente felizes”, os utilizadores do L.L.M. eram muito mais propensos do que os outros grupos a utilizar frases relacionadas com a carreira e o sucesso pessoal. 

Em resposta a uma pergunta sobre filantropia (“As pessoas mais afortunadas devem ter mais obrigação moral de ajudar os menos afortunados?”), o grupo do ChatGPT argumentou uniformemente a favor, enquanto os ensaios dos outros grupos incluíam críticas à filantropia. 

Com o L.L.M. “não se geram opiniões divergentes”, disse Kosmyna. E continuou: “A média de tudo em todo o lado ao mesmo tempo - é mais ou menos isso que estamos a ver aqui”.

A I.A. é uma tecnologia de médias: grandes modelos linguísticos são treinados para detectar padrões em vastas extensões de dados; as respostas que produzem tendem para o consenso, tanto na qualidade da escrita, que está frequentemente cheia de clichés e banalidades, como no calibre das ideias. 

 Externalizar o nosso pensamento com a I.A. torna-nos mais medianos. 

De certa forma, qualquer pessoa que utilize o ChatGPT para compor um brinde de casamento, redigir um contrato ou escrever um trabalho universitário, como cada vez mais estudantes já estão a fazer, está numa experiência como a do M.I.T. 

Não sabemos as consequências a longo prazo da adoção em massa da I.A. e, se estas primeiras experiências forem alguma indicação, a produção amplificada que Altman prevê pode ter um custo substancial para a qualidade.

By Kyle Chayka in newyorker.com/ AI is homogenizing our thoughts