Se a confiança na ciência já estava em crise agora vai entrar em colapso

 

Por mais de um século, as revistas científicas têm sido os canais através dos quais o conhecimento do mundo natural flui para a nossa cultura — mas agora estão a ficar entupidas com lixo de IA, escreve Ross Andersen. https://theatln.tc/bq34Sc8F

«As publicações científicas sempre tiveram os seus problemas de canalização», argumenta Andersen. «Mesmo antes do ChatGPT, os editores de revistas lutavam para controlar a quantidade e a qualidade dos trabalhos enviados.» As revisões por pares tornaram-se uma solução para o excesso de conteúdo: os editores podiam aliviar a sua carga de trabalho enviando artigos a especialistas externos.

Agora, editores e investigadores não remunerados, que há muito actuam como guardiões da literatura científica, estão a ser assediados: «Quase imediatamente após os grandes modelos de linguagem (IA) se tornarem populares, os manuscritos começaram a chegar às inboxes das revistas em quantidades sem precedentes», escreve Andersen.

Mandy Hill, directora-geral de publicações académicas da Cambridge University Press & Assessment, disse que o ChatGPT e outros semelhantes também estão a ser usados para dar a trabalhos fraudulentos ou de má qualidade uma nova aparência de plausibilidade; os editores que analisam artigos científicos enfrentam a tarefa ainda mais difícil e demorada de identificar citações, resultados de pesquisas e outros elementos gerados por IA. “A partir de agora, será uma corrida armamentista constante”, disse Hill a Andersen.

Além de fabricar material, a IA também pode gerar imagens científicas para um artigo falso. Um artigo de revisão de 2024, agora retirado, «apresentava uma ilustração gerada por IA de um rato com testículos hilariamente desproporcionais», escreve Andersen. Embora isso tenha sido embaraçoso para a revista, pouco dano foi causado. Muito mais preocupante, no entanto, «é a capacidade da IA generativa de conjurar imagens convincentes de tecidos finamente fatiados, campos microscópicos ou géis de eletroforese que são comumente usados como evidência em pesquisas biomédicas».

🎨: Jonelle Afurong / The Atlantic. Fonte: Getty.