Para os nosso governantes deslumbrados com a tecnologia

 

Empresas tecnológicas centradas na IA estão envolvidas numa "corrida para o fundo do poço", alerta professor do MIT

O físico Max Tegmark diz que a concorrência é demasiado intensa para que os executivos das tecnológicas façam uma pausa no desenvolvimento para considerar os riscos da IA

O cientista por detrás de uma carta histórica que apela a uma pausa no desenvolvimento de poderosos sistemas de inteligência artificial afirmou que os executivos tecnológicos não interromperam o seu trabalho porque estão presos numa "corrida para o fundo do poço".

Apesar do apoio de mais de 30.000 signatários, incluindo Elon Musk e o cofundador da Apple, Steve Wozniak, o documento não conseguiu garantir uma paragem no desenvolvimento dos sistemas mais ambiciosos.

Em declarações ao The Guardian, seis meses depois, Tegmark disse que não esperava que a carta impedisse as empresas tecnológicas de trabalharem em modelos de IA mais potentes do que o GPT-4, o modelo de linguagem de grande dimensão que alimenta o ChatGPT, porque a concorrência se tornou muito intensa.

"Senti que, em privado, muitos dos líderes empresariais com quem falei queriam [uma pausa], mas estavam presos nesta corrida para o fundo do poço uns contra os outros. Nenhuma empresa pode fazer uma pausa sozinha", afirmou.

A expressão de alarme sobre a IA deixou de ser um tabu para se tornar uma visão dominante desde a publicação da carta, disse Tegmark. A carta do seu grupo de reflexão foi seguida, em maio, por uma declaração do Center for AI Safety, apoiada por centenas de executivos de tecnologia e académicos, declarando que a IA deve ser considerada um risco social a par das pandemias e da guerra nuclear.

Perguntava-se: "Devemos desenvolver mentes não-humanas que possam vir a ser mais numerosas, mais inteligentes, obsoletas e substituir-nos? Devemos arriscar perder o controlo da nossa civilização?"
A carta legitimou o debate sobre o assunto; tornou-o socialmente aceitável.

Os receios em torno do desenvolvimento da IA vão desde o imediato, como a capacidade de gerar vídeos deepfake e produzir desinformação em massa, até ao risco existencial colocado por IAs super-inteligentes que escapam ao controlo humano ou tomam decisões irreversíveis e altamente consequentes.