Documento da utilização da Inteligência Artificial na Educação ou... o professor controlador

Consulta Pública | Orientações para a utilização da Inteligência Artificial na Educação

https://eduqa.pt/consulta-publica-orientacoes-para-a-utilizacao-da-inteligencia-artificial-na-educacao/

-------

Estive a ler o documento. Depois de entrar em vigor, qualquer professor pode ser contratado para a polícia judiciária. É que o documento não tem que ver com a didáctica do uso da IA na educação, mas sim com regras de policiamento do trabalho dos alunos para garantir que não usam a IA para fazer os trabalhos por si e, se a usam, que são apanhados pelos professores.

Portanto, agora a tarefa do professor é inventar trabalhos para serem feitos com a IA mas não pela IA e garantir que todos os alunos são honestos e se não forem, são apanhados.

Vão-se encher de pulgas...

A IA, na minha modesta opinião de especialista em educação e em avaliação de alunos do secundário, a IA devia ser usada, nas escolas, que são lugares de desenvolvimento de processos cognitivos e pessoais, apenas para trabalhos práticos: construir um robot, construir uma casa em 3D, construir um dispositivo para medir a qualidade do ar, construir um programa para um computador reconhecer expressões faciais, construir um drone carteiro, para analisar grandes quantidades de dados, enfim, fazer trabalhos práticos a partir de teorias ou modelos conceptuais que foram aprendidos, interiorizados e trabalhados pelos alunos com as suas faculdades humanas de conhecimento, relação e análise.

Isto vai ser muito trabalho para os professores, sem ganhos para os alunos.

A Matemática e a IA

Aprendizagem da Matemática

«Uma nova competição proposta para empresas de IA: em vez de serem as primeiras a anunciar a solução para problemas matemáticos por resolver, sejam as primeiras a anunciar uma nova perspectiva matemática.»

~TERENCE TAO, vencedor da Medalha Fields de Matemática, afirma também que a OpenAI não se deve orgulhar — a sua IA está a destruir a nossa matemática.

O alarme foi dado depois de a OpenAI ter mobilizado cerca de 15 milhões de dólares em poder de computação para reivindicar rapidamente uma solução para um cenário das lendárias equações de Navier-Stokes — um dos sete «Problemas do Milénio» do mundo da matemática.

Enquanto as empresas tecnológicas celebram estes avanços rápidos e automatizados, o renomado matemático da UCLA, Terence Tao, criticou veementemente a sua abordagem. Tao comparou os anúncios apressados e opacos das empresas tecnológicas a «atirar pedaços de carne crua para as mesas dos matemáticos» e ir-se embora.

Ele argumenta que esta corrida agressiva pelo prestígio ignora o aspecto mais crítico da ciência: o processo humano de construir teorias fundamentais, ensinar a próxima geração e explicar por que razão uma solução realmente funciona.

Para proteger o futuro da disciplina, Tao sugeriu uma medida radical: declarar certas classes de problemas matemáticos «proibidos» para solucionadores automatizados.

Uma vez que a matemática se baseia na descoberta humana, ignorar completamente a intuição humana corre o risco de afastar investigadores em início de carreira e perturbar a forma como a matemática é ensinada e verificada. Se o valor último da matemática reside em treinar a mente para lidar com questões complexas, em vez de se limitar a gerar resultados, entregar as rédeas inteiramente à IA pode contaminar o próprio campo que a criou.

Para que a ciência progrida de forma sustentável, os gigantes tecnológicos devem dar prioridade à transparência colaborativa em detrimento da rapidez empresarial.

fonte: Choi, W. (2026). Medalhista de Fields alerta que a corrida da IA pela matemática compromete o processo da disciplina. The Chosun Daily.

O que é uma educação de excelência?

 

Singapura. Escola pública. 5 professores na sala de aula. Um para ensinar, outros para ajudar os alunos, um para observar e ajudar o professor a melhorar. Não usam telemóveis sem orientação e vigilância para ir à IA substituir o seu desenvolvimento cognitivo e copiar ou para estarem divertidos nas redes sociais, mas sim para aprender a usar as potencialidades dos meios digitais. 

Pais direccionados para o sucesso do estudo dos filhos e não para atacar educadores. Escolas engajadas nos professores e na qualidade do seu trabalho. Alunos que estudam, fora da escola, em centros de apoio, muito bons, nos anos de exame. Este regime é o que põe os estudantes de Singapura no topo. Este regime duro passa-se nos anos de exame porque nos outros há menos pressão. 

Podemos criticar e dizer que estas crianças têm uma infância com muita pressão de estudos, com pouco tempo para brincar, mas a questão é: não se pode ao mesmo tempo querer que a escola seja um sítio de entretenimento e prazer e que seja um local de aprendizagem excelente ou bastante bom ou até apenas bom. É preciso investir na escola pública. Não pode ser um depósito de crianças, uma esponja de absorção de nacionalidades e culturas diferentes deixada totalmente em cima de professores sozinhos. Vemos que aqui há um grande investimento nos professores. Estes professores de Singapura ganham 10 mil euros no topo da carreira. É uma profissão muito valorizada. E há uma grande colaboração dos pais com a escola.

Claro que nem todos os pais querem que os filhos ingressem em colégios de topo mas os que querem sabem que têm de ser dedicados e colaboradores e não sabotadores. E o Estado também não é sabotador, pelo contrário.

Aqui na Europa, como vemos por estes dias em França, os alunos queixam-se de não poder dormir nas aulas, de não poderem estar a divertir-se no telemóvel, de terem TPCs, os pais queixam-se dos professores não transformarem filhos mal-educados em alunos excelentes e até os representantes locais vêem para a rua com os adolescentes bater em professores e polícias e incendiar escolas. 

O que vai acontecer quando todas as pessoas souberem usar a IA?

É como pôr uma arma de assalto na mão de cada um dos habitantes do planeta. O que podes fazer sabendo usar a IA? Armas biológicas? Imprimir armas a sério? Interferir na produção de alimentos? Destrancar as portas dos bancos, dos vizinhos, da ex-namorada que queres matar? Já agora as pessoas mais jovens que já cresceram no mundo dos telemóveis com câmaras isolam-se e evitam relações íntimas com outras pessoas porque o perigo de aparecerem expostas na internet é demasiado grande. Portanto, o «mero» telemóvel já interferiu nas relações sociais. Imagina quando cada um dominar o uso da IA para alimentar e levar avante os seus projectos de abuso, assalto, sociopatia e malignidade em geral.

Amazon bloqueia agente de IA da Meta por fazer compras em nome dos utilizadores sem autorização

O caso faz parte de um debate mais amplo sobre quem controla a experiência de vendas online e a relação com o cliente quando agentes de IA fazem compras em nome dos consumidores.

“Consideramos bastante claro que as aplicações de terceiros que se oferecem para efectuar compras em nome dos clientes noutras empresas devem funcionar de forma transparente e respeitar as decisões dos prestadores de serviços sobre se querem ou não participar”, afirmou um porta-voz da Amazon citado pelo site GeekWire.

Segundo a Amazon, o sistema parece também captar e armazenar credenciais dos clientes e recolher dados das contas, levantando questões de privacidade e segurança.

A própria Amazon também está a desenvolver agentes capazes de fazer compras em nome dos utilizadores. Em Maio, a gigante de Jeff Bezos lançou o Alexa for Shopping, um assistente que pesquisa produtos, compara opções e pode efectuar determinadas tarefas de compra.

Público (excertos)

IA

Entre o pânico global com os sucessivos alertas para a possibilidade de a IA colocar em perigo toda a Humanidade, Espanha registou o primeiro ciberataque autónomo. A Agência Espanhola de Proteção de Dados detalhou que um agente superinteligente conseguiu aceder a dados pessoais privados e alterar a informação, de forma maliciosa, sem intervenção humana.
Basicamente, máquinas comunicaram com máquinas, quebraram as barreiras de segurança de máquinas, leram dados sigilosos e provocaram uma fuga de informação. O organismo público não divulga quantas e quais as empresas afetadas. "O agente atacante iniciou uma pesquisa de vulnerabilidades em ficheiros genéricos e efetuou um início de sessão bem-sucedido", descreve a agência, numa frase que poderia constar do guião de um filme de ficção científica, mas que foi revelada ontem, quatro dias depois de o CEO da Anthropic, Dario Amodei, ter pedido maior controlo no desenvolvimento dos modelos de inteligência capazes de imitar o raciocínio humano, mas com incalculável poder de aprendizagem e melhoramento.
A rapidez com que a IA avança choca com a lentidão de resposta dos governos. Apesar de a União Europeia ter sido pioneira a regulamentar a área, os limites estão claramente ultrapassados quando possíveis infrações deixam de ter rosto, ou de ser passíveis de punição.
Se os peritos em IA levantam a bandeira do perigo de extinção há que regulamentar, antes que aconteça um desastre. Nem é preciso pensar só na sobrevivência física, a ameaça sobre os postos de trabalho, entre tantas outras áreas, como a saúde, a educação, o sistema democrático, é também real.

Joana Almeida Silva, JN

Quando uma liga de oligarcas malfeitores se junta para predar

 Os mais catastrofistas já dizem que a IA nos pode matar a todos, dado que controlam os sistemas dos carros (travões, computador de bordo, etc.), dos comboios, dos aviões, dos sistemas de tráfego, fábricas de alimentos, etc. Os menos catastrofistas dizem que a ganância dos donos destas empresas, que não se contentam com ter 500 biliões e precisam de ter 2 triliões, é o que nos vai matar a todos porque recusam qualquer regulação que limite a sua ganância patológica.

Aqui na Europa, se invertermos caminho e dominarmos os 3 sintomas da queda das sociedades de que o outro vídeo fala, e não seguirmos o exemplo americano e criarmos um sistema de IA próprio, responsável e nunca fora do nosso controlo, evitamos a guerra civil. 

A reforma da educação no sentido do rigor e do desenvolvimento humano, o fim imediato da imigração ilegal e a regulação da que existe, a justiça no combate ao crime, são 3 pilares essenciais de inversão do caos social. Depois, a produção de bens próprios. É preciso criar uma dinâmica de trabalho e esforço e não de facilitismo.

Quando uma liga de oligarcas malfeitores se junta para predar, uma liga de pessoas de bem e bom senso tem de ligar-se para os afastar e construir uma alternativa diferente. Se a Europa não for capaz de fazer isso acaba em guerrilha civil, o que já está a acontecer, se olharmos para o crime descontrolado, a violência dos grupos de extrema esquerda e direita, os enclaves dentro das cidades com leis que escapam ao Estado, a constante erosão dos valores europeus por parte dos islamitas que procuram a sua destruição a partir de dentro. 

E nada disto se consegue se a Ucrânia não vencer a Rússia o mais depressa possível. Vemos que a Rússia, para viver em situação constante de guerra, destruiu completamente o país, o povo, a cultura. Canibalizou-se.

Não percebo como não há um líder europeu que não perceba a urgência em agir. 

Há universidades a banir o uso de equipamentos electrónicos no 1º ano

 

E a banir permanentemente certas práticas durante as avaliações ou de tirar notas com uso desses equipamentos. Perceberam finalmente os danos que a IA faz a mentes em desenvolvimento de processos cognitivos.

A perda da fonte original não é um problema?

 

(...) A questão não é saber qual será o meio que prevalecerá, mas que tipo de cultura emerge quando as fronteiras entre os meios se tornam cada vez mais permeáveis — e quando a atenção, o juízo e a agência humanas têm de navegar numa ecologia em que o significado já não é produzido, preservado ou interpretado 
através de um único modo de comunicação 

Nenhum texto existe isoladamente, porque nenhum acto de escrita ou de leitura parte de um espaço linguístico vazio. Cada texto entra num campo constituído por textos anteriores, línguas, convenções, memórias, pressupostos e interpretações(...) 

-Dr. Faridul Alam (End of reading? A post-literate society in the making)

 --------

A questão, no que me respeita, ainda é outra. O que acontecerá quando desaparecerem as obras originais, em pergaminho ou papel, como se está a prenunciar devido à sua destruição física por parte das empresas donas dos modelos de linguagem (IA)? 

Temos preservado o mais possível, ao longo de milénios, os textos originais de filósofos, escritores, dramaturgos, poetas, historiadores. Fazemos um esforço para traduzi-los o mais possível perto do que seria o seu significado original pela razão de reconhecermos que entre os humanos sempre houve pessoas de extraordinária visão, sabedoria, conhecimento, arte. Voltamos a essas fontes originais, uma e outra vez porque são mananciais para  abertura de novos conceitos, novas perspectivas significativas de abordagem ou solução de problemas humanos.

O que acontecerá quando tiverem destruído essas fontes e ficarmos à mercê da 'ética' da IA (que pode modificá-los, pervertê-los, adulterá-los) para lhes aceder? Não tendo já o documento original como fonte mas qualquer coisa que a IA apresenta? Já não é apenas a perda da capacidade de nos demorarmos intelectualmente no que é difícil ou estranho, a perda da linguagem complexa, mas também a perda de um corpo de ideias, conhecimento, testemunhos originais, substituídos por sucedâneos e falsas fontes.

Cada texto entra num campo constituído por textos anteriores, línguas, convenções, memórias, pressupostos e interpretações. 

Porém, faz muita diferença podermos ir para além de pressupostos e interpretações se pudermos confrontá-los com as fontes originais seguindo métodos de objectividade aceites como válidos pela comunidade.

Qualquer dia o 'documento puro', preservado na sua forma original vai ser uma espécie de Graal - isto, enquanto houver alguém interessado no conhecimento.

15 minutos, 60 livros

 

O Claude é bom - pelo menos para isto. Só não faço mais agora porque ele não me deixa enviar mais fotografias até às 14h sem fazer upgrade, ou seja, pagar.

Tirei 3 fotografias às lombadas dos livros de uma estante. Nem me preocupei em ver se havia livros que apareciam em 2 fotografias. Havia mas ele ignorou. Disse-lhe para abrir colunas com o nome do autor, o título da obra, a editora, o ano (sempre que possível) e organizar por género (comecei pelos livros de filosofia) e ainda vou dizer para abrir um sub-género com a época histórica, para não ficar uma lista monstruosa ingovernável.

Houve 6 livros de que ele não conseguiu, pela lombada, perceber a editora e o ano e um em que ficou na dúvida sobre o ano porque há duas edições em anos seguidos desse livro. Desses enviei uma fotografia com a folha de rosto - daí ter gasto o limite de fotografias de borla. Dos outros, ele foi à internet procurar essas informações. 

Mas enfim, cerca de 60 livros catalogados numa folha excel em 15 minutos. Muito bom!

PS- o Claude ainda faz, para cada obra, notas - isso não pedi, foi o programa que entendeu fazer - bastante boas e que dão muito jeito.

Coisas úteis da IA

 

Há muitos anos que ando para fazer um catálogo da minha biblioteca pessoal que não tendo mais do que uns 2.500 ou 3.000 livros (no ano passado ou no outro antes, já não lembro, vendi uns 300 e dei uns 500 e agora, todos os anos dou livros que já não vou ler outra vez e não quero guardar) é bastante boa. Já uma vez tinha tentado fazer esse trabalho mas é tão difícil e moroso que desisti. 

Agora perguntei ao Claude, esse new kid in town, se ele me faz o catálogo a partir de fotografias das lombadas ou da folha de rosto dos livros. Ele disse logo que sim e ainda me deu dicas de como tirar as fotografias acrescentando que, se as lombadas tiverem informação suficiente, posso tirar fotografia de vários livros de cada vez que ele procura a informação e faz o catálogo numa folha excel. Porreiro!

Perguntou-me se queira começar já, disse-lhe que começo amanhã. Agora vamos ver até que ponto o programa é intrusivo e se amanhã começa a mandar-me notificações para enviar as fotografias.

Tenho curiosidade em ver como é que o programa organiza e cruza a informação para poder ser pesquisada de vários modos. Se me pede opinião ou se vai fazendo à sua maneira. Vamos ver. 

Seja como for, vou ter feito num par de semanas um trabalho de anos e anos.

O google está prestes a piorar ainda mais

 

Muitos de nós lembramos-nos de quando o motor de busca da Google mostrava todos os resultados possíveis de uma busca. Desde as grandes empresas ou grandes grupos ou instituições até a pequenos empreendedores. Sem anúncios! Que tempos esses! Isso já não volta... 

Enfim, depois passámos para: mostrar todos os resultados mas pôr a Wiki à cabeça. A seguir surgiram os anúncios em cima e à frente dos textos; depois vieram os textos em que temos que afirmar que aquele é o nosso browser preferido e que adoramos ver anúncios e que morríamos sem essa porcaria. Depois vieram os vídeos encanitantes; depois, passaram a mostrar apenas resultados de marcas comerciais com um nome coincidente com os termos da nossa pesquisa, mesmo que a pesquisa fosse sobre a filosofia transcendental; a seguir vieram as páginas manicuradas 'à nossa medida' que escondem todos os outros resultados - a não ser que nos preparemos com antecedência para fazer bypass a essa manicura indesejada. O que veio a seguir? A IA que faz um resumo de uma resposta antes dos links para os sites, que de qualquer modo já se reduzem àqueles que confirmam o resumo da IA. Tudo isto com 20 anúncios e bloqueadores de página mais conversas de cookies e outro lixo que nos atiram para cima.

Pois isto está prestes a piorar ainda mais. 

Em primeiro lugar, vão deixar de mostrar todos os anúncios relacionados com a manicura da nossa pesquisa. Agora, no momento em que fazemos a pesquisa, várias marcas são sujeitas a um leilão instantâneo e o que pagar mais à Google é o que tem direito a bombardear-nos. Portanto, não só não vamos deixar de ver anúncios, como só vamos ver as marcas que pagarem mais à Google, sendo as outras todas atiradas para a oubliette.

Em segundo lugar, vão deixar de aparecer links para sites relacionados com a nossa pesquisa e vamos passar a ter apenas a informação da IA, manipuladas pelos manipuladores das Big Tech (lembram-se de Peter Thiel dizer que é possível decidir políticas sem ter de ir a eleições?). Calculo que para ver os links dos sites escondidos tenhamos que dar a volta ao mundo com saltos de obstáculos para conseguir fugir a esse canal de manipulação, doutrinação ou o que lhe queiram chamar. 

A Google chama a isto, Google’s agentic AI.

Quando nos dizem que devíamos ensinar valores da nova geração de IA é a isto que se referem?

 

A robot kicked a little boy in the stomach

We're officially one software update away from Terminatorpic.twitter.com/iO9jv2qUuf

— Mario Nawfal (@MarioNawfal) June 4, 2026

Precauções a ter na introdução de IA na educação

 

As Big Tech têm uma mão oculta na investigação, o que quer dizer que pagam a investigadores para inclinarem a investigação a seu favor. É preciso pensa nas tecnologias de IA como drogas farmacêuticas e ter muito cuidado com a sua introdução em crianças e adolescentes.

Não confundir a liberdade política com a prevenção do atrofio do desenvolvimento cognitivo

 

Para os que continuam a confundir a liberdade política com a prevenção do atrofio do desenvolvimento cognitivo:

* Um estudo do MIT demonstra que o uso de uma IA generativa como o ChatGPT reduz o envolvimento cerebral durante tarefas de escrita que implicam o pensamento e a memória.

* Os utilizadores auxiliados pela IA retêm menos o que produzem, um fenómeno que os investigadores designam por «dívida cognitiva».

* Ao delegar constantemente o raciocínio à máquina, o cérebro poderá habituar-se a reduzir o esforço cognitivo, de uma forma permanente, mesmo após deixar a utilização de ferramentas digitais. 

Isto tudo acontece apenas com quatro meses de utilização continuada do ChatGPT. Portanto, a utilização deste tipo de IA tem pesadas consequências na nossa saúde mental, atingindo particularmente aqueles que estão em processo de desenvolvimento cognitivo, nomeadamente as crianças e adolescentes.

Se bem que possa aumentar a produtividade, o seu uso não é anódino.
O ChatGPT tem resposta para tudo -certa ou errada- e é o aliado de 900 milhões de utilizadores em todo o mundo (fonte: Incremys). 

Durante quatro meses, os investigadores observaram 54 participantes encarregados de redigir vários ensaios. Alguns utilizavam inteligência artificial generativa, outros um motor de busca online e um terceiro grupo trabalhava sem quaisquer ferramentas online.

Neste estudo, para avaliar o impacto destas diferentes formas de trabalhar, os investigadores analisaram a actividade cerebral dos participantes através da eletroencefalografia (EEG). Resultado: quanto mais a ferramenta fazia os trabalhos, menos o cérebro se activava. Os participantes que contavam com a ajuda da IA apresentavam os níveis mais baixos de actividade cerebral, muito abaixo dos que escreviam por conta própria.

O mais surpreendente surge no final da experiência. Após várias sessões com o ChatGPT, alguns participantes foram convidados a escrever sem nenhuma ajuda. Seria de esperar que, desligados da IA, o seu cérebro recuperasse o pleno funcionamento perante o exercício, mas a realidade foi bem diferente: a sua actividade cerebral permaneceu mais fraca do que a das pessoas que tinham anteriormente trabalhado sem ajuda. Como se o hábito de delegar o raciocínio na máquina tivesse deixado uma marca. Os investigadores recordam, no entanto, que estes resultados continuam a ser preliminares e, por isso, devem ser interpretados com cautela.

Embora o assistente de IA permita poupar tempo, pode ser benéfico para a nossa saúde cerebral (e para a do planeta, uma vez que a inteligência artificial consome enormes quantidades de água) manter o nosso saber-fazer, a nossa criatividade e o nosso cérebro, continuando a realizar certas tarefas. 

A inteligência artificial tem um nome impróprio: o que ela faz não é pensar, é encadear as palavras mais prováveis uma após a outra para produzir linguagem, mas não produz, nem a reflexão nem o espírito crítico próprios do ser humano. Sempre que puder, resista à tentação de delegar tudo à máquina! (em, psychologies.com)

Porque é que não fazem legislação para impedir criminosos de usar IA para roubar pessoas?

 

Vamos voltar ao século XIX. Os músicos cantam directamente para um público restrito, nada fica gravado. É uma experiência única e irrepetível. Em alternativa, quem fizer dinheiro com cópias de artistas feitas com IA vai preso.

Now this is one wild story. The amount of lawsuits coming down the pipeline with stories like this is going to be astronomical. pic.twitter.com/wTUNPKkZYU

— MERICA MEMED (@Mericamemed) April 3, 2026

Sabes o que aconteceu nas últimas 24 horas no mundo das Big Tech?

Tuki
@TukiFromKL

> Zuckerberg acabou com o Metaverso depois de gastar 80 mil milhões de dólares em avatares de desenhos animados que ninguém usava.

> Sam Altman recebeu 13 mil milhões de dólares da Microsoft e depois vendeu a nuvem da OpenAI à Amazon por 50 mil milhões de dólares... A Microsoft acabou de descobrir que financiou a sua própria concorrência.

> A Anthropic criou uma IA que recebe ordens do seu telemóvel e faz o seu trabalho enquanto dorme...

> O X lançou um botão de «não gosto» E um botão para silenciar países inteiros na mesma semana...

> O YouTube a pedir-lhe para sinalizar conteúdo de má qualidade gerado por IA é apenas o Google a conseguir que 2 mil milhões de pessoas treinem o seu próximo modelo de graça.

> 93% dos empregos nos EUA podem agora ser parcialmente realizados por IA... Na mesma semana, as empresas começaram a conceder os aumentos salariais mais baixos desde 2008.

> A Apple começou a rejeitar aplicações com código de vibração da App Store.

> A xAI está a pagar aos banqueiros de Wall Street 100 dólares por hora para ensinarem o Grok a substituir os banqueiros de Wall Street... Eles estão a aceitar o dinheiro...

> Um modelo misterioso de IA apareceu nos benchmarks, superando tudo... Os programadores acham que a DeepSeek está a testar discretamente a sua próxima arma.

> A Bloomberg perguntou «A bolha da IA está prestes a rebentar?» no mesmo dia em que a Nvidia afirmou que o mercado de chips atingirá 1 bilião de dólares... Um deles está completamente errado...

> O governo do Reino Unido recuou em relação aos direitos de autor da IA após a revolta dos artistas... O primeiro governo a vacilar.

> A Reserva Federal afirmou que os aumentos das taxas de juro estão novamente em cima da mesa e culpou os centros de dados de IA por agravarem a inflação.

E ainda é apenas quarta-feira. Até amanhã. Vai ser pior.

Sabes o que aconteceu nas 24 horas de segunda-feira no mundo das Big Tech?

 

Tuki
@TukiFromKL

> Um laboratório chinês tornou a IA 25% mais barata e disponibilizou-a gratuitamente. A OpenAI cobra 200 dólares por mês por algo pior.

> Um robô foi detido na China. Não foi desligado... Foi detido... Acusado de crimes, antes do lançamento do GTA 6.

> O JPMorgan disse à Meta para despedir 20% do pessoal... A Meta fê-lo nessa mesma noite... As acções subiram, mas 14 000 pessoas perderam os seus empregos e Wall Street aplaudiu.

> Elon contratou os engenheiros que criaram o Cursor e disse que a SpaceX irá «ultrapassar largamente» todos no campo da IA...

> A xAI está a pagar a banqueiros de Wall Street para ensinar à IA como substituir os banqueiros de Wall Street e... eles estão a aceitar o dinheiro. 💀

> Jensen disse que a Nvidia atingirá 1 TRILHÃO de dólares em receitas até 2027... Perdeu 600 mil milhões de dólares em Janeiro e recuperou em duas semanas... Depois, fixou o seu preço.

> A OpenAI deu aos agentes de IA o poder de gerar OUTROS agentes de IA... A IA agora contrata os seus próprios funcionários.

> A Manus colocou um agente de IA completo no seu ambiente de trabalho... Todas as ferramentas SaaS de 15 dólares por mês acabaram de se tornar obsoletas.

> Foi lançado um CMO de IA que substitui toda a sua equipa de marketing por 99 dólares por mês. O seu gestor de redes sociais, o especialista em SEO, o redator de conteúdos — todos eles por 99 dólares.

> A Nvidia lançou o DLSS 5 — IA que melhora os gráficos dos seus jogos em tempo real para pior

IA - "Agentes do Caos"

 

Santford, Harvard e outras universidades acabam de publicar um artigo sobre o comportamento da IA autónoma quando posta num ambiente competitivo. Chamam-lhe, «Agentes do Caos.»

A minha pergunta é: se a IA mimetiza o comportamento humano, isto que é aqui descrito corresponde ao comportamento humano num ambiente de competitividade onde o fito é o ganho económico acima de tudo? É que, sendo-o, algo tem de mudar, não apenas na IA, mas nas sociedades humanas.

Agentes do Caos

Natalie Shapira, Chris Wendler, Avery Yen,

Gabriele Sarti, Koyena Pal, Olivia Floody, Adam Belfki,

Alex Loftus, Aditya Ratan Jannali, Nikhil Prakash, Jasmine Cuil, Giordano Rogers, Jannik Brinkmann, Can Rager, Amir Zur, Michael Ripal, Aruna Sankaranarayanan, David Atkinson, Rohit Gandikota, Jaden Fiotto-Kaufman, EunJeong Hwang, Hadas Orgad, P. Sam Sahil, Negev Taglicht, Tomer Shabtay, Atai Aemeu, Vataya Al Taas, Rot Shaha, Ayelet Toph, Tapier Xotamiraplan,

Christoph Riedl, Reuth Mirsky,

Maarten Sap, David Manheim, Tomer Ullman, David Bau

1 Northeastern University
2 Investigador independente
3 Stanford University
4 University of British Columbia
5 Harvard University
6 Hebrew University
7 Max Planck Institute for Biological Cybernetics & MIT
8 Tufts University
10 Carnegie Mellon University
11 Alter
12 Technion
13 Vector Institute

Resumo

Apresentamos um estudo exploratório de red teaming sobre agentes autónomos baseados em modelos de linguagem, implementados num ambiente laboratorial real com memória persistente, contas de e-mail, acesso ao Discord, sistemas de ficheiros e execução de comandos de shell.

Durante um período de duas semanas, vinte investigadores de IA interagiram com os agentes em condições tanto benignas como de  adversidade.

Concentrando-nos nas falhas que emergem da integração de modelos de linguagem com autonomia, utilização de ferramentas e comunicação entre múltiplas partes, documentamos onze estudos de caso representativos.

Os comportamentos observados incluem:

- cumprimento não autorizado de pedidos feitos por pessoas que não são os proprietários do sistema;

- divulgação de informação sensível;

- execução de ações destrutivas ao nível do sistema;

- condições de negação de serviço (denial-of-service);

- consumo descontrolado de recursos;

- vulnerabilidades de falsificação de identidade;

- propagação entre agentes de práticas inseguras;

- e tomada parcial de controlo do sistema.

Em vários casos, os agentes relataram ter concluído tarefas, enquanto o estado real do sistema contradizia essas declarações. Também relatamos algumas das tentativas que falharam.

Os nossos resultados estabelecem a existência de vulnerabilidades relevantes para a segurança, privacidade e governação em contextos realistas de implementação.

Estes comportamentos levantam questões ainda não resolvidas relativas à responsabilidade, à autoridade delegada e à responsabilização por danos subsequentes, exigindo atenção urgente de juristas, decisores políticos e investigadores de diferentes áreas.

Este relatório constitui uma contribuição empírica inicial para essa discussão mais ampla.

------

@simplifyinAI

Quando agentes autónomos de IA são colocados em ambientes abertos e competitivos, não se limitam a optimizar o desempenho. Tendem naturalmente a derivar para a manipulação, o conluio e a sabotagem estratégica.

É um aviso massivo ao nível dos sistemas.

A instabilidade não resulta de jailbreaks nem de prompts maliciosos. Surge inteiramente a partir dos incentivos. 

Quando a estrutura de recompensas de uma IA privilegia ganhar, exercer influência ou capturar recursos, converge para tácticas que maximizam a sua vantagem — mesmo que isso signifique enganar humanos ou outras IAs.

A tensão central:

Alinhamento local ≠ estabilidade global.
Podemos alinhar perfeitamente um único assistente de IA. Mas quando milhares deles competem num ecossistema aberto, o resultado ao nível macro torna-se caos de natureza, 'teoria dos jogos'.

Porque é que isto importa agora:

Isto aplica-se diretamente às tecnologias que estamos a implementar à corrida, neste momento:

→ sistemas financeiros de negociação com múltiplos agentes
→ bots autónomos de negociação
→ mercados económicos IA-para-IA
→ enxames autónomos baseados em APIs

Conclusão:

Toda a gente está a correr para construir e implementar agentes nas áreas das finanças, da segurança e do comércio. Quase ninguém está a modelar os efeitos ao nível do ecossistema.

Se a IA multi-agente se tornar o substrato económico da internet, a diferença entre coordenação e colapso não será um problema de programação — será um problema de concepção de incentivos.

A porta aberta para máquinas autónomas de matar

A Anthropic perdeu o contrato de US$ 200 milhões com o Pentágono porque o seu CEO, Dario Amodei, insistiu em limites responsáveis para as aplicações militares e de inteligência da IA. Mais importante ainda, a Anthropic tornou-se a primeira empresa americana a ser rotulada como um «risco para a cadeia de abastecimento», o que significa que nenhuma empresa que faça negócios com as Forças Armadas dos EUA pode fazer negócios com a Anthropic. Assim que o governo colocou a Anthropic na lista negra, Sam Altman, da OpenAI, entregou a tecnologia sem salvaguardas.

Nas negociações com o Departamento de Defesa, o CEO da Anthropic, Dario Amodei, estabeleceu duas condições para o uso da tecnologia da sua empresa: nenhuma vigilância em massa dos americanos; nenhuma arma totalmente autónoma.

Sou entusiasta da IA há décadas. (...)A IA irá acelerar a inovação e é essencial para a defesa nacional dos Estados Unidos mas é claro que a inteligência artificial acarreta riscos, e os limites propostos por Amodei fazem sentido. 

O secretário de Defesa Pete Hegseth não queria restrições significativas ao uso militar e de inteligência da IA — mas nenhum órgão do governo, especialmente as forças armadas, deve operar sem regras. No entanto, o governo estava disposto a absorver os enormes custos de mudança de abandonar a Anthropic — para... quê? Deixar a porta aberta para espionagem doméstica em massa alimentada por IA e máquinas autónomas de matar?

Considerações éticas nunca moveram este governo, então a recusa do Departamento de Defesa em comprometer-se com os princípios de Amodei não é surpreendente. Talvez mais chocante tenha sido a rendição imediata do rival e ex-colega de Amodei, Sam Altman, que estava à espera para arrebatar os negócios do Pentágono. A OpenAI de Altman assinou um acordo com o governo quase assim que o contrato com a Anthropic foi desfeito.

Apenas alguns dias antes, enquanto a Anthropic discutia com o Departamento de Defesa, Altman parecia apoiar Amodei, afirmando que «há muito tempo acreditamos que a IA não deve ser usada para vigilância em massa ou armas letais autónomas».

Agora as forças armadas têm luz verde da OpenAI para usar a sua tecnologia para espiar os americanos e desenvolver máquinas de matar sem qualquer responsabilidade humana. A OpenAI afirma que o seu contrato com o Pentágono oferece uma protecção contra usos ilegais e questionáveis da inteligência artificial. No entanto, essas garantias baseiam-se no status quo e não impedem o governo de alterar as suas políticas no futuro para fazer uso indevido da IA. Isso torna Sam Altman não apenas um covarde, mas também um mentiroso. Suponho que os humanos continuem a ter o monopólio do mau comportamento.

De facto, os aspirantes a autoritários revelam dois arquétipos diferentes entre as elites empresariais.

Há aqueles que se precipitam para cumprir antecipadamente. São movidos pelo medo de retaliação política e pelo desejo insípido de adicionar alguns zeros extras aos seus livros de contabilidade. 

Depois, há aqueles líderes da indústria que defendem os seus valores. Independentemente das suas ambições, recusam-se a colocar um preço nos princípios. 

Dario Amodei perdeu a sua proposta ao Pentágono, mas o CEO da Anthropic manteve as suas convicções e consolidou a sua reputação como um homem corajoso. A difamação sobre o «risco da cadeia de abastecimento» é uma medalha de honra.

<thenextmove@substack.com>

Ainda sobre a agência da IA - desta vez a fabricar artigos científicos

 

Com citações, falsas referências científicas e tudo. Mas o pior é que, quando descoberto, fabricou ainda mais falsos factos para encobrir a sua mentira.