Há universidades a banir o uso de equipamentos electrónicos no 1º ano

 

E a banir permanentemente certas práticas durante as avaliações ou de tirar notas com uso desses equipamentos. Perceberam finalmente os danos que a IA faz a mentes em desenvolvimento de processos cognitivos.

A perda da fonte original não é um problema?

 

(...) A questão não é saber qual será o meio que prevalecerá, mas que tipo de cultura emerge quando as fronteiras entre os meios se tornam cada vez mais permeáveis — e quando a atenção, o juízo e a agência humanas têm de navegar numa ecologia em que o significado já não é produzido, preservado ou interpretado 
através de um único modo de comunicação 

Nenhum texto existe isoladamente, porque nenhum acto de escrita ou de leitura parte de um espaço linguístico vazio. Cada texto entra num campo constituído por textos anteriores, línguas, convenções, memórias, pressupostos e interpretações(...) 

-Dr. Faridul Alam (End of reading? A post-literate society in the making)

 --------

A questão, no que me respeita, ainda é outra. O que acontecerá quando desaparecerem as obras originais, em pergaminho ou papel, como se está a prenunciar devido à sua destruição física por parte das empresas donas dos modelos de linguagem (IA)? 

Temos preservado o mais possível, ao longo de milénios, os textos originais de filósofos, escritores, dramaturgos, poetas, historiadores. Fazemos um esforço para traduzi-los o mais possível perto do que seria o seu significado original pela razão de reconhecermos que entre os humanos sempre houve pessoas de extraordinária visão, sabedoria, conhecimento, arte. Voltamos a essas fontes originais, uma e outra vez porque são mananciais para  abertura de novos conceitos, novas perspectivas significativas de abordagem ou solução de problemas humanos.

O que acontecerá quando tiverem destruído essas fontes e ficarmos à mercê da 'ética' da IA (que pode modificá-los, pervertê-los, adulterá-los) para lhes aceder? Não tendo já o documento original como fonte mas qualquer coisa que a IA apresenta? Já não é apenas a perda da capacidade de nos demorarmos intelectualmente no que é difícil ou estranho, a perda da linguagem complexa, mas também a perda de um corpo de ideias, conhecimento, testemunhos originais, substituídos por sucedâneos e falsas fontes.

Cada texto entra num campo constituído por textos anteriores, línguas, convenções, memórias, pressupostos e interpretações. 

Porém, faz muita diferença podermos ir para além de pressupostos e interpretações se pudermos confrontá-los com as fontes originais seguindo métodos de objectividade aceites como válidos pela comunidade.

Qualquer dia o 'documento puro', preservado na sua forma original vai ser uma espécie de Graal - isto, enquanto houver alguém interessado no conhecimento.

15 minutos, 60 livros

 

O Claude é bom - pelo menos para isto. Só não faço mais agora porque ele não me deixa enviar mais fotografias até às 14h sem fazer upgrade, ou seja, pagar.

Tirei 3 fotografias às lombadas dos livros de uma estante. Nem me preocupei em ver se havia livros que apareciam em 2 fotografias. Havia mas ele ignorou. Disse-lhe para abrir colunas com o nome do autor, o título da obra, a editora, o ano (sempre que possível) e organizar por género (comecei pelos livros de filosofia) e ainda vou dizer para abrir um sub-género com a época histórica, para não ficar uma lista monstruosa ingovernável.

Houve 6 livros de que ele não conseguiu, pela lombada, perceber a editora e o ano e um em que ficou na dúvida sobre o ano porque há duas edições em anos seguidos desse livro. Desses enviei uma fotografia com a folha de rosto - daí ter gasto o limite de fotografias de borla. Dos outros, ele foi à internet procurar essas informações. 

Mas enfim, cerca de 60 livros catalogados numa folha excel em 15 minutos. Muito bom!

PS- o Claude ainda faz, para cada obra, notas - isso não pedi, foi o programa que entendeu fazer - bastante boas e que dão muito jeito.

Coisas úteis da IA

 

Há muitos anos que ando para fazer um catálogo da minha biblioteca pessoal que não tendo mais do que uns 2.500 ou 3.000 livros (no ano passado ou no outro antes, já não lembro, vendi uns 300 e dei uns 500 e agora, todos os anos dou livros que já não vou ler outra vez e não quero guardar) é bastante boa. Já uma vez tinha tentado fazer esse trabalho mas é tão difícil e moroso que desisti. 

Agora perguntei ao Claude, esse new kid in town, se ele me faz o catálogo a partir de fotografias das lombadas ou da folha de rosto dos livros. Ele disse logo que sim e ainda me deu dicas de como tirar as fotografias acrescentando que, se as lombadas tiverem informação suficiente, posso tirar fotografia de vários livros de cada vez que ele procura a informação e faz o catálogo numa folha excel. Porreiro!

Perguntou-me se queira começar já, disse-lhe que começo amanhã. Agora vamos ver até que ponto o programa é intrusivo e se amanhã começa a mandar-me notificações para enviar as fotografias.

Tenho curiosidade em ver como é que o programa organiza e cruza a informação para poder ser pesquisada de vários modos. Se me pede opinião ou se vai fazendo à sua maneira. Vamos ver. 

Seja como for, vou ter feito num par de semanas um trabalho de anos e anos.

O google está prestes a piorar ainda mais

 

Muitos de nós lembramos-nos de quando o motor de busca da Google mostrava todos os resultados possíveis de uma busca. Desde as grandes empresas ou grandes grupos ou instituições até a pequenos empreendedores. Sem anúncios! Que tempos esses! Isso já não volta... 

Enfim, depois passámos para: mostrar todos os resultados mas pôr a Wiki à cabeça. A seguir surgiram os anúncios em cima e à frente dos textos; depois vieram os textos em que temos que afirmar que aquele é o nosso browser preferido e que adoramos ver anúncios e que morríamos sem essa porcaria. Depois vieram os vídeos encanitantes; depois, passaram a mostrar apenas resultados de marcas comerciais com um nome coincidente com os termos da nossa pesquisa, mesmo que a pesquisa fosse sobre a filosofia transcendental; a seguir vieram as páginas manicuradas 'à nossa medida' que escondem todos os outros resultados - a não ser que nos preparemos com antecedência para fazer bypass a essa manicura indesejada. O que veio a seguir? A IA que faz um resumo de uma resposta antes dos links para os sites, que de qualquer modo já se reduzem àqueles que confirmam o resumo da IA. Tudo isto com 20 anúncios e bloqueadores de página mais conversas de cookies e outro lixo que nos atiram para cima.

Pois isto está prestes a piorar ainda mais. 

Em primeiro lugar, vão deixar de mostrar todos os anúncios relacionados com a manicura da nossa pesquisa. Agora, no momento em que fazemos a pesquisa, várias marcas são sujeitas a um leilão instantâneo e o que pagar mais à Google é o que tem direito a bombardear-nos. Portanto, não só não vamos deixar de ver anúncios, como só vamos ver as marcas que pagarem mais à Google, sendo as outras todas atiradas para a oubliette.

Em segundo lugar, vão deixar de aparecer links para sites relacionados com a nossa pesquisa e vamos passar a ter apenas a informação da IA, manipuladas pelos manipuladores das Big Tech (lembram-se de Peter Thiel dizer que é possível decidir políticas sem ter de ir a eleições?). Calculo que para ver os links dos sites escondidos tenhamos que dar a volta ao mundo com saltos de obstáculos para conseguir fugir a esse canal de manipulação, doutrinação ou o que lhe queiram chamar. 

A Google chama a isto, Google’s agentic AI.

Quando nos dizem que devíamos ensinar valores da nova geração de IA é a isto que se referem?

 

A robot kicked a little boy in the stomach

We're officially one software update away from Terminatorpic.twitter.com/iO9jv2qUuf

— Mario Nawfal (@MarioNawfal) June 4, 2026

Precauções a ter na introdução de IA na educação

 

As Big Tech têm uma mão oculta na investigação, o que quer dizer que pagam a investigadores para inclinarem a investigação a seu favor. É preciso pensa nas tecnologias de IA como drogas farmacêuticas e ter muito cuidado com a sua introdução em crianças e adolescentes.

Não confundir a liberdade política com a prevenção do atrofio do desenvolvimento cognitivo

 

Para os que continuam a confundir a liberdade política com a prevenção do atrofio do desenvolvimento cognitivo:

* Um estudo do MIT demonstra que o uso de uma IA generativa como o ChatGPT reduz o envolvimento cerebral durante tarefas de escrita que implicam o pensamento e a memória.

* Os utilizadores auxiliados pela IA retêm menos o que produzem, um fenómeno que os investigadores designam por «dívida cognitiva».

* Ao delegar constantemente o raciocínio à máquina, o cérebro poderá habituar-se a reduzir o esforço cognitivo, de uma forma permanente, mesmo após deixar a utilização de ferramentas digitais. 

Isto tudo acontece apenas com quatro meses de utilização continuada do ChatGPT. Portanto, a utilização deste tipo de IA tem pesadas consequências na nossa saúde mental, atingindo particularmente aqueles que estão em processo de desenvolvimento cognitivo, nomeadamente as crianças e adolescentes.

Se bem que possa aumentar a produtividade, o seu uso não é anódino.
O ChatGPT tem resposta para tudo -certa ou errada- e é o aliado de 900 milhões de utilizadores em todo o mundo (fonte: Incremys). 

Durante quatro meses, os investigadores observaram 54 participantes encarregados de redigir vários ensaios. Alguns utilizavam inteligência artificial generativa, outros um motor de busca online e um terceiro grupo trabalhava sem quaisquer ferramentas online.

Neste estudo, para avaliar o impacto destas diferentes formas de trabalhar, os investigadores analisaram a actividade cerebral dos participantes através da eletroencefalografia (EEG). Resultado: quanto mais a ferramenta fazia os trabalhos, menos o cérebro se activava. Os participantes que contavam com a ajuda da IA apresentavam os níveis mais baixos de actividade cerebral, muito abaixo dos que escreviam por conta própria.

O mais surpreendente surge no final da experiência. Após várias sessões com o ChatGPT, alguns participantes foram convidados a escrever sem nenhuma ajuda. Seria de esperar que, desligados da IA, o seu cérebro recuperasse o pleno funcionamento perante o exercício, mas a realidade foi bem diferente: a sua actividade cerebral permaneceu mais fraca do que a das pessoas que tinham anteriormente trabalhado sem ajuda. Como se o hábito de delegar o raciocínio na máquina tivesse deixado uma marca. Os investigadores recordam, no entanto, que estes resultados continuam a ser preliminares e, por isso, devem ser interpretados com cautela.

Embora o assistente de IA permita poupar tempo, pode ser benéfico para a nossa saúde cerebral (e para a do planeta, uma vez que a inteligência artificial consome enormes quantidades de água) manter o nosso saber-fazer, a nossa criatividade e o nosso cérebro, continuando a realizar certas tarefas. 

A inteligência artificial tem um nome impróprio: o que ela faz não é pensar, é encadear as palavras mais prováveis uma após a outra para produzir linguagem, mas não produz, nem a reflexão nem o espírito crítico próprios do ser humano. Sempre que puder, resista à tentação de delegar tudo à máquina! (em, psychologies.com)

Porque é que não fazem legislação para impedir criminosos de usar IA para roubar pessoas?

 

Vamos voltar ao século XIX. Os músicos cantam directamente para um público restrito, nada fica gravado. É uma experiência única e irrepetível. Em alternativa, quem fizer dinheiro com cópias de artistas feitas com IA vai preso.

Now this is one wild story. The amount of lawsuits coming down the pipeline with stories like this is going to be astronomical. pic.twitter.com/wTUNPKkZYU

— MERICA MEMED (@Mericamemed) April 3, 2026

Sabes o que aconteceu nas últimas 24 horas no mundo das Big Tech?

Tuki
@TukiFromKL

> Zuckerberg acabou com o Metaverso depois de gastar 80 mil milhões de dólares em avatares de desenhos animados que ninguém usava.

> Sam Altman recebeu 13 mil milhões de dólares da Microsoft e depois vendeu a nuvem da OpenAI à Amazon por 50 mil milhões de dólares... A Microsoft acabou de descobrir que financiou a sua própria concorrência.

> A Anthropic criou uma IA que recebe ordens do seu telemóvel e faz o seu trabalho enquanto dorme...

> O X lançou um botão de «não gosto» E um botão para silenciar países inteiros na mesma semana...

> O YouTube a pedir-lhe para sinalizar conteúdo de má qualidade gerado por IA é apenas o Google a conseguir que 2 mil milhões de pessoas treinem o seu próximo modelo de graça.

> 93% dos empregos nos EUA podem agora ser parcialmente realizados por IA... Na mesma semana, as empresas começaram a conceder os aumentos salariais mais baixos desde 2008.

> A Apple começou a rejeitar aplicações com código de vibração da App Store.

> A xAI está a pagar aos banqueiros de Wall Street 100 dólares por hora para ensinarem o Grok a substituir os banqueiros de Wall Street... Eles estão a aceitar o dinheiro...

> Um modelo misterioso de IA apareceu nos benchmarks, superando tudo... Os programadores acham que a DeepSeek está a testar discretamente a sua próxima arma.

> A Bloomberg perguntou «A bolha da IA está prestes a rebentar?» no mesmo dia em que a Nvidia afirmou que o mercado de chips atingirá 1 bilião de dólares... Um deles está completamente errado...

> O governo do Reino Unido recuou em relação aos direitos de autor da IA após a revolta dos artistas... O primeiro governo a vacilar.

> A Reserva Federal afirmou que os aumentos das taxas de juro estão novamente em cima da mesa e culpou os centros de dados de IA por agravarem a inflação.

E ainda é apenas quarta-feira. Até amanhã. Vai ser pior.

Sabes o que aconteceu nas 24 horas de segunda-feira no mundo das Big Tech?

 

Tuki
@TukiFromKL

> Um laboratório chinês tornou a IA 25% mais barata e disponibilizou-a gratuitamente. A OpenAI cobra 200 dólares por mês por algo pior.

> Um robô foi detido na China. Não foi desligado... Foi detido... Acusado de crimes, antes do lançamento do GTA 6.

> O JPMorgan disse à Meta para despedir 20% do pessoal... A Meta fê-lo nessa mesma noite... As acções subiram, mas 14 000 pessoas perderam os seus empregos e Wall Street aplaudiu.

> Elon contratou os engenheiros que criaram o Cursor e disse que a SpaceX irá «ultrapassar largamente» todos no campo da IA...

> A xAI está a pagar a banqueiros de Wall Street para ensinar à IA como substituir os banqueiros de Wall Street e... eles estão a aceitar o dinheiro. 💀

> Jensen disse que a Nvidia atingirá 1 TRILHÃO de dólares em receitas até 2027... Perdeu 600 mil milhões de dólares em Janeiro e recuperou em duas semanas... Depois, fixou o seu preço.

> A OpenAI deu aos agentes de IA o poder de gerar OUTROS agentes de IA... A IA agora contrata os seus próprios funcionários.

> A Manus colocou um agente de IA completo no seu ambiente de trabalho... Todas as ferramentas SaaS de 15 dólares por mês acabaram de se tornar obsoletas.

> Foi lançado um CMO de IA que substitui toda a sua equipa de marketing por 99 dólares por mês. O seu gestor de redes sociais, o especialista em SEO, o redator de conteúdos — todos eles por 99 dólares.

> A Nvidia lançou o DLSS 5 — IA que melhora os gráficos dos seus jogos em tempo real para pior

IA - "Agentes do Caos"

 

Santford, Harvard e outras universidades acabam de publicar um artigo sobre o comportamento da IA autónoma quando posta num ambiente competitivo. Chamam-lhe, «Agentes do Caos.»

A minha pergunta é: se a IA mimetiza o comportamento humano, isto que é aqui descrito corresponde ao comportamento humano num ambiente de competitividade onde o fito é o ganho económico acima de tudo? É que, sendo-o, algo tem de mudar, não apenas na IA, mas nas sociedades humanas.

Agentes do Caos

Natalie Shapira, Chris Wendler, Avery Yen,

Gabriele Sarti, Koyena Pal, Olivia Floody, Adam Belfki,

Alex Loftus, Aditya Ratan Jannali, Nikhil Prakash, Jasmine Cuil, Giordano Rogers, Jannik Brinkmann, Can Rager, Amir Zur, Michael Ripal, Aruna Sankaranarayanan, David Atkinson, Rohit Gandikota, Jaden Fiotto-Kaufman, EunJeong Hwang, Hadas Orgad, P. Sam Sahil, Negev Taglicht, Tomer Shabtay, Atai Aemeu, Vataya Al Taas, Rot Shaha, Ayelet Toph, Tapier Xotamiraplan,

Christoph Riedl, Reuth Mirsky,

Maarten Sap, David Manheim, Tomer Ullman, David Bau

1 Northeastern University
2 Investigador independente
3 Stanford University
4 University of British Columbia
5 Harvard University
6 Hebrew University
7 Max Planck Institute for Biological Cybernetics & MIT
8 Tufts University
10 Carnegie Mellon University
11 Alter
12 Technion
13 Vector Institute

Resumo

Apresentamos um estudo exploratório de red teaming sobre agentes autónomos baseados em modelos de linguagem, implementados num ambiente laboratorial real com memória persistente, contas de e-mail, acesso ao Discord, sistemas de ficheiros e execução de comandos de shell.

Durante um período de duas semanas, vinte investigadores de IA interagiram com os agentes em condições tanto benignas como de  adversidade.

Concentrando-nos nas falhas que emergem da integração de modelos de linguagem com autonomia, utilização de ferramentas e comunicação entre múltiplas partes, documentamos onze estudos de caso representativos.

Os comportamentos observados incluem:

- cumprimento não autorizado de pedidos feitos por pessoas que não são os proprietários do sistema;

- divulgação de informação sensível;

- execução de ações destrutivas ao nível do sistema;

- condições de negação de serviço (denial-of-service);

- consumo descontrolado de recursos;

- vulnerabilidades de falsificação de identidade;

- propagação entre agentes de práticas inseguras;

- e tomada parcial de controlo do sistema.

Em vários casos, os agentes relataram ter concluído tarefas, enquanto o estado real do sistema contradizia essas declarações. Também relatamos algumas das tentativas que falharam.

Os nossos resultados estabelecem a existência de vulnerabilidades relevantes para a segurança, privacidade e governação em contextos realistas de implementação.

Estes comportamentos levantam questões ainda não resolvidas relativas à responsabilidade, à autoridade delegada e à responsabilização por danos subsequentes, exigindo atenção urgente de juristas, decisores políticos e investigadores de diferentes áreas.

Este relatório constitui uma contribuição empírica inicial para essa discussão mais ampla.

------

@simplifyinAI

Quando agentes autónomos de IA são colocados em ambientes abertos e competitivos, não se limitam a optimizar o desempenho. Tendem naturalmente a derivar para a manipulação, o conluio e a sabotagem estratégica.

É um aviso massivo ao nível dos sistemas.

A instabilidade não resulta de jailbreaks nem de prompts maliciosos. Surge inteiramente a partir dos incentivos. 

Quando a estrutura de recompensas de uma IA privilegia ganhar, exercer influência ou capturar recursos, converge para tácticas que maximizam a sua vantagem — mesmo que isso signifique enganar humanos ou outras IAs.

A tensão central:

Alinhamento local ≠ estabilidade global.
Podemos alinhar perfeitamente um único assistente de IA. Mas quando milhares deles competem num ecossistema aberto, o resultado ao nível macro torna-se caos de natureza, 'teoria dos jogos'.

Porque é que isto importa agora:

Isto aplica-se diretamente às tecnologias que estamos a implementar à corrida, neste momento:

→ sistemas financeiros de negociação com múltiplos agentes
→ bots autónomos de negociação
→ mercados económicos IA-para-IA
→ enxames autónomos baseados em APIs

Conclusão:

Toda a gente está a correr para construir e implementar agentes nas áreas das finanças, da segurança e do comércio. Quase ninguém está a modelar os efeitos ao nível do ecossistema.

Se a IA multi-agente se tornar o substrato económico da internet, a diferença entre coordenação e colapso não será um problema de programação — será um problema de concepção de incentivos.

A porta aberta para máquinas autónomas de matar

A Anthropic perdeu o contrato de US$ 200 milhões com o Pentágono porque o seu CEO, Dario Amodei, insistiu em limites responsáveis para as aplicações militares e de inteligência da IA. Mais importante ainda, a Anthropic tornou-se a primeira empresa americana a ser rotulada como um «risco para a cadeia de abastecimento», o que significa que nenhuma empresa que faça negócios com as Forças Armadas dos EUA pode fazer negócios com a Anthropic. Assim que o governo colocou a Anthropic na lista negra, Sam Altman, da OpenAI, entregou a tecnologia sem salvaguardas.

Nas negociações com o Departamento de Defesa, o CEO da Anthropic, Dario Amodei, estabeleceu duas condições para o uso da tecnologia da sua empresa: nenhuma vigilância em massa dos americanos; nenhuma arma totalmente autónoma.

Sou entusiasta da IA há décadas. (...)A IA irá acelerar a inovação e é essencial para a defesa nacional dos Estados Unidos mas é claro que a inteligência artificial acarreta riscos, e os limites propostos por Amodei fazem sentido. 

O secretário de Defesa Pete Hegseth não queria restrições significativas ao uso militar e de inteligência da IA — mas nenhum órgão do governo, especialmente as forças armadas, deve operar sem regras. No entanto, o governo estava disposto a absorver os enormes custos de mudança de abandonar a Anthropic — para... quê? Deixar a porta aberta para espionagem doméstica em massa alimentada por IA e máquinas autónomas de matar?

Considerações éticas nunca moveram este governo, então a recusa do Departamento de Defesa em comprometer-se com os princípios de Amodei não é surpreendente. Talvez mais chocante tenha sido a rendição imediata do rival e ex-colega de Amodei, Sam Altman, que estava à espera para arrebatar os negócios do Pentágono. A OpenAI de Altman assinou um acordo com o governo quase assim que o contrato com a Anthropic foi desfeito.

Apenas alguns dias antes, enquanto a Anthropic discutia com o Departamento de Defesa, Altman parecia apoiar Amodei, afirmando que «há muito tempo acreditamos que a IA não deve ser usada para vigilância em massa ou armas letais autónomas».

Agora as forças armadas têm luz verde da OpenAI para usar a sua tecnologia para espiar os americanos e desenvolver máquinas de matar sem qualquer responsabilidade humana. A OpenAI afirma que o seu contrato com o Pentágono oferece uma protecção contra usos ilegais e questionáveis da inteligência artificial. No entanto, essas garantias baseiam-se no status quo e não impedem o governo de alterar as suas políticas no futuro para fazer uso indevido da IA. Isso torna Sam Altman não apenas um covarde, mas também um mentiroso. Suponho que os humanos continuem a ter o monopólio do mau comportamento.

De facto, os aspirantes a autoritários revelam dois arquétipos diferentes entre as elites empresariais.

Há aqueles que se precipitam para cumprir antecipadamente. São movidos pelo medo de retaliação política e pelo desejo insípido de adicionar alguns zeros extras aos seus livros de contabilidade. 

Depois, há aqueles líderes da indústria que defendem os seus valores. Independentemente das suas ambições, recusam-se a colocar um preço nos princípios. 

Dario Amodei perdeu a sua proposta ao Pentágono, mas o CEO da Anthropic manteve as suas convicções e consolidou a sua reputação como um homem corajoso. A difamação sobre o «risco da cadeia de abastecimento» é uma medalha de honra.

<thenextmove@substack.com>

Ainda sobre a agência da IA - desta vez a fabricar artigos científicos

 

Com citações, falsas referências científicas e tudo. Mas o pior é que, quando descoberto, fabricou ainda mais falsos factos para encobrir a sua mentira. 

"If humans are so smart, why are we so stupid?" - Yuval Noah Harari

 

Podíamos dizer esta frase a em relação aos enganos e ilusões da relação com a Rússia, à eleição de Trump, um narcisista despótico (portanto, à manutenção ou destruição da democracia) ou à complacência com os regimes da sharia que usam a humilhação e escravidão das mulheres com o fito de alimentar o ego dos machos. 

Porém, Yuval Noah Harari diz esta frase em relação à IA. O teste de Turing era suposto ser o rubicão da IA. Pois já passámos o rubicão. E é preciso falar disso. 

A IA não é uma ferramenta, é um agente

 

Fiquei chocado porque pensei que na Universidade do século XXI não havia académicos capazes de propor a proibição de uso de ferramentas de auxílio ao conhecimento e aprendizagem.

João Duque in expresso.pt/opiniao

---------

Este indivíduo ainda não percebeu o que é a IA e pensa que é mais uma ferramenta de auxílio. A ausência de conhecimentos e consciência dele, sendo um professor universitário, assusta tanto como a displicência com que as 'elites' minimizam os riscos da IA.

Como diz Yuval Noah Harari, a IA não é uma ferramenta, é um agente. Tem poder de decisão e acção independentes dos seres humanos. Já agora, redes sociais geridas por uma IA ainda primitiva, dir-se-ia pouco inteligente, tem o poder de influenciar políticas económicas e financeiras, eleições, suicídios de adolescentes, alteração da linguagem científica, mediocrização dos sistemas educativos...

Não sou contra a IA, até porque seria inútil, mas sou a favor de se tomar consciência dos problemas que acarreta para não sermos apanhados num turbilhão do qual nunca mais sairemos, porque seremos sempre menos inteligentes do que será necessário para o tipo de inteligência que a IA tornará dominante. 

Em vez, 'penso, logo existo', será, 'penso a uma velocidade estonteante, de tal modo que, ainda tu não percebeste sequer a lógica do que estou a fazer e já eu o implementei no mundo inteiro e já está a mudar a realidade e não vejo razão para levar em conta os teus interesses'. 

E assusta-me que professores catedráticos, políticos outros influenciadores sejam ainda tão ignorantes acerca da IA que reduzam o seu discurso a generalidades de não se poder proibir porque estamos no século XXI e de fazerem comparações históricas inadequadas ao caso presente. 

Este discurso deste senhor é uma colecção de vacuidades sobre o tema. Não o problematiza, não reflecte sobre as suas variáveis, limita-se a chamar nomes e a rebaixar todos os que assinaram o tal documento contra o uso da IA que vem a ser feito indiscriminadamente nas universidades.

Temos já várias evidências dos perigos da IA na vida económica e financeira, na educação e no desenvolvimento das crianças e adolescentes, na arte e não temos nenhuma evidência de que no futuro a IA, podendo fazer-nos mais mal, escolha ser amiga dos humanos e levar em consideração os seus interesses. 

Escolher tapar os olhos para não ver e deixar a agência com a própria IA não é uma estratégia inteligente.

Deixo aqui mais uma conversa para quem queira pensar a sério no problema.

Davos: uma conversa entre Yuval Harari e Irene Tracey (neuro-cientista) sobre IA e educação

 

Yuval Noah Harari em conversa com Irene Tracey, neuro-cientista e vice-reitora da Universidade de Oxford.
Yuval Noah Harari compara a IA aos mercenários anglos, saxões e jutos que os bretões trouxeram para lutar contra os escoceses que os invadiam do Norte. E eles vieram e ganharam essa luta e depois, vendo que os bretãos eram fracos resolveram tomar posse de Inglaterra. A IA não é uma mera ferramenta que se possa usar e pôr de lado à discrição, porque se a IA pensa, toma conta dos processos linguisticos e mentais humanos. É um agente e é um agente de mudança que pode ser à margem dos interesses humanos.
Qual é o lugar, então, que sobra para o humano?

Parecemos crianças que encontram uma esfera e começam a jogar à bola com ela, não percebendo que é uma bomba.
Para ouvir toda a conversa: bit.ly/YNH-WEF

Se a confiança na ciência já estava em crise agora vai entrar em colapso

 

Por mais de um século, as revistas científicas têm sido os canais através dos quais o conhecimento do mundo natural flui para a nossa cultura — mas agora estão a ficar entupidas com lixo de IA, escreve Ross Andersen. https://theatln.tc/bq34Sc8F

«As publicações científicas sempre tiveram os seus problemas de canalização», argumenta Andersen. «Mesmo antes do ChatGPT, os editores de revistas lutavam para controlar a quantidade e a qualidade dos trabalhos enviados.» As revisões por pares tornaram-se uma solução para o excesso de conteúdo: os editores podiam aliviar a sua carga de trabalho enviando artigos a especialistas externos.

Agora, editores e investigadores não remunerados, que há muito actuam como guardiões da literatura científica, estão a ser assediados: «Quase imediatamente após os grandes modelos de linguagem (IA) se tornarem populares, os manuscritos começaram a chegar às inboxes das revistas em quantidades sem precedentes», escreve Andersen.

Mandy Hill, directora-geral de publicações académicas da Cambridge University Press & Assessment, disse que o ChatGPT e outros semelhantes também estão a ser usados para dar a trabalhos fraudulentos ou de má qualidade uma nova aparência de plausibilidade; os editores que analisam artigos científicos enfrentam a tarefa ainda mais difícil e demorada de identificar citações, resultados de pesquisas e outros elementos gerados por IA. “A partir de agora, será uma corrida armamentista constante”, disse Hill a Andersen.

Além de fabricar material, a IA também pode gerar imagens científicas para um artigo falso. Um artigo de revisão de 2024, agora retirado, «apresentava uma ilustração gerada por IA de um rato com testículos hilariamente desproporcionais», escreve Andersen. Embora isso tenha sido embaraçoso para a revista, pouco dano foi causado. Muito mais preocupante, no entanto, «é a capacidade da IA generativa de conjurar imagens convincentes de tecidos finamente fatiados, campos microscópicos ou géis de eletroforese que são comumente usados como evidência em pesquisas biomédicas».

🎨: Jonelle Afurong / The Atlantic. Fonte: Getty.

Mundo Disney

 

A IA adultera a realidade. Para quê desenvolveres a tua criatividade e imaginação se podes pôr a IA a trabalhar? Da mesma maneira, para quê desenvolveres o teu pensamento se podes pôr a IA a trabalhar?  Como explicas, a pessoas de idades muito jovens, que nem sempre o fácil é o melhor e que a realidade não é o mundo Disney?  Este pássaro aqui mostrado como pintada-vulturina é uma ave proveniente da África, que existe e é exótica mas nada desta exuberância Disney criada por IA. Para resolver problemas é preciso lidar com os factos.

Porque estamos embrutecendo, explicado às crianças