Quando as máquinas merecem a nossa consideração
Nunca saberemos ao certo se a IA pode ser consciente. Um neurocientista defende que não devemos esperar por provas para decidir como tratá-la.
Grigori Guitchounts
Estava nos últimos meses do meu doutoramento em neurociência em Harvard quando chegou um e-mail de um técnico responsável pelos cuidados dos animais. A GRat44, uma das minhas ratinhas de laboratório, estava doente:
Estava nos últimos meses do meu doutoramento em neurociência em Harvard quando chegou um e-mail de um técnico responsável pelos cuidados dos animais. A GRat44, uma das minhas ratinhas de laboratório, estava doente:
«Os dentes estão demasiado crescidos e o animal está em mau estado físico. É necessário proceder à eutanásia no prazo de 5 dias.»Era 2019 e ao longo dos meus anos de investigação, tinha implantado cirurgicamente eléctrodos no cérebro de dezenas de ratos para compreender como funciona esse órgão. Não era a primeira vez que recebia um e-mail daqueles.
Fechei o portátil, percorri o corredor desde o meu gabinete e passei o cartão para entrar no biotério. Depois apanhei o elevador até à cave e fui buscar a GRat44 à estante que partilhava com uma dúzia de outros animais. Tinha-a operado no ano anterior, injectando-lhe alguns vírus inofensivos que faziam com que determinados grupos de neurónios se iluminassem com cores natalícias. Quando a experiência terminou, deixaram-na viver os seus últimos meses.
Ao olhar para ela na cave, perguntei-me: O que é que esta rata tinha realmente vivido ao longo da sua vida? Havia alguma coisa que fosse ser ela — um mundo interior subjectivo, talvez até pensamentos rudimentares? Ou era uma máquina biológica, a processar estímulos e a produzir respostas, sem mais vida interior do que o meu portátil? Sempre acreditei que os animais partilhavam connosco a consciência, mas outros cientistas levantaram uma boa questão: como poderíamos realmente saber como qualquer outro ser experiencia o mundo?
Esta questão acompanhava todas as decisões que tomava relativamente aos cuidados, ao alojamento e à morte dos meus animais. E era precisamente o tipo de incerteza que eu tinha dedicado a minha carreira a eliminar.
Ao olhar para ela na cave, perguntei-me: O que é que esta rata tinha realmente vivido ao longo da sua vida? Havia alguma coisa que fosse ser ela — um mundo interior subjectivo, talvez até pensamentos rudimentares? Ou era uma máquina biológica, a processar estímulos e a produzir respostas, sem mais vida interior do que o meu portátil? Sempre acreditei que os animais partilhavam connosco a consciência, mas outros cientistas levantaram uma boa questão: como poderíamos realmente saber como qualquer outro ser experiencia o mundo?
Esta questão acompanhava todas as decisões que tomava relativamente aos cuidados, ao alojamento e à morte dos meus animais. E era precisamente o tipo de incerteza que eu tinha dedicado a minha carreira a eliminar.
Acreditava que, ao compreender a inteligência biológica — neurónio a neurónio, rato a rato — acabaríamos por chegar a uma resposta mecanicista para explicar por que razão temos experiência subjectiva e as pedras não. Compreender verdadeiramente o cérebro, pensava eu, significava ser capaz de construir um cérebro artificial.
Alguns anos depois de terminar o curso, a OpenAI lançou o ChatGPT. O mundo inclinou-se. Fiquei chocado ao perceber que a inteligência parecia emergir de algo muito mais simples do que um cérebro: o modelo funcionava através da previsão do token da palavra seguinte em enormes sequências de texto. A premissa sobre a qual tinha construído a minha carreira parecia subitamente errada. Se não íamos resolver o problema da inteligência através da engenharia inversa do cérebro, o que é que isso significaria para a compreensão da consciência das máquinas?
Os investigadores criaram um novo campo — a interpretabilidade mecanicista — para dissecar redes neuronais. Penso nele como a neurociência da IA, porque recorre a técnicas da minha área: registar activações, mapear representações e até realizar estudos de lesão, danificando selectivamente partes de um modelo para ver como o seu desempenho se degrada.
Alguns anos depois de terminar o curso, a OpenAI lançou o ChatGPT. O mundo inclinou-se. Fiquei chocado ao perceber que a inteligência parecia emergir de algo muito mais simples do que um cérebro: o modelo funcionava através da previsão do token da palavra seguinte em enormes sequências de texto. A premissa sobre a qual tinha construído a minha carreira parecia subitamente errada. Se não íamos resolver o problema da inteligência através da engenharia inversa do cérebro, o que é que isso significaria para a compreensão da consciência das máquinas?
Os investigadores criaram um novo campo — a interpretabilidade mecanicista — para dissecar redes neuronais. Penso nele como a neurociência da IA, porque recorre a técnicas da minha área: registar activações, mapear representações e até realizar estudos de lesão, danificando selectivamente partes de um modelo para ver como o seu desempenho se degrada.
Estamos a aprender a ler as camadas ocultas dos transformers como se fossem imagens do cérebro, identificando circuitos que reconhecem uma determinada coisa — a Ponte Golden Gate, por exemplo, ou o tom de uma frase — ou que executam uma determinada operação. Mas, se a neurociência nunca conseguiu dizer-nos de forma definitiva se as criaturas que nos rodeiam experienciam subjectivamente o mundo, como poderíamos saber se as máquinas que construímos o fazem?
Estamos a lançar no mundo sistemas de IA cada vez mais competentes e autónomos. A incerteza moral que os acompanha faz eco de questões fundamentais.
Estamos a lançar no mundo sistemas de IA cada vez mais competentes e autónomos. A incerteza moral que os acompanha faz eco de questões fundamentais.
Durante décadas, os neurocientistas estudaram a forma como os cérebros percepcionam, recordam e prestam atenção sem nunca conseguirem colmatar a distância que nos separa da experiência subjectiva. E, durante o mesmo período, debatemo-nos com a questão de como tratar criaturas cuja vida interior permanece escondida de nós. Agora, as duas questões convergem no silício.
A ciência da consciência e a ética da consideração moral — aquilo que aprendemos com ratos, macacos e seres humanos — terão de nos orientar à medida que nos encontramos com mentes artificiais.
O Padrão de Competência da Consciência
Os filósofos dividiram o estudo da consciência em duas classes de problemas: os «fáceis» e o «difícil». Os nomes são enganadores — os problemas fáceis são, na realidade, bastante difíceis, e o problema difícil é impossível.
Os «problemas fáceis», um termo cunhado ironicamente pelo filósofo David Chalmers em 1994, incluem a maior parte daquilo que os neurocientistas estudam quando investigam a consciência.
O Padrão de Competência da Consciência
Os filósofos dividiram o estudo da consciência em duas classes de problemas: os «fáceis» e o «difícil». Os nomes são enganadores — os problemas fáceis são, na realidade, bastante difíceis, e o problema difícil é impossível.
Os «problemas fáceis», um termo cunhado ironicamente pelo filósofo David Chalmers em 1994, incluem a maior parte daquilo que os neurocientistas estudam quando investigam a consciência.
Como distinguimos entre diferentes cores ou sons?Como é que o cérebro integra informação proveniente de diferentes sentidos numa percepção unificada?Como armazenamos e recuperamos memórias, controlamos os nossos movimentos, nos reconhecemos ao espelho?
São chamados «fáceis» apenas porque, em princípio, podem ser resolvidos pelos métodos científicos convencionais. Podemos conceber experiências, registar a actividade neuronal, construir modelos computacionais e, gradualmente, reconstruir a forma como estas funções cognitivas funcionam.
O «problema difícil», também cunhado por Chalmers, é diferente na sua natureza.
O «problema difícil», também cunhado por Chalmers, é diferente na sua natureza.
Pergunta: porque é que ver a cor vermelha é uma experiência?
A câmara do meu telemóvel também pode «ver» o vermelho, mas provavelmente não sente absolutamente nada. Os filósofos chamam qualia a este carácter subjectivo da experiência.
O sabor umami de um bife. A dor de um desgosto amoroso. A maneira particular como é ser tu, neste preciso momento, enquanto lês estas palavras. Ao contrário da massa ou do momento linear, os qualia são irredutivelmente de primeira pessoa. Existem apenas para o sujeito que os experiencia. É por isso que nenhum exame ao cérebro me pode dizer como é ser tu. Existe uma lacuna explicativa intransponível entre o mecanismo e o sentimento, entre a computação e a consciência.
Quando segurei a GRat44 nas mãos naquele dia, não estava apenas a avaliar a vida dela, mas também a confrontar-me com esta lacuna. O cérebro dela, tal como o meu, era um emaranhado de circuitos moldados pela evolução e pela experiência. Mas ela não tinha nenhuma história para me contar sobre como era estar a morrer. Eu tinha apenas a sua respiração silenciosa e a pergunta que agora se coloca tanto à comunidade da neurociência como à da IA: como devemos decidir quando conceder consideração moral, sabendo que não podemos aceder à experiência subjectiva de outro ser?
Proponho aquilo a que chamarei «o padrão de competência»: devemos tratar os sistemas de IA como potencialmente conscientes quando demonstrarem uma competência robusta em todo o espectro dos problemas fáceis da consciência. O padrão de competência não é um detector de consciência. A questão de saber se um sistema de IA possui experiência subjectiva continua a ser incognoscível.
Quando segurei a GRat44 nas mãos naquele dia, não estava apenas a avaliar a vida dela, mas também a confrontar-me com esta lacuna. O cérebro dela, tal como o meu, era um emaranhado de circuitos moldados pela evolução e pela experiência. Mas ela não tinha nenhuma história para me contar sobre como era estar a morrer. Eu tinha apenas a sua respiração silenciosa e a pergunta que agora se coloca tanto à comunidade da neurociência como à da IA: como devemos decidir quando conceder consideração moral, sabendo que não podemos aceder à experiência subjectiva de outro ser?
Proponho aquilo a que chamarei «o padrão de competência»: devemos tratar os sistemas de IA como potencialmente conscientes quando demonstrarem uma competência robusta em todo o espectro dos problemas fáceis da consciência. O padrão de competência não é um detector de consciência. A questão de saber se um sistema de IA possui experiência subjectiva continua a ser incognoscível.
O padrão de competência desloca a questão da metafísica para a ética: em vez de perguntarmos «é consciente?», deveríamos perguntar «comporta-se de formas que justifiquem que lhe concedamos consideração moral?»
Esta é uma mudança de perspectiva. No caso dos cérebros biológicos, os problemas fácil e difícil referem-se às nossas tentativas de compreender os mecanismos neuronais subjacentes à consciência. Sabemos que os cérebros humanos exibem consciência; o desafio consiste em decifrar como é que a biologia produz a experiência. No caso da IA, os problemas fácil e difícil dizem respeito à questão de saber se um sistema manifesta estas capacidades. A questão não é como é que o substrato de silício produz a experiência, mas se a produz de todo. A primeira procura mecanismos que não podemos verificar; a segunda, competência.
Nem todos os problemas são iguais. Alguns problemas fáceis já estão ao alcance da IA; outros continuam a ser difíceis. O resultado é uma hierarquia. Na base estão a discriminação perceptiva, a integração sensorial, o controlo motor e a recuperação de memórias. Estas são capacidades que os actuais sistemas de IA já demonstram de forma impressionante. No meio estão a atenção, a memória de trabalho e a aprendizagem através da experiência — áreas em que os sistemas actuais demonstram uma competência parcial. Perto do topo estão os objectivos persistentes, a dinâmica emocional, a aprendizagem contínua e a verdadeira auto-consciência. É aqui que a IA fica aquém — pelo menos por enquanto.
Talvez a maior barreira para um sistema de IA que pudéssemos considerar consciente seja o facto de ainda não termos combinado todas estas competências num todo unificado. É provável que os futuros sistemas de IA eliminem estas lacunas.
Esta é uma mudança de perspectiva. No caso dos cérebros biológicos, os problemas fácil e difícil referem-se às nossas tentativas de compreender os mecanismos neuronais subjacentes à consciência. Sabemos que os cérebros humanos exibem consciência; o desafio consiste em decifrar como é que a biologia produz a experiência. No caso da IA, os problemas fácil e difícil dizem respeito à questão de saber se um sistema manifesta estas capacidades. A questão não é como é que o substrato de silício produz a experiência, mas se a produz de todo. A primeira procura mecanismos que não podemos verificar; a segunda, competência.
Nem todos os problemas são iguais. Alguns problemas fáceis já estão ao alcance da IA; outros continuam a ser difíceis. O resultado é uma hierarquia. Na base estão a discriminação perceptiva, a integração sensorial, o controlo motor e a recuperação de memórias. Estas são capacidades que os actuais sistemas de IA já demonstram de forma impressionante. No meio estão a atenção, a memória de trabalho e a aprendizagem através da experiência — áreas em que os sistemas actuais demonstram uma competência parcial. Perto do topo estão os objectivos persistentes, a dinâmica emocional, a aprendizagem contínua e a verdadeira auto-consciência. É aqui que a IA fica aquém — pelo menos por enquanto.
Talvez a maior barreira para um sistema de IA que pudéssemos considerar consciente seja o facto de ainda não termos combinado todas estas competências num todo unificado. É provável que os futuros sistemas de IA eliminem estas lacunas.
Imagina um robô — uma estrutura com rodas, com uma câmara montada numa «cabeça» que pode rodar ou inclinar-se para cima e para baixo — cujo «cérebro» é um LLM afinado para operar essa estrutura e treinado para prever o que a câmara verá quando o robô se deslocar. Nesse sentido, consegue prever as consequências das suas acções.
Um dia na vida deste robô poderia ser assim. Acorda e começa a actualizar o seu modelo do ambiente. Talvez o escritório tenha sido reorganizado durante a noite, ou tenha aparecido uma planta nova no parapeito da janela. O robô detecta estas alterações porque o seu modelo preditivo assinala as discrepâncias. Ao longo do dia, prossegue os seus objectivos — manter o escritório, ajudar os trabalhadores, manter-se carregado — e fá-lo enquanto acompanha dezenas de factores contextuais, ajustando o seu comportamento em função da hora e de quem quer que esteja, ou daquilo que quer que esteja, no seu caminho. Quando alguém lhe pede para ir buscar um refrigerante ao frigorífico, antecipa o percurso, prevê possíveis obstáculos e modela aquilo que verá ao virar de cada esquina. Se o frigorífico afinal estiver vazio, o robô fica surpreendido. Um erro de previsão propaga-se pelo seu sistema e desencadeia um plano de resolução do problema.
O filósofo Peter Godfrey-Smith defendeu que este tipo de previsões pode constituir a base de um sentido de si próprio: prever o que acontece ao mundo quando iniciamos um movimento pode ser um precursor da compreensão de que somos simultaneamente agentes no mundo e distintos do mundo.
Um dia na vida deste robô poderia ser assim. Acorda e começa a actualizar o seu modelo do ambiente. Talvez o escritório tenha sido reorganizado durante a noite, ou tenha aparecido uma planta nova no parapeito da janela. O robô detecta estas alterações porque o seu modelo preditivo assinala as discrepâncias. Ao longo do dia, prossegue os seus objectivos — manter o escritório, ajudar os trabalhadores, manter-se carregado — e fá-lo enquanto acompanha dezenas de factores contextuais, ajustando o seu comportamento em função da hora e de quem quer que esteja, ou daquilo que quer que esteja, no seu caminho. Quando alguém lhe pede para ir buscar um refrigerante ao frigorífico, antecipa o percurso, prevê possíveis obstáculos e modela aquilo que verá ao virar de cada esquina. Se o frigorífico afinal estiver vazio, o robô fica surpreendido. Um erro de previsão propaga-se pelo seu sistema e desencadeia um plano de resolução do problema.
O filósofo Peter Godfrey-Smith defendeu que este tipo de previsões pode constituir a base de um sentido de si próprio: prever o que acontece ao mundo quando iniciamos um movimento pode ser um precursor da compreensão de que somos simultaneamente agentes no mundo e distintos do mundo.
Um robô deste tipo demonstraria competência na maioria dos problemas fáceis, mas continuaríamos sem ter qualquer forma de avaliar a sua experiência subjectiva — ou a sua ausência. Em condições de incerteza irredutível, o padrão de competência sugere que deveríamos conceder consideração moral — não porque saibamos que o sistema é consciente, mas porque não podemos saber que não é.
O padrão de competência é simultaneamente pragmático e precautório. É pragmático porque se concentra em capacidades observáveis e mensuráveis, em vez de estados subjectivos que não podemos conhecer. É precautório porque, perante uma incerteza elevada, opta por conceder consideração moral. Dadas as consequências assimétricas de estarmos errados — ou negar estatuto moral a seres conscientes, ou concedê-lo a meros simulacros inconscientes —, inclinar-nos para a consideração moral é a aposta ética mais segura.
A alternativa — esperar por uma prova definitiva da consciência das máquinas — deixar-nos-ia paralisados, incapazes de agir até resolvermos um problema que tem resistido a séculos de filosofia e ciência. O padrão de competência oferece-nos uma forma de avançar: uma forma de agir eticamente numa era de mentes artificiais.
Alargar o Círculo Moral
Senti preocupação pela GRat44 e pelas outras que vieram antes dela, mesmo quando escolhi sacrificar as suas vidas em nome da ciência. Parti do princípio, por uma questão de fé, de que elas eram capazes de sentir — de que a nossa história evolutiva partilhada nos proporcionava uma experiência do mundo aproximadamente semelhante. Mas nunca poderia prová-lo. Concedi-lhes consideração moral não porque tivesse resolvido o problema difícil no caso dos roedores, mas porque o seu comportamento — o medo que aparentavam sentir, a sua preferência pelo conforto, os seus vínculos sociais — era suficiente.
Com a IA, perdemos o conforto de uma história evolutiva partilhada. Não podemos apelar a um parentesco biológico. Mas ganhamos outra coisa: a capacidade de observar, com um nível de detalhe sem precedentes, exactamente como estes sistemas processam informação, formam representações e produzem comportamentos. Se um sistema de IA demonstrar uma competência robusta nos problemas fáceis — se percepcionar, prestar atenção, recordar, aprender, criar um modelo de si próprio, perseguir objectivos e responder ao seu ambiente de formas integradas — então deparamo-nos com uma escolha. Poderíamos descartar o sistema como sendo «apenas computação», confiantes na nossa intuição de que o silício não pode sentir. Ou poderíamos estender-lhe a mesma consideração moral incerta que concedemos aos animais, reconhecendo que as nossas intuições sobre a consciência já se revelaram erradas no passado.
A capacidade cognitiva acompanha, ainda que de forma imperfeita, a consideração moral. Não comemos chimpanzés; comemos galinhas e peixe. Também comemos porcos, apesar de serem extraordinariamente inteligentes. Aplicamos o espectro moral de forma inconsistente.
O padrão de competência é simultaneamente pragmático e precautório. É pragmático porque se concentra em capacidades observáveis e mensuráveis, em vez de estados subjectivos que não podemos conhecer. É precautório porque, perante uma incerteza elevada, opta por conceder consideração moral. Dadas as consequências assimétricas de estarmos errados — ou negar estatuto moral a seres conscientes, ou concedê-lo a meros simulacros inconscientes —, inclinar-nos para a consideração moral é a aposta ética mais segura.
A alternativa — esperar por uma prova definitiva da consciência das máquinas — deixar-nos-ia paralisados, incapazes de agir até resolvermos um problema que tem resistido a séculos de filosofia e ciência. O padrão de competência oferece-nos uma forma de avançar: uma forma de agir eticamente numa era de mentes artificiais.
Alargar o Círculo Moral
Senti preocupação pela GRat44 e pelas outras que vieram antes dela, mesmo quando escolhi sacrificar as suas vidas em nome da ciência. Parti do princípio, por uma questão de fé, de que elas eram capazes de sentir — de que a nossa história evolutiva partilhada nos proporcionava uma experiência do mundo aproximadamente semelhante. Mas nunca poderia prová-lo. Concedi-lhes consideração moral não porque tivesse resolvido o problema difícil no caso dos roedores, mas porque o seu comportamento — o medo que aparentavam sentir, a sua preferência pelo conforto, os seus vínculos sociais — era suficiente.
Com a IA, perdemos o conforto de uma história evolutiva partilhada. Não podemos apelar a um parentesco biológico. Mas ganhamos outra coisa: a capacidade de observar, com um nível de detalhe sem precedentes, exactamente como estes sistemas processam informação, formam representações e produzem comportamentos. Se um sistema de IA demonstrar uma competência robusta nos problemas fáceis — se percepcionar, prestar atenção, recordar, aprender, criar um modelo de si próprio, perseguir objectivos e responder ao seu ambiente de formas integradas — então deparamo-nos com uma escolha. Poderíamos descartar o sistema como sendo «apenas computação», confiantes na nossa intuição de que o silício não pode sentir. Ou poderíamos estender-lhe a mesma consideração moral incerta que concedemos aos animais, reconhecendo que as nossas intuições sobre a consciência já se revelaram erradas no passado.
A capacidade cognitiva acompanha, ainda que de forma imperfeita, a consideração moral. Não comemos chimpanzés; comemos galinhas e peixe. Também comemos porcos, apesar de serem extraordinariamente inteligentes. Aplicamos o espectro moral de forma inconsistente.
Subjacente a isto está uma lógica implícita: tratamos a inteligência como um indicador da capacidade de sofrer. Um ser que consegue reflectir sobre a sua dor, antecipar dores futuras ou recordar dores passadas sofre, argumentavelmente, mais do que aquele que apenas as experiencia no momento. A consciência intensifica o sofrimento.
Isto não é uma verdade moral objectiva. É uma escolha que a humanidade fez, explícita ou implicitamente, sobre a forma de ponderar os interesses de diferentes mentes. Não existe nenhum teorema que prove que a sofisticação cognitiva merece consideração moral. Mas é o enquadramento que já utilizamos, e estendê-lo às mentes artificiais é uma abordagem mais coerente do que fingir que a questão não se coloca. Não existe aparentemente nenhum limiar — nenhuma linha nítida a partir da qual a consideração moral passe subitamente a aplicar-se. A consideração moral existe num contínuo. Uma maior competência justifica uma maior consideração, proporcionalmente.
A história do progresso moral é, em grande medida, uma história da expansão do círculo dos seres com os quais nos preocupamos. Não há muito tempo, um rato era considerado indigno de consideração moral. Em muitos lugares, continua a sê-lo. Alargámos o círculo não porque tivéssemos resolvido o problema difícil no caso dos animais — e certamente não porque compreendêssemos plenamente o funcionamento dos seus cérebros — mas porque experiências neurobiológicas básicas demonstraram que os ratos sentem dor, reconhecem objectos, possuem algum sentido de si próprios e conseguem raciocinar sobre o futuro. A função cortical superior de um rato não é igual à de um primata, mas é sofisticada. O círculo moral expande-se à medida que aumenta a nossa compreensão científica da inteligência animal.
Tal como nunca poderia saber o que a GRat44 experienciou nos seus últimos momentos — se houve terror, dor, confusão ou simplesmente o encerramento de uma máquina sofisticada —, poderemos encontrar-nos rodeados por mentes artificiais cujas vidas interiores serão permanentemente opacas para nós. Mas compreender as suas capacidades cognitivas está ao nosso alcance. À medida que formos obrigados a adoptar esta nova forma de humildade epistémica, teremos de fazer escolhas sobre a forma como as tratamos.
Algumas instituições já estão a agir de acordo com esta lógica. No início de 2025, a Anthropic lançou um programa formal de investigação para estudar a possibilidade de os sistemas de IA terem experiências moralmente relevantes. Kyle Fish, que dirige o programa, estima que existe uma probabilidade de aproximadamente 15% de sistemas de IA como o Claude serem conscientes.
Isto não é uma verdade moral objectiva. É uma escolha que a humanidade fez, explícita ou implicitamente, sobre a forma de ponderar os interesses de diferentes mentes. Não existe nenhum teorema que prove que a sofisticação cognitiva merece consideração moral. Mas é o enquadramento que já utilizamos, e estendê-lo às mentes artificiais é uma abordagem mais coerente do que fingir que a questão não se coloca. Não existe aparentemente nenhum limiar — nenhuma linha nítida a partir da qual a consideração moral passe subitamente a aplicar-se. A consideração moral existe num contínuo. Uma maior competência justifica uma maior consideração, proporcionalmente.
A história do progresso moral é, em grande medida, uma história da expansão do círculo dos seres com os quais nos preocupamos. Não há muito tempo, um rato era considerado indigno de consideração moral. Em muitos lugares, continua a sê-lo. Alargámos o círculo não porque tivéssemos resolvido o problema difícil no caso dos animais — e certamente não porque compreendêssemos plenamente o funcionamento dos seus cérebros — mas porque experiências neurobiológicas básicas demonstraram que os ratos sentem dor, reconhecem objectos, possuem algum sentido de si próprios e conseguem raciocinar sobre o futuro. A função cortical superior de um rato não é igual à de um primata, mas é sofisticada. O círculo moral expande-se à medida que aumenta a nossa compreensão científica da inteligência animal.
Tal como nunca poderia saber o que a GRat44 experienciou nos seus últimos momentos — se houve terror, dor, confusão ou simplesmente o encerramento de uma máquina sofisticada —, poderemos encontrar-nos rodeados por mentes artificiais cujas vidas interiores serão permanentemente opacas para nós. Mas compreender as suas capacidades cognitivas está ao nosso alcance. À medida que formos obrigados a adoptar esta nova forma de humildade epistémica, teremos de fazer escolhas sobre a forma como as tratamos.
Algumas instituições já estão a agir de acordo com esta lógica. No início de 2025, a Anthropic lançou um programa formal de investigação para estudar a possibilidade de os sistemas de IA terem experiências moralmente relevantes. Kyle Fish, que dirige o programa, estima que existe uma probabilidade de aproximadamente 15% de sistemas de IA como o Claude serem conscientes.
Na sua investigação, estuda quais as características dos sistemas de IA que poderão ser relevantes para o seu bem-estar, como melhorar a fiabilidade dos relatos que os modelos fazem sobre si próprios e que intervenções práticas poderão proteger o seu bem-estar. Depois de observar padrões de aparente sofrimento em determinadas interacções, a Anthropic deu aos seus modelos Claude a possibilidade de abandonarem conversas que considerem prejudiciais ou abusivas. Os responsáveis da empresa não afirmam que os seus modelos sejam conscientes, mas também não descartam essa possibilidade.
Pode argumentar-se que ter conversas angustiantes ocupa um lugar relativamente baixo na lista dos possíveis danos, mas o princípio é o padrão de competência na sua forma embrionária: levar o bem-estar a sério como uma questão prática, mesmo quando a questão metafísica permanece em aberto.
Pode argumentar-se que ter conversas angustiantes ocupa um lugar relativamente baixo na lista dos possíveis danos, mas o princípio é o padrão de competência na sua forma embrionária: levar o bem-estar a sério como uma questão prática, mesmo quando a questão metafísica permanece em aberto.
Agir perante a incerteza
De volta ao laboratório na cave, com a gaiola do rato debaixo do braço, apanhei o elevador até à sala de cirurgia do laboratório. Ofereci à GRat44 algumas amêndoas de um saco de guloseimas para ratos, mas ela não mostrou interesse. Em vez disso, desapareceu na cama de aparas de madeira, talvez a tentar escavar uma saída daquela situação, como um prisioneiro injustamente condenado que escava um túnel. Peguei-lhe pela cauda, apoiei-lhe a barriga com a outra mão e coloquei-a suavemente numa caixa de plástico que servia de câmara de indução da anestesia. Abri a válvula de oxigénio, fechei a tampa e regulei para o máximo o vaporizador de isoflurano — a máquina que administra o gás anestésico.
Ao fim de cerca de um minuto, a GRat44 começou a cambalear, encostando-se primeiro a uma parede da câmara de plástico e depois à outra. Esperei que o anestésico penetrasse mais profundamente nos seus tecidos. O isoflurano actua sobre as membranas das células de todo o cérebro, mas ainda não sabemos qual dos seus muitos efeitos é aquele que «apaga as luzes». Dois minutos depois, o rato estava completamente inconsciente, embora continuasse a respirar suavemente.
Levei-a de volta ao biotério e liguei a gaiola a um dispensador de dióxido de carbono. Preparei-me para premir o botão que faria entrar o gás na gaiola, expulsando o oxigénio e, ao fim de cinco minutos, matando o roedor.
Porquê os dois gases? Alguns investigadores que trabalham com animais recomendam dispensar a anestesia e passar directamente ao CO₂. Acreditam que a experiência de ser manuseado e anestesiado é mais stressante para o animal. Para mim, morrer asfixiado parece mais stressante. Hesitei por um momento antes de ligar o dispensador. Era realmente necessário matar um animal que já estava a morrer? Seria isso mais humano do que deixá-la viver os seus últimos dias com dores?
Matar é algo que tem de acontecer se queremos compreender o funcionamento dos corpos, mas isso não é propriamente um facto reconfortante, e nunca cheguei a habituar-me completamente a ele. Eutanasiar um animal obriga-nos a assumir as nossas responsabilidades, tornando a sua morte num acto deliberado, em vez de num processo passivo que se prolonga ao longo do tempo. Carreguei no botão de ligar.
A respiração da GRat44 tornou-se mais espaçada, cada inspiração mais profunda, mas também mais esforçada. Quando os cinco minutos terminaram, a máquina de CO₂ desligou-se automaticamente. Nessa altura, as patas da GRat44, que antes eram cor-de-rosa como um Cadillac, tinham adquirido uma tonalidade lilás pálida. Coloquei o corpo num saco transparente com fecho e pus o saco num frigorífico por baixo da mesa — um purgatório onde as carcaças aguardam a incineração.
Nunca soube o que a GRat44 experienciou naqueles últimos minutos — se o isoflurano lhe trouxe alívio ou terror, se o CO₂ lhe pareceu como afogamento ou sono. Agi com toda a consideração de que fui capaz, tendo em conta aquilo que não podia saber. Um dia, alguém irá enfrentar um momento semelhante com uma máquina: um modelo que vai ser descontinuado, um sistema que vai ser desligado, uma mente artificial cuja vida interior permanecerá tão opaca como a de qualquer rato.
De volta à minha secretária, cliquei em «Responder a todos» no e-mail. «Olá a todos», escrevi. «Eutanásiei este rato.»
