O problema da predição
As corporações e os cientistas cognitivos vêem a mente humana como uma máquina de predição. Certos ou errados, mudarão a maneira como pensamos.
Joseph Fridman
A máquina que construíram está esfomeada. Já em 2016, os engenheiros do Facebook puderam gabar-se de que a sua criação "ingere triliões de pontos de dados todos os dias" e produz "mais de 6 milhões de previsões por segundo".
Sem dúvida, os motores de previsão do Facebook são agora ainda mais potentes, fazendo conjecturas implacáveis sobre as suas lealdades de marca, os seus anseios, o arco dos seus desejos. O principal mercado da empresa é o que a psicóloga social Shoshana Zuboff descreve como "produtos de previsão": palpites sobre o futuro, montados desde incursões cada vez mais profundas nas nossas vidas e mentes, e vendidos a alguém que quer manipular esse futuro.
No entanto, o Facebook e os seus pares não são as únicas entidades que dedicam recursos maciços à compreensão da mecânica da predição. Precisamente no mesmo momento em que a ideia de controlo preditivo subiu ao domínio dentro da esfera corporativa, também ganhou um seguimento notável dentro da ciência cognitiva.
No entanto, o Facebook e os seus pares não são as únicas entidades que dedicam recursos maciços à compreensão da mecânica da predição. Precisamente no mesmo momento em que a ideia de controlo preditivo subiu ao domínio dentro da esfera corporativa, também ganhou um seguimento notável dentro da ciência cognitiva.
Segundo uma escola de neurocientistas cada vez mais influente, que se orientam em torno da ideia do "cérebro preditivo", a actividade essencial do nosso órgão mais importante é produzir um fluxo constante de previsões: previsões sobre os ruídos que vamos ouvir, as sensações que vamos sentir, os objectos que vamos perceber, as acções que vamos realizar e as consequências que se seguirão. No seu conjunto, estas expectativas tecem a nossa realidade - por outras palavras, os nossos palpites sobre o que veremos no mundo tornam-se o mundo que vemos.
Há quase 400 anos, com o ditado "Penso, logo sou", René Descartes afirmou que a cognição era o fundamento da condição humana. Hoje em dia, a previsão tomou o seu lugar. Como disse o cientista cognitivo Anil Seth: 'Eu prevejo (eu próprio), portanto eu sou'.
De alguma forma, a lógica que encontramos animando o nosso corpo é a mesma que transforma a nossa política corporal. O motor de previsão - a ferramenta conceptual utilizada pelos principais cientistas do cérebro de hoje para compreender a essência mais profunda da nossa humanidade - é também o que é empunhado pelas corporações e governos mais poderosos de hoje. Como é que isto aconteceu e o que é que isso significa?
De alguma forma, a lógica que encontramos animando o nosso corpo é a mesma que transforma a nossa política corporal. O motor de previsão - a ferramenta conceptual utilizada pelos principais cientistas do cérebro de hoje para compreender a essência mais profunda da nossa humanidade - é também o que é empunhado pelas corporações e governos mais poderosos de hoje. Como é que isto aconteceu e o que é que isso significa?
A ascensão dos sistemas de comunicações electrónicas acelerou esta tendência. Em meados do século XIX, o cirurgião e químico Alfred Smee disse que o cérebro era constituído por baterias e circuitos fotovoltaicos, permitindo que o sistema nervoso conduzisse "comunicação electro-telegráfica" com o corpo. Na viragem do século XX, o neurocientista Santiago Ramón y Cajal descreveu o posicionamento de diferentes estruturas neurais "um pouco como um poste telegráfico que suporta o fio condutor". E, durante a Primeira Guerra Mundial, as palestras de Natal da Instituição Real Britânica apresentaram o anatomista e antropólogo Arthur Keith, que comparou células cerebrais a operadores numa troca telefónica.
As tecnologias que passaram a dominar muitas das nossas vidas hoje-em-dia não são principalmente hidráulicas ou fotovoltaicas, ou mesmo telefónicas ou electro-telegráficas. Não são sequer computacionais em qualquer sentido simplista. São preditivas, e as suas infra-estruturas constroem e condicionam o comportamento em todas as esferas da vida.
As velhas camadas permanecem - os cabos eléctricos inervam as casas e os locais de trabalho, e a água flui para lavatórios e chuveiros através de canalizações escondidas da vista. Mas estas infra-estruturas são agora governadas por tecnologias preditivas e não se limitam a guiar a entrega de materiais, mas produzem informação.
Modelos preditivos constroem os feeds de que fazemos scroll; auto-completam os nossos textos e e-mails, incitam-nos a sair para o trabalho a tempo e escolhem as listas de reprodução que ouvimos no trajecto que eles mesmas traçaram para nós. As decisões consequentes nos contextos policial, militar e financeiro são cada vez mais influenciadas por avaliações automatizadas, cuspidas por motores de previsão.
Estes motores de previsão prepararam-nos para sermos receptivos à ideia do cérebro preditivo, assim como a própria ciência da psicologia, que se preocupa desde a sua fundação com a previsão e o controlo dos seres humanos.
Todas as ciências naturais visam a previsão prática e o controlo e em nenhuma delas é este mais o caso do que na psicologia de hoje", escreveu o psicólogo William James em "A Plea for Psychology as a "Natural Science"" (1892). Na opinião de James, os psicólogos eram uma mais-valia para a sua sociedade se e só se ajudassem essa sociedade a gerir os seus habitantes. "Vivemos rodeados por um enorme corpo de pessoas que estão definitivamente interessadas no controlo dos estados de espírito", disse James. O que todo o educador, todo o director da prisão, todo o médico, todo o clérigo, todo o clérigo-superintendente, pede à psicologia, são regras práticas".
Guiado por uma concepção tecnológica, por sensores e processadores, atacar este inimigo era uma proposta arriscada. Cada vez que tentou aprender mais sobre ele, cada vez que tentou prever a sua trajectória e matá-lo, ele aprendeu mais sobre si. Este inimigo, explicou Galison, não era uma besta sub-humana, mas 'um Inimigo Outro mecanizado, gerado nas guerras científicas baseadas em laboratórios do MIT e numa miríade de universidades nos Estados Unidos e na Grã-Bretanha'. Era parte-humano, parte-máquina - aquilo a que hoje poderíamos chamar um cyborg.
Os Aliados mobilizaram todas as ciências que puderam contra este inimigo, incluindo as ciências comportamentais e informáticas. Uma das ideias mais influentes da época foi um dispositivo chamado preditor antiaéreo, concebido para simular um piloto inimigo, antecipar a sua trajectória, e disparar. Foi uma criação de Norbert Wiener, um matemático e cientista do MIT. Juntamente com o seu colega Julian Bigelow, Wiener desenvolveu não apenas um dispositivo mas uma visão que ficou conhecida como "cibernética": uma forma de compreender o mundo através de loops de feedback de causa e efeito, em que as consequências de uma acção servem como inputs para novas acções, permitindo que os erros sejam automaticamente corrigidos. Como Galison escreveu:
O inimigo era um tipo de sujeito de previsão e controlo. O consumidor era outro. John B Watson, um fundador da psicologia behaviorista no início do século XX, argumentou que o "objectivo teórico da sua disciplina é a previsão e controlo do comportamento" - ao serviço das necessidades do "educador, do médico, do jurista, e do homem de negócios". Após ter sido convidado a demitir-se da Universidade Johns Hopkins em 1920, na sequência de um caso extraconjugal, Watson tornou-se ele próprio um desses empresários, juntando-se à agência de publicidade J Walter Thompson na Madison Avenue.
Antes da chegada de Watson, a psicologia e a publicidade eram mundos à parte. No entanto, após apenas alguns anos na companhia de Watson, segundo o seu biógrafo David Cohen, o presidente da sua agência pôde ser encontrado a ensinar aos políticos e empresários de Londres que "as acções do ser humano em massa estão tão sujeitas às leis como os materiais físicos utilizados na fabricação".
Os Aliados mobilizaram todas as ciências que puderam contra este inimigo, incluindo as ciências comportamentais e informáticas. Uma das ideias mais influentes da época foi um dispositivo chamado preditor antiaéreo, concebido para simular um piloto inimigo, antecipar a sua trajectória, e disparar. Foi uma criação de Norbert Wiener, um matemático e cientista do MIT. Juntamente com o seu colega Julian Bigelow, Wiener desenvolveu não apenas um dispositivo mas uma visão que ficou conhecida como "cibernética": uma forma de compreender o mundo através de loops de feedback de causa e efeito, em que as consequências de uma acção servem como inputs para novas acções, permitindo que os erros sejam automaticamente corrigidos. Como Galison escreveu:
o piloto inimigo estava tão fundido com maquinaria que o (seu) estatuto humano-não-humano era difuso. Ao combater este inimigo cibernético, Wiener e a sua equipa começaram a conceber os operadores antiaéreos Aliados como assemelhando-se ao inimigo, e foi um curto passo desde esta elisão do humano e do não-humano no aliado até ao esbater da fronteira homem-máquina em geral. O inimigo servomecânico tornou-se, na visão cibernética dos anos 40, o protótipo para a fisiologia humana e, em última análise, para toda a natureza humana.Durante a guerra, cada vez mais máquinas e armas incorporavam sistemas de feedback; 'surgiu uma série de novas máquinas que actuavam com poderes de auto-ajustamento e correcção nunca antes alcançados', como disse o psiquiatra e cibernético Ross Ashby no seu livro Design for a Brain (1952). Estas eram "armas anti-aéreas, foguetes e torpedos" e deixaram tanto soldados como cientistas com a impressão de que as máquinas podiam agir intencionalmente. Tente atirá-las para fora da rota e, como um piloto inimigo num avião, elas corrigiriam e dirigiam-se para si. Ao continuarem a estudar os processos de feedback, Wiener e os seus colegas começaram a ver as máquinas auto-reguladoras e o comportamento humano intencional como uma e a mesma coisa - mesmo explicando dinâmicas biológicas (como a homeostase) e fenómenos sociais, em termos cibernéticos. Isto incluía o cérebro - a "função total" da qual, disse Ashby, equivalia a "correcção de erros".
O inimigo era um tipo de sujeito de previsão e controlo. O consumidor era outro. John B Watson, um fundador da psicologia behaviorista no início do século XX, argumentou que o "objectivo teórico da sua disciplina é a previsão e controlo do comportamento" - ao serviço das necessidades do "educador, do médico, do jurista, e do homem de negócios". Após ter sido convidado a demitir-se da Universidade Johns Hopkins em 1920, na sequência de um caso extraconjugal, Watson tornou-se ele próprio um desses empresários, juntando-se à agência de publicidade J Walter Thompson na Madison Avenue.
Antes da chegada de Watson, a psicologia e a publicidade eram mundos à parte. No entanto, após apenas alguns anos na companhia de Watson, segundo o seu biógrafo David Cohen, o presidente da sua agência pôde ser encontrado a ensinar aos políticos e empresários de Londres que "as acções do ser humano em massa estão tão sujeitas às leis como os materiais físicos utilizados na fabricação".
A visão comportamentalista inicial era que os seres humanos eram máquinas input-output, vinculados pelas leis de estímulo-resposta. Não havia mente para modelar, apenas as entradas e saídas comportamentais de animais e consumidores previsíveis. "O potencial comprador era uma espécie de máquina", escreveu Cohen. 'Fornecer o estímulo certo e ele obrigará com a reacção certa, cavando fundo no seu bolso'. As agências de publicidade financiariam as suas próprias experiências por investigadores como a Watson para testar as leis das máquinas de consumo que visavam, racionalizando a sua compreensão de fenómenos como o uso habitual do produto, mensagens direccionadas e fidelidade à marca.
As agências de publicidade não aplicaram estes princípios apenas para vender cereais e cigarros, mas para vender candidatos políticos. O publicitário Harry Treleaven, por exemplo, passou lá quase duas décadas antes de partir para ajudar George H W Bush a ganhar as suas primeiras eleições em 1966, para a Câmara dos Representantes, antes de continuar a ajudar Richard Nixon a ganhar as eleições presidenciais americanas em 1968. Tantos executivos da agência seguiram o mesmo caminho que o The New York Times continuaria a descrevê-lo como "um dos mais prolíficos fornecedores de mão-de-obra para a Administração Nixon".
A primeira tentativa de Nixon de se tornar presidente em 1960 marcou uma grande viragem na empresa corporativa de previsão e controlo. A vida e a morte da Simulmatics Corporation, descrita pela historiadora Jill Lepore no seu livro If Then (2020), é de certa forma emblemática desta trajectória. Quando abriram a empresa em Fevereiro de 1959, os fundadores da corporação preparavam-se para entrar em guerra. A política era o seu campo de batalha, Nixon o seu "feroz adversário". Para derrotar um inimigo tão poderoso, o presidente da empresa, Edward L Greenfield, acreditava que o candidato democrata John F Kennedy precisava de uma arma secreta. A política moderna americana começou com essa arma secreta', escreveu Lepore: simulações preditivas, destinadas a influenciar tudo, desde o comportamento do mercado até à votação.
Para construir esta arma - as 'simulações automáticas' que deram à empresa o seu nome de portmanteau - a Simulmatics reuniu cientistas de topo do MIT, Johns Hopkins e da Ivy League. De acordo com Lepore, muitos dos académicos "tinham sido treinados na ciência da guerra psicológica". O resultado foi a criação de uma "máquina de comportamento eleitoral, uma simulação por computador das eleições de 1960", que foi "um dos maiores projectos de investigação da ciência política alguma vez realizados". A simulação destinava-se a fornecer previsões granulares sobre a forma como segmentos da população poderiam votar, dados os seus antecedentes e as circunstâncias das campanhas políticas.
As agências de publicidade não aplicaram estes princípios apenas para vender cereais e cigarros, mas para vender candidatos políticos. O publicitário Harry Treleaven, por exemplo, passou lá quase duas décadas antes de partir para ajudar George H W Bush a ganhar as suas primeiras eleições em 1966, para a Câmara dos Representantes, antes de continuar a ajudar Richard Nixon a ganhar as eleições presidenciais americanas em 1968. Tantos executivos da agência seguiram o mesmo caminho que o The New York Times continuaria a descrevê-lo como "um dos mais prolíficos fornecedores de mão-de-obra para a Administração Nixon".
A primeira tentativa de Nixon de se tornar presidente em 1960 marcou uma grande viragem na empresa corporativa de previsão e controlo. A vida e a morte da Simulmatics Corporation, descrita pela historiadora Jill Lepore no seu livro If Then (2020), é de certa forma emblemática desta trajectória. Quando abriram a empresa em Fevereiro de 1959, os fundadores da corporação preparavam-se para entrar em guerra. A política era o seu campo de batalha, Nixon o seu "feroz adversário". Para derrotar um inimigo tão poderoso, o presidente da empresa, Edward L Greenfield, acreditava que o candidato democrata John F Kennedy precisava de uma arma secreta. A política moderna americana começou com essa arma secreta', escreveu Lepore: simulações preditivas, destinadas a influenciar tudo, desde o comportamento do mercado até à votação.
Para construir esta arma - as 'simulações automáticas' que deram à empresa o seu nome de portmanteau - a Simulmatics reuniu cientistas de topo do MIT, Johns Hopkins e da Ivy League. De acordo com Lepore, muitos dos académicos "tinham sido treinados na ciência da guerra psicológica". O resultado foi a criação de uma "máquina de comportamento eleitoral, uma simulação por computador das eleições de 1960", que foi "um dos maiores projectos de investigação da ciência política alguma vez realizados". A simulação destinava-se a fornecer previsões granulares sobre a forma como segmentos da população poderiam votar, dados os seus antecedentes e as circunstâncias das campanhas políticas.
A empresa reivindicou a responsabilidade pela vitória de JFK, mas os representantes do presidente eleito negaram qualquer relação com o "cérebro electrónico", tal como os jornais o apelidaram. A Simulmatics passou a prever muito mais: simulou a economia da Venezuela em 1963, com o objectivo de provocar um curto-circuito numa revolução comunista, e envolveu-se na investigação psicológica no Vietname e nos esforços para prever motins raciais. Pouco tempo depois, a empresa foi alvo de protestos anti-guerra, e pediu a falência no final da década.
No entanto, a visão da Simulmatics sobre o mundo continuou a viver. Os fundadores tinham fé que, através da informática, tudo era possível, e que "tudo, um dia, poderia ser previsto - cada mente humana simulada e depois dirigida por mensagens direccionadas tão infalíveis como os mísseis". As corporações preditivas globalizadas de hoje aproximaram isto da realidade, colhendo dados a uma vasta escala e apropriando-se de conceitos científicos para racionalizar a sua exploração. Hoje em dia, a ideia que animou os fundadores da Simulmatics tornou-se, nas palavras de Lepore:
a missão de quase todas as empresas. Recolher dados. Escrever código: if/then/else. Detectar padrões. Prever o comportamento. Acção directa. Encorajar o consumo. Influenciar eleições.A ligação entre a forma como entendemos a nossa biologia e a forma como organizamos a sociedade é uma ligação de longa data e a associação funciona nos dois sentidos. Quando as pessoas se juntam como um colectivo, o corpo que compreendem é muitas vezes compreendido através da aplicação dos mesmos conceitos e leis que aplicamos aos indivíduos; as palavras incorporação, corporação, corporação derivam todas da raiz latina que nos dá corporal, corpo, corpo. (Órgão e organização estão relacionados de forma semelhante.) No Leviathan, por exemplo, Hobbes afirmou que a sociedade é uma espécie de corpo, onde
Se o software comeu o mundo, os seus motores de previsão digeriram-no e estamos a viver na sociedade que o cuspiu.
A Soberania é uma Alma Artificial, como dando vida e movimento a todo o corpo; Os Magistrados, e outros Oficiais da Justiça e Execução, juntas artificiais; Recompensa e Punição (pelo qual cada membro é movido para cumprir o seu dever) são os Nervos, que fazem o mesmo no Corpo Natural.
Pelo contrário, muitas vezes impusemos a lógica que rege a nossa sociedade aos nossos próprios corpos. Na Criação: Um Poema Filosófico (1712), o médico e poeta Richard Blackmore atribuiu espíritos animais internos como a causa da acção e sensação humanas. Na poesia de Blackmore, tais espíritos eram 'out-guards of the mind', dando ordens para patrulhar as regiões mais distantes do sistema nervoso, tripulando os seus postos em cada 'passagem para os sentidos'. Depois de vigiarem a 'fronteira', as 'sentinelas vigilantes' de Blackmore voltaram ao cérebro apenas para darem o seu relatório e receberem novas ordens com base nas suas impressões. O corpo, para Blackmore, foi animado pelos mesmos cidadãos e soldados do mundo político em que ele estava inserido, como argumentou o estudioso Jess Keiser.
Hoje em dia, muitos neurocientistas que exploram o cérebro preditivo utilizam a economia contemporânea como um tipo semelhante de heurística explicativa. Os cientistas percorreram um longo caminho na compreensão de como "gastar dinheiro metabólico para construir cérebros complexos paga dividendos na busca do sucesso adaptativo", comenta o filósofo Andy Clark, numa notável revisão do cérebro preditivo.
A ideia do cérebro preditivo faz sentido porque é rentável, metabolicamente falando. Da mesma forma, a psicóloga Lisa Feldman Barrett descreve o papel principal do cérebro preditivo como a gestão de um "orçamento corporal". Nesta perspectiva, ela diz, "o seu cérebro é como o sector financeiro de uma empresa", atribuindo previsivelmente recursos, gastando energia, especulando, e procurando retornos sobre os seus investimentos. Para Barrett e os seus colegas, o stress é como um "défice" ou uma "retirada" do orçamento do corpo, enquanto que a depressão é a falência. Na época de Blackmore, o cérebro era constituído por sentinelas e soldados, cuja melancolia colectiva se tornou na tristeza do ser humano que habitavam. Hoje em dia, em vez de soldados, imaginamos o cérebro como sendo composto por estatísticos preditivos, cujos erros se tornam as nossas neuroses. Como disse o neurocientista Karl Friston: "Se o cérebro é uma máquina de inferência, um órgão de estatística, então, quando corre mal, comete o mesmo tipo de erros que um estatístico comete".
Quer a arena seja a investigação científica ou a inteligência empresarial, torna-se demasiado fácil para nós deslizarmos para enquadramentos adversos e exploratórios do humano; como Galison escreveu, "as associações da cibernética (e do ciborgue) com armas, tácticas de oposição, e a concepção da natureza humana na caixa negra não se derretem assim tão simplesmente".
Como nos vemos a nós próprios, é importante. Como explicou a estudiosa feminista Donna Haraway, a ciência e a tecnologia são "realizações humanas em interacção com o mundo". Mas a construção de uma economia natural de acordo com as relações capitalistas e a sua apropriação para fins de reprodução da dominação, é profunda".
Como nos vemos a nós próprios, é importante. Como explicou a estudiosa feminista Donna Haraway, a ciência e a tecnologia são "realizações humanas em interacção com o mundo". Mas a construção de uma economia natural de acordo com as relações capitalistas e a sua apropriação para fins de reprodução da dominação, é profunda".
Os seres humanos não são peças de tecnologia, por mais sofisticadas que sejam. Mas ao falarmos de nós próprios como tal, conformamo-nos com as corporações e governos que decidem tratar-nos desta forma. Quando os videntes do processamento preditivo fazem a previsão de granizo como a realização definidora do cérebro, arriscam-se a dar credibilidade infundada aos sistemas que automatizam esse acto - atribuindo a pátine da inteligência a preditores artificiais, por mais grosseiros ou prejudiciais ou auto-realizadores das suas previsões. Ameaçam legitimar tacitamente os meios pelos quais os motores de previsão moldam e manipulam o sujeito humano e, por sua vez, encorajam-nos a moldar-nos nessa imagem.
Os cientistas podem acreditar que estão simplesmente a construir ferramentas conceptuais e mecânicas para observação e compreensão - os telescópios e microscópios da era neurocientífica. Mas os instrumentos de observação podem ser fixados com demasiada facilidade como armas e direccionados para massas de pessoas. Se os sistemas preditivos começaram como armas destinadas a tornar os seres humanos controláveis no campo da guerra e no mercado, isso dá-nos razões adicionais para questionar aqueles que agora empunham tais armas. Os cientistas deveriam pensar muito cuidadosamente sobre a dupla utilização das suas teorias e interpretações - especialmente quando se trata de "reengenharia da ciência na linha do capitalismo de plataforma", como argumentou o historiador e filósofo da ciência Philip Mirowski.
Seth escreveu que 'a percepção será sempre moldada por objectivos funcionais: perceber o mundo (e o eu) não 'como ele é', mas como é útil fazê-lo'. Desde que continue, devemos perguntar: qual é o objectivo funcional das nossas tentativas de perceber cientificamente a mente humana agora? Será que ainda está enraizada numa genealogia de predição e controlo? Estaremos a empurrar mais de nós próprios para a boca da máquina, só para ver o que ela agita? Com que autoridade, para benefício de quem, e com que fim?
Seth escreveu que 'a percepção será sempre moldada por objectivos funcionais: perceber o mundo (e o eu) não 'como ele é', mas como é útil fazê-lo'. Desde que continue, devemos perguntar: qual é o objectivo funcional das nossas tentativas de perceber cientificamente a mente humana agora? Será que ainda está enraizada numa genealogia de predição e controlo? Estaremos a empurrar mais de nós próprios para a boca da máquina, só para ver o que ela agita? Com que autoridade, para benefício de quem, e com que fim?
(tradução minha)
No comments:
Post a Comment