Democracia e dominação epistémica

 

Os teóricos políticos passaram a última década a questionar se as grandes empresas são como mini-governos — se o seu chefe é uma espécie de ditador, se as empresas de tecnologia devem ser democratizadas. Esse é o instinto certo, mas estão a procurar no lugar errado. 

O verdadeiro poder que o Google, a Meta e a OpenAI exercem não é sobre as suas escolhas, mas sobre as condições em que você pensa. Não lhe dizem em que deve acreditar, antes moldam o que você pode encontrar, o que parece plausível, quais as perguntas que parecem valer a pena fazer e, cada vez mais, por meio da IA generativa, elas produzem o próprio material a partir do qual as suas crenças são formadas. Tocqueville tinha uma frase para isso: o «círculo formidável traçado em torno do pensamento». Mill temia a mesma coisa — que quando uma sociedade perde o atrito de ideias genuinamente concorrentes, até mesmo as suas verdadeiras crenças se deterioram em «dogmas mortos», mantidos por rotina e incompreendidos por todos. 

Ambos estavam a responder às revoluções da comunicação das suas próprias épocas. A nossa é mais radical do que qualquer coisa que eles imaginaram, porque, pela primeira vez na história, um punhado de empresas privadas controla não apenas quais ideias circulam, mas a própria infraestrutura da cognição — e fazem isso sem mandato democrático, com transparência mínima e quase nenhuma responsabilidade. 

Chamo isso de dominação epistémica e argumento que é a maior ameaça não teorizada à auto-governança no século XXI.

(...)

De certa forma, a Era da IA tornará as ciências humanas mais importantes do que nunca. Disciplinas que vão da Literatura à Filosofia são necessárias para nos ajudar a responder a perguntas sobre, como podemos encontrar um lugar no mundo quando somos muito menos necessários do que antes e o que significa ser humano quando já não somos os únicos capazes de fazer algumas das coisas que a nossa espécie era outrora capaz de fazer de forma única. 

No entanto, numa época em que a inteligência artificial consegue superar com cada vez mais facilidade os obstáculos que, nas últimas décadas, passaram a definir uma carreira académica nas Humanidades, é extremamente necessário repensar radicalmente a forma como buscamos e transmitimos conhecimento significativo nessas áreas.

(...)

Chamo a isso dominação epistémica — um termo que adaptei de trabalhos recentes em epistemologia pós-colonial e feminista, onde tem sido usado para descrever a imposição de sistemas de conhecimento dominantes sobre comunidades marginalizadas.
(...)
Mais precisamente: dominação epistémica, tal como utilizo o termo aqui, denota a capacidade de um actor moldar arbitrariamente as condições epistémicas — a informação disponível, os enquadramentos operacionais, o leque de interpretações que parecem plausíveis, as questões que são consideradas dignas de serem colocadas — sob as quais uma comunidade política forma as suas crenças, preferências e juízos. 

A ênfase na capacidade é deliberada. Tal como o domínio republicano de Pettit, o domínio epistémico é uma condição estrutural, não um evento. Ele ocorre sempre que um actor possui a capacidade de remodelar o ambiente epistémico à vontade, independentemente de essa capacidade ser exercida ou não em uma determinada ocasião. 

Uma comunidade sujeita à dominação epistémica pode, em qualquer momento específico, desfrutar de um ambiente informativo rico e diversificado. A dominação consiste no facto de que essa condição depende da vontade de outra pessoa — o actor que controla a infraestrutura epistémica poderia, se assim o desejasse, restringir, distorcer ou redireccionar o fluxo de informações, interpretações e enquadramentos dos quais depende o julgamento da comunidade.

(...)

Estou a sugerir, melhor compreendido como um problema de dominação — de controlo arbitrário e irresponsável sobre as condições epistémicas das quais depende a autogovernança.
(...)
A dominação epistémica exercida por meio de motores de busca e plataformas de redes sociais é principalmente uma dominação de selecção: ela determina quais afirmações, argumentos e enquadramentos produzidos por humanos são tornados visíveis ou invisíveis e para quais públicos. 

Essa é uma forma séria de poder, e a análise da opacidade e personalização aplica-se-lhe totalmente. Mas ela continua sendo parasitária em um substrato de produção epistémica humana. 

A forma de dominação epistémica que a IA generativa torna possível é qualitativamente diferente. É um domínio não apenas da selecção, mas da produção — a capacidade de gerar material epistémico plausível em uma escala e velocidade que podem inundar o discurso público, simular a textura de um argumento genuíno e corroer a distinção entre investigação e fabricação. 

Uma empresa que controla tanto a geração quanto a curadoria do material epistémico no qual uma comunidade política se baseia não molda apenas as opiniões existentes que os cidadãos encontram. Ela molda o que há para ser encontrado.

(...)

Este artigo foi deliberadamente mais diagnóstico do que prescritivo. A construção de respostas institucionais à dominação epistémica — respostas que possam garantir o que poderíamos chamar de não dominação epistémica como condição da vida democrática — é uma tarefa que excede o âmbito de um único artigo, mas a forma dessas respostas pode, pelo menos, ser esboçada. 

Elas precisariam abordar não apenas o conteúdo que circula no ambiente epistémico, mas também o controlo da própria infraestrutura. Precisariam garantir que nenhum actor — público ou privado — possuísse a capacidade arbitrária de remodelar as condições sob as quais os cidadãos formam os seus juízos. 

Em suma, precisariam estender a exigência democrática de não dominação do domínio da tomada de decisões políticas, onde há muito é reconhecida, para o domínio das condições epistémicas, onde ainda não o é. 

O que Tocqueville e Mill compreenderam, e o que temos demorado a lembrar, é que as maiores ameaças à auto-governança são muitas vezes invisíveis precisamente porque operam nas condições do próprio pensamento.

Yascha Mounk in https://writing.yaschamounk.com/p/the-humanities-are-about-to-be-automated. (pequeníssimo excerto)