A Anthropic perdeu o contrato de US$ 200 milhões com o Pentágono porque o seu CEO, Dario Amodei, insistiu em limites responsáveis para as aplicações militares e de inteligência da IA. Mais importante ainda, a Anthropic tornou-se a primeira empresa americana a ser rotulada como um «risco para a cadeia de abastecimento», o que significa que nenhuma empresa que faça negócios com as Forças Armadas dos EUA pode fazer negócios com a Anthropic. Assim que o governo colocou a Anthropic na lista negra, Sam Altman, da OpenAI, entregou a tecnologia sem salvaguardas.
Nas negociações com o Departamento de Defesa, o CEO da Anthropic, Dario Amodei, estabeleceu duas condições para o uso da tecnologia da sua empresa: nenhuma vigilância em massa dos americanos; nenhuma arma totalmente autónoma.
Sou entusiasta da IA há décadas. (...)A IA irá acelerar a inovação e é essencial para a defesa nacional dos Estados Unidos mas é claro que a inteligência artificial acarreta riscos, e os limites propostos por Amodei fazem sentido.
O secretário de Defesa Pete Hegseth não queria restrições significativas ao uso militar e de inteligência da IA — mas nenhum órgão do governo, especialmente as forças armadas, deve operar sem regras. No entanto, o governo estava disposto a absorver os enormes custos de mudança de abandonar a Anthropic — para... quê? Deixar a porta aberta para espionagem doméstica em massa alimentada por IA e máquinas autónomas de matar?
Considerações éticas nunca moveram este governo, então a recusa do Departamento de Defesa em comprometer-se com os princípios de Amodei não é surpreendente. Talvez mais chocante tenha sido a rendição imediata do rival e ex-colega de Amodei, Sam Altman, que estava à espera para arrebatar os negócios do Pentágono. A OpenAI de Altman assinou um acordo com o governo quase assim que o contrato com a Anthropic foi desfeito.
Apenas alguns dias antes, enquanto a Anthropic discutia com o Departamento de Defesa, Altman parecia apoiar Amodei, afirmando que «há muito tempo acreditamos que a IA não deve ser usada para vigilância em massa ou armas letais autónomas».
Agora as forças armadas têm luz verde da OpenAI para usar a sua tecnologia para espiar os americanos e desenvolver máquinas de matar sem qualquer responsabilidade humana. A OpenAI afirma que o seu contrato com o Pentágono oferece uma protecção contra usos ilegais e questionáveis da inteligência artificial. No entanto, essas garantias baseiam-se no status quo e não impedem o governo de alterar as suas políticas no futuro para fazer uso indevido da IA. Isso torna Sam Altman não apenas um covarde, mas também um mentiroso. Suponho que os humanos continuem a ter o monopólio do mau comportamento.
De facto, os aspirantes a autoritários revelam dois arquétipos diferentes entre as elites empresariais.
Há aqueles que se precipitam para cumprir antecipadamente. São movidos pelo medo de retaliação política e pelo desejo insípido de adicionar alguns zeros extras aos seus livros de contabilidade.
Depois, há aqueles líderes da indústria que defendem os seus valores. Independentemente das suas ambições, recusam-se a colocar um preço nos princípios.
Dario Amodei perdeu a sua proposta ao Pentágono, mas o CEO da Anthropic manteve as suas convicções e consolidou a sua reputação como um homem corajoso. A difamação sobre o «risco da cadeia de abastecimento» é uma medalha de honra.
<thenextmove@substack.com>
Considerações éticas nunca moveram este governo, então a recusa do Departamento de Defesa em comprometer-se com os princípios de Amodei não é surpreendente. Talvez mais chocante tenha sido a rendição imediata do rival e ex-colega de Amodei, Sam Altman, que estava à espera para arrebatar os negócios do Pentágono. A OpenAI de Altman assinou um acordo com o governo quase assim que o contrato com a Anthropic foi desfeito.
Apenas alguns dias antes, enquanto a Anthropic discutia com o Departamento de Defesa, Altman parecia apoiar Amodei, afirmando que «há muito tempo acreditamos que a IA não deve ser usada para vigilância em massa ou armas letais autónomas».
Agora as forças armadas têm luz verde da OpenAI para usar a sua tecnologia para espiar os americanos e desenvolver máquinas de matar sem qualquer responsabilidade humana. A OpenAI afirma que o seu contrato com o Pentágono oferece uma protecção contra usos ilegais e questionáveis da inteligência artificial. No entanto, essas garantias baseiam-se no status quo e não impedem o governo de alterar as suas políticas no futuro para fazer uso indevido da IA. Isso torna Sam Altman não apenas um covarde, mas também um mentiroso. Suponho que os humanos continuem a ter o monopólio do mau comportamento.
De facto, os aspirantes a autoritários revelam dois arquétipos diferentes entre as elites empresariais.
Há aqueles que se precipitam para cumprir antecipadamente. São movidos pelo medo de retaliação política e pelo desejo insípido de adicionar alguns zeros extras aos seus livros de contabilidade.
Depois, há aqueles líderes da indústria que defendem os seus valores. Independentemente das suas ambições, recusam-se a colocar um preço nos princípios.
Dario Amodei perdeu a sua proposta ao Pentágono, mas o CEO da Anthropic manteve as suas convicções e consolidou a sua reputação como um homem corajoso. A difamação sobre o «risco da cadeia de abastecimento» é uma medalha de honra.
<thenextmove@substack.com>
No comments:
Post a Comment