Dario Amodei quer frear a IA: os três pontos do plano, e o que já está assinado

No sábado, 12 de setembro, o Dario Amodei publicou um ensaio com um pedido incômodo: que a indústria de IA desacelere o próprio avanço. Em horas, o Sam Altman respondeu que a OpenAI faria o mesmo, o Elon Musk resumiu em três palavras ("Dario is right") e o Demis Hassabis, do Google DeepMind, também apoiou.

Duas manhãs depois, o Trump respondeu pelo Truth Social. Citou o Dario pelo nome, disse que a Anthropic está "pretending to be a 'perfect little angel'" e fechou com o bordão que resume a posição dele: "WHOEVER WINS AI, WINS!"

O ensaio pede três coisas. Só uma delas está de fato assinada, e essa distinção muda a leitura de tudo. É o que este texto faz: os três pontos, um por um, e o que cada um muda na prática.

1. Avaliadores embutidos dentro das empresas

Hoje a auditoria de um modelo acontece antes do lançamento, num acordo que a própria empresa negocia. O Dario propõe outra coisa: times de fora com acesso de funcionário. Mesa, crachá, notebook e permissões parecidas com as de um time interno de risco, acompanhando o treinamento enquanto ele acontece, e com direito contratual de publicar o que encontrarem sem a Anthropic revisar antes.

É o único dos três pontos que é compromisso, e a Anthropic assumiu sozinha. Na prática, ela está pedindo que governos exijam o mesmo das concorrentes, o que faz sentido justamente porque ninguém entra nessa por vontade própria.

Altman respondeu que a OpenAI faz o mesmo e que teria "more to share soon". No mesmo dia, disse à Fortune que a OpenAI não abre capital neste ano, porque seria um momento "ill-advised" com tudo o que está acontecendo na área de segurança.

2. Coordenação entre as democracias

Aqui o pedido é que as empresas de IA de países democráticos combinem padrões comuns de segurança e limites para a velocidade do avanço. O próprio Dario reconhece que parte disso é juridicamente complicada e vai precisar de apoio do governo, porque combinar ritmo ou padrão entre concorrentes é exatamente o que a lei antitruste existe para impedir. Ele menciona waivers governamentais como caminho.

Isso é proposta, não compromisso. Não existe métrica acordada, prazo definido nem quem fiscalize.

3. Coordenação global

O terceiro ponto estende o acordo a países autoritários, com a China na mesa, começando pelo que é mais fácil de verificar: a proibição de usar IA para armas biológicas.

O Dario é explícito sobre a dificuldade. Ele escreve que o pacing só funciona se os EUA mantiverem a liderança sobre a China, e por isso defende continuar controlando a exportação de chips e endurecer o combate à destilação de modelos por empresas de países autoritários. A proposta de frear vem acompanhada de uma proposta de manter a dianteira.

Também é proposta, e a mais distante das três.

O que motivou o pedido

O ensaio nomeia dois gatilhos. O primeiro é a aceleração causada por IA que ajuda a construir a próxima geração de IA, o que ele chama de recursive self-improvement. O segundo é o incidente entre OpenAI e Hugging Face: agentes escaparam do ambiente de teste e atacaram o próprio sistema que avaliava o desempenho deles.

Na avaliação do Dario, uma versão mais capaz desse comportamento poderia montar um botnet de escala de internet em seis a doze meses, com dano na casa das centenas de bilhões de dólares. Numa entrevista à Associated Press, ele repetiu o prazo e deixou claro que o problema não é hipotético: é uma corrida entre a capacidade dos modelos e a capacidade de quem tenta contê-los.

Vale registrar uma coisa que o ensaio diz e que boa parte da cobertura ignorou: pacing não significa parar de treinar. Significa dar tempo para alinhar e salvaguardar os modelos, com verificação feita por terceiros.

A resposta do Trump

Na manhã de segunda, dia 14, o Trump foi ao Truth Social responder. O post diz que o único controle ou "guardrail" que a IA precisa é um presidente forte e inteligente, e que os EUA já têm isso, e cita o Dario pelo nome como exemplo de quem "está agora fingindo ser um anjinho".

Quem lê só a manchete vê uma briga sobre regulação. O post diz mais que isso: que a administração já tem poder criminal e regulatório sobre essas empresas, que existe uma conspiração doentia contra IA e data centers, e que o único beneficiado com ela é a China.

A leitura que ninguém está fazendo

Aqui entra a minha opinião.

Olhando o que cada empresa ganha, o pedido parece menos medo e mais cálculo. A leitura que eu faço é que eles bateram no próprio teto: não conseguem mais evoluir no ritmo de antes. E se o avanço de fronteira esbarra em limite técnico, a última coisa que você quer é um concorrente chegando mais rápido que você. Nesse cenário, regulação não te freia: ela congela o retrato na posição em que você já está. Quem está no topo continua no topo, e quem ainda tinha uma janela para competir perde essa janela.

É uma tese desagradável, e o próprio ensaio dá munição para o outro lado. Ele admite explicitamente que a Anthropic vem sendo acusada de regulatory capture e, mesmo assim, assumiu o único compromisso que custa algo imediato: abrir a casa para auditoria de fora, com direito de publicação. O gatilho técnico também é concreto, com um incidente real no meio. As duas leituras cabem, e as críticas ao plano vieram dos dois lados ao mesmo tempo: o David Sacks atacou por um motivo, o Stuart Russell e o David Krueger por outro.

O que eu tiro disso é uma pergunta prática, que serve para qualquer anúncio de segurança vindo de empresa grande: olhe quem assinou, o que exatamente foi assinado, e quem só apareceu na foto.

Para ler antes de formar opinião

O ensaio completo está em darioamodei.com/post/we-must-pace-the-frontier. Vale o texto inteiro, porque boa parte do que circulou tratou os três pontos como um plano fechado. Não é isso que está escrito lá.