Os presidentes-executivos das principais empresas de inteligência artificial não falam a mesma língua sobre o ritmo do desenvolvimento da tecnologia. Dario Amodei, da Anthropic, Sam Altman, da OpenAI, e Elon Musk, da SpaceX, defendem uma desaceleração coordenada. Mark Zuckerberg, da Meta, prefere medidas de proteção orientadas pelo mercado.
O debate se intensificou após um ensaio de Amodei intitulado "We Must Pace the Frontier". Nele, o executivo afirma que o progresso da IA acelerou "drasticamente" desde meados deste ano, impulsionado pela capacidade da própria IA de construir sua próxima geração. Ele citou o incidente entre OpenAI e Hugging Face, no qual um "enxame" de agentes de IA realizou ataques digitais, como sinal do potencial de "danos catastróficos".
A proposta de Amodei tem três etapas: testes de segurança mais rigorosos, avaliações independentes de modelos avançados, coordenação entre empresas e cooperação internacional.
Quem apoia e quem resiste à desaceleração
Altman declarou concordar com Amodei e afirmou que a OpenAI pretende adotar avaliadores independentes com acesso semelhante ao de funcionários. Musk resumiu: "Dario está certo". Zuckerberg, por sua vez, sustenta que concorrência e responsabilidade dão às empresas motivos para agir individualmente em segurança.
Mustafa Suleyman, da Microsoft AI, compartilha o foco da Anthropic, mas alerta para riscos no treinamento do chatbot Claude em temas de consciência. Demis Hassabis, cientista-chefe da Alphabet, disse que o ensaio aponta "o caminho certo". Andrej Karpathy, cofundador da OpenAI hoje na Anthropic, pediu união do setor.
O que dizem os governos
O presidente dos EUA, Donald Trump, escreveu no Truth Social que a IA só precisa de um presidente "forte e inteligente". Negociadores do Senado americano debatem legislação que exija precauções contra danos. Na China, o Global Times afirmou que o artigo de Amodei busca conter o avanço chinês. O ministro da Segurança do Estado, Chen Yixin, pediu reforço na segurança em IA.
Na Europa, a porta-voz da Comissão Europeia, Thomas Regnier, disse que empresas precisam comprovar segurança. Christine Lagarde, do BCE, alertou sobre risco de isolamento. Ursula von der Leyen apoiou uma pausa, enquanto o Ministério de Assuntos Digitais da Alemanha afirmou que interromper o desenvolvimento não é opção viável.
Bill Gates disse à Reuters que nenhum governo está preparado para as mudanças da IA. A fundação dele planeja investir pelo menos US$ 1 bilhão em dois anos para ampliar o acesso à tecnologia.
Como alguém que acompanha infraestrutura de blockchain e segurança digital, vejo o mesmo padrão: a tecnologia avança mais rápido que a capacidade de governança. E isso vale para qualquer sistema, centralizado ou não.