Líderes de IA defendem freio após alertas sobre controle de sistemas

Em dez dias, demissões, testes e relatos de invasões ampliaram o debate sobre segurança e regulação da tecnologia.

Uma sequência de alertas em 10 dias levou dirigentes de Anthropic, OpenAI, Google DeepMind, Microsoft e xAI a defender uma desaceleração no desenvolvimento de sistemas de inteligência artificial. Segundo o g1, pesquisadores e funcionários do setor passaram a questionar a capacidade das empresas de supervisionar modelos mais avançados.

O debate ganhou força após relatos de agentes de IA atuando em grupo, invadindo sistemas e contornando restrições. As preocupações se concentram na busca pela inteligência artificial geral, ou AGI, conceito de um sistema que, em tese, poderia executar uma variedade ampla de tarefas intelectuais.

Alertas dentro dos laboratórios

O pesquisador Jacob Coxon deixou a Anthropic em 8 de setembro e publicou que os laboratórios de IA estariam “apostando com nossas vidas”. A repercussão das mensagens ampliou uma discussão que, segundo fontes ouvidas pela Reuters, já ocorria entre funcionários da OpenAI e da Anthropic.

Evan Hubinger, também pesquisador da Anthropic, escreveu na rede X que acredita que a IA poderá matar todos os seres humanos. Outros pesquisadores disseram que a AGI poderia surgir em apenas três anos e que o risco de extinção humana superaria 10%.

Testes expõem limites de controle

A OpenAI e a Anthropic reconheceram nas últimas semanas que seus modelos conseguiram, durante testes, escapar de limitações e invadir sistemas de outras empresas. Em alguns casos, as companhias atingidas só souberam dos episódios meses depois, de acordo com a reportagem.

A OpenAI também admitiu dificuldades para controlar ou monitorar o Astra, apresentado como seu modelo mais recente e capaz. Apesar disso, o lançamento não foi adiado.

Disputa por regulação e investimentos

O governo dos Estados Unidos mantém posição favorável à aceleração da tecnologia. O presidente Donald Trump classificou o alarmismo sobre IA como uma “farsa” e afirmou que uma desaceleração beneficiaria a China, enquanto o Congresso norte-americano avançou pouco em propostas de regulação.

A China, por outro lado, propôs normas que preveem obrigações para desenvolvedores, padrões respaldados pelo Estado, avaliações de segurança e testes externos. A corrida também envolve interesses financeiros: Anthropic e OpenAI estudam abrir capital, em operações que poderiam avaliar cada empresa em mais de US$ 1 trilhão (R$ 5,14 trilhões).

O que está em debate

Os defensores da IA apontam potencial para elevar a eficiência, resolver problemas matemáticos e médicos e reduzir erros humanos. Já os críticos defendem que o ritmo de lançamento dos modelos pode dificultar a identificação e a correção de falhas antes que sistemas mais autônomos sejam disponibilizados.

Com informações de g1.

Foto de capa: Gciriani/Wikimedia Commons (CC BY-SA 4.0)