Líderes de IA alertam Conselho de Segurança da ONU sobre riscos da tecnologia

Executivos da OpenAI, Anthropic e Hugging Face defenderam cooperação internacional diante do avanço dos sistemas de inteligência artificial.

O Conselho de Segurança da ONU ouviu nesta quarta-feira (23) alertas de líderes do setor de inteligência artificial sobre riscos ligados ao avanço da tecnologia. O encontro ocorreu durante a Assembleia Geral anual das Nações Unidas e reuniu, entre outros, Sam Altman, da OpenAI; Dario Amodei, da Anthropic; e Clément Delangue, da Hugging Face.

Os executivos defenderam que governos participem das decisões sobre sistemas de IA, que evoluem em velocidade maior do que a capacidade de acompanhamento dos reguladores. Segundo Amodei, se for mal administrada, a tecnologia pode representar um risco para toda a humanidade.

Alertas sobre controle e segurança

Yoshua Bengio, co-presidente do Painel Científico Internacional Independente criado pela Assembleia Geral da ONU no ano passado, afirmou que os perigos ligados à IA são reais e iminentes. Ele disse ao conselho que a ameaça não respeita fronteiras e não pode ser enfrentada isoladamente por nenhum país.

Altman afirmou que decisões centrais sobre a IA não devem ficar restritas a laboratórios e precisam ser moldadas por processos democráticos e governos responsáveis perante a população. Para ele, a cooperação entre países será necessária no plano internacional.

Divergências entre Estados Unidos e China

Os Estados Unidos e a China, apontados como os dois principais atores no desenvolvimento da IA, divergem sobre o grau de coordenação global necessário para a tecnologia. Enquanto há discussões sobre diretrizes internacionais, os dois países conversaram sobre um sistema de notificação para objetivos e ameaças comuns relacionados a incidentes de IA que atinjam nível de segurança nacional.

Antes da reunião, o presidente dos Estados Unidos, Donald Trump, declarou na Assembleia Geral que rejeita tentativas de criar um esquema global para controlar a IA. Ele defendeu o incentivo ao crescimento da tecnologia, embora tenha dito que o país fará acompanhamento por meio do Departamento de Justiça.

O secretário-geral da ONU, António Guterres, tem defendido uma governança global para a inteligência artificial e alertou para riscos que, segundo ele, não podem ser ignorados. A posição contrasta com a manifestação de Trump.

Debates anteriores na ONU

Esta não foi a primeira vez que o Conselho de Segurança discutiu o tema. O órgão realizou sua primeira reunião sobre riscos da IA em 2023; em 2024, o então secretário de Estado dos EUA, Antony Blinken, presidiu outro encontro sobre a tecnologia.

A reunião desta quarta-feira foi presidida pelo ministro das Relações Exteriores da França, Jean-Noël Barrot. Além dos executivos, membros do conselho, incluindo Estados Unidos e China, também deveriam se pronunciar.

Foto de capa: U.S. Department of State from United States/Wikimedia Commons (Public domain)