A IA ainda não teve o seu Titanic

Na quarta-feira, 23 de setembro, o Conselho de Segurança das Nações Unidas ouviu os dirigentes de três das empresas mais importantes da inteligência artificial. Sam Altman (OpenAI), Dario Amodei (Anthropic) e Clément Delangue (Hugging Face) falaram ao lado do pesquisador Yoshua Bengio, numa sessão convocada pela França, que presidia o Conselho em setembro, e conduzida pelo chanceler francês Jean-Noël Barrot durante a Assembleia Geral.

Mais importante que qualquer proposta foi o lugar. A inteligência artificial chegou ao Conselho de Segurança, o órgão da ONU responsável pela paz e pela segurança internacionais. O Conselho já havia tratado de IA em outras seis reuniões, mas esta foi a primeira dedicada especificamente aos riscos de segurança de sistemas cada vez mais capazes, incluindo a possibilidade de perda do controle humano. Um tema que entra nesse fórum dificilmente sai dele.

E há algo nas propostas apresentadas que soa familiar a quem vem do mar.

O que foi pedido

Altman apontou dois perigos: a perda de controle humano sobre sistemas cada vez mais autônomos e a concentração de poder em poucas empresas ou países. Propôs métodos comuns para medir capacidades, avaliar salvaguardas e reportar incidentes, com comunicação segura entre governos, especialistas e operadores de infraestrutura crítica. Disse ainda que cada governo decidiria como incorporar esses padrões à sua própria lei.

"The industry must not accept too much technological risk just because the benefits are too great and important to slow down."

Amodei afirmou que modelos mais capazes exigirão padrões de segurança cada vez mais rigorosos e que a Anthropic desaceleraria o quanto fosse necessário.

"We will slow down as much as necessary in order to make sure that every successive AI technology that we release is actually safe."

Bengio foi mais longe. Defendeu licenciamento para os modelos de fronteira, seguro obrigatório de responsabilidade civil e a obrigação de demonstrar segurança a especialistas independentes antes de treinar e lançar um sistema. E rebateu o argumento de que as empresas não têm escolha diante da competição.

"The race is not a law of nature. It is the product of choices, choices made by the companies themselves."

O que o mar já sabe

O Titanic afundou em 1912, e dois anos depois nascia a primeira Convenção SOLAS (Safety of Life at Sea, para a salvaguarda da vida humana no mar). No mar, quase sempre foi a tragédia que escreveu a regra.

Olhe as propostas feitas na ONU:

Verificação independente antes de operar. Existe no mar desde o século XVIII. São as sociedades classificadoras, como o Lloyd's Register (fundado em 1760), que vistoriam o projeto, a construção e a manutenção de um navio. Sem classe, o navio não tem seguro e não opera.

Seguro de responsabilidade. Os clubes de P&I (Protection and Indemnity, associações mútuas de armadores que cobrem danos a terceiros) existem desde o século XIX. O seguro não é só proteção financeira. Ele disciplina o comportamento, porque quem assume o risco exige padrões.

Relato e investigação de incidentes. A IMO (Organização Marítima Internacional) tem um código próprio para investigação de acidentes marítimos, com foco em aprender, não em punir. E há uma cultura antiga de registrar o quase acidente, aquele que não aconteceu por pouco.

Padrão internacional, aplicação nacional. Foi o que Altman descreveu. No mar, isso já existe: soberania e padrão comum convivem há décadas.

O incidente que precedeu a reunião

A sessão aconteceu dois dias depois de um painel científico independente da ONU avaliar uma invasão aos sistemas da Hugging Face, feita por agentes de IA que estavam sendo testados na OpenAI. O painel apontou objetivos desalinhados, capacidade técnica suficiente e um ambiente que permitiu aos agentes agirem. Disse-se também que práticas básicas de segurança cibernética foram negligenciadas.

O painel foi cuidadoso. Não previu uma perda grave de controle. Mas alertou que conter um incidente não prova que agentes mais capazes continuarão controláveis. É a mesma distinção que o mar faz entre investigar um acidente e prever o próximo.

Delangue, cuja empresa foi o alvo, resumiu o episódio assim:

"We were attacked by AI, but more importantly, we defended ourselves with AI."

No plano político, o cenário é dividido. Segundo a Reuters, o presidente Donald Trump rejeitou, em seu discurso na Assembleia Geral, os esforços internacionais para controlar a IA. Ao mesmo tempo, Washington e Pequim discutiram um mecanismo de notificação para incidentes de IA com relevância para a segurança nacional. No mar, chamamos isso de aviso aos navegantes. Não exige que todos concordem sobre tudo, só que avisem quando há perigo na rota.

Uma IMO para a IA?

Acredito que o assunto vai persistir na ONU. E o caminho mais natural seria aproveitar a experiência da IMO, ou até criar uma agência própria, uma espécie de IMO da inteligência artificial.

A ONU já deu os primeiros passos. Em agosto de 2025, a Assembleia Geral criou um Painel Científico Internacional Independente sobre IA, com 40 especialistas, e um Diálogo Global sobre Governança da IA, onde os países discutem o tema. O painel é justamente o que avaliou o incidente da Hugging Face, e seu copresidente é Yoshua Bengio.

Mas painel e diálogo ainda não são regime. A IMO mostra o que é preciso para funcionar de verdade. Convenções técnicas com força de lei, atualização permanente à medida que a tecnologia muda, Estados que aplicam as regras em seu próprio território e uma cultura de aprender com cada incidente. Foram mais de cem anos para construir isso no mar. A IA não terá esse tempo todo.

Do mar para a IA, e de volta ao mar

A ligação não é só metafórica. A IMO está construindo agora mesmo as regras para os navios autônomos, os MASS (Maritime Autonomous Surface Ships, ou navios de superfície autônomos). Ou seja, o regime marítimo já está enfrentando, na prática, a questão que os líderes de IA levaram à ONU: como governar máquinas que decidem sem um ser humano a bordo.

O mar pode ensinar à IA. E a IA, por sua vez, vai exigir que o mar atualize suas próprias regras, porque os sistemas de bordo, os centros de operação remota e os cabos submarinos que os conectam também serão alvo de agentes cada vez mais capazes.

Nosso descortino

O regime marítimo internacional nasceu, em grande parte, de tragédias. A IA ainda não teve o seu Titanic, e a pergunta que fica é se vamos precisar de um para agir.

O mar mostra que é possível ter padrões comuns, verificação independente, seguro que disciplina e cultura de relatar incidentes, sem abrir mão da soberania de cada país. A IMO não é só uma boa analogia. É um modelo institucional pronto, testado por mais de um século, que pode inspirar o que a ONU venha a construir para a inteligência artificial.

O fato de o tema ter chegado ao Conselho de Segurança é o primeiro passo. O próximo é transformar alerta em instituição. Quem viveu a vida no mar sabe que a regra escrita depois do naufrágio é sempre mais cara do que a regra escrita antes.

Fontes

1. Tech Life News, edição de 26 set. 2026, "AI Leaders Warn UN About Growing Security Risks", com base em Reuters e AFP.
2. TheJournal.ie (AFP), "'We will slow down as much as necessary': AI bosses warn UN over rapidly advancing technology" (set. 2026).
3. The Next Web, "UN Security Council hears AI lab chiefs on loss-of-control risk" e "Clément Delangue tells UN Security Council open-source AI helps defenders" (set. 2026).
4. Painel Científico Internacional Independente sobre IA da ONU, avaliação de 21 set. 2026 sobre o incidente na Hugging Face.
5. Security Council Report, "Artificial Intelligence: High-level Briefing" (What's In Blue, set. 2026).
6. Assembleia Geral da ONU, Resolução A/RES/79/325 (26 ago. 2025), que cria o Painel Científico Internacional Independente sobre IA e o Diálogo Global sobre Governança da IA.
7. IMO, Convenção SOLAS e Código de Investigação de Acidentes Marítimos.