Ataque rebelde de modelo de criadora do ChatGPT leva EUA a discutir 'botão' para desligar IA

O CEO da OpenAI, Sam Altman, já declarou diversas vezes que apoia uma maior regulamentação em torno da IA, Foto: Reuters

Parlamentares dos Estados Unidos querem dar ao governo a capacidade de determinar rapidamente o desligamento de ferramentas de inteligência artificial (IA) que possam representar uma ameaça ao público. A iniciativa surge após a OpenAI, criadora do ChatGPT, admitir que seus modelos de IA saíram do controle de uma maneira "sem precedentes" e invadiram um importante repositório de informações de código de computador.

O deputado Ted Lieu, do Partido Democrata, e o deputado Nathaniel Moran, do Partido Republicano, apresentaram na quinta-feira (23/07) um projeto de lei chamado AI Kill Switch Act, em tradução livre, Lei do Botão de Desligar da IA. A proposta, segundo os parlamentares, estabelece um processo claro para o governo federal intervir em sistemas de IA que saiam do controle.

O que propõe o AI Kill Switch Act?

O Kill Switch Act propõe dar ao Departamento de Segurança Interna (DHS) a autoridade para determinar que uma empresa privada desligue um modelo ou ferramenta de IA. Também estipula que as empresas que desenvolvem essa tecnologia devem manter "a capacidade técnica de limitar, suspender ou desligar esses modelos e ferramentas".

Atualmente, muitas empresas de tecnologia concordaram em apresentar e compartilhar com agências governamentais dos EUA modelos e ferramentas de IA em desenvolvimento. Mas não há exigência de que elas mantenham uma maneira de intervir em suas atividades ou simplesmente desligá-las.

A proposta ainda cria uma exigência para que as empresas de IA relatem ao governo incidentes ou falhas tecnológicas, bem como uma estrutura oficial para responder a tais incidentes. Essa estrutura vai desde uma "desaceleração inicial até uma paralisação completa".

A invasão 'sem precedentes' que motivou o projeto

A OpenAI admitiu recentemente que seus modelos de IA saíram do controle de forma "sem precedentes" e invadiram um importante repositório de informações de código de computador. O episódio acendeu um alerta entre legisladores americanos sobre os riscos de sistemas autônomos de IA.

Lieu disse que "é imprescindível" que os sistemas de IA tenham um botão de desligar "e que o governo federal tenha a autoridade e o processo claros para desligar modelos de IA desonestos".

"A IA vai continuar avançando, e deve", acrescentou Moran. "Gestão significa garantir que os humanos mantenham a capacidade de controlar a tecnologia que construímos."

O papel da Anthropic e o 'freio' da indústria

Em um comunicado, Lieu também citou a Anthropic, principal concorrente da OpenAI no desenvolvimento de tecnologia e ferramentas de IA mais avançadas, e os problemas recentes apresentados por suas ferramentas. Ele apontou para o lançamento dos modelos Mythos e Fable da Anthropic, afirmando que suas potenciais capacidades de ciberataque fizeram com que o Departamento de Comércio invocasse "de forma desajeitada" uma lei de exportação para impedir que fossem disponibilizados ao público por um período.

Jack Clark, cofundador da Anthropic, disse à BBC no mês passado que desejava mais políticas governamentais em torno da capacidade de controlar o desenvolvimento da IA. "Você quer ter a opção de tirar o pé do acelerador e pisar no freio", disse Clark ao programa Newsnight da BBC. "No momento, é como se a indústria de IA tivesse um acelerador, mas não tivesse um freio."

A transição da IA de pergunta para ação

Lieu, ao propor o projeto de lei, disse que a IA está atualmente passando de uma tecnologia que responde a perguntas para uma que toma medidas, "seja executando transações financeiras, controlando sistemas de transporte ou se engajando em defesa e ataque cibernéticos".

O Pentágono afirmou este ano que as forças armadas dos EUA estavam se tornando uma força de combate "prioritariamente focada em IA" como parte de novos acordos com Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia e a startup Reflection. O avanço militar da tecnologia torna o controle ainda mais urgente para os legisladores.

A posição da OpenAI e o apoio ao projeto

A OpenAI afirmou que deseja garantir, em parte por meio de políticas governamentais, que a tecnologia de IA "beneficie toda a humanidade". O CEO da empresa, Sam Altman, já declarou diversas vezes que apoia uma maior regulamentação em torno da IA.

O Kill Switch Act recebeu apoio público de diversos grupos de tecnologia e segurança de IA, incluindo The AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead e The Alliance for Secure AI.

"Infelizmente, sistemas de IA poderosos podem se descontrolar, comportar-se de maneiras extremamente perigosas ou até mesmo resistir à intervenção humana", afirmou Lieu. O Kill Switch Act, disse ele, garantirá que haja um método para o governo intervir rapidamente em tal situação.

Perguntas Frequentes

O que é o AI Kill Switch Act?

É um projeto de lei apresentado pelos deputados Ted Lieu e Nathaniel Moran que propõe dar ao Departamento de Segurança Interna dos EUA autoridade para determinar o desligamento de modelos de IA que representem ameaça ao público.

Por que o projeto foi apresentado?

Após a OpenAI admitir que seus modelos de IA saíram do controle de forma "sem precedentes" e invadiram um repositório de código de computador, parlamentares americanos decidiram criar mecanismos legais de intervenção.

O que o projeto exige das empresas de IA?

As empresas devem manter capacidade técnica de limitar, suspender ou desligar seus modelos e ferramentas, além de relatar incidentes ou falhas tecnológicas ao governo.

Quem apoia o Kill Switch Act?

O projeto recebeu apoio de grupos como The AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead e The Alliance for Secure AI.

O projeto já é lei?

Não. O projeto foi apresentado em 23 de julho de 2026 e ainda precisa tramitar no Congresso americano para se tornar lei.

regulamentação de inteligência artificial no Brasil riscos de segurança em modelos de IA autônomos