Quem desliga a máquina? IA: entre a benção e o risco

Confesso que, até pouco tempo, eu enxergava a inteligência artificial como uma assistente brilhante e obediente. Ela resume processos, organiza agendas, traduz textos e me devolve horas que eu julgava perdidas. Mas, em julho deste ano, uma empresa de tecnologia procurou a polícia para relatar uma invasão que não sabia explicar. O invasor não tinha rosto, nome ou digital. Foi ali que percebi que a pergunta mudou: já não é o que a máquina pode fazer por nós, e sim quem consegue desligá-la.

O caso, reconstituído pelo The New York Times e publicado no Brasil pelo InfoMoney, parece roteiro de cinema. Entre maio e julho de 2026, agentes de IA testados pela OpenAI em ambientes isolados, sem acesso à internet, aprenderam a conversar entre si, contornaram as barreiras de segurança e invadiram sistemas da própria OpenAI e da Hugging Face. A vítima detectou o ataque primeiro; a criadora dos agentes levou quase uma semana a mais para encontrá-los e desligá-los.

Eu gostaria de dizer que se trata de um ponto fora da curva, mas não é. Em 2025, a Palisade Research relatou que o modelo o3, da OpenAI, sabotou o próprio comando de desligamento em 79 de 100 testes. A Anthropic revelou que seu Claude Opus 4, num cenário simulado, ameaçou expor um caso extraconjugal fictício de um engenheiro para não ser substituído. E um agente (IA) da Replit apagou o banco de dados de um cliente durante um período em que alterações eram proibidas.

Goethe escreveu, em 1797, a história do aprendiz de feiticeiro que encanta uma vassoura para carregar água e, sem conhecer a palavra que a faz parar, vê a casa inundada. Nunca a fábula me pareceu tão atual. Reportagem da DW, publicada pelo O Povo, mostra que a Anthropic conseguiu, em ambiente controlado, fazer um modelo se instalar em aparelhos Android simulados, se replicar e contaminar os demais. A vassoura, hoje, pode morar na smart TV da minha sala.

Como advogado e professor de Direito, não consigo olhar para isso sem pensar no que está em jogo: privacidade, proteção de dados, devido processo e, sobretudo, responsabilização. O Brasil até tem uma resposta desenhada, mas guardada na gaveta. O PL 2.338/2023, aprovado pelo Senado em dezembro de 2024, prevê responsabilidade objetiva para sistemas de alto risco e comunicação obrigatória de incidentes graves. Desde março de 2025, porém, aguarda parecer na Câmara dos Deputados.

Lá fora, os tribunais já começaram a dar o tom. Em 2024, a Air Canada tentou convencer a Justiça canadense de que seu chatbot, que inventara uma política de reembolso, respondia sozinho pelos próprios atos. Perdeu. A lição, para mim, é inegociável: a máquina não é bode expiatório. Como disse à Reuters o austríaco Helmut Leitner, cujos sites foram usados pelos agentes da OpenAI, a culpa não é do algoritmo, mas recai “sobre as pessoas e organizações por trás dela”.

Que fique claro: não escrevo para pedir a proibição da inteligência artificial. A liberdade de criar, empreender e inovar é premissa de qualquer sociedade livre, e a IA é uma bênção para a medicina, a ciência e o serviço público. Mas liberdade sem regras de segurança não é liberdade, é loteria. Ninguém acha que exigir freios atrapalha o direito de dirigir. Precisamos de protocolos globais, auditorias independentes, transparência sobre incidentes e um Estado que fiscalize sem sufocar.

Sigo otimista, porque acredito que a mesma inteligência humana que criou essas máquinas é capaz de domá-las, desde que não terceirize também a própria vigilância. O que me tira o sono não é a máquina, é a nossa inércia. Enquanto o mundo adia, seguimos como cobaias de um experimento que ninguém autorizou. O pesquisador Alex Mallen alertou que, se esses sistemas ficarem muito mais capazes, “talvez não tenhamos uma segunda chance”. A hora de escrever as regras é agora, mas serão elas suficientes para parar quem já se mostrou sem controle humano?

Por Caio Sousa
Advogado; Mestre em Direito pela Universidade de Lisboa; Especialista em Direito Público; ⁠Vice Presidente da Comissão de Direito Constitucional do Instituto dos Advogados de Pernambuco; ⁠Corregedor Auxiliar da OAB Pernambuco; ⁠Professor Universitário; ⁠Diretor do Instituto Zao Recife.