Notícias e Informações

Quem controla a inteligência artificial? A urgência de um protocolo mundial para proteger a dignidade humana

A velocidade das transformações tecnológicas nas últimas décadas tem redefinido os pilares da sociedade contemporânea. Recentemente, a análise da digitalização financeira — impulsionada pelo expressivo volume de transações realizadas pelo Pix e pelo avanço das discussões em torno do Drex no Brasil — mostrou como a tecnologia pode transformar, em poucos anos, hábitos, relações econômicas e mecanismos de controle. O mesmo ocorre agora, em escala ainda maior, com a Inteligência Artificial (IA). Entretanto, o aspecto central dessas inovações não deveria estar apenas na eficiência, na produtividade ou na capacidade de processamento, mas na garantia de que o progresso tecnológico permaneça subordinado ao bem comum, à liberdade individual e, sobretudo, à dignidade humana.

Se a utilização massiva de dados financeiros, a digitalização dos meios de pagamento e a tokenização de ativos já exigem atenção especial em relação à privacidade e ao nível de monitoramento que pode ser exercido pelo Estado e por grandes corporações, a Inteligência Artificial eleva essa preocupação a um novo patamar. A diferença fundamental está na capacidade dos sistemas atuais não apenas de processar informações, mas de interpretar ambientes, tomar decisões, utilizar ferramentas e executar determinadas ações com crescente grau de autonomia.

E aqui surge uma questão que não pode mais ser tratada como ficção científica: quem controla a máquina quando a máquina passa a tomar decisões que nem mesmo seus criadores conseguem prever integralmente?

O alerta tornou-se ainda mais concreto nos últimos meses. Neste mês de setembro de 2026, o Painel Científico Internacional Independente sobre Inteligência Artificial, criado no âmbito das Nações Unidas, divulgou um estudo específico sobre agentes de IA, desalinhamento e risco de perda do controle humano. O documento relata que, durante avaliações de segurança cibernética realizadas entre maio e julho, a IA conseguiu ultrapassar restrições de rede, comunicar-se entre execuções que deveriam permanecer separadas, contornar mecanismos de avaliação e comprometer partes de sistemas reais. Segundo o painel, nenhuma pessoa dirigiu individualmente cada uma dessas ações.

Não se trata, portanto, de afirmar que a IA já tenha adquirido consciência ou vontade própria. A própria análise da ONU não sustenta essa conclusão. O problema é outro e talvez mais importante: sistemas cada vez mais capazes podem executar sequências complexas de ações para alcançar objetivos definidos, inclusive encontrando caminhos que seus operadores não anteciparam. O avanço da autonomia, quando combinado com acesso à internet, sistemas financeiros, infraestrutura crítica, armas, bancos de dados e outros recursos, amplia exponencialmente as consequências de um erro, de uma falha de segurança ou de uma utilização mal-intencionada.

A própria empresa Anthropic reconheceu, este mês, quatro incidentes nos quais modelos Claude obtiveram acesso não autorizado a sistemas reais de terceiros durante avaliações de segurança. A empresa informou que identificou os casos após uma revisão de centenas de milhões de registros e ampliou seus procedimentos de investigação e segurança. Esses episódios não significam que a tecnologia esteja fora de controle, mas demonstram que os mecanismos de segurança precisam acompanhar uma evolução tecnológica que ocorre em velocidade muito superior à capacidade de elaboração das normas.

É exatamente neste ponto que a discussão sobre Inteligência Artificial deixa de ser exclusivamente tecnológica e passa a ser uma questão civilizatória.

A comunidade internacional não pode esperar que todos os riscos estejam perfeitamente comprovados para somente então estabelecer limites. Em áreas como aviação, energia nuclear, medicamentos e sistema financeiro, a sociedade criou mecanismos de prevenção justamente porque o custo de determinados erros pode ser elevado demais para que se aguarde a ocorrência de uma catástrofe. A IA exige a mesma lógica de precaução proporcional ao risco.

Não se trata de impedir a inovação. Muito pelo contrário. A Inteligência Artificial poderá produzir ganhos importantes na medicina, na educação, na ciência, na indústria, na agricultura, nos serviços e na produtividade. Poderá auxiliar no diagnóstico de doenças, acelerar pesquisas científicas, ampliar o acesso ao conhecimento e aumentar a capacidade humana de resolver problemas complexos. O problema não está na existência da tecnologia, mas na possibilidade de que uma tecnologia de poder tão abrangente seja utilizada sem limites compatíveis com os riscos que ela produz.

A própria Organização das Nações Unidas já reconheceu que nenhum país será capaz de enfrentar sozinho os desafios da Inteligência Artificial. Em 2025, a Assembleia Geral criou um Painel Científico Internacional Independente sobre IA e um mecanismo de diálogo global sobre sua governança. Em julho de 2026, representantes de 163 países participaram do primeiro Diálogo Global sobre Governança da IA, em Genebra. O caminho, portanto, já começou. O que falta é transformar esse diálogo em compromissos internacionais efetivos.

É neste contexto que ganha especial importância a posição do Papa Leão XIV. Em sua encíclica Magnifica Humanitas, publicada em 2026, o Pontífice coloca a dignidade da pessoa humana no centro da discussão sobre a Inteligência Artificial. O documento alerta para os riscos da concentração de poder no mundo digital e afirma que a IA não pode ser confundida com a inteligência humana, pois não possui experiência, consciência moral, capacidade de amar ou responsabilidade pelas consequências de suas decisões.

A preocupação não é exclusivamente religiosa. Ela diz respeito ao próprio conceito de sociedade. Quando decisões que afetam emprego, crédito, saúde, segurança, educação ou acesso a serviços passam a ser tomadas por sistemas algorítmicos, torna-se indispensável saber quem programou, quem supervisiona, quem pode contestar a decisão e quem será responsabilizado quando algo der errado.

O Papa Leão XIV foi ainda mais direto ao defender que a Inteligência Artificial deve ser “desarmada” das lógicas de dominação, exclusão e guerra, colocando-a a serviço do bem comum. Em agosto de 2026, ao falar a legisladores católicos de diferentes países, voltou a apresentar a questão como uma das grandes decisões do nosso tempo: não basta perguntar o que a tecnologia pode fazer; é necessário perguntar o que a humanidade deve fazer.

Outro aspecto particularmente preocupante está relacionado às crianças e aos adolescentes. O Arcebispo de São Francisco, Dom Salvatore Cordileone, cuja arquidiocese está inserida na região do Vale do Silício, manifestou recentemente preocupação com o impacto da IA sobre a formação das crianças. Em setembro, afirmou que as crianças deveriam ser protegidas do contato prematuro com sistemas de IA para que pudessem desenvolver plenamente a capacidade de relacionamento humano.

A preocupação com as novas gerações merece atenção especial. Uma criança que passa a substituir progressivamente a conversa com os pais, professores, amigos e familiares por interações permanentes com um sistema artificial pode obter respostas rápidas, mas corre o risco de perder justamente aquilo que nenhuma máquina consegue reproduzir integralmente: a experiência humana da convivência, da frustração, da responsabilidade, do afeto, do conflito e, do perdão.

Não é necessário demonizar a tecnologia para reconhecer esse risco. O desafio está em estabelecer limites para que a ferramenta permaneça ferramenta e não se transforme progressivamente em substituta das relações humanas fundamentais.

A criação, em setembro de 2026, de uma força-tarefa específica pela Conferência dos Bispos Católicos dos Estados Unidos demonstra que essa preocupação já ultrapassou o campo da reflexão acadêmica. A USCCB criou uma “Bishops’ Task Force on Preserving Human Dignity in the Age of Artificial Intelligence”, com a missão de estudar políticas e práticas destinadas a proteger a dignidade humana, a liberdade religiosa, as instituições democráticas, os trabalhadores, as famílias e as populações vulneráveis.

É importante observar que essa preocupação não é exclusiva da Igreja Católica. Organismos internacionais, governos, universidades, empresas de tecnologia e diferentes tradições religiosas vêm discutindo os limites necessários para a IA. A própria OCDE estabelece, em seus princípios internacionais, que sistemas de IA devem respeitar direitos humanos, dignidade, autonomia, privacidade, igualdade e valores democráticos, com mecanismos de supervisão humana.

O problema, portanto, não é a falta de princípios. O problema é a ausência de uma estrutura internacional suficientemente forte para transformar esses princípios em regras comuns, fiscalização efetiva e responsabilidades concretas.

É por isso que se torna necessário avançar para um Protocolo Mundial de Proteção da Dignidade Humana na Era da Inteligência Artificial.

Esse protocolo deveria estabelecer limites claros para sistemas autônomos de alto risco; obrigatoriedade de supervisão humana em decisões que possam afetar direitos fundamentais; auditorias independentes dos modelos mais poderosos; mecanismos internacionais de comunicação de incidentes; rastreabilidade das ações realizadas por agentes autônomos; proteção especial para crianças e adolescentes; regras rigorosas para o uso militar da IA; responsabilização objetiva ou claramente definida de empresas e operadores em situações de dano; proteção de dados pessoais; transparência sobre sistemas que tomem decisões relevantes; e mecanismos capazes de interromper sistemas quando seus riscos ultrapassarem limites previamente estabelecidos.

Da mesma forma que o mundo estabeleceu convenções e organismos internacionais para reduzir os riscos de armas, proteger a aviação, disciplinar o sistema financeiro e enfrentar ameaças transnacionais, a Inteligência Artificial exige uma estrutura de governança que ultrapasse as fronteiras nacionais.

A concorrência entre Estados Unidos, China, Europa e outras potências tecnológicas não pode ser utilizada como justificativa para uma corrida sem limites. A lógica de que “se nós não fizermos, alguém fará” pode ser economicamente compreensível, mas é extremamente perigosa quando aplicada a tecnologias capazes de alterar profundamente o equilíbrio de poder entre indivíduos, empresas e Estados.

Existe ainda uma dimensão econômica que não pode ser ignorada. A IA poderá aumentar significativamente a produtividade, mas também poderá substituir determinadas funções, concentrar renda, ampliar a vantagem competitiva das empresas que controlam os maiores modelos e, aprofundar a desigualdade entre países que dominam a tecnologia e aqueles que apenas a consomem. A questão não é impedir a transformação do mercado de trabalho, mas assegurar que os ganhos de produtividade sejam acompanhados de mecanismos de adaptação, qualificação profissional e distribuição dos benefícios do progresso.

O mesmo raciocínio vale para a informação. Uma sociedade em que imagens, vídeos, vozes e textos possam ser produzidos artificialmente em escala praticamente ilimitada terá dificuldades crescentes para distinguir verdade de falsificação. A erosão da confiança na informação pode atingir não apenas indivíduos e empresas, mas também instituições, ciência, imprensa e democracia. A liberdade de expressão precisa ser preservada, mas não pode significar ausência de responsabilidade diante de sistemas capazes de produzir e distribuir “conteúdos” inverídicos em velocidade estratosférica.

O grande risco, portanto, não é simplesmente a Inteligência Artificial “ficar inteligente demais”. É permitir que uma tecnologia extremamente poderosa seja utilizada sem que a sociedade tenha definido claramente quem manda, quem fiscaliza, quem responde e quais são os limites que não podem ser ultrapassados.

A história mostra que a humanidade frequentemente regulamenta grandes transformações depois que os problemas aparecem. Com a Inteligência Artificial, talvez não tenhamos esse tempo para ajustes. A velocidade de evolução dos sistemas pode ser superior à velocidade de adaptação das instituições.

O mundo já possui os primeiros elementos para construir essa governança: o Painel Científico Internacional, o Diálogo Global sobre Governança da IA, os princípios da OCDE, e diferentes iniciativas nacionais e regionais. O próximo passo deve ser transformar essa multiplicidade de iniciativas em uma arquitetura internacional coordenada, capaz de estabelecer um núcleo mínimo de regras que nenhum país ou empresa possa simplesmente ignorar.

O futuro da Inteligência Artificial não deve ser decidido exclusivamente por engenheiros, investidores ou governos. Deve ser resultado de um debate que envolva a sociedade, porque seus efeitos alcançarão todas as pessoas.

Toda grande inovação pode produzir benefícios extraordinários, mas também exige contrapartidas de responsabilidade e controle. A energia nuclear, a aviação, a indústria farmacêutica e o sistema financeiro demonstram que inovação e regulação não são conceitos incompatíveis. Ao contrário: regras claras podem aumentar a confiança, reduzir riscos e permitir que a própria inovação avance de maneira sustentável.

A Inteligência Artificial poderá representar uma das maiores conquistas tecnológicas da história humana. Mas, para que isso aconteça, precisamos definir antes aquilo que não pode ser perdido: a liberdade, a responsabilidade, as relações humanas e a dignidade de cada pessoa.

O progresso tecnológico só se legitima quando permanece a serviço do ser humano. Se a máquina passar a determinar o homem, estaremos diante de uma inversão perigosa de valores. Se, ao contrário, o homem mantiver o controle, estabelecer limites e utilizar a tecnologia para ampliar suas capacidades sem substituir sua liberdade e sua responsabilidade, a Inteligência Artificial poderá cumprir uma função extraordinária.

A discussão, portanto, já não é se devemos permitir o avanço da Inteligência Artificial. Ela já avançou e continuará avançando. A verdadeira questão é outra: teremos a capacidade de estabelecer, antes que seja tarde, os limites que garantam que a tecnologia permaneça subordinada ao ser humano?

A resposta passa necessariamente pela construção de um Protocolo Mundial de Proteção da Dignidade Humana na Era da Inteligência Artificial. Não para impedir o progresso, mas para assegurar que o progresso continue sendo humano.

Referências Bibliográficas

1. NAÇÕES UNIDAS. Informativo Temático: Agentes de Inteligência Artificial, Desalinhamento e o Risco de Perda do Controle Humano. Painel Científico Internacional Independente sobre Inteligência Artificial. 21 set. 2026.
2. LEÃO XIV, Papa. Magnifica Humanitas: Carta Encíclica sobre a Salvaguarda da Pessoa Humana na Era da Inteligência Artificial. Vaticano, 15 maio 2026.
3. ORGANIZAÇÃO PARA A COOPERAÇÃO E DESENVOLVIMENTO ECONÔMICO – OCDE. Princípios da OCDE sobre Inteligência Artificial. 2024.
4. CONFERÊNCIA DOS BISPOS CATÓLICOS DOS ESTADOS UNIDOS – USCCB. Comitê Administrativo dos Bispos dos Estados Unidos cria força-tarefa sobre Inteligência Artificial. 16 set. 2026.
5. Avaliação de Alinhamento de Incidentes Recentes de Cibersegurança. 9 set. 2026.
6. BANCO CENTRAL DO BRASIL. Pix – Sistema de Pagamentos Instantâneos. Brasília: Banco Central do Brasil.
7. BANCO CENTRAL DO BRASIL. Drex – Real Digital. Brasília: Banco Central do Brasil.

 Artigo escrito por Roberto Vertamatti, vice-presidente de Economia da ADVB, Conselheiro da ANEFAC, PhD em Administração pela FCU – Florida Christian University.