Desarmar a IA: o que a Magnifica humanitas acrescenta aos Princípios de Asilomar branco

A primeira leitura apressada da nova encíclica Magnifica humanitas, apresentada por Leão XIV em 25 de maio de 2026, pode levar a um erro comum: tratar o documento como mais uma advertência religiosa contra a tecnologia. Não é isso. O ponto central é mais sofisticado. A encíclica não demoniza a inteligência artificial. Ela desloca a pergunta. Em vez de perguntar apenas “o que a IA consegue fazer?”, pergunta “a serviço de quem, sob qual responsabilidade e com quais consequências humanas?”. O próprio Vaticano apresenta a encíclica como um texto sobre a salvaguarda da pessoa humana no tempo da inteligência artificial, assinada em 15 de maio de 2026, no aniversário da Rerum Novarum de Leão XIII. (Vatican Press)

Esse detalhe não é decorativo. A Rerum Novarum respondeu à questão social aberta pela revolução industrial: trabalho, capital, pobreza, exploração e dignidade. A Magnifica humanitas tenta fazer movimento semelhante diante da revolução algorítmica. A fábrica do século XIX disciplinava corpos; a IA do século XXI organiza decisões, classifica pessoas, antecipa comportamentos, automatiza julgamentos e concentra poder em infraestruturas invisíveis. A nova questão social não está apenas no chão de fábrica. Está no modelo, no dado, no score, no prompt, no agente autônomo, no sistema de recomendação e no pipeline de decisão.

A mensagem central é simples e dura: a IA deve servir à pessoa humana, à dignidade, à justiça, à verdade, ao trabalho e à paz; não ao domínio de poucos, à vigilância generalizada, à exclusão automatizada ou à guerra. O Vatican News resumiu a encíclica afirmando que a IA deve servir à humanidade, “não ao poder de poucos”, e destacou quatro eixos fortes: verdade, dignidade do trabalho, justiça social e paz. (Vatican News)

A convergência inesperada com Asilomar

Essa visão conversa diretamente com os Princípios de Asilomar, elaborados em 2017 no contexto da conferência sobre IA benéfica organizada pelo Future of Life Institute. Esses princípios estão entre os primeiros e mais influentes conjuntos de governança ética de IA, com foco em segurança, transparência, responsabilidade, alinhamento de valores, privacidade, benefício compartilhado, controle humano e prevenção de corrida armamentista em armas autônomas. (Future of Life Institute)

A convergência é clara: Asilomar usa uma linguagem técnico-científica e secular; a Magnifica humanitas usa uma linguagem antropológica, moral e teológica. Mas ambas atacam o mesmo risco: a transformação da IA em sistema de poder sem rosto, sem responsabilidade e sem freio.

Asilomar afirma que o objetivo da pesquisa em IA deve ser criar inteligência benéfica, não inteligência sem direção. Também defende que investimentos em IA sejam acompanhados de pesquisa sobre robustez, segurança, impactos econômicos, ética, direito e alinhamento de valores. (Future of Life Institute) A encíclica, por outro caminho, diz que a tecnologia não é má em si, mas também não é neutra: ela carrega o rosto, os interesses e as decisões de quem a concebe, financia, regula e utiliza. (Vatican News)

Aqui está o primeiro ponto importante para o mundo corporativo: não existe IA “apenas técnica”. Toda arquitetura de IA embute uma visão de pessoa, de risco, de eficiência, de trabalho, de autoridade e de responsabilidade. Quem trata IA como simples ferramenta de produtividade já começou errado.

Dignidade humana versus eficiência cega

Um dos pontos mais fortes da Magnifica humanitas é a insistência de que a dignidade humana não pode ser subordinada à eficiência. Isso tem implicações práticas. Uma empresa pode usar IA para reduzir custos, acelerar atendimento, automatizar análise de crédito, classificar candidatos, priorizar leads, detectar fraude ou monitorar produtividade. Mas a pergunta ética não termina em “funcionou?”. A pergunta correta é: “funcionou sem reduzir pessoas a perfis, scores e probabilidades injustas?”.

Asilomar chega ao mesmo problema pelo princípio dos valores humanos: sistemas de IA devem ser desenhados e operados de forma compatível com dignidade humana, direitos, liberdades e diversidade cultural. Também afirma que as pessoas devem ter controle sobre os dados que geram e que o uso de dados pessoais não deve reduzir injustamente sua liberdade real ou percebida. (Future of Life Institute)

Traduzindo para governança: não basta ter um modelo acurado. É preciso saber se o modelo é justo, auditável, contestável e proporcional. Acurácia sem dignidade vira tecnocracia. Eficiência sem recurso humano vira desumanização operacional.

Responsabilidade humana: “foi o algoritmo” não é defesa

A encíclica também bate em um ponto essencial: decisões apoiadas por IA precisam ter responsáveis humanos. A frase “foi o algoritmo que decidiu” deveria ser inaceitável em qualquer organização séria. Algoritmo não assina ata, não responde a processo, não comparece a audiência, não consola vítima, não assume culpa e não tem consciência moral.

Asilomar formula isso nos princípios de transparência de falha, transparência judicial, responsabilidade e controle humano. Se um sistema de IA causa dano, deve ser possível descobrir o porquê; se participa de decisão judicial, deve oferecer explicação auditável por autoridade humana competente; e humanos devem escolher como e quando delegar decisões a sistemas de IA. (Future of Life Institute)

Esse ponto deveria virar regra de arquitetura corporativa: toda decisão sensível com IA precisa de trilha de auditoria, dono do risco, explicabilidade proporcional, política de revisão humana e canal de contestação. Crédito, saúde, educação, emprego, segurança, jurídico, compliance e atendimento crítico não podem ser tratados como playground de automação.

Concentração de poder e destino universal da tecnologia

Outro eixo da encíclica é o risco de concentração tecnológica. O Vaticano destaca a preocupação de Leão XIV com tecnologias concentradas nas mãos de poucos, ampliando a distância entre incluídos e excluídos da revolução digital. (Vatican News)

Asilomar fala em benefício compartilhado, prosperidade compartilhada e bem comum. A prosperidade gerada pela IA deve ser amplamente compartilhada, e sistemas muito avançados devem servir a ideais éticos amplamente compartilhados, em benefício de toda a humanidade, não de um único Estado ou organização. (Future of Life Institute)

Aqui há uma crítica direta ao discurso ingênuo de inovação. Não basta uma empresa dizer que “usa IA para escalar”. Escalar o quê? Acesso ou exclusão? Conhecimento ou dependência? Autonomia ou captura? Produtividade distribuída ou margem concentrada? A IA pode democratizar capacidades, mas também pode consolidar monopólios cognitivos. Pode ampliar pequenas empresas, mas também pode torná-las reféns de plataformas, APIs, preços, modelos fechados e lock-in.

“Desarmar a IA” e o princípio anti-corrida armamentista

A expressão mais forte ligada à Magnifica humanitas é “desarmar a IA”. Leão XIV pediu que a inteligência artificial seja libertada de lógicas que a transformam em instrumento de dominação, exclusão ou morte. O Vatican News registrou também a preocupação com sistemas de armas cada vez mais autônomos e decisões que escapam do controle humano. (Vatican News)

Asilomar antecipa essa preocupação de forma direta: uma corrida armamentista em armas autônomas letais deve ser evitada. (Future of Life Institute)

Mas “desarmar a IA” não vale apenas para drones, mísseis ou sistemas militares. Existe também uma IA armada dentro das empresas: armada contra o trabalhador, quando vira vigilância abusiva; armada contra o consumidor, quando manipula vulnerabilidades; armada contra a democracia, quando amplifica desinformação; armada contra a concorrência, quando concentra assimetrias impossíveis de superar; armada contra a verdade, quando produz conteúdo sintético em escala sem responsabilidade.

Desarmar a IA, nesse sentido, não significa parar a tecnologia. Significa retirar dela a lógica de dominação.

Educação digital não é treinamento de ferramenta

Outro ponto decisivo é a formação. A encíclica se alinha à tradição já aberta pela nota Antiqua et nova, publicada em 28 de janeiro de 2025 pelos Dicastérios para a Doutrina da Fé e para a Cultura e a Educação, sobre a relação entre inteligência artificial e inteligência humana. O documento anterior já tratava das oportunidades e riscos da IA em educação, economia, trabalho, saúde, relações internacionais, relações interpessoais e guerra. (Vatican)

Isso importa porque grande parte do mercado ainda confunde educação em IA com treinamento de ferramenta. Ensinar alguém a usar prompt, agente, automação ou RAG é necessário, mas insuficiente. A formação séria precisa incluir julgamento, responsabilidade, viés, privacidade, propriedade intelectual, segurança, governança, impactos no trabalho e limites de delegação.

Asilomar reforça isso ao defender troca saudável entre pesquisadores e formuladores de políticas, cultura de cooperação e transparência, além de cuidado proporcional diante dos riscos de sistemas avançados. (Future of Life Institute)

No mundo corporativo, isso significa que a agenda de IA não pode ficar presa ao laboratório, ao time de inovação ou ao fornecedor. Ela precisa entrar no conselho, no jurídico, no RH, na segurança, no compliance, na arquitetura corporativa e na operação.

O que isso exige das empresas

A correlação entre Magnifica humanitas e Asilomar aponta para uma conclusão prática: governança de IA não é um comitê decorativo. É uma disciplina de desenho institucional.

Empresas que querem usar IA com maturidade precisam responder a perguntas objetivas:

Quem é responsável por cada decisão automatizada?
Quais decisões não podem ser totalmente delegadas?
Como o usuário contesta uma decisão algorítmica?
Quais dados alimentam o sistema?
Como vieses são detectados e corrigidos?
O modelo é auditável?
Há rastreabilidade de prompts, versões, fontes e decisões?
Existe plano para falhas, abusos, ataques e uso indevido?
A produtividade gerada pela IA será compartilhada ou apenas extraída?
O sistema aumenta autonomia humana ou dependência invisível?

Esse é o ponto onde a encíclica e Asilomar se encontram com a arquitetura real. Falar em dignidade, benefício compartilhado, transparência e controle humano sem transformar isso em requisitos, logs, políticas, contratos, testes, red teams, auditoria e indicadores é apenas retórica.

A IA precisa de alma institucional, não de fetiche tecnológico

A Magnifica humanitas não substitui Asilomar, e Asilomar não substitui a encíclica. Um nasce da ética tecnológica e da preocupação com IA benéfica; o outro nasce da Doutrina Social da Igreja e da defesa da pessoa humana. Mas os dois convergem em uma afirmação central: inteligência artificial sem responsabilidade humana vira poder bruto.

A pergunta que fica para empresas, governos e educadores não é se devemos usar IA. Essa pergunta já foi atropelada pela realidade. A pergunta séria é outra: que tipo de humanidade será reforçada pelos sistemas que estamos colocando em produção?

Leopoldo Lima é Enterprise Architect, professor de GenAI aplicada a negócios e especialista em arquitetura corporativa, integração de sistemas, governança de IA e transformação digital. Com mais de 25 anos de experiência em setores regulados como energia, utilities, telecomunicações e varejo, atua na interseção entre tecnologia, estratégia e execução. É autor de Vibecoding Industrial e pesquisa temas como IA generativa, agentes, RAG, Shadow AI, FinOps, segurança de prompts e governança algorítmica em ambientes corporativos.