O Papa Leão XIV fez um apelo na segunda-feira por uma regulação robusta da inteligência artificial, instando os desenvolvedores a trabalharem para o bem comum, ao invés do lucro, ao publicar um vasto manifesto sobre a proteção da humanidade diante do impacto dessa tecnologia em diversas áreas, desde o trabalho até a guerra.
“Magnifica Humanitas” (Humanidade Magnífica), a primeira encíclica de Leão, tem sido aguardada ansiosamente desde que o primeiro papa nascido nos EUA anunciou, dias após sua eleição, que considera a inteligência artificial como o maior desafio que a humanidade enfrenta atualmente.
No texto, Leão condenou a “cultura do poder” que impulsiona a corrida pela IA, especialmente no desenvolvimento de métodos cada vez mais sofisticados de guerra remota. Ele declarou que não é “permitido” confiar decisões letais e irreversíveis a sistemas de IA, levantando mais um ponto de tensão entre o papa americano e a administração Trump, que tem buscado ativamente a desregulamentação do desenvolvimento da IA.
“A Inteligência Artificial agora precisa ser desarmada, libertada de lógicas que a transformam em um instrumento de dominação, exclusão e morte,” afirmou o papa durante uma apresentação especial da encíclica no Vaticano, um dos documentos de ensino mais autoritativos que um papa pode emitir.
Especialistas da indústria de tecnologia, academia e moralidade católica afirmam que o documento provavelmente se tornará um marco no debate sobre IA, servindo como referência para formuladores de políticas, pesquisadores e o público em geral. Isso ocorre em meio ao avanço quase diário da tecnologia, que suscita preocupações sobre a substituição de empregos humanos e até da inteligência humana.
Taylor Black, uma executiva de IA da Microsoft e diretora do instituto de IA da Universidade Católica da América, disse que o documento levará as pessoas “na vanguarda dessas ferramentas” a questionar “o que significa ser humano?”
Papa critica empresas de IA enquanto hospeda a Anthropic
O lançamento no Vaticano também contou com comentários do cofundador da Anthropic, que atualmente está em umabatalha legal com a administração Trump sobre o acesso à sua tecnologia de IA. O Vaticano decidiu incluir a Anthropic como parte de seu esforço de uma década para engajar a Silicon Valley em um diálogo sobre os custos humanos da IA.
No entanto, em seu texto, Leão criticou repetidamente a concentração de poder e dados nas mãos de um número tão pequeno de pessoas no setor privado como um perigo, especialmente para crianças e os mais vulneráveis, e clamou por uma regulação externa de seu trabalho.
“Não é suficiente invocar a ética em abstrato; são necessários conjuntos legais robustos, supervisão independente, usuários informados e um sistema político que não abdique de sua responsabilidade,” escreveu ele. “Uma IA mais moral não é suficiente se essa moralidade é determinada por poucos.”
Leão apelou a desenvolvedores de IA e líderes políticos responsáveis pela regulação para desacelerar e refletir sobre o que estão fazendo. Ele os instou a usar diretrizes éticas e espirituais para optar por não trabalhar para seu próprio lucro ou poder, mas sim para o aprimoramento da humanidade.
Os concorrentes de IA, OpenAI e Anthropic, são as segunda e terceira empresas privadas mais valiosas dos EUA, cada uma avaliada em centenas de bilhões de dólares, mais do que o PIB de muitos países. Ambas estão a caminho de IPOs que podem alcançar quase um trilhão de dólares.
O cofundador da Anthropic, Christopher Olah, acolheu a crítica e a preocupação de Leão. Ele afirmou que tais verificações externas são fundamentais para que a tecnologia “dê certo” para a humanidade, dado que há tanto em jogo—“uma verdadeira possibilidade de que a IA desloque o trabalho humano em uma escala muito grande.”
“Precisamos que mais do mundo—comunidades religiosas, sociedade civil, acadêmicos, governos—façam o que Sua Santidade fez aqui: levar isso a sério, observar de perto e direcionar os eventos em uma direção melhor,” disse Olah. “Precisamos de vozes morais que os incentivos não possam dobrar.”
Especialistas afirmam que o texto se tornará um marco
Num texto metódico, o papa, que possui formação em matemática, traçou a história do ensino social da Igreja Católica e aplicou seus conceitos centrais—justiça, solidariedade, dignidade do trabalho e a destinação universal dos recursos—à revolução digital.
“Estou convencido de que isso se provará um documento definidor de nossa era, um documento profundo e profético,” disse Paolo Carozza, professor de direito na Notre Dame Law School e presidente do Conselho de Supervisão da Meta.
“O Papa Leão está oferecendo uma voz clara, abrangente e coerente, nos instando a assumir a responsabilidade de construir um mundo em que a tecnologia sirva aos humanos, e não os degrade,” acrescentou.
Nos capítulos mais contundentes, Leão denunciou como a IA ajudou a acelerar a “normalização da guerra” ao desensibilizar as pessoas para seu custo. Ele não nomeou conflitos específicos, mas citou “imperialismos opostos, entre potências que desejam preservar sua supremacia e aquelas que aspiram a tomar essa supremacia.”
Ele exigiu transparência e responsabilidade por parte dos desenvolvedores de IA, para que a cadeia de comando na tomada de decisões sobre ataques com armamentos de IA seja sempre conhecida. Ele declarou que a teoria da “guerra justa” da Igreja Católica, que estabelece critérios específicos para quando a força pode ser justificada, está agora “ultrapassada” diante dos avanços tecnológicos da guerra.
Um texto na tradição de justiça social da igreja
Leão assinou o texto em 15 de maio, no 135.º aniversário da publicação de “Rerum Novarum” (Das Novos), o documento de ensino mais importante do seu herói e homônimo, Papa Leão XIII. Esse documento abordou os direitos dos trabalhadores, os limites do capitalismo e as obrigações que os Estados e empregadores devem ter para com os trabalhadores em meio à Revolução Industrial.
Ele se tornou a base do pensamento social católico moderno, e o papa atual o citou no início de seu pontificado em relação à revolução da IA, que ele acredita apresenta as mesmas questões existenciais que a Revolução Industrial levantou há mais de um século. “Magnifica Humanitas” portanto se torna o mais recente capítulo de uma história de um século de papas adaptando “Rerum Novarum” às questões sociais de suas épocas, muitas vezes focando na dignidade do trabalho para a realização humana.
A IA está gerando tanto medos existenciais quanto uma visão utópica em meio a um debate intensificado sobre se ela se tornará um catalisador que enriquece a humanidade ou uma toxina tecnológica que entorpece a inteligência humana ao eliminar milhões de empregos bem remunerados.
“A busca por maiores lucros não pode justificar escolhas que sacrificam sistematicamente empregos, pois a pessoa humana é um fim, não um meio, e a ordem econômica deve permanecer subordinada à dignidade humana e ao bem comum,” escreveu Leão.
Leão também estendeu sua preocupação em defender a dignidade humana no trabalho para emitir o primeiro pedido de desculpas papal pela própriaparticipação do Vaticano na legitimação da escravidão, ao conceder a soberanos europeus autoridade explícita para subjugar e escravizar “infidels.”
Diálogo de uma década com a Silicon Valley
Funcionários do Vaticano se abstiveram de comentar quem colaborou na elaboração da encíclica de Leão. No entanto, funcionários do Vaticano e da igreja vêm se envolvendo em um diálogo com empresas de tecnologia da Silicon Valley há uma década.
A decisão de incluir a Anthropic no lançamento foi criticada por alguns que consideraram como uma aprovação papal à empresa de IA, que atualmente está processando a administração Trump após esta ter ordenado que todas as agências dos EUAparassem de usar a tecnologia da Anthropic por sua recusa em permitir que o exército dos EUA utilizasse-a sem restrições.
Brian Boyd, responsável pela fé nos EUA para o instituto sem fins lucrativos Future of Life, interpretou a inclusão de Olah da Anthropic como um reconhecimento de sua proeminência no campo e semelhante a uma audiência papal com um chefe de Estado: não uma aprovação.
A Anthropic é uma “enorme corporação que está assumindo enorme risco e responsabilidade,” disse Boyd, acrescentando que a empresa demonstrou “boa vontade genuína, integridade e interesse no diálogo.”
___
Winfield reportou de Middletown, Connecticut, e Huamani de Los Angeles. Os escritores da Associated Press, Kelvin Chan, em Londres, e Colleen Barry, em Milão, contribuíram para este relatório.
___
A cobertura religiosa da Associated Press recebe apoio através da colaboração da AP com a The Conversation US, com financiamento da Lilly Endowment Inc. A AP é a única responsável por este conteúdo.
