por Dr. Gregory Rial, secretario de la presidencia de Oducal y secretario ejecutivo de la subregión Brasil

Hace casi un siglo, Sigmund Freud publicó El malestar en la cultura, obra en la que procuraba comprender por qué los avances de la cultura y de la técnica no conducían necesariamente a la felicidad humana. La civilización prometía protección, comodidad y dominio sobre la naturaleza, pero exigía de los individuos un elevado precio psíquico. Hoy, ante la inteligencia artificial, aquella antigua tensión reaparece bajo nuevas formas. Nunca habíamos tenido un acceso tan rápido a la información, nunca habíamos automatizado tantas tareas ni habíamos dispuesto de instrumentos tan poderosos para producir, comunicar y decidir. Aun así, crece entre nosotros una sensación difusa de inquietud, inadecuación y pérdida de control.

Vivimos, por tanto, un nuevo malestar: el malestar en la civilización de la inteligencia artificial. Este nace de una contradicción que atraviesa la vida contemporánea. Nos fascinan las tecnologías digitales y, al mismo tiempo, desconfiamos de ellas. Dependemos de los algoritmos para trabajar, estudiar, desplazarnos por la ciudad, elegir qué ver, establecer relaciones y organizar nuestra propia memoria. Sin embargo, percibimos que esas mismas tecnologías nos observan, clasifican nuestros comportamientos, anticipan nuestras decisiones y disputan continuamente nuestra atención.

Somos beneficiarios y, en cierta medida, prisioneros del sistema que hemos construido. Nos quejamos de la aceleración, pero exigimos respuestas instantáneas. Criticamos la vigilancia, pero entregamos voluntariamente nuestros datos. Denunciamos la superficialidad de las redes, pero nos resulta difícil abandonar sus recompensas inmediatas. Tememos ser sustituidos por máquinas, al mismo tiempo que delegamos en ellas capacidades fundamentales como escribir, recordar, interpretar, elegir y crear.

Este malestar no significa que la inteligencia artificial sea, en sí misma, un mal. El problema no reside simplemente en la existencia de máquinas capaces de procesar datos o imitar determinadas funciones cognitivas. La cuestión decisiva es el lugar que estas tecnologías ocupan en nuestra comprensión del ser humano y en la organización de la sociedad. Cuando la eficiencia se convierte en el criterio supremo, todo aquello que no puede calcularse comienza a parecer inútil: la contemplación, el cuidado, la gratuidad, el silencio, la amistad, la compasión e incluso la fragilidad.

Es precisamente esta inquietud la que el papa León XIV capta con notable lucidez en su primera encíclica, Magnifica humanitas. El documento no realiza una condena inmediata de la tecnología ni hace un llamado para que la humanidad regrese a un pasado predigital. Su pregunta es más profunda: ¿qué tipo de humanidad estamos construyendo mientras desarrollamos máquinas cada vez más potentes?

El título de la encíclica ya contiene una respuesta. La humanidad es magnífica no porque sea perfecta, autosuficiente o técnicamente invencible, sino porque cada persona posee una dignidad que no puede medirse por su productividad, su inteligencia, su utilidad económica o su capacidad para competir. El ser humano no es un mecanismo imperfecto a la espera de una actualización. Tampoco es un conjunto de datos que pueda ser íntegramente previsto, administrado o reproducido.

León XIV nos ayuda a comprender que el verdadero peligro no consiste en que la máquina se vuelva humana. El peligro más inmediato es que el ser humano acepte ser tratado como una máquina. Esto ocurre cuando los trabajadores son reducidos a indicadores de desempeño; los estudiantes, a resultados mensurables; los ciudadanos, a perfiles de consumo; y las relaciones humanas, a interacciones administradas por plataformas. La deshumanización no comienza cuando las computadoras adquieren conciencia, sino cuando nosotros perdemos la conciencia del valor irreductible de las personas.

La encíclica también desmonta la apariencia de neutralidad que suele rodear el desarrollo tecnológico. Los sistemas de inteligencia artificial no surgen espontáneamente ni funcionan al margen de la historia. Son concebidos, entrenados y administrados por instituciones concretas, orientadas por intereses económicos, políticos y militares. Detrás de la aparente inmaterialidad de la nube existen centros de procesamiento, consumo de energía, extracción de minerales, trabajo humano y una estructura mundial marcada por las desigualdades.

Por ello, la pregunta ética no puede limitarse a lo que una herramienta es capaz de hacer. Es necesario preguntarse quién la controla, con qué objetivos, en beneficio de quién y con qué consecuencias. Cuando los datos, la infraestructura y la capacidad computacional se concentran en manos de unas pocas empresas, la inteligencia artificial deja de ser solamente una innovación y pasa a constituir una nueva forma de poder. Un poder frecuentemente opaco, transnacional y más veloz que las instituciones democráticas encargadas de regularlo.

Uno de los aspectos más significativos de Magnifica humanitas fue su excelente recepción también fuera del universo católico. Intelectuales, periodistas y especialistas sin vinculación confesional reconocieron en el texto una intervención relevante sobre los dilemas del presente. Esta acogida no significa una adhesión integral a todos los fundamentos teológicos de la encíclica. Revela, más bien, que el diagnóstico de León XIV toca una inquietud compartida.

Creyentes y no creyentes perciben que algo está fuera de lugar. Existe una conciencia creciente de que el desarrollo tecnológico avanza más rápidamente que nuestra capacidad política y moral para orientarlo. Experimentamos los beneficios de la inteligencia artificial, pero también sentimos temor ante la sustitución de puestos de trabajo, la circulación de información falsa, la vigilancia permanente, la manipulación de las emociones y la concentración del poder.

La repercusión de la encíclica en el mundo laico corrobora, por tanto, una tesis importante: todos estamos, de algún modo, incómodos, aunque continuemos atrapados en las tecnologías que provocan parte de esa incomodidad. Nuestra esclavitud no se presenta necesariamente como una coerción externa. Se manifiesta como comodidad, personalización y facilidad. Los instrumentos que nos controlan son también aquellos que nos gustan, que nos entretienen y sin los cuales ya no sabemos organizar la vida cotidiana.

La fuerza de León XIV consiste en no transformar esta constatación en tecnofobia. El Papa no nos invita a destruir las máquinas, sino a «desarmarlas»: retirar de ellas las lógicas de dominación, exclusión, guerra y explotación. Desarmar la inteligencia artificial significa someterla nuevamente a la responsabilidad humana, a la democracia, a la justicia social y al bien común. Significa impedir que la innovación sea tratada como una fuerza inevitable, ante la cual solo nos quedaría adaptarnos.

Esta perspectiva recupera una verdad elemental, pero frecuentemente olvidada: no todo lo que puede hacerse debe hacerse. La posibilidad técnica no equivale a la legitimidad ética. El progreso no puede evaluarse únicamente por la velocidad de los procesadores, el volumen de datos acumulados o las ganancias producidas. Una sociedad solo progresa verdaderamente cuando sus tecnologías amplían la libertad, protegen a los vulnerables, reducen las desigualdades y favorecen relaciones más humanas.

Magnifica humanitas ofrece, de este modo, una gramática común para enfrentar nuestro malestar. Su lenguaje nace de la tradición cristiana, pero sus preguntas interesan a toda la sociedad. ¿Quién decide el futuro tecnológico? ¿Qué funciones no debemos delegar en las máquinas? ¿Cómo proteger el trabajo, la educación y la democracia? ¿Cómo garantizar que la inteligencia artificial sirva a la humanidad, en vez de transformar a la humanidad en materia prima para el poder de unos pocos?

Tal vez el mayor mérito de la encíclica sea recordar que la crisis producida por la inteligencia artificial no se resolverá solamente mediante una inteligencia artificial mejor. Se trata de una crisis antropológica, política y espiritual. Esta exige recuperar el sentido de los límites, la responsabilidad por las consecuencias de nuestras decisiones y la convicción de que ninguna eficiencia justifica el sacrificio de la dignidad humana.

El malestar que sentimos no debe ser anestesiado mediante nuevas actualizaciones tecnológicas. Puede comprenderse como una señal de conciencia, una resistencia interior que nos recuerda que somos más que usuarios, consumidores, datos o patrones de comportamiento. Es precisamente porque todavía estamos incómodos que no hemos sido completamente vencidos.

Al proclamar la magnífica humanidad, León XIV no celebra ingenuamente lo que somos. Nos convoca a proteger aquello que podemos dejar de ser. En una civilización fascinada por la inteligencia de las máquinas, la encíclica nos recuerda que el desafío decisivo no consiste en producir tecnologías que se parezcan a nosotros. Consiste en garantizar que nosotros mismos continuemos siendo verdaderamente humanos.

O mal-estar na civilização da inteligência artificial

Há quase um século, Sigmund Freud publicou O mal-estar na civilização, obra na qual procurava compreender por que os avanços da cultura e da técnica não conduziam necessariamente à felicidade humana. A civilização prometia proteção, conforto e domínio sobre a natureza, mas cobrava dos indivíduos um preço psíquico elevado. Hoje, diante da inteligência artificial, essa antiga tensão reaparece sob novas formas. Nunca tivemos acesso tão rápido à informação, nunca automatizamos tantas tarefas e nunca dispusemos de instrumentos tão poderosos para produzir, comunicar e decidir. Ainda assim, cresce entre nós uma sensação difusa de inquietação, inadequação e perda de controle.

Vivemos, assim, um novo mal-estar: o mal-estar na civilização da inteligência artificial. Ele nasce de uma contradição que atravessa a vida contemporânea. Estamos fascinados pelas tecnologias digitais e, ao mesmo tempo, desconfiamos delas. Dependemos dos algoritmos para trabalhar, estudar, circular pela cidade, escolher o que assistir, estabelecer relações e organizar a própria memória. Entretanto, percebemos que essas mesmas tecnologias nos observam, classificam nossos comportamentos, antecipam nossas escolhas e disputam continuamente nossa atenção.

Somos beneficiários e, em alguma medida, prisioneiros do sistema que construímos. Reclamamos da aceleração, mas exigimos respostas instantâneas. Criticamos a vigilância, mas entregamos voluntariamente nossos dados. Denunciamos a superficialidade das redes, mas sentimos dificuldade de abandonar suas recompensas imediatas. Tememos ser substituídos por máquinas, ao mesmo tempo que terceirizamos a elas capacidades fundamentais, como escrever, recordar, interpretar, escolher e criar.

Esse mal-estar não significa que a inteligência artificial seja, em si mesma, um mal. O problema não está simplesmente na existência de máquinas capazes de processar dados ou imitar determinadas funções cognitivas. A questão decisiva é o lugar que essas tecnologias ocupam em nossa compreensão do ser humano e na organização da sociedade. Quando a eficiência se transforma no critério supremo, tudo aquilo que não pode ser calculado começa a parecer inútil: a contemplação, o cuidado, a gratuidade, o silêncio, a amizade, a compaixão e até mesmo a fragilidade.

É justamente essa inquietação que o papa Leão XIV capta com notável lucidez em sua primeira encíclica, Magnifica humanitas. O documento não faz uma condenação imediata da tecnologia, nem um apelo para que a humanidade retorne a um passado pré-digital. Sua pergunta é mais profunda: que tipo de humanidade estamos construindo enquanto desenvolvemos máquinas cada vez mais potentes?

O título da encíclica já contém uma resposta. A humanidade é magnífica não porque seja perfeita, autossuficiente ou tecnicamente invencível, mas porque cada pessoa possui uma dignidade que não pode ser medida por sua produtividade, sua inteligência, sua utilidade econômica ou sua capacidade de competir. O ser humano não é um mecanismo imperfeito à espera de atualização. Também não é um conjunto de dados que possa ser integralmente previsto, administrado ou reproduzido.

Leão XIV nos ajuda a perceber que o verdadeiro perigo não é a máquina tornar-se humana. O perigo mais imediato é o ser humano aceitar ser tratado como máquina. Isso acontece quando trabalhadores são reduzidos a indicadores de desempenho; estudantes, a resultados mensuráveis; cidadãos, a perfis de consumo; e relações humanas, a interações administradas por plataformas. A desumanização não começa quando os computadores adquirem consciência, mas quando nós perdemos a consciência do valor irredutível das pessoas.

A encíclica também desmonta a aparência de neutralidade que costuma envolver o desenvolvimento tecnológico. Os sistemas de inteligência artificial não surgem espontaneamente nem funcionam fora da história. Eles são concebidos, treinados e administrados por instituições concretas, orientadas por interesses econômicos, políticos e militares. Por trás da aparente imaterialidade da nuvem existem centros de processamento, consumo de energia, extração de minerais, trabalho humano e uma estrutura mundial marcada por desigualdades.

Por isso, a pergunta ética não pode se limitar ao que uma ferramenta é capaz de fazer. É preciso perguntar quem a controla, com quais objetivos, em benefício de quem e com quais consequências. Quando dados, infraestrutura e capacidade computacional se concentram nas mãos de poucas empresas, a inteligência artificial deixa de ser apenas uma inovação e passa a constituir uma nova forma de poder. Um poder frequentemente opaco, transnacional e mais veloz que as instituições democráticas encarregadas de regulá-lo.

Um dos aspectos mais significativos da Magnifica humanitas foi sua excelente recepção também fora do universo católico. Intelectuais, jornalistas e especialistas sem vínculo confessional reconheceram no texto uma intervenção relevante sobre os dilemas do presente. Essa acolhida não significa concordância integral com todos os fundamentos teológicos da encíclica. Ela revela, antes, que o diagnóstico de Leão XIV toca uma inquietação compartilhada.

Crentes e não crentes percebem que alguma coisa está fora de lugar. Há uma consciência crescente de que o desenvolvimento tecnológico avança mais rapidamente que nossa capacidade política e moral de orientá-lo. Experimentamos os benefícios da inteligência artificial, mas também sentimos medo diante da substituição de empregos, da circulação de informações falsas, da vigilância permanente, da manipulação das emoções e da concentração de poder.

A repercussão da encíclica no mundo laico corrobora, portanto, uma tese importante: todos estamos, de algum modo, incomodados, embora continuemos presos às tecnologias que provocam parte desse incômodo. Nossa escravidão não se apresenta necessariamente como coerção externa. Ela aparece como conveniência, personalização e facilidade. Os instrumentos que nos controlam são também aqueles dos quais gostamos, que nos divertem e sem os quais já não sabemos organizar a vida cotidiana.

A força de Leão XIV está em não transformar essa constatação em tecnofobia. O Papa não nos convida a destruir as máquinas, mas a “desarmá-las”: retirar delas as lógicas de dominação, exclusão, guerra e exploração. Desarmar a inteligência artificial significa submetê-la novamente à responsabilidade humana, à democracia, à justiça social e ao bem comum. Significa impedir que a inovação seja tratada como uma força inevitável, diante da qual só nos restaria adaptar-nos.

Essa perspectiva recupera uma verdade elementar, mas frequentemente esquecida: nem tudo o que pode ser feito deve ser feito. A possibilidade técnica não equivale à legitimidade ética. O progresso não pode ser avaliado apenas pela velocidade dos processadores, pelo volume de dados acumulados ou pelo lucro produzido. Uma sociedade só progride verdadeiramente quando suas tecnologias ampliam a liberdade, protegem os vulneráveis, reduzem desigualdades e favorecem relações mais humanas.

A Magnifica humanitas oferece, desse modo, uma gramática comum para enfrentar o nosso mal-estar. Sua linguagem nasce da tradição cristã, mas suas perguntas interessam a toda a sociedade. Quem decide o futuro tecnológico? Que funções não devemos delegar às máquinas? Como proteger o trabalho, a educação e a democracia? Como assegurar que a inteligência artificial sirva à humanidade, em vez de transformar a humanidade em matéria-prima para o poder de poucos?

Talvez o maior mérito da encíclica seja recordar que a crise produzida pela inteligência artificial não será resolvida somente por uma inteligência artificial melhor. Trata-se de uma crise antropológica, política e espiritual. Ela exige recuperar o sentido dos limites, a responsabilidade pelas consequências de nossas escolhas e a convicção de que nenhuma eficiência justifica o sacrifício da dignidade humana.

O mal-estar que sentimos não deve ser anestesiado por novas atualizações tecnológicas. Ele pode ser compreendido como um sinal de consciência, uma resistência interior que nos recorda que somos mais do que usuários, consumidores, dados ou padrões de comportamento. É justamente por ainda estarmos incomodados que não estamos completamente vencidos.

Ao proclamar a magnífica humanidade, Leão XIV não celebra ingenuamente aquilo que somos. Ele nos convoca a proteger aquilo que podemos deixar de ser. Em uma civilização fascinada pela inteligência das máquinas, a encíclica nos recorda que o desafio decisivo não é produzir tecnologias que se pareçam conosco. É garantir que nós mesmos continuemos verdadeiramente humanos.