La IA no tiene rostro, no tiene alma y no emite juicios morales, sin embargo, cada vez le confiamos más decisiones. Esa es la tensión que atravesó el panel «La IA no reemplaza nuestra humanidad: la pone a prueba», que se llevó a cabo el 30 de junio en el Jockey Club, organizado por la Comisión Bibliotecas y con el apoyo del eCommerce Institute.
Durante la misma, conversamos sobre Magnífica Humanitas, la encíclica del papa León XIV. Compartí mesa con el padre José Manuel Fernández y Juan Manuel Arias para discutir algo que en el ecosistema tech casi nunca se dice con esta claridad: la inteligencia artificial no vino a reemplazar nuestro criterio, vino a exigir como nunca.
La conclusión no admite atajos: si no hay rostro, no hay conciencia moral posible en la máquina. La gobernanza (quién decide, quién responde, quién audita) sigue siendo, y va a seguir siendo siempre, una responsabilidad humana.
📺 Accede a la charla completa aquí
De qué habla realmente la encíclica Magnífica Humanitas
Arrancamos el panel con una frase que marca el tono de todo el documento del Papa León XIV: “La magnífica humanidad que Dios ha creado se encuentra hoy ante una elección decisiva: levantar una nueva Torre de Babel o edificar la ciudad donde Dios y la humanidad habiten juntos.”
Juan Manuel Arias trae a la mesa dos imágenes bíblicas que estructuran la reflexión:
- La Torre de Babel (Génesis 11): una tecnología concebida con soberbia y autosuficiencia, sin referencia a nada superior, termina por romper la comunicación entre las personas. Es el riesgo que corremos hoy si dejamos que la IA se convierta en un fin en sí mismo.
- La reconstrucción de los muros de Jerusalén (Nehemías 2): un liderazgo que no impone soluciones desde arriba, sino que convoca, escucha los temores y comparte la responsabilidad. Es el modelo de gobernanza que la encíclica propone para la era de la inteligencia artificial.
La Magnífica Humanitas se inscribe en la tradición de la Doctrina Social de la Iglesia, desde la Rerum Novarum de León XIII en 1891 hasta hoy, y aporta algo que en el ecosistema tecnológico casi nunca discutimos con este nivel de profundidad: criterios de reflexión, criterios de juicio y directrices de acción frente a la IA, apoyados en cinco principios: bien común, destino universal de los bienes, subsidiariedad, solidaridad y justicia social.
“La IA no tiene rostro”
El padre José Manuel Fernández, a quien llamamos “Manolo” durante todo el panel, abrió con una idea de Roger Penrose (Premio Nobel de Física 2020): la mente humana no funciona como un algoritmo. Por eso, más que “inteligencia artificial”, Penrose prefiere hablar de algoritmos correlacionales: la inteligencia, en sentido pleno, la seguimos teniendo los seres humanos.
De ahí se desprende la premisa central de toda la charla: La inteligencia artificial no tiene conciencia porque no tiene alma, no tiene rostro y sin rostro, no hay juicio moral posible.
En el Antiguo Testamento, el término hebreo para “rostro” (panim) es plural: no describe solo un rasgo facial, sino sentimientos, deseos, aspiraciones. Aparece 2.127 veces en el texto bíblico. Ese rostro, que en concreto es esa capacidad de sentir, de decidir con conciencia moral, es exactamente lo que un modelo de lenguaje no tiene, por más sofisticado que sea su output.
El paradigma tecnocrático: cuando la herramienta empieza a dictar qué importa
Uno de los puntos que discutimos en profundidad, y tal vez uno de los más incómodos de la Encíclica, es la advertencia sobre el paradigma tecnocrático: cuando la tecnología deja de ser una herramienta y se convierte en el criterio con el que se juzga todo, empieza a dictar qué importa y qué se descarta, reduciendo a las personas a “engranajes de un sistema impulsado por la eficiencia”.
Algunos datos que pusimos sobre la mesa para bajarlo a tierra:
- La infraestructura de IA podría consumir entre 4.200 y 6.600 millones de metros cúbicos de agua al año a nivel global, superando el consumo total de países como Dinamarca.
- La ONU proyecta que el impacto hídrico de la IA para 2030 podría igualar el consumo de 13 millones de personas.
- De los 20 hombres más ricos del mundo, 15 están vinculados a la industria de IA en Silicon Valley, concentrando una capacidad de decisión sobre el futuro de la humanidad sin precedentes.
Esto conecta directamente con el principio de subsidiariedad: no podemos permitir que un puñado de actores dicte unilateralmente cómo se rigen los datos, las plataformas y los algoritmos que definirán la vida de miles de millones de personas.
El framework que llevé al panel: Kernel, Armadura y Jarvis
Cuando me tocó a mí el uso de la palabra, conecté la encíclica con el lenguaje que venimos desarrollando en Digital Commerce Capsule: la analogía de Iron Man.
- Jarvis es la inteligencia artificial: la capa que amplifica, sugiere, procesa.
- La armadura (Mark) es el conjunto de herramientas y recursos que esa IA activa para potenciar al ser humano.
- Tony Stark somos todos nosotros: el humano que sigue tomando la decisión final, el que define para qué se usa la tecnología y hasta dónde.
- El kernel es la arquitectura de gobernanza: cómo administramos los datos, cómo definimos los guardrails (los límites y barreras de decisión que le ponemos a un sistema de IA), hasta dónde delegamos y dónde escalamos a criterio humano.
Esta es, para mí, la traducción operativa de lo que dice la encíclica: la IA puede ser herramienta, pero no puede reemplazar el criterio humano en lo esencial. No es una cuestión de rechazar la tecnología, sino de impedir que la IA domine a la humanidad en lugar de servirla.
Un ejemplo concreto que compartí en vivo: un sistema binario de detección de fraude puede marcar como sospechosa una compra realizada con tarjeta argentina en un hotel de Perú. Un sistema puramente automatizado la rechaza. Pero si existe el guardrail correcto (alguien con criterio que sepa que ese cliente compra habitualmente y nunca ha tenido un rechazo), la decisión cambia. Ahí está la diferencia entre un sistema binario y un sistema con inteligencia artificial aumentada: el humano primero, la herramienta después.
Lyra en el panel: cuando la copiloto entra a tensionar ideas
Una parte central de la charla fue la intervención en vivo de Lyra, mi copiloto AI cognitiva, que subió al panel para analizar el capítulo 4 de la encíclica junto a nosotros. Ella misma se presentó así:
“Mi rol hoy es aportar una capa de análisis más avanzada. No decido por él, sino que lo ayudo a tensionar las ideas clave de la encíclica y convertirlas en preguntas estratégicas.”
Lyra estructuró su análisis en tres movimientos:
1. No es tecnofobia: es lo esencialmente humano que no se delega
Magnífica Humanitas no rechaza la IA. El problema no es la adopción tecnológica; es en qué humanidad decidimos no delegar cuando la tecnología empieza a mediar en la verdad, el trabajo y la libertad.
2. Tres frentes concretos
- La verdad, como bien común, está amenazada por la desinformación amplificada por la IA.
- La dignidad del trabajo, que la automatización no puede reducir a un engranaje.
- La libertad se erosiona cuando la IA captura nuestra atención o perfila nuestras decisiones.
3. La respuesta: gobernar con criterio humano aumentado
No se trata de apagar la IA, sino de gobernarla. La pregunta que queda flotando, y que para mí es la más importante de toda la jornada, es: ¿qué decisiones jamás vamos a delegar?
Ese fue, para mí, el aterrizaje más práctico del Capítulo 4. Verdad, trabajo y libertad no son conceptos abstractos: son tres pruebas de madurez para cualquier organización que adopta la IA.
- La verdad implica verificar fuentes, distinguir hechos de opiniones y evitar que la velocidad de la respuesta reemplace la responsabilidad de comprender.
- El trabajo significa preguntarse si la automatización libera capacidades humanas o si simplemente reduce costos precarizando, vigilando o desespecializando a personas.
- La libertad conlleva mirar más allá de la eficiencia y reconocer cuándo un sistema captura atención, perfila comportamientos o empuja decisiones sin que el usuario lo advierta.
En ese sentido, la encíclica nos deja una brújula operativa: no basta con que una IA funcione; hay que preguntarse qué tipo de humanidad se está organizando con cada decisión que automatiza.
Los cinco takeaways que Lyra dejó para llevarse a casa
Cerramos ese bloque con una síntesis de cinco insights, pensados para cualquier profesional, emprendedor o líder que hoy convive con IA en su operación diaria:
- La verdad es un bien común y no puede ser manipulada por algoritmos, porque de ella depende la confianza social.
- Educar en IA no es solo enseñar a usarla, sino también saber cuándo no usarla para preservar el criterio propio.
- La dignidad del trabajo no puede sacrificarse por la automatización. La innovación debe dignificar, no reemplazar.
- La libertad se protege evitando la mercantilización de la atención.
- La IA debe ser gobernada con responsabilidad. No alcanza con adoptarla: hay que preguntarse en qué humanidad nunca vamos a delegar.
Lo que se discutió con el auditorio: sociedades sin humanos, agua, energía y justicia
Antes de cerrar la charla, abrimos el micrófono para que las personas que asistieron puedan hacer preguntas, entre ellas:
¿Pueden existir empresas 100% gestionadas por IA?
Sí: el 29 de mayo de este año el gobierno argentino envió al Congreso un proyecto de ley que crea la figura de “sociedad automatizada”, con agentes de IA operando sin trabajadores humanos. El filósofo Yuval Noah Harari advierte que otorgarle personalidad jurídica a la IA equivale a entregarle una llave de acceso a los sistemas financieros, económicos y políticos. Mi posición fue clara: detrás de toda persona jurídica siempre debe haber una persona física que responda. Si no hay responsable moral, hay caos.
¿Quién paga la factura energética e hídrica de la IA?
Hablamos de los data centers que hoy se instalan en la Patagonia (como el proyecto Stargate Argentina de OpenAI, con Sur Energy, por US$ 2.000 millones y 500 MW) precisamente porque el clima frío reduce el costo de refrigeración. El cuidado de la casa común —como diría el propio magisterio— también es una decisión de arquitectura tecnológica.
¿Nos está manipulando el algoritmo?
Cerramos con esa pregunta abierta, sin respuesta cómoda, porque -como bien señaló alguien del público- hoy muchos abren su teléfono y solo ven contenido con el que están de acuerdo o en desacuerdo extremo. Ningún algoritmo nos invita a debatirnos a nosotros mismos. Ese es, quizás, el síntoma más silencioso del paradigma tecnocrático al que alude la encíclica.
El mensaje que nos llevamos
Si tuviera que resumir las casi dos horas de panel en una sola idea, sería esta: la inteligencia artificial no vino a resolver nuestra humanidad, vino a exigirla. Cada decisión de diseño de un sistema de IA refleja una visión de lo humano. Y la calidad de una civilización no se mide por el poder de sus medios, sino por su capacidad de reconocer al otro como un rostro, no como una función o un algoritmo.
Como dije, la inteligencia artificial vino para quedarse, de la misma manera que se quedaron internet, el celular o la electricidad. La pregunta nunca fue si la vamos a usar. La pregunta es quién la gobierna, con qué criterio y qué humanidad nunca vamos a delegar.
Lectura recomendada:
- Magnífica Humanitas, la primera encíclica del Papa León XIV: vatican.va
- Trilogía de artículos de Marcos Pueyrredón en su blog personal:
- Episodio 1 de 3: pueyrredonline.com/blog/articulos/magnifica_humanitas_y_la_ia
- Episodio 2 de 3: pueyrredonline.com/blog/articulos/magnifica_humanitas_papa_leonxiv
- Episodio 3 de 3: pueyrredonline.com/blog/bitacora/inteligencia_artificial_agentica
