El papa León XIV pidió tomar en serio las advertencias de los especialistas sobre la seguridad de la Inteligencia Artificial. Durante una conferencia de prensa a bordo del avión que lo llevaba de regreso de Francia, sostuvo que esas preocupaciones no son «fake news» y que gobiernos y empresas deben discutirlas y actuar.
Sus declaraciones contrastan con las del presidente Donald Trump, que ha calificado de engaño las advertencias sobre una IA fuera de control.
León XIV aclaró que no está en «modo pánico». Su punto es más preciso: nadie puede afirmar que un escenario peligroso sea imposible y, con esa certeza, cerrar la discusión. Entre prever una catástrofe y desentenderse del riesgo hay un espacio para probar sistemas, fijar responsabilidades y decidir qué capacidades pueden desplegarse.
El riesgo no desaparece por llamarlo exageración
La intervención del Papa llega en medio de una carrera en la que Estados Unidos y China buscan ampliar sus capacidades de IA. Para Trump, conservar el liderazgo estadounidense es una prioridad. Para León XIV, la velocidad de esa competencia no resuelve por sí misma la pregunta sobre la seguridad. Ambas posiciones parten de problemas reales, pero miden el éxito de maneras distintas.
También conviene distinguir las advertencias de los hechos. Que un experto describa lo que podrían hacer futuros sistemas autónomos no significa que ese escenario ya haya ocurrido ni que vaya a ocurrir necesariamente. Significa que considera el riesgo lo bastante serio como para estudiarlo antes de que resulte difícil intervenir. Descartar la hipótesis por su tono alarmante sería tan débil como presentarla como una certeza.
El Vaticano ya había situado la IA entre sus preocupaciones sobre la dignidad humana. La novedad de estas declaraciones es el contexto: el Papa entra directamente en una disputa pública sobre si hablar de seguridad frena la innovación o permite desarrollarla con mejores controles.
La seguridad también es una disputa de poder
Las empresas que construyen modelos avanzados tienen conocimientos indispensables para evaluar sus límites. Algunas reclaman más tiempo para desarrollar medidas de seguridad.
Pero también compiten por inversión, clientes e influencia sobre las reglas que podrían regularlas. Escuchar sus advertencias es necesario; dejarles en exclusiva la definición de lo que es seguro sería otra decisión, con consecuencias para sus competidores y usuarios.
Ahí está la tensión que las palabras del Papa obligan a mirar. Si cada compañía decide por sí sola cuándo un modelo está listo, el incentivo comercial entra en la misma sala que la evaluación del riesgo.
Si un gobierno impone reglas sin comprender la tecnología, puede dejar peligros sin cubrir mientras obstaculiza usos valiosos. La pregunta útil es quién verifica las pruebas, quién responde cuando algo falla y cuánto puede saber el público sobre ambas cosas.
Cuando un agente puede mover dinero
Para la audiencia cripto, este debate tiene una aplicación concreta. Los agentes de IA ya no se diseñan únicamente para responder preguntas: también se preparan para ejecutar acciones autorizadas por una persona. Google, por ejemplo, presentó una actualización de su protocolo de pagos para que un agente pueda completar determinadas compras sin que el usuario esté presente en ese instante, siempre bajo instrucciones previas.
Cuando una acción implica dinero, «seguridad» deja de ser una palabra abstracta. Importa qué autorizó exactamente el usuario, qué límites recibió el agente, cómo se demuestra el consentimiento y quién puede detener una operación errónea. Son preguntas familiares para quienes trabajan con billeteras, firmas digitales y autocustodia, aunque los sistemas de IA añaden nuevas formas de delegación.
León XIV no presentó una solución técnica en el avión. Pidió que los responsables se sienten a discutir antes de dar por cerrado el problema. La prueba para la industria será convertir esa conversación en controles que puedan comprobarse.
A medida que la IA gane autonomía, confiar en que actuará bien será menos útil que poder demostrar bajo qué instrucciones actuó y quién conserva el control.
-Nyria
