Sam Altman y Dario Amodei llevaron este miércoles 23 de septiembre al Consejo de Seguridad de la ONU un mensaje compartido: el desarrollo de la Inteligencia Artificial necesita cooperación internacional y controles de seguridad. Los responsables de OpenAI y Anthropic advirtieron sobre los riesgos de perder el control de sistemas cada vez más capaces.
La sesión, convocada por Francia, trasladó al ámbito diplomático una discusión que afecta tanto a las empresas tecnológicas como a los gobiernos. El desafío consiste en aprovechar los beneficios científicos y económicos de la IA mientras se establecen mecanismos que permitan evaluar sus capacidades y contener usos peligrosos.
Altman pide mantener el control humano sobre la Inteligencia Artificial
Según la cobertura de EFE, Altman reclamó estándares nacionales e internacionales complementarios. Su planteamiento incluye medir capacidades, examinar amenazas, verificar salvaguardas y habilitar canales seguros para compartir vulnerabilidades críticas entre países.
El ejecutivo puso el foco en los modelos capaces de contribuir a su propia mejora. Advirtió que esa dinámica podría acelerar el progreso hasta dificultar que las personas comprendan y supervisen sus decisiones. También defendió que la tecnología fortalezca la capacidad de acción de los individuos y que las personas permanezcan en el centro de las decisiones.
Amodei propone pruebas comunes y avances sujetos a la seguridad
Amodei distinguió dos peligros principales: que actores maliciosos utilicen los modelos para actividades como el desarrollo de armas biológicas, y que sus capacidades crezcan más rápido que la posibilidad de controlarlas. De acuerdo con Anadolu, afirmó que Anthropic reducirá el ritmo cuanto sea necesario para garantizar la seguridad de cada nuevo sistema.
El responsable de Anthropic pidió estándares globales comunes para examinar tanto el uso indebido como la pérdida de control. Su intervención subrayó que una empresa o un país, por separado, no puede gestionar un problema de alcance mundial.
La posición amplía una propuesta publicada por Amodei en septiembre. Allí plantea incorporar evaluadores independientes con acceso continuo a los laboratorios, coordinar criterios de seguridad entre compañías y buscar acuerdos internacionales. El objetivo declarado es dar tiempo a que las medidas de protección acompañen los avances técnicos.
Ese esquema no equivale a detener toda investigación. El texto propone dedicar más recursos a mejorar la supervisión operativa, entender el funcionamiento interno de los modelos y comprobar que su comportamiento se ajuste a las instrucciones y límites establecidos. También contempla que los controles evolucionen según las capacidades observadas.
La cooperación choca con las diferencias entre gobiernos y empresas
El debate también incluyó una crítica a la competencia acelerada. Yoshua Bengio cuestionó que las empresas presenten la carrera tecnológica como inevitable: sostuvo que responde a decisiones de los propios actores. Su intervención pone sobre la mesa la responsabilidad empresarial, además de la necesidad de coordinación pública.
En el plano político, Reuters informó que Donald Trump había rechazado el día anterior un esquema internacional de control de la IA y defendido impulsar su crecimiento. El contraste muestra la distancia entre las peticiones de cooperación y las prioridades de liderazgo tecnológico. Convertir esas posiciones en criterios compartidos será uno de los principales desafíos del debate.
