Hay traders en Markets.xyz generando 10% de comisión cada vez que alguien los copia. Podés ser uno de ellos → Descargá la app.
Espacio patrocinadoJensen Huang, fundador y director ejecutivo de NVIDIA, situó la responsabilidad de la seguridad de la inteligencia artificial avanzada en las compañías que la construyen.
Tras la firma del Acuerdo de la Casa Blanca sobre Superinteligencia, sostuvo en una publicación que esas empresas deben desarrollar y desplegar la tecnología de forma segura y responder cuando fallen. Su mensaje deja una pregunta concreta: ¿quién vigila los sistemas y corrige sus errores?
La seguridad de la IA llega a los directorios
El acuerdo fue firmado el 29 de septiembre por responsables de varias empresas tecnológicas y se presenta como un compromiso voluntario. En su mensaje del día siguiente, el ejecutivo destacó tres mecanismos: controles internos sólidos, evaluaciones externas independientes y supervisión al nivel de la junta directiva. Esa combinación busca que la seguridad forme parte del proceso de desarrollo y de las decisiones de quienes dirigen las compañías.
La propuesta también establece una cadena de responsabilidad. Los equipos técnicos pueden detectar fallos durante el entrenamiento o el uso de un modelo; una revisión externa puede contrastar sus conclusiones, y el directorio debe recibir información suficiente para exigir correcciones.
La existencia de estas capas, por sí sola, no demuestra que los sistemas sean seguros. Su valor dependerá de lo que midan, de la independencia de los evaluadores y de la rapidez con que se resuelvan los problemas.
Controles que acompañen a los modelos
Para las compañías que entrenan y ponen en circulación modelos avanzados, el desafío consiste en observar cómo se comportan antes y después de su lanzamiento. Una prueba previa puede revelar riesgos conocidos, pero la interacción con usuarios y herramientas abre escenarios nuevos. Por eso, el control continuo y la capacidad de intervenir ante una falla son tan relevantes como la evaluación inicial.
El ejecutivo plantea que las empresas deben hacerse cargo incluso cuando un sistema no responde como esperaban. En términos prácticos, eso requiere procedimientos para identificar incidentes, limitar sus efectos y corregirlos. También exige definir quién toma decisiones cuando una evaluación detecta un riesgo. Sin responsables claros, los controles pueden convertirse en un trámite que acumula informes sin cambiar el producto.
El compromiso de la industria abre, además, un debate sobre cómo comprobar su cumplimiento. Al ser voluntario, no equivale a una ley ni establece por sí mismo sanciones públicas.
Las auditorías independientes pueden aportar credibilidad, siempre que sus resultados permitan entender qué se examinó, qué límites se encontraron y qué medidas se adoptaron. Esa información será clave para que usuarios, empresas y autoridades valoren el alcance real de las promesas.
La confianza se gana con resultados
El director de NVIDIA vincula la superinteligencia con avances potenciales en investigación, productividad, seguridad, salud y prosperidad. Son posibilidades, no beneficios garantizados. Para que se traduzcan en aplicaciones útiles, las organizaciones tendrán que demostrar que sus sistemas funcionan de manera fiable y que pueden responder ante daños o usos imprevistos.
La prueba del acuerdo llegará cuando aparezcan errores difíciles de anticipar. Entonces importará menos la firma que la conducta posterior de cada empresa: si informa el problema, permite una revisión efectiva y aplica cambios comprobables. La confianza pública dependerá de esa rendición de cuentas sostenida, no solo de declaraciones sobre el futuro de la tecnología.
