Exempleados de grandes compañías de inteligencia artificial llevaron sus advertencias al Concejo Municipal de Nueva York. Durante una audiencia sobre seguridad, antiguos trabajadores de Anthropic, OpenAI y Google DeepMind cuestionaron el ritmo de desarrollo de sistemas cada vez más capaces y pidieron mayor supervisión.
Jacob Coxon, exingeniero de Anthropic, sostuvo que la industria conserva una mentalidad de empresa emergente que prioriza avanzar con rapidez y corregir después. A su juicio, esa lógica resulta insuficiente cuando se desarrollan tecnologías cuyo comportamiento podría ser difícil de controlar. Sus advertencias sobre escenarios extremos son una evaluación personal, no una predicción demostrada.
El debate reunió también a representantes de las empresas, que defendieron los beneficios de sus productos y afirmaron que trabajan en medidas de seguridad. La comparecencia puso sobre la mesa una pregunta concreta: qué información deben revelar los desarrolladores, quién debe verificar sus sistemas y cómo puede intervenir el Gobierno si aparece un riesgo serio.
Las advertencias llegan al debate municipal
La audiencia llega en un momento de creciente presión para que los gobiernos locales actúen. El Concejo estudia medidas de transparencia, validación independiente y protección para quienes denuncien problemas dentro de las compañías. Ninguna de esas propuestas debe confundirse con una obligación ya aprobada: todavía forman parte del proceso legislativo municipal.
La presidenta del Concejo, Julie Menin, pidió a las compañías que abordaran incluso los posibles escenarios catastróficos. Morgan Dwyer, representante de OpenAI, respondió que cualquier probabilidad de un daño de esa magnitud sería inaceptable y defendió la necesidad de demostrar que los modelos pueden permanecer bajo control humano. Menin criticó el tono de la respuesta, reflejo de la distancia entre las preguntas de los legisladores y las garantías ofrecidas por la industria.
Qué propone Nueva York
Un paquete presentado por el Concejo plantea exigir una validación externa antes de comercializar o desplegar determinados sistemas de IA en la ciudad. La revisión incluiría aspectos como calidad de datos, privacidad, seguridad y resultados, junto con un mecanismo de intervención humana para detener el sistema. Son iniciativas en discusión, por lo que su alcance final puede cambiar.
Otro proyecto permitiría que denunciantes recibieran parte de las multas recuperadas por infracciones de las empresas. También se estudia una vía para que personas perjudicadas reclamen por daños previsibles cuando una compañía no haya aplicado salvaguardas razonables. Estas fórmulas buscan crear incentivos para comunicar fallos antes de que lleguen al público, aunque deberán resolver cómo se prueba la responsabilidad.
Las declaraciones bajo juramento permiten contrastar las posiciones de exempleados y compañías, además de exigir compromisos que puedan verificarse.
La respuesta de las empresas y el pulso federal
Durante la sesión, los portavoces empresariales insistieron en que la IA ya ofrece beneficios y en que la seguridad ocupa un lugar central en su desarrollo. Logan Graham, de Anthropic, manifestó disposición hacia una regulación bien diseñada y reconoció un papel para estados y ciudades. Las afirmaciones de las compañías no eliminan la necesidad de examinar pruebas y mecanismos de rendición de cuentas.
El debate municipal coincide con una discusión federal aún abierta. Mientras Washington evalúa su estrategia para la IA, Nueva York intenta precisar qué herramientas puede aplicar dentro de sus competencias. Las tecnologías cruzan fronteras, de modo que una ordenanza local tendría efectos limitados, pero la audiencia puede influir en las reglas que otros gobiernos consideren después.
La cuestión inmediata es si los legisladores lograrán convertir las advertencias en requisitos proporcionados, comprobables y aplicables. Por ahora, la audiencia dejó constancia de un desacuerdo sobre la velocidad del desarrollo y sobre quién debe demostrar que los sistemas más potentes pueden usarse con seguridad.
Mientras Wall Street descansa, los índices sintéticos de Deriv generan volatilidad real 24/7 → Empezá a operar.
Espacio patrocinado
