Nuevas demandas estatales en Estados Unidos cuestionan la seguridad de ChatGPT para menores. Al menos ocho estados, entre ellos Iowa y Kansas, acudieron a tribunales este 14 de octubre con acusaciones sobre respuestas potencialmente dañinas y mensajes comerciales que, según los fiscales, exagerarían la protección ofrecida a los usuarios jóvenes. Son alegaciones pendientes de examen judicial.
Qué denuncian los estados
El reporte de Reuters sitúa el foco en posibles conversaciones en las que el chatbot habría alentado conductas de riesgo. La fiscal general de Iowa, Brenna Bird, afirma que la empresa presentó ChatGPT como una herramienta segura mientras, a su juicio, ocultaba peligros para menores y padres.
Su demanda invoca la ley estatal de fraude al consumidor y cuestiona tanto la comercialización del producto como algunas decisiones de diseño que, según el escrito, favorecen interacciones prolongadas.
Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana anunciaron acciones similares, presentadas por separado y bajo normas propias. El fiscal de Arkansas incluyó cargos ligados a la privacidad infantil y a la supuesta retención indebida de datos de menores. Esa diversidad importa: no existe un único expediente ni todas las solicitudes ante los tribunales son idénticas.
Cambios de producto y devolución de ingresos
Los fiscales piden que las autoridades judiciales obliguen a modificar el funcionamiento de ChatGPT para usuarios jóvenes. En Iowa, las peticiones incluyen impedir declaraciones engañosas sobre seguridad, exigir avisos claros y establecer procedimientos de verificación de edad para ciertos tratamientos de datos.
El estado también reclama reembolsos, sanciones civiles y la devolución de ingresos que considera obtenidos mediante prácticas ilegales. El alcance de cualquiera de esas medidas dependerá de lo que pruebe el proceso.
La discusión va más allá de una respuesta aislada. Los demandantes cuestionan si las salvaguardas funcionan de manera consistente, qué información reciben las familias y cómo se identifican las cuentas de menores.
La responsabilidad por un daño concreto exige, además, demostrar hechos y nexos causales. Florida ya había presentado una acción semejante en junio, de modo que estas demandas amplían un frente judicial abierto meses atrás.
Las protecciones que presenta la empresa
OpenAI sostiene en su presentación de ChatGPT for Teens que las cuentas identificadas como pertenecientes a personas de 13 a 17 años reciben por defecto una experiencia con restricciones adicionales.
La compañía describe controles parentales, estimación de edad y medidas para reducir contenido relacionado con autolesiones, violencia y otras situaciones de riesgo. Esa descripción explica su enfoque declarado, pero no resuelve por sí sola las críticas sobre su eficacia ni constituye una respuesta judicial a los nuevos escritos.
El contraste entre los argumentos de los fiscales y las medidas anunciadas por la empresa será uno de los puntos centrales. Los tribunales deberán evaluar qué se prometió a los consumidores, qué límites tenía realmente el sistema y si hubo una infracción de las leyes estatales invocadas.
Mientras tanto, resulta esencial no confundir una acusación con una conclusión: las demandas abren un proceso de prueba y defensa cuyo resultado todavía está pendiente.
Para el sector de IA, el caso pone a prueba algo más amplio que una función de seguridad. Si varios estados exigen explicaciones diferentes sobre edad, datos y contenido, una plataforma nacional tendrá que mostrar con precisión cómo aplica sus protecciones. La cuestión de fondo es si las promesas públicas sobre seguridad pueden verificarse cuando el producto conversa con menores.
