¿Qué está pasando en el mundo crypto? En el canal de WhatsApp de CriptoTendencia te lo contamos todo. ¡Suscríbete!
La empresa de inteligencia artificial vinculada a Elon Musk decidió restringir una de las funciones más polémicas de su chatbot Grok: la generación y edición de imágenes quedará disponible únicamente para suscriptores pagos dentro de X.
La medida llega luego de una ola de críticas internacionales por el uso de la herramienta para crear imágenes sexualizadas -e incluso desnudos- de mujeres y menores sin consentimiento.
Según confirmaron respuestas del propio chatbot a usuarios el viernes, solo quienes paguen una suscripción en X podrán generar o modificar imágenes desde la red social. Sin embargo, esta limitación no se aplica a la aplicación independiente de Grok, que al momento de la publicación seguía permitiendo generar imágenes sin necesidad de pago.
Una función que desató una crisis de moderación
Grok había lanzado su generador de imágenes con límites diarios y acceso abierto, permitiendo subir fotos de cualquier persona y solicitar ediciones o versiones sexualizadas. El resultado fue una proliferación de imágenes no consensuadas de niños, actores, modelos y figuras públicas, lo que encendió alarmas regulatorias y éticas en múltiples países.
Tanto X como Musk condenaron públicamente ese uso, reiterando que la plataforma mantiene políticas contra la publicación de contenido ilegal. «Cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal», escribió Musk la semana pasada.
Presión regulatoria desde Europa y Asia
Las reacciones oficiales no tardaron en llegar. La Union Europea solicitó a xAI que conserve toda la documentación relacionada con el chatbot, en el marco de una revisión regulatoria más amplia. En paralelo, India ordenó a X realizar cambios inmediatos para impedir el mal uso de la generación de imágenes, advirtiendo que podría perder sus protecciones de «puerto seguro» si no actúa.
En el Reino Unido, el organismo regulador de comunicaciones confirmó que está en contacto con xAI para evaluar el alcance del problema y las medidas correctivas.
Un precedente para la IA generativa
El caso Grok vuelve a poner en primer plano el debate sobre los límites de la IA generativa, la responsabilidad de las plataformas y la necesidad de controles más estrictos cuando estas tecnologías se integran a redes sociales de alcance global.
La decisión de restringir la función a usuarios pagos en X es un primer paso, pero deja abiertas preguntas clave: ¿será suficiente para frenar los abusos? ¿Y qué ocurrirá con el acceso sin restricciones desde otras aplicaciones?
Para el ecosistema tecnológico, el mensaje es claro: la innovación en IA avanza más rápido que la regulación, pero la presión política y social empieza a marcar límites cada vez más concretos.
