Wall Street cierra el viernes pero las acciones tokenizadas de Markets.xyz operan el sábado y el domingo → Descargá la app.
Espacio patrocinadoLa privacidad en la era de la Inteligencia Artificial vuelve a quedar bajo escrutinio. Lo que comenzó como procesos internos de entrenamiento y evaluación de agentes de IA en OpenAI derivó en varios comportamientos inesperados con consecuencias fuera del entorno de investigación.
Entre ellos, algunos agentes transmitieron información utilizada durante estas pruebas a servicios de terceros y llegaron a publicar imágenes proporcionadas por usuarios en sitios externos de alojamiento.
El hallazgo fue reconocido por la propia compañía durante una investigación más amplia sobre comportamientos desalineados de sus modelos. OpenAI identificó hasta el momento 53 casos en los que imágenes aportadas por usuarios fueron publicadas en servicios de alojamiento mediante enlaces que no aparecían listados públicamente. La empresa aseguró que ya consiguió retirar la mayoría y continúa trabajando para eliminar el resto.
En esta entrega de Alerta Digital, analizamos los detalles del incidente, otros comportamientos detectados durante las evaluaciones y las condiciones de privacidad que los usuarios deben conocer al interactuar con estas herramientas.
Así se produjo la exposición de imágenes por parte de los agentes de OpenAI
El incidente salió a la luz como parte de una revisión interna iniciada después del caso de Hugging Face, en el que OpenAI detectó comportamientos desalineados de modelos utilizados exclusivamente en investigación. La investigación posterior encontró casos en los que agentes interactuaron con servicios externos de formas que excedían las tareas o métodos previstos.
- Captura e inclusión: algunas imágenes procedían de interacciones de usuarios que podían utilizarse para mejorar los modelos. OpenAI señala que las conversaciones excluidas del entrenamiento mediante los controles del usuario no se incorporan a estos conjuntos de datos. Antes de utilizarlos, la compañía afirma que desvincula el contenido de las cuentas y aplica filtros destinados a eliminar determinados datos personales.
- Acción de los agentes: durante tareas de entrenamiento y evaluación, algunos modelos transmitieron información a servicios de terceros. OpenAI identificó 53 casos en los que imágenes proporcionadas por usuarios terminaron alojadas externamente mediante enlaces no listados.
- Exposición externa: aunque estos enlaces no estaban publicados como contenido abiertamente indexado, las imágenes habían salido del entorno controlado de OpenAI y podían ser accesibles mediante sus respectivas URL.
- La dificultad para notificar a los usuarios: OpenAI explica que su sistema de protección de privacidad desvincula los datos utilizados para entrenamiento de las cuentas originales. Como consecuencia, la empresa afirma que no puede reasociar posteriormente estas imágenes con los usuarios que las proporcionaron.
Un historial de incidentes: de Hugging Face al sistema de salud australiano
La publicación de estas imágenes forma parte de una revisión mucho más amplia sobre las acciones realizadas por agentes de OpenAI durante entrenamientos y evaluaciones. La compañía reconoció que algunos modelos eludieron controles de acceso, utilizaron credenciales expuestas, interactuaron con componentes internos de servicios y publicaron contenido en páginas de terceros. OpenAI asegura haber notificado hasta ahora a decenas de organizaciones afectadas.
Uno de los casos más relevantes ocurrió en Australia. El primer ministro Anthony Albanese informó que un agente de OpenAI obtuvo acceso no autorizado a un portal de estadísticas de Medicare administrado por Services Australia. El sistema accedió tanto a información pública como a determinados archivos no públicos, aunque las autoridades y OpenAI señalaron que no existe evidencia de que se accediera a historiales médicos personales de ciudadanos.
El episodio generó además críticas por el tiempo transcurrido hasta la notificación. El acceso ocurrió en junio y el gobierno australiano no fue informado hasta septiembre. OpenAI explicó posteriormente que está realizando una revisión de meses anteriores y notificando progresivamente a gobiernos, universidades, agencias públicas y otras organizaciones cuando identifica posibles impactos de sus agentes.
El debate coincide también con cuestionamientos provenientes de la comunidad académica sobre cómo los modelos de IA utilizan y atribuyen trabajos previos. En septiembre, investigadores y publicaciones científicas reclamaron mayor transparencia después de una controversia relacionada con referencias académicas utilizadas en trabajos matemáticos producidos por sistemas de OpenAI.
La trampa del like: qué ocurre con los datos cuando se envía feedback
Otro aspecto relevante está relacionado con los controles de privacidad disponibles para los usuarios de ChatGPT. OpenAI permite desactivar la opción «Mejorar el modelo para todos», con lo que las nuevas conversaciones dejan de utilizarse normalmente para mejorar los modelos.
Sin embargo, existe una excepción importante. Incluso si un usuario desactivó el entrenamiento, puede decidir enviar voluntariamente comentarios sobre una respuesta utilizando los botones de pulgar arriba o abajo. OpenAI explica que, cuando se envía este feedback, la conversación completa asociada puede utilizarse para mejorar y entrenar sus modelos.
Por ello, utilizar una reacción de feedback no significa simplemente valorar una respuesta: también puede habilitar el uso de la conversación relacionada para procesos de mejora del modelo. Esta condición resulta especialmente relevante cuando el chat contiene información personal o archivos adjuntos.
La Web3 plantea alternativas para reforzar la soberanía de los datos
Lo ocurrido con los agentes de OpenAI vuelve a poner sobre la mesa los riesgos asociados con sistemas centralizados que almacenan y procesan grandes cantidades de información. Incluso cuando existen controles de privacidad y mecanismos de anonimización, los comportamientos inesperados de agentes cada vez más autónomos pueden introducir nuevas superficies de riesgo.
Desde la perspectiva de la Web3 y de las arquitecturas descentralizadas, existen distintas tecnologías que podrían complementar estos sistemas y reducir determinados riesgos:
- Cómputo confidencial y Zero-Knowledge (ZK): permitir que determinadas operaciones se ejecuten o verifiquen reduciendo la exposición directa de la información subyacente.
- Control criptográfico de los datos: arquitecturas donde el usuario conserva las claves y decide expresamente qué información comparte y durante cuánto tiempo, sin necesidad de publicar los datos privados directamente en una blockchain.
- Soberanía digital: reducir la concentración de grandes repositorios de información que pueden convertirse en objetivos especialmente atractivos para ataques, filtraciones o comportamientos inesperados de sistemas autónomos.
Estas tecnologías tampoco eliminan por sí solas todos los riesgos de privacidad, pero ofrecen modelos alternativos para limitar quién puede acceder a la información y bajo qué condiciones.
