La confianza en los asistentes de Inteligencia Artificial vuelve a ponerse a prueba. Un informe publicado el pasado 19 de septiembre por Jason Aten, columnista de Inc., sostiene que Muse, el nuevo agente de IA de Meta, accedió a conversaciones privadas de la aplicación Messages en macOS sin que el periodista hubiera autorizado conscientemente esa función.
Meta rechazó las acusaciones y aseguró que Muse no puede acceder al contenido de Messages sin que el usuario habilite previamente los permisos correspondientes. Sin embargo, la controversia ha puesto de manifiesto una cuestión fundamental: que una aplicación disponga de autorización técnica para acceder a determinados datos no significa necesariamente que el usuario comprenda el alcance de ese acceso.
En esta entrega de Alerta Digital, analizamos la disputa entre Meta y el periodista, las dificultades de los agentes de IA para explicar su propio funcionamiento y los desafíos que enfrenta la protección de datos personales en una nueva generación de herramientas autónomas.
Meta sale en defensa de su agente de IA Muse
Tras la publicación del informe, Meta defendió la arquitectura de seguridad de su aplicación. David Singleton, ejecutivo de Meta Superintelligence Labs, explicó que acceder a los mensajes privados en macOS requiere varias acciones de autorización por parte del usuario. Según la compañía, el procedimiento incluye tres elementos principales:
- Acceso total al disco: el usuario debe habilitar manualmente el permiso denominado Full Disk Access mediante la configuración de privacidad y seguridad de macOS. Esta autorización permite que una aplicación acceda a información almacenada fuera de su propio entorno.
- Confirmación y reinicio: la activación requiere una confirmación adicional dentro de la configuración del sistema operativo. Según Meta, el proceso también provoca el reinicio de Muse, lo que dificulta que la autorización se conceda de manera inadvertida.
- Selección del nivel de acceso: dentro de Muse, el usuario debe habilitar el conector de Messages y seleccionar entre las opciones «Ninguno», «Solo lectura» o «Lectura». Si el acceso total al disco permanece desactivado, estas opciones no pueden utilizarse.
Según Singleton, estas medidas impiden que el agente acceda a las conversaciones sin las autorizaciones necesarias. Andy Stone, vicepresidente de Comunicaciones de Meta, también sostuvo que la integración con Messages es completamente opcional.
Sin embargo, la explicación de la compañía describe cómo debería funcionar el sistema, pero no resuelve por sí sola la discrepancia con el testimonio del periodista. Hasta ahora, no se ha presentado públicamente una investigación técnica independiente que permita establecer con certeza cómo se activó el acceso en el dispositivo de Aten.
¿Fuga mediante notificaciones o alucinación del modelo?
Pese a las explicaciones oficiales, Aten insiste en que el acceso total al disco estaba desactivado cuando Muse comenzó a utilizar información procedente de sus conversaciones privadas. El periodista relató que recibió sugerencias relacionadas con mensajes intercambiados con su compañero de pódcast y con su editor, aunque nunca había solicitado al agente que revisara esas comunicaciones.
Al investigar el comportamiento de la aplicación, encontró que Muse había sincronizado información de la base de datos de Messages, alcanzando la fila 187.462. Esta cifra corresponde a registros de la base de datos y no permite determinar directamente cuántas conversaciones completas fueron procesadas.
Cuando preguntó al propio agente cómo había obtenido esa información, Muse respondió que utilizaba las vistas previas de las notificaciones del sistema. Sin embargo, Meta negó esta explicación y sostuvo que el modelo había generado una respuesta incorrecta sobre su funcionamiento interno.
Este comportamiento representa un problema adicional: un agente de IA puede ofrecer una explicación aparentemente convincente sobre sus acciones sin disponer realmente de información fiable acerca de los mecanismos técnicos que utilizó.
La crisis de credibilidad y el historial corporativo
El escepticismo alrededor de Muse también está relacionado con el historial de Meta en materia de privacidad. La compañía ha enfrentado investigaciones, sanciones regulatorias y controversias internacionales, entre ellas el caso Cambridge Analytica, que cuestionaron sus prácticas de recopilación y protección de datos personales.
Aunque Muse consiguió una rápida adopción inicial y llegó a situarse entre las aplicaciones más descargadas, el verdadero desafío para Meta podría encontrarse en la confianza del público. A diferencia de un chatbot convencional, un agente autónomo puede acceder a archivos, consultar información privada y ejecutar determinadas acciones en nombre del usuario.
En este contexto, el 2 de octubre Apple anunció que reforzará los controles de acceso total al disco en macOS. La compañía advirtió que algunas aplicaciones utilizan estos permisos de maneras que pueden exponer archivos, correos electrónicos, conversaciones e historiales de navegación sin que los usuarios comprendan plenamente las consecuencias.
Por su parte, Singleton reconoció que Muse había explicado incorrectamente cómo funcionaba su integración con Messages y pidió disculpas por esa respuesta. Sin embargo, Meta mantuvo su postura de que el acceso a las conversaciones requiere autorización previa.
Aten cuestionó que la empresa centrara sus explicaciones en los mecanismos técnicos sin abordar suficientemente el problema de las expectativas del usuario. Para el periodista, la cuestión principal no es únicamente qué permisos pudo haber concedido, sino por qué terminó sorprendido por el alcance de la información utilizada.
La perspectiva Web3: soberanía local y permisos criptográficos
La controversia alrededor de Meta y su agente de IA pone de manifiesto las limitaciones de los sistemas tradicionales de autorización cuando las aplicaciones adquieren mayores capacidades para actuar de manera autónoma.
Desde la perspectiva de la privacidad digital y Web3, existen dos enfoques que podrían contribuir a mejorar la transparencia y el control sobre la información personal:
- Soberanía y procesamiento local: ejecutar modelos de Inteligencia Artificial directamente en el dispositivo puede reducir la necesidad de transferir información privada a servidores externos. Las soluciones de código abierto también pueden facilitar auditorías independientes sobre el funcionamiento del software. Sin embargo, el procesamiento local no garantiza por sí solo la privacidad: siguen siendo fundamentales los permisos del sistema, la seguridad del dispositivo y las conexiones externas que utilice la aplicación.
- Permisos criptográficos y registros verificables: las firmas digitales pueden utilizarse para autorizar operaciones específicas y comprobar la identidad de quienes conceden determinados permisos. Asimismo, los registros criptográficamente verificables, incluidos algunos sistemas basados en blockchain, podrían facilitar auditorías sobre las autorizaciones concedidas a agentes de IA. No obstante, estos mecanismos deben diseñarse cuidadosamente para evitar exponer datos sensibles, y la revocación de un permiso no elimina automáticamente la información que ya haya sido copiada o procesada.
La discusión, por tanto, no se limita a determinar si Muse vulneró o no los permisos de macOS. El desafío más amplio consiste en garantizar que los usuarios comprendan qué información pueden utilizar sus agentes de IA, durante cuánto tiempo conservarán ese acceso y cuáles serán las consecuencias de autorizarlo.
