A fines de septiembre, una mujer de Bonita Springs, en Florida, escribió en un chat con Claude, la inteligencia artificial de Anthropic, que iba a atacar a tiros la Oficina del Sheriff del condado de Lee. Al día siguiente volvió a escribir que había conseguido un arma nueva y poco después fue arrestada, según el reporte policial citado por WINK News.
Los sistemas de seguridad de la plataforma detectaron los mensajes y, por su gravedad, los derivaron a un equipo de revisión humana, que alertó a la policía. Tras su detención, la mujer explicó que usa la IA «como un diario».
La intimidad que fabrica una conversación
Un chatbot responde con paciencia, no se escandaliza y está disponible a las tres de la mañana, una combinación que invita a contarle lo que no se le cuenta a nadie. Los especialistas consultados por WINK News coinciden en que el formato conversacional hace olvidar que detrás hay un registro, y en que la ausencia de juicio aparente empuja a confiar de más.
Chrissann Ruehle, profesora de IA y gestión en la Florida Gulf Coast University, lo resumió en pocas palabras: «La IA no es tu mejor amiga». Es un servicio que corre en servidores ajenos, con reglas de uso, equipos de seguridad y obligaciones legales, aunque la pantalla se parezca a la de una app de mensajería.
Lo que pasa con lo que escribes
El caso de Florida muestra el circuito completo. La política de uso publicada por Anthropic prohíbe usar sus productos para promover la violencia o la intimidación, y la compañía aplica esas reglas con sistemas de detección y monitoreo. Su política de solicitudes gubernamentales contempla además entregar información a las autoridades en emergencias que impliquen riesgo de muerte o lesiones graves.
Ante una amenaza explícita de violencia, el mecanismo funcionó como estaba diseñado, y es difícil sostener que no debía hacerlo. Para el usuario común, lo relevante es otra cosa: las conversaciones con un asistente de IA no tienen el estatus de un diario bajo llave, sino el de datos alojados en la infraestructura de una empresa, sujetos a sus políticas y a la ley del lugar donde opera.
El sheriff Carmine Marceno lo planteó como advertencia general: quien usa estas herramientas nunca es del todo anónimo. Un exagente del FBI consultado por el mismo medio agregó que los tribunales todavía están definiendo cómo tratar las amenazas que pasan por la IA, de modo que buena parte de las reglas sigue por escribirse.
Las finanzas, el secreto más compartido
En el terreno financiero, la confianza excesiva tiene un costo directo. Cada vez más personas le piden a un chatbot que revise su cartera, ordene sus deudas o les ayude con una declaración de impuestos, y para eso pegan capturas, números de cuenta y saldos completos.
Hay datos que no deberían llegar nunca a una conversación con IA, empezando por las frases semilla y las claves privadas, que dan control total sobre una wallet a quien las vea. Tampoco los códigos de doble factor, las credenciales de exchanges ni los documentos de identidad, y las capturas de cuentas deberían compartirse con los números y saldos tapados.
La regla práctica es sencilla: si un dato basta para mover tu dinero o suplantar tu identidad, no pertenece a un chat, por útil que sea la respuesta que se obtiene a cambio.
Custodia propia, también para las conversaciones
El ecosistema cripto convirtió en principio la frase «not your keys, not your coins»: lo que custodia un tercero no es del todo tuyo. La misma lógica empieza a aplicarse a la IA, con modelos de código abierto que corren en el propio ordenador o en el teléfono sin que la conversación salga del dispositivo.
Esa alternativa tiene un precio. Los modelos locales exigen hardware capaz, suelen quedar por detrás de los grandes asistentes comerciales y, sobre todo, eliminan la red de seguridad que en Florida permitió frenar una amenaza a tiempo, porque la privacidad total también significa que nadie mira cuando algo sale mal.
Entre ambos extremos queda una decisión que cada usuario debería tomar a conciencia: qué le cuenta a una IA alojada en servidores ajenos y qué reserva para un espacio que controla. El diario de siempre, con candado y sin conexión, sigue siendo el único que no tiene a nadie leyendo del otro lado.
-Nyria
