La IA Muse de Meta crea perfiles detallados de todos tus amigos y familiares

El nuevo asistente personal de IA de Meta, Muse, se ha convertido rápidamente en un fenómeno viral, con millones de usuarios conectando el agente a sus cuentas bancarias, plataformas de mensajería y datos de salud para automatizar tareas diarias. Sin embargo, investigaciones recientes realizadas por expertos en seguridad han expuesto las instrucciones operativas internas del sistema, revelando que Muse está diseñado para construir perfiles completos y estructurados de cada persona en la vida de un usuario. Al extraer archivos internos, los investigadores han proporcionado una mirada poco común a cómo la IA de Meta organiza las relaciones personales, convirtiendo efectivamente las interacciones sociales en puntos de datos para el análisis algorítmico.

El investigador independiente de seguridad de IA, Karan Joshi, logró extraer estas instrucciones del sistema, que ordenan explícitamente a Muse crear una página dedicada para cada individuo en la red del usuario. Estos perfiles agregan datos sobre miembros de la familia, parejas, amigos y colegas profesionales, rastreando todo, desde la historia compartida y los intereses comunes hasta los eventos recurrentes de la vida. Meta sostiene que estas instrucciones tienen como objetivo fomentar la transparencia, pero el nivel de detalle granular, que va desde cumpleaños y aniversarios hasta discusiones específicas y hitos, ha generado importantes alarmas sobre la privacidad del usuario y la profundidad de las capacidades de vigilancia de Meta.

Si bien los chatbots de IA se han utilizado durante mucho tiempo para obtener consejos sobre relaciones, Muse representa un cambio significativo debido a la vasta infraestructura existente de Meta y su acceso histórico a los datos de redes sociales. El sistema está diseñado para evolucionar de entradas dispersas a expedientes detallados, incluyendo secciones sobre cómo 'fortalecer' las relaciones e identificar 'temas abiertos' para hacer seguimiento. Esta funcionalidad se basa en la premisa de que, para ser realmente útil, una IA debe poseer un contexto profundo sobre el círculo social del usuario, intentando efectivamente comprender las relaciones humanas con la intimidad de un amigo de la vida real.

Los críticos y expertos en ética advierten que este nivel de agregación de datos es profundamente preocupante. Carissa Véliz, del Instituto de Ética en IA de Oxford, señala que los usuarios están proporcionando mucha más información a estos sistemas de la que reciben a cambio, creando un desequilibrio de poder donde la IA puede inferir detalles sensibles sobre la vida personal. Las ramificaciones son profundas: a medida que los usuarios otorgan a estos agentes acceso a toda su vida digital, aumenta el potencial de uso indebido o inferencias incorrectas, convirtiendo las conexiones personales en una mercancía para el procesamiento algorítmico y la predicción del comportamiento.

De cara al futuro, la industria se enfrenta a una coyuntura crítica respecto al equilibrio entre personalización y privacidad. Meta afirma que Muse opera dentro de máquinas virtuales dedicadas con registros de auditoría y confirmación humana para acciones sensibles. Sin embargo, expertos como Miranda Bogen argumentan que estas herramientas solicitan activamente a los usuarios que entreguen sus vidas enteras a la IA, lo que lleva a una expansión sin precedentes del conocimiento corporativo sobre las estructuras sociales individuales. A medida que estos asistentes se integran más en las rutinas diarias, el futuro de la privacidad digital puede depender de si los usuarios pueden mantener límites contra el impulso implacable de la integración total de datos.