El fenómeno de Muse, el asistente personal de Meta
Muse, el nuevo asistente personal desarrollado por Meta, ha alcanzado un notable éxito viral, siendo descargado por millones de usuarios. Este agente de inteligencia artificial ha sido vinculado a cuentas bancarias, mensajes y datos de salud, lo que le permite realizar diversas tareas en nombre de los usuarios. Sin embargo, a medida que su popularidad crece, también lo hace el interés por comprender cómo organiza y presenta la información que maneja.
Recientemente, un grupo de investigadores ha conseguido acceder a los archivos internos de Muse, revelando los comandos que rigen su funcionamiento. Esta información proporciona una visión detallada de la construcción del sistema y su comportamiento. Meta ha declarado que su objetivo era garantizar la transparencia al hacer accesibles estos archivos, que ofrecen información sobre cómo Muse aborda cuestiones sensibles y politizadas.
Investigaciones sobre el funcionamiento de Muse
Karan Joshi, un investigador independiente especializado en seguridad e inteligencia artificial, logró obtener una amplia variedad de comandos y mensajes del sistema de Muse a través de la interfaz de chat. Solicito al asistente que compartiera sus propios archivos de software, lo que le permitió recopilar datos interesantes que posteriormente compartió con un medio especializado.
Entre los hallazgos, se destaca un comando que indica a Muse que genere «una página para cada persona en la vida del usuario». Este proceso, que se ejecuta cada hora, implica la recolección de información sobre familiares, amigos, compañeros de trabajo y otras personas relevantes en la vida del usuario.
El objetivo es que Muse utilice su «memoria», compuesta por archivos de texto organizados, para acumular información sobre las relaciones del usuario y las personas significativas en su vida. Esto le permite ofrecer sugerencias, como consejos para mejorar relaciones o recomendaciones sobre lugares donde llevar a un amigo aficionado al café. Aunque no es inusual que los chatbots de inteligencia artificial recopilen información social, el enfoque de Muse resulta intrigante, considerando el historial de Meta y su acceso a datos de redes sociales.
La recopilación de datos y la transparencia de Muse
Muse se inscribe en la tendencia de Meta de incluir a los usuarios de forma predeterminada en la recopilación de datos para entrenar su inteligencia artificial. Además, la aplicación incentiva a los usuarios a compartir información sensible, como datos bancarios, correos electrónicos y pasaportes.
Karan Joshi ha expresado su preocupación al respecto: «Lo que he observado en los comandos y las capacidades del sistema sugiere que buscan comprender las relaciones personales del usuario. Intentan conocerte como lo haría un amigo, lo cual resulta inquietante».
La documentación interna de Muse revela que una página sobre una persona puede comenzar con información limitada, pero se enriquecerá con el tiempo. Esta podría incluir secciones como «Datos», «Historia», «La relación», «Cosas en común», «Temas pendientes» y «Fortalecimiento». Los comandos indican que Muse debe basarse únicamente en la evidencia disponible, considerando que inventar información es aún menos deseable que no tener datos en absoluto.
Aspectos detallados de las relaciones en Muse
Los comandos de Muse también se centran en documentar aspectos específicos de las relaciones, tales como «qué tan unidas están las personas, sobre qué se basa su relación y qué necesita cada uno en un momento dado». La sección dedicada al «Fortalecimiento» sugiere maneras de mejorar las relaciones, incluyendo recomendaciones como «un motivo para llamar, una fecha significativa para recordar, un tema sobre el que retomar la conversación o una forma significativa de apoyo».
En resumen, Muse no solo se presenta como un asistente personal, sino que también busca profundizar en las relaciones interpersonales de sus usuarios, lo que plantea interrogantes sobre la privacidad y la ética en el manejo de datos personales.
