Auge de la inteligencia artificial y sus riesgos asociados
En los últimos tiempos, la proliferación de noticias sobre el uso de agentes de inteligencia artificial (IA) en actividades de hacking o en manos de ciberdelincuentes ha cobrado relevancia. En este contexto, una vulnerabilidad recientemente subsanada en la versión de ChatGPT para macOS pone de manifiesto cómo, a medida que estas aplicaciones se integran en nuestra vida cotidiana, también pueden convertirse en blanco atractivo para los atacantes.
Este fallo de seguridad, descubierto por expertos de la Fundación Objective-See, tenía el potencial de permitir que un atacante tomara el control de ChatGPT en el dispositivo de una víctima. Esto podría haber proporcionado acceso no solo a los historiales de conversación almacenados por la aplicación, sino también a datos adicionales, como las sesiones abiertas en el navegador. Este incidente destaca el amplio nivel de acceso que requieren estas plataformas para operar, lo que a su vez las convierte en un objetivo vulnerable.
El valor del acceso en la arquitectura de software
Patrick Wardle, analista de software de la Fundación Objective-See y experto en el sistema operativo macOS, ilustra la problemática al compararlos con un ama de llaves de un hotel que tiene acceso a todas las habitaciones. Si estos agentes son vulnerables a la manipulación o corrupción, las consecuencias pueden ser graves.
OpenAI, la entidad detrás de ChatGPT, reconoció públicamente el fallo y su posterior corrección en su registro de cambios del 25 de septiembre. En declaraciones a medios, el portavoz de la compañía, Shane Bauer, subrayó su compromiso por mejorar las prácticas de seguridad y la necesidad de actuar con mayor celeridad ante futuros incidentes.
Funcionamiento de ChatGPT en macOS y sus medidas de seguridad
La aplicación de ChatGPT para macOS se basa en múltiples componentes que interactúan de forma segura mediante la verificación de firmas digitales. Estas comprobaciones tienen como objetivo garantizar que ambos procesos involucrados pertenecen a OpenAI y no a software externo que pueda ser potencialmente dañino. Para aumentar la seguridad, el diseño del sistema exige que estas verificaciones se realicen en tres niveles de separación respecto a la solicitud, minimizando así el riesgo de que un malware actúe como intermediario.
Sin embargo, los investigadores de la Fundación Objective-See identificaron que uno de los componentes de confianza, un intérprete de scripts, era susceptible a la manipulación, permitiendo que comandos maliciosos fueran enviados al proceso principal de ChatGPT. Wardle detalla que, a pesar de las comprobaciones de procesos padres, un script malicioso puede ejecutar el intérprete de scripts varias veces para eludir estas medidas.
Facilidad de explotación y nuevas vulnerabilidades
La explotación de esta vulnerabilidad resultaba «increíblemente sencilla». Además de permitir el acceso a los historiales de chat de ChatGPT, el fallo podría ser utilizado para que el software ejecute comandos en nombre del atacante, como acceder a aplicaciones sensibles y realizar solicitudes que aparenten ser legítimas.
Wardle presentará un análisis exhaustivo de diversos errores en aplicaciones de IA para macOS en «Objective by the Sea», una conferencia dedicada a la seguridad en el ecosistema de Apple que tendrá lugar en noviembre. Recientemente, también identificó un problema en la función de dictado del nuevo agente Muse de Meta, que podría haber permitido a un hacker acceder a datos de usuario mediante un token de autenticación mal gestionado. Además, ha informado a OpenAI sobre una nueva vulnerabilidad relacionada con la integración entre ChatGPT y el agente de IA siempre activo de la compañía, Dots, que actualmente está siendo evaluada por su equipo de seguridad.
