La IA autónoma y sus implicaciones en la privacidad
Expertos en privacidad han expresado su preocupación sobre la inteligencia artificial (IA) autónoma durante un taller internacional celebrado en la Universitat Politècnica de València. Investigadores de Reino Unido, Suecia, España y Cataluña se reunieron para analizar los retos que plantea la IA generativa y, en particular, la denominada IA agentiva, que tiene la capacidad de operar de manera independiente, tomar decisiones y ejecutarlas sin la intervención continua del usuario.
Riesgos invisibles de la autonomía de la IA
Los especialistas señalaron que la autonomía de estos sistemas conlleva riesgos significativos relacionados con la privacidad. Los agentes de IA pueden facilitar un intercambio excesivo de información, actuando sin que los usuarios sean plenamente conscientes de ello y navegando en áreas legalmente ambiguas, como la obtención del consentimiento bajo el Reglamento General de Protección de Datos (RGPD) de la Unión Europea. En otras palabras, una IA que gestiona tu agenda, correos electrónicos o compras podría estar tomando decisiones sobre tus datos sin que tú las hayas autorizado explícitamente.
Un futuro con asistentes personales de privacidad
Sin embargo, los mismos expertos también apuntaron que esta tecnología, que genera preocupaciones, podría convertirse en parte de la solución. Los agentes autónomos tienen el potencial de ser verdaderos asistentes personales en cuestiones de privacidad, ayudando a los usuarios a comprender políticas de privacidad complejas y a gestionar permisos de manera más eficaz. La clave, según los especialistas, radica en el diseño de estos sistemas y en quién tiene el control sobre ellos.
Un cambio en la relación entre usuario y datos
Otro hallazgo alarmante del encuentro fue la transformación en el papel del usuario. Este ya no es solo un sujeto pasivo que proporciona datos, sino que se ha convertido en un contribuyente activo de información sensible cada vez que interactúa con estos sistemas. La mayoría de las personas no son conscientes de cómo se pueden reutilizar, almacenar o influir en el comportamiento futuro de la IA a partir de sus datos.
Desafíos regulatorios y la necesidad de supervisión continua
Desde el ámbito regulatorio, Daniel Mercader, adjunto al director de Innovación y Tecnología de la Agencia Española de Protección de Datos, advirtió que las empresas están adoptando estas tecnologías a un ritmo que supera su comprensión de los riesgos implicados. La respuesta de las autoridades se orienta a establecer nuevas guías para una implementación segura. Sin embargo, los expertos coincidieron en que proteger la privacidad en el contexto de la IA debe ser un proceso continuo que requiera auditorías regulares y supervisión constante.
Este debate reunió a destacados académicos en el campo, como el catedrático Josep Domingo-Ferrer de la Universitat Rovira i Virgili, la catedrática Simone Fischer-Hübner de las universidades suecas de Karlstad y Chalmers, y la profesora Ruba Abu-Salma del King’s College de Londres. El evento fue organizado por el laboratorio HASP de INGENIO (CSIC-UPV) y el instituto VRAIN de la UPV, en el marco del proyecto SPRINT, financiado con recursos de Next Generation-EU.
