HORIZONTE EUROPA: IA para el refuerzo de la ciberseguridad

Resultados esperados

Se espera que los proyectos contribuyan a algunos de los siguientes resultados esperados:

Refuerzo de la ciberseguridad mediante el uso de componentes y herramientas tecnológicas de IA en consonancia con los requisitos políticos, jurídicos y éticos pertinentes de la UE.
Mayor conocimiento sobre cómo un atacante podría utilizar la tecnología de IA para atacar los sistemas informáticos.
Procesos, productos y sistemas digitales resistentes a los ciberataques impulsados por la IA.
La propuesta debe proporcionar indicadores apropiados para medir su progreso y su impacto específico.

Alcance

La inteligencia artificial (IA) está presente en casi todos los ámbitos de aplicación en los que intervienen datos masivos. Sin embargo, comprender las implicaciones y los posibles efectos secundarios para la ciberseguridad requiere un análisis profundo, que incluya más investigación e innovación. Por un lado, la IA puede utilizarse para mejorar la respuesta y la capacidad de recuperación, por ejemplo para la detección temprana de amenazas y otras actividades maliciosas con el objetivo de identificar, prevenir y detener los ataques con mayor precisión. Por otro lado, los atacantes potencian cada vez más sus herramientas utilizando la IA o manipulando los sistemas de IA (incluidos los sistemas de IA utilizados para reforzar la ciberseguridad).

Las acciones propuestas deberían desarrollar métodos y herramientas basados en la IA para abordar las siguientes capacidades interrelacionadas (i) mejorar la robustez de los sistemas (es decir, la capacidad de un sistema de mantener su configuración inicial estable incluso cuando procesa entradas erróneas, gracias a la autocomprobación y la autorreparación); (ii) mejorar la resiliencia de los sistemas (es decir, la capacidad de un sistema de resistir y tolerar un ataque, anticiparse, hacer frente y evolucionar facilitando la detección de amenazas y anomalías y permitiendo a los analistas de seguridad recuperar información sobre las ciberamenazas); (iii) mejorar la respuesta de los sistemas (i. es decir, la capacidad de un sistema para responder de forma autónoma a los ataques, gracias a la identificación de vulnerabilidades en otras máquinas y operar estratégicamente decidiendo qué vulnerabilidad atacar y en qué momento, y engañando a los atacantes; y (iv) contrarrestar las formas en que la IA puede ser utilizada para atacar. Las soluciones avanzadas basadas en la IA, incluidas las herramientas de aprendizaje automático, así como los mecanismos defensivos para garantizar la integridad de los datos también deberían incluirse en las acciones propuestas. Las propuestas deben tratar de facilitar en última instancia el trabajo de los expertos en ciberseguridad pertinentes (por ejemplo, reduciendo la carga de trabajo de los operadores de seguridad).

En cuanto a los múltiples vínculos entre la IA y la ciberseguridad, la privacidad y la protección de los datos personales, los solicitantes deberán demostrar cómo sus soluciones propuestas cumplen y apoyan las acciones y directrices políticas de la UE pertinentes para la IA (por ejemplo, las Directrices éticas para una IA digna de confianza, el Libro Blanco sobre la IA, la Estrategia de Seguridad de la UE y la Estrategia de Datos). Las propuestas deben prever actividades para colaborar con proyectos derivados de temas relevantes incluidos en el Clúster 4 «Digital, Industria y Espacio» de Horizonte Europa. Por lo general, las propuestas también deberán basarse en los resultados de otros proyectos pertinentes (por ejemplo, los financiados en el marco de Horizonte 2020, el Programa Europa Digital u Horizonte Europa) o prever acciones para colaborar con ellos.

Las propuestas deberán esforzarse por utilizar y contribuir a los grupos de datos europeos pertinentes (incluidas las federaciones de datos nacionales y/o regionales) para que las soluciones propuestas sean más eficaces. Para ello, los solicitantes deberán esforzarse por garantizar la calidad de los datos y la homogeneidad de los datos fusionados/federados. Los solicitantes también deben identificar y documentar las compensaciones pertinentes entre la eficacia de la IA y los derechos fundamentales (como la protección de los datos personales). Además, también deberá abordarse la cuestión de la privacidad en los macrodatos.

Los indicadores clave de rendimiento (KPI), con objetivos de referencia para medir los índices de éxito y error, deben demostrar cómo el trabajo propuesto aportará un progreso significativo al estado de la técnica. Todas las tecnologías y herramientas desarrolladas deberán estar debidamente documentadas, para apoyar su adopción y replicabilidad. Se fomenta la participación de las PYME.