Horizonte Europa: Seguridad de los sistemas de IA robustos

Resultados esperados

Se espera que los resultados de los proyectos contribuyan a alguno o a todos los objetivos siguientes:

• Seguridad por diseño y resiliencia frente a ataques de adversarios;
• Inclusión de la percepción del contexto en el aprendizaje automático para aumentar la resiliencia.

Alcance

Las propuestas recibidas en el marco de este tema abordarán la seguridad de los sistemas de IA, de acuerdo con las siguientes consideraciones. La disponibilidad de grandes cantidades de datos, junto con los avances en la capacidad de computación, ha permitido el desarrollo de potentes aplicaciones de Inteligencia Artificial (en particular Machine Learning y Deep Learning). Al mismo tiempo, han surgido preocupaciones sobre la seguridad, la solidez de los algoritmos de IA (incluida la IA en el borde), incluidos los riesgos del aprendizaje automático adversario y el envenenamiento de datos. Así pues, es importante promover algoritmos de IA que cumplan las normas de seguridad, lo que podría dar lugar a sistemas de certificación en el futuro.

Las propuestas deben demostrar que se conoce el planteamiento de la UE sobre Inteligencia Artificial[1], como la propuesta de Ley sobre Inteligencia Artificial.

Se anima a identificar y analizar los posibles aspectos normativos y las barreras para las tecnologías/soluciones desarrolladas, cuando proceda.

Plazo

23 de noviembre de 2023

[1]  Un enfoque europeo de la inteligencia artificial: https://digital-strategy.ec.europa.eu/en/policies/european-approach-artificial-intelligence

Más información: Funding and Tenders