Ley sobre Inteligencia Artificial: El Consejo da luz verde definitiva a la primera normativa mundial sobre IA

El Consejo ha aprobado hoy una ley pionera destinada a armonizar las normas sobre inteligencia artificial, la llamada Ley de Inteligencia Artificial. Esta legislación de vanguardia sigue un planteamiento «basado en el riesgo», lo que significa que cuanto mayor sea el riesgo de causar daños a la sociedad, más estrictas serán las normas. Es la primera de este tipo en el mundo y puede establecer una norma mundial para la regulación de la IA.

La nueva ley pretende fomentar el desarrollo y la adopción de sistemas de IA seguros y fiables en todo el mercado único de la UE, tanto por parte de agentes privados como públicos. Al mismo tiempo, pretende garantizar el respeto de los derechos fundamentales de los ciudadanos de la UE y estimular la inversión y la innovación en inteligencia artificial en Europa. La Ley de Inteligencia Artificial se aplicará únicamente a los ámbitos regulados por la legislación de la UE y prevé excepciones, como los sistemas utilizados exclusivamente con fines militares y de defensa, así como con fines de investigación.

Clasificación de los sistemas de IA como de alto riesgo y prácticas de IA prohibidas

La nueva ley clasifica los distintos tipos de inteligencia artificial en función del riesgo. Los sistemas de IA que sólo presenten un riesgo limitado estarán sujetos a obligaciones de transparencia muy leves, mientras que los sistemas de IA de alto riesgo estarán autorizados, pero sujetos a una serie de requisitos y obligaciones para acceder al mercado de la UE. Los sistemas de IA como, por ejemplo, la manipulación cognitiva del comportamiento y la puntuación social estarán prohibidos en la UE porque su riesgo se considera inaceptable. La ley también prohíbe el uso de IA para la vigilancia policial predictiva basada en la elaboración de perfiles y los sistemas que utilizan datos biométricos para clasificar a las personas según categorías específicas como raza, religión u orientación sexual.

Modelos de IA de uso general

La Ley de IA también aborda el uso de modelos de IA de uso general (GPAI).

Los modelos GPAI que no planteen riesgos sistémicos estarán sujetos a algunos requisitos limitados, por ejemplo en materia de transparencia, pero los que presenten riesgos sistémicos tendrán que cumplir normas más estrictas.

Una nueva arquitectura de gobernanza

Para garantizar una aplicación adecuada, se crean varios órganos de gobierno:

• Una Oficina de Inteligencia Artificial dentro de la Comisión para hacer cumplir las normas comunes en toda la UE.
• Un grupo científico de expertos independientes para apoyar las actividades de aplicación.
• Un Comité de AI, compuesto por representantes de los Estados miembros, para asesorar y asistir a la Comisión y a los Estados miembros en la aplicación coherente y eficaz de la Ley de AI.
• Un foro consultivo para que las partes interesadas aporten sus conocimientos técnicos al Consejo de la IA y a la Comisión.

Inteligencia artificial: ¿está teniendo éxito el gran plan de la UE?

Sanciones

Las multas por infracciones a la ley de IA se fijan como un porcentaje del volumen de negocios anual global de la empresa infractora en el ejercicio financiero anterior o una cantidad predeterminada, la que sea mayor. Las pymes y las empresas de nueva creación están sujetas a multas administrativas proporcionales.

Transparencia y protección de los derechos fundamentales

Antes de que algunas entidades que prestan servicios públicos desplieguen un sistema de IA de alto riesgo, será necesario evaluar el impacto sobre los derechos fundamentales. El Reglamento también prevé una mayor transparencia en relación con el desarrollo y el uso de los sistemas de IA de alto riesgo. Los sistemas de IA de alto riesgo, así como determinados usuarios de un sistema de IA de alto riesgo que sean entidades públicas, tendrán que registrarse en la base de datos de la UE para sistemas de IA de alto riesgo, y los usuarios de un sistema de reconocimiento de emociones tendrán que informar a las personas físicas cuando estén expuestas a un sistema de este tipo.

Medidas de apoyo a la innovación

La ley sobre IA establece un marco jurídico favorable a la innovación y pretende promover el aprendizaje normativo basado en pruebas. La nueva ley prevé que los «sandboxes» reguladores de la IA, que permiten un entorno controlado para el desarrollo, la prueba y la validación de sistemas innovadores de IA, permitan también probar sistemas innovadores de IA en condiciones del mundo real.

Próximos pasos

Tras ser firmado por los Presidentes del Parlamento Europeo y del Consejo, el acto legislativo se publicará en el Diario Oficial de la UE en los próximos días y entrará en vigor veinte días después de esta publicación. El nuevo reglamento se aplicará dos años después de su entrada en vigor, con algunas excepciones para disposiciones específicas.

Más información: Consejo de la UE