• Saltar a la navegación principal
  • Saltar al contenido principal
  • Saltar a la barra lateral principal
  • Saltar al pie de página
  • Facebook
  • Instagram
  • LinkedIn
  • TikTok
  • Twitter
  • YouTube
CDE Almería – Centro de Documentación Europea – Universidad de Almería

CDE Almería - Centro de Documentación Europea - Universidad de Almería

Centro de Documentación Europea de la Universidad de Almería

  • Inicio
  • ACTUALIDAD
    • NOTICIAS UE
    • ACTIVIDADES
    • CONVOCATORIAS Y PREMIOS UE
    • Programa de radio Europa Contigo
    • Boletines CDE
  • DOCUMENTACIÓN
    • FONDO BIBLIOGRÁFICO
      • FONDO DIGITAL CDE ALMERIA
      • BIBLIOTECA UNIVERSIDAD DE ALMERÍA
    • BASES DE DATOS
    • DOCUMENTACIÓN POR TEMAS
    • MEDIATECA UE
      • ESPACIO WEB
      • REPOSITORIO MEDIATECA
    • EUROEXPERTOS
  • EUROPA EN LA RED
    • INSTITUCIONES Y AGENCIAS
    • REPRESENTACIÓN DE LA UE EN ESPAÑA
    • RED DE INFORMACIÓN EUROPEA DE ANDALUCIA
    • DIARIOS DE LA UE
  • CONÓCENOS
    • PRESENTACIÓN
    • LAS PERSONAS
    • CONTACTO
  • Español
  • Inglés

La UE está un paso más cerca de la primera normativa sobre Inteligencia Artificial

Inicio » Noticias UE » Investigación e Innovación » Tecnología » La UE está un paso más cerca de la primera normativa sobre Inteligencia Artificial

11 de mayo de 2023

Para garantizar un desarrollo ético y centrado en el ser humano de la Inteligencia Artificial (IA) en Europa, los eurodiputados han aprobado nuevas normas de transparencia y gestión de riesgos para los sistemas de IA.

Inteligencia Artificial

La comisión de Mercado Interior y la de Libertades Civiles han aprobado este jueves, por 84 votos a favor, 7 en contra y 12 abstenciones, un proyecto de mandato de negociación sobre las primeras normas de la historia para la Inteligencia Artificial. En sus enmiendas a la propuesta de la Comisión, los eurodiputados pretenden garantizar que los sistemas de IA cuenten con la supervisión de personas, sean seguros, transparentes, trazables, no discriminatorios y respetuosos con el medio ambiente. También quieren contar con una definición uniforme de IA diseñada para ser tecnológicamente neutra, de modo que pueda aplicarse a los sistemas de IA de hoy y de mañana.

Enfoque de la IA basado en el riesgo – Prácticas de IA prohibidas

Las nuevas normas siguen un enfoque basado en el riesgo y establecen obligaciones para proveedores y usuarios en función del nivel de riesgo que pueda generar la IA. Los sistemas de IA con un riesgo inaceptable para la seguridad de las personas estarían estrictamente prohibidos, incluidos los que emplean técnicas subliminales o de manipulación deliberada, explotan las vulnerabilidades de las personas o se utilizan para el scoring social (clasificación de personas en función de su comportamiento social, estatus socioeconómico o características personales).

Inteligencia Artificial: amenazas y oportunidades

Los eurodiputados modificaron sustancialmente la lista para incluir prohibiciones de usos intrusivos y discriminatorios de sistemas de IA como:

  • Sistemas de identificación biométrica remota «en tiempo real» en espacios de acceso público;
  • Sistemas de identificación biométrica remota «a posteriori», con la única excepción de las fuerzas de seguridad para la persecución de delitos graves y sólo previa autorización judicial;
  • Sistemas de categorización biométrica que utilicen características sensibles (por ejemplo, sexo, raza, etnia, estatus de ciudadanía, religión, orientación política);
  • Sistemas policiales predictivos (basados en perfiles, localización o comportamientos delictivos anteriores);
  • Sistemas de reconocimiento de emociones en las fuerzas del orden, la gestión de fronteras, el lugar de trabajo y las instituciones educativas; y;
  • Extracción indiscriminada de datos biométricos de redes sociales o grabaciones de vídeovigilancia para crear bases de datos de reconocimiento facial (violación de los derechos humanos y del derecho a la intimidad).

AI de alto riesgo

Los eurodiputados ampliaron la clasificación de ámbitos de alto riesgo para incluir los daños a la salud, la seguridad, los derechos fundamentales o el medio ambiente de las personas. También añadieron a la lista de alto riesgo los sistemas de IA para influir en los votantes en las campañas políticas y en los sistemas de recomendación utilizados por las plataformas de medios sociales (con más de 45 millones de usuarios según la Ley de Servicios Digitales).

IA de uso general: medidas de transparencia

Los eurodiputados incluyeron obligaciones para los proveedores de modelos de base -un desarrollo nuevo y en rápida evolución en el campo de la IA-, que tendrían que garantizar una sólida protección de los derechos fundamentales, la salud y la seguridad y el medio ambiente, la democracia y el Estado de Derecho. Tendrían que evaluar y mitigar los riesgos, cumplir los requisitos de diseño, información y medio ambiente y registrarse en la base de datos de la UE.

Los modelos de base generativa, como GPT, tendrían que cumplir requisitos adicionales de transparencia, como revelar que los contenidos han sido generados por IA, diseñar el modelo para evitar que genere contenidos ilegales y publicar resúmenes de los datos protegidos por derechos de autor utilizados para el entrenamiento.

Apoyar la innovación y proteger los derechos de los ciudadanos

Para impulsar la innovación en IA, los eurodiputados han añadido exenciones a estas normas para las actividades de investigación y los componentes de IA proporcionados bajo licencias de código abierto. La nueva ley promueve la creación de entornos controlados por parte de las autoridades públicas para probar la IA antes de su despliegue.

Los eurodiputados quieren impulsar el derecho de los ciudadanos a presentar quejas sobre los sistemas de IA y a recibir explicaciones sobre las decisiones basadas en sistemas de IA de alto riesgo que afecten significativamente a sus derechos. Los eurodiputados también reforman el papel de la Oficina de Inteligencia Artificial de la UE, que se encargaría de supervisar cómo se aplica el reglamento sobre IA.

Próximos pasos

Antes de que puedan comenzar las negociaciones con el Consejo sobre la forma final de la ley, este proyecto de mandato de negociación debe ser refrendado por todo el Parlamento, y se espera que la votación tenga lugar durante el periodo de sesiones del 12 al 15 de junio.

Más información: Parlamento Europeo

Publicaciones relacionadas:

manos sujetan teléfono inteligenteIdentidad Digital Europea, ¿conoces sus beneficios? panel informático con cablesEl Parlamento Europeo propugna nuevas reglas para el acceso y uso equitativo de datos industriales marketing digitalEstrategia de la UE para la transformación digital inteligencia artificialLa Unión Europea invertirá 180M € en tecnologías digitales innovadoras Inteligencia artificial: el turbo de la industria europea

«Este es un espacio para el debate. Se publicarán todos los comentarios que, a favor o en contra de la publicación, sean respetuosos y no contengan expresiones discriminatorias, difamatorias o contrarias a la legislación vigente.»

Interacciones con los lectores

Deja una respuesta Cancelar la respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.

Barra lateral principal

Publicaciones relacionadas

manos sujetan teléfono inteligenteIdentidad Digital Europea, ¿conoces sus beneficios? panel informático con cablesEl Parlamento Europeo propugna nuevas reglas para el acceso y uso equitativo de datos industriales marketing digitalEstrategia de la UE para la transformación digital inteligencia artificialLa Unión Europea invertirá 180M € en tecnologías digitales innovadoras Inteligencia artificial: el turbo de la industria europea

Footer

Logotipo en negativo del Centro de Documentación Europea de Almería
  • CDE Almería
  • Edificio Parque Científico-Tecnológico (Pita)
  • Planta: 1ª, Despacho: 2904120.
  • Ctra. Sacramento s/n. Almería (Spain)
  • Teléfono: (+34) 950 015266
  • INICIO
  • NOTICIAS
  • DOCUMENTACION
  • EUROPA EN LA RED
  • CONÓCENOS
  • AVISO LEGAL
  • POLÍTICA DE PRIVACIDAD
  • POLÍTICA DE COOKIES
  • ACCESIBILIDAD
  • MAPA DE SITIO

Copyright © 2023 CDE Almería · Licencia de Creative CommonsEste obra está bajo una licencia de Creative Commons Reconocimiento-NoComercial 4.0 Internacional.

Utilizamos cookies para ofrecerte la mejor experiencia en nuestra web.

Puedes aprender más sobre qué cookies utilizamos o desactivarlas en los ajustes.

Resumen de privacidad

Esta web utiliza cookies para que podamos ofrecerte la mejor experiencia de usuario posible. La información de las cookies se almacena en tu navegador y realiza funciones tales como reconocerte cuando vuelves a nuestra web o ayudar a nuestro equipo a comprender qué secciones de la web encuentras más interesantes y útiles.

Cookies estrictamente necesarias

Las cookies estrictamente necesarias tiene que activarse siempre para que podamos guardar tus preferencias de ajustes de cookies.

Si desactivas esta cookie no podremos guardar tus preferencias. Esto significa que cada vez que visites esta web tendrás que activar o desactivar las cookies de nuevo.

Cookies de terceros

Esta web utiliza Google Analytics para recopilar información anónima tal como el número de visitantes del sitio, o las páginas más populares.

Dejar esta cookie activa nos permite mejorar nuestra web.

¡Por favor, activa primero las cookies estrictamente necesarias para que podamos guardar tus preferencias!

Política de cookies

Más información sobre nuestra política de cookies