Los eurodiputados quieren un sólido conjunto de derechos para proteger a los consumidores en el contexto de la inteligencia artificial y la toma de decisiones automatizada.
El Comité de Protección al Consumidor y Mercado Interior del Parlamento aprobó recientemente una resolución que aborda varios desafíos derivados del rápido desarrollo de la inteligencia artificial (IA) y las tecnologías de toma de decisiones automatizadas (ADM).
Esos sistemas solo deberían usar conjuntos de datos imparciales y de alta calidad y «algoritmos explicables e imparciales» para aumentar la confianza y aceptación del consumidor, indica la resolución. Las estructuras de revisión deben configurarse para remediar posibles errores en las decisiones automatizadas. También debería ser posible para los consumidores solicitar la revisión humana y la reparación de las decisiones automatizadas que sean definitivas y permanentes.
«Los seres humanos siempre deben ser en última instancia responsables y capaces de anular las decisiones» que se toman a través de los procesos de las ADM, especialmente en relación con las profesiones médicas, legales y contables y el sector bancario, subrayan los eurodiputados.
Normas de seguridad
Los productos habilitados para IA pueden evolucionar y actuar de formas no previstas cuando se introdujeron en el mercado. Los eurodiputados instan a la Comisión a presentar propuestas que adapten las normas de seguridad de la UE para productos (por ejemplo, directivas sobre maquinaria y seguridad de los juguetes) para garantizar que los consumidores estén protegidos contra daños, los fabricantes tengan claras sus obligaciones y los usuarios estén informados sobre cómo usar esos productos.
La Directiva de Responsabilidad del Producto, adoptada hace más de 30 años, también necesitaría ser actualizada para adaptar conceptos como «producto», «daño» y «defecto», así como las reglas que rigen la carga de la prueba, dice el comité.
Los eurodiputados piden un esquema de evaluación de riesgos para la IA y las ADM y un enfoque común de la UE para ayudar a asegurar los beneficios de esos procesos y mitigar los riesgos en la UE.
Discriminación
Según la legislación de la UE, los comerciantes deben informar a los consumidores cuando el precio de los bienes o servicios se ha personalizado sobre la base de las ADM, recuerdan los eurodiputados, pidiendo a la Comisión que supervise de cerca la aplicación de esas normas. También debe verificar cómo se aplica la regulación de la UE que prohíbe el bloqueo geográfico injustificado para garantizar que las ADM no se utilicen para discriminar a los consumidores en función de su nacionalidad, lugar de residencia o ubicación temporal.
Deja una respuesta