La inteligencia artificial y los procesos automatizados pueden entrañar ciertos riesgos para los consumidores a los que el Parlamento Europeo quiere que se haga frente.
La inteligencia artificial y sus riesgos
Los ordenadores pueden realizar ciertas funciones, como el procesamiento de datos, más rápidamente y con más precisión que un humano. Las aplicaciones que emplean la denominada “inteligencia artificial” (IA) son cada vez más comunes en distintos ámbitos de la vida cotidiana como las finanzas, la medicina y la educación.
Sin embargo, depender de la IA también conlleva riesgos, especialmente cuando se toman decisiones sin supervisión humana. El aprendizaje automático se basa en el reconocimiento de patrones dentro de los conjuntos de datos. Los problemas surgen cuando los datos disponibles reflejan un sesgo social.
El desarrollo de la IA y los procesos automatizados de toma de decisiones también presentan desafíos para la confianza y el bienestar del consumidor. Cuando los consumidores interactúan con un sistema de este tipo, se les debe informar adecuadamente sobre cómo funciona.
IA y la toma de decisiones
Que nos concedan un crédito, acceder a un empleo o recibir un determinado tratamiento médico son procesos que implican una decisión que puede verse influida de manera determinante por la inteligencia artificial y los llamados “sistemas de decisión algorítmica” o “ADS”, por sus siglas en inglés. La toma de decisiones automatizada puede, por lo tanto, perpetuar las divisiones sociales. Se ha descubierto, por ejemplo, que algunos algoritmos de contratación reproducen la brecha salarial discriminatoria con las mujeres que existe en la sociedad.
La posición del Parlamento
Los eurodiputados han instado a la Comisión Europea a que examine si es necesario adoptar medidas adicionales para proteger a los consumidores, en una resolución de la comisión parlamentaria de Mercado Interior, el 23 de enero.
La Comisión debería aclarar cómo garantizará:
- que los consumidores estén protegidos de las prácticas comerciales injustas y discriminatorias, así como de los riesgos que entrañan los servicios profesionales impulsados por la inteligencia artificial
- una mayor transparencia en estos procesos
- que sólo se utilicen conjuntos de datos de alta calidad e imparciales en ADS.
Próximos pasos
La resolución se votará durante la sesión plenaria de febrero. Después de eso, se transmitirá al Consejo de la UE (Estados miembros) y a la Comisión. La Comisión debería presentar sus planes para un enfoque europeo de la IA, el 19 de febrero de 2020.
Más información
Publicaciones relacionadas:
Uso policial de la inteligencia artificial: el PE, contra la vigilancia masiva
El Parlamento Europeo es la institución de la UE más confiable
Nueva convocatoria de prácticas en el Parlamento Europeo
Un robot de un proyecto financiado con fondos europeos habla por vez primera sobre inteligencia artificial
Programa Europa Digital: el Consejo acuerda su posición
Deja una respuesta