Bias in algorithms Artificial intelligence and discrimination

Título: Bias in algorithms Artificial intelligence and discrimination
Resumen:La inteligencia artificial está en todas partes y afecta a todo el mundo: desde decidir qué contenidos ve la gente en sus redes sociales hasta determinar quién recibirá prestaciones estatales. Las tecnologías de IA suelen basarse en algoritmos que hacen predicciones para apoyar o incluso automatizar totalmente la toma de decisiones. Este informe examina el uso de la inteligencia artificial en la vigilancia policial predictiva y la detección de expresiones ofensivas. Demuestra cómo aparece el sesgo en los algoritmos, puede amplificarse con el tiempo y afectar a la vida de las personas, pudiendo conducir a la discriminación. Corrobora la necesidad de realizar evaluaciones más exhaustivas y minuciosas de los algoritmos en términos de sesgo antes de que dichos algoritmos se utilicen para la toma de decisiones que puedan repercutir en las personas.

Summary:Artificial intelligence is everywhere and affects everyone – from deciding what content people see on their social media feeds to determining who will receive state benefits. AI technologies are typically based on algorithms that make predictions to support or even fully automate decision-making. This report looks at the use of artificial intelligence in predictive policing and offensive speech detection. It demonstrates how bias in algorithms appears, can amplify over time and affect people’s lives, potentially leading to discrimination. It corroborates the need for more comprehensive and thorough assessments of algorithms in terms of bias before such algorithms are used for decision-making that can have an impact on people.

Fecha publicación: 15-12-15
Autor: Agencia de los Derechos Fundamentales de la Unión Europea (Órgano o agencia de la UE)
ISBN / ISSN: 978-92-9461-935-8 /-
Link: https://bit.ly/3Pv8NIK
Palabras clave: Tema: automatización , derechos fundamentales , discurso de odio , impacto de la tecnología de la información , impacto social , informe , inteligencia artificial , toma de decisiones , tratamiento de datos
Keywords: Subject: automation , fundamental rights , hate speech , hate speech , impact of information technology , social impact , report , artificial intelligence , decision-making , data processing , social impact