Comprender y mitigar los prejuicios para aprovechar la IA de forma responsable

Publicado el pasado 27 de junio, «AI bias in law enforcement – a practical guide» proporciona una comprensión más profunda de la cuestión y explora métodos para prevenir, identificar y mitigar los riesgos en las distintas etapas de despliegue de la IA. El informe pretende proporcionar a las fuerzas del orden directrices claras sobre cómo desplegar las tecnologías de IA salvaguardando al mismo tiempo los derechos fundamentales.

La IA es una baza importante para que las fuerzas del orden refuercen sus capacidades de lucha contra las nuevas amenazas amplificadas por la digitalización mediante la integración de nuevas soluciones técnicas en su caja de herramientas contra la delincuencia. La IA puede ayudar a las fuerzas del orden a analizar grandes y complejos conjuntos de datos, automatizar tareas repetitivas y apoyar una toma de decisiones mejor fundamentada. Desplegada de forma responsable, ofrece un potencial considerable para aumentar las capacidades operativas y mejorar la seguridad pública.

Sin embargo, estos beneficios deben sopesarse cuidadosamente frente a los posibles riesgos que plantean los sesgos, que pueden aparecer en diversas fases del desarrollo y despliegue de los sistemas de IA. Estos sesgos deben controlarse para garantizar resultados justos, mantener la confianza pública y proteger los derechos fundamentales. Este informe proporciona a las autoridades policiales los conocimientos y la orientación necesarios para identificar, mitigar y prevenir el sesgo en los sistemas de IA. Este conocimiento puede desempeñar un papel crucial en el apoyo a la adopción segura y ética de la IA para garantizar que la tecnología se utiliza de manera eficaz, justa y transparente al servicio de la seguridad pública.

 

Recomendaciones clave para la aplicación de la ley

• Documentar: Mantener una documentación detallada de todas las fases del ciclo de vida de la IA. Esto garantiza la trazabilidad, la rendición de cuentas y ayuda a identificar posibles sesgos.
• Evaluar: Desarrollar un marco sociotécnico integral, con la participación de un grupo diverso de partes interesadas, para evaluar la precisión técnica y considerar exhaustivamente los contextos histórico, social y demográfico.
• Formar a todo el personal de las fuerzas y cuerpos de seguridad que trabaje con herramientas de IA para profundizar en su comprensión de las tecnologías de IA y hacer hincapié en el valor de la evaluación humana a la hora de revisar los resultados generados por la IA para evitar sesgos.
• Probar el rendimiento, el impacto y revisar los indicadores de sesgo potencial antes del despliegue.

• Realizar análisis caso por caso y formación para comprender los diferentes sesgos de la IA, su relación con las métricas de equidad y aplicar métodos de mitigación de sesgos.
• Evaluar de forma continua mediante la aplicación de pruebas periódicas y la reevaluación de los modelos de IA a lo largo de su ciclo de vida para detectar y mitigar los sesgos.
• Aplicar pruebas de imparcialidad y técnicas de mitigación de sesgos posteriores al procesamiento tanto a los resultados del sistema de IA como a las decisiones finales tomadas por los expertos humanos que se basan en esos resultados.
• Evaluar el contexto y los objetivos de cada aplicación de IA, alineando las medidas de imparcialidad con los objetivos operativos para garantizar resultados éticos y eficaces.
• Garantizar la coherencia contextual y estadística al aplicar modelos de IA.
• Estandarizar las métricas de imparcialidad y las estrategias de mitigación en toda la organización para garantizar prácticas coherentes en la evaluación de sesgos.

Acerca del Laboratorio de Innovación de Europol

El Laboratorio tiene por objeto identificar, promover y desarrollar soluciones innovadoras concretas en apoyo de la labor operativa de los Estados miembros de la UE. Esto ayuda a los investigadores y analistas a aprovechar al máximo las oportunidades que ofrecen las nuevas tecnologías para evitar la duplicación del trabajo, crear sinergias y poner en común los recursos.

Las actividades del Laboratorio están directamente relacionadas con las prioridades estratégicas establecidas en la Estrategia de Europol «Ofrecer seguridad mediante la cooperación», según la cual Europol debe estar a la vanguardia de la innovación y la investigación en el ámbito de la aplicación de la ley.

La labor del Laboratorio de Innovación de Europol se articula en torno a cuatro pilares: gestión de proyectos que respondan a las necesidades operativas de la comunidad policial de la UE; seguimiento de los avances tecnológicos de interés para la aplicación de la ley; mantenimiento de redes de expertos; y actuación como secretaría del Centro de Innovación para la Seguridad Interior de la UE.

Más información: Europol