Inteligencia Artificial: amenazas y oportunidades

La inteligencia artificial (IA) afecta cada vez más a nuestras vidas. Conozca las oportunidades y amenazas para la seguridad, la democracia, los negocios y los empleos.

El crecimiento y la riqueza de Europa están estrechamente relacionados con la forma en la que utilizará los datos y las tecnologías vinculadas a ellos. La IA puede marcar una gran diferencia en nuestras vidas, para bien o para mal, y el Parlamento Europeo ha establecido un comité para examinar el impacto de esta tecnología. A continuación se presentan algunas oportunidades y amenazas clave relacionadas con las futuras aplicaciones de la IA.

Ventajas de la IA

Los países de la UE cuentan ya con una sólida industria digital así como numerosas aplicaciones entre empresas. Con una infraestructura digital de alta calidad y un marco normativo que proteja la privacidad y la libertad de expresión, la UE podría convertirse en un líder mundial en la economía de los datos y sus aplicaciones.

Los beneficios de la IA para las personas

La IA podría ayudar a las personas aportando una mejor atención sanitaria, coches y otros sistemas de transporte más seguros, productos y servicios adaptados, más baratos y más duraderos. También puede facilitar el acceso a la información, la educación y la formación. Las necesidades de aprendizaje a distancia se hicieron más importantes a causa de la pandemia de Covid-19. La IA también puede hacer que el lugar de trabajo sea más seguro, ya que los robots pueden utilizarse para realizar tareas peligrosas, y abrir nuevos puestos de trabajo a medida que las industrias impulsadas por la IA crecen y cambian.

Oportunidades de la inteligencia artificial para las empresas

Para las empresas, la IA puede permitir el desarrollo de una nueva generación de productos y servicios, incluso en sectores en los que las empresas europeas ya tienen una posición fuerte: economía verde y circular, maquinaria, agricultura, sanidad, moda, turismo. Puede impulsar las ventas, mejorar el mantenimiento de las máquinas, aumentar el rendimiento y la calidad de la producción, mejorar el servicio al cliente y ahorrar energía.

Oportunidades de la IA en los servicios públicos

La IA utilizada en los servicios públicos puede reducir costes y ofrecer nuevas posibilidades en el transporte público, la educación, la energía y la gestión de los residuos, y también podría mejorar la durabilidad de los productos. De este modo, la IA podría contribuir a alcanzar los objetivos del Pacto Verde de la UE.

Fortalecer la democracia

La democracia podría fortalecerse utilizando el escrutinio basado en datos, evitando la desinformación y los ataques informáticos y asegurando el acceso a la información de calidad. La inteligencia artificial también podría apoyar la diversidad y la transparencia, por ejemplo, mitigando la posibilidad de que haya prejuicios en las decisiones de contratación y utilizando en su lugar datos analíticos.

IA, seguridad y protección

Se prevé que la inteligencia artificial se utilice más en la prevención de delitos y en el sistema de justicia penal, ya que los conjuntos de datos masivos podrían procesarse más rápidamente, los riesgos de fuga de los prisioneros podrían evaluarse con mayor precisión, y se podrían predecir y prevenir los delitos o incluso los atentados terroristas. Las plataformas online ya la utilizan para detectar y reaccionar ante comportamientos ilegales e inapropiados en la red.

En asuntos militares, la IA puede utilizarse para estrategias de defensa y ataque en la piratería informática y la suplantación de identidad (phishing) o para atacar sistemas clave en la guerra cibernética, mientras que la principal ventaja de los sistemas de armas autónomas es la posibilidad de participar en conflictos armados con un riesgo reducido de daños físicos.

Amenazas y desafíos de la IA

La dependencia cada vez mayor de los sistemas de IA también plantea riesgos potenciales.

Uso insuficiente y excesivo de la IA

La infrautilización de la IA se considera una amenaza importante: la pérdida de oportunidades para la UE podría significar una ejecución deficiente de los principales programas, como el Acuerdo Verde de la UE, la pérdida de la ventaja competitiva con respecto a otras partes del mundo, el estancamiento económico y la disminución de oportunidades para las personas. La infrautilización podría derivarse de la desconfianza del público y de las empresas en la IA, de una infraestructura deficiente, de la falta de iniciativa, de las escasas inversiones o, dado que el aprendizaje automático de la IA depende de los datos, de la fragmentación de los mercados digitales.

La sobreutilización también puede ser problemática: invertir en aplicaciones de la IA que no resulten útiles o aplicar la IA a tareas para las que no es adecuada, por ejemplo, utilizarla para explicar cuestiones sociales complejas.

Responsabilidad: ¿quién es responsable de los daños causados por la IA?

Un reto importante es determinar quién es responsable de los daños causados por un dispositivo o servicio operado por la IA: en un accidente en el que esté involucrado un automóvil que se conduce por sí mismo. ¿Debería el daño ser cubierto por el propietario, el fabricante del coche o el programador?

Si el productor está absolutamente libre de responsabilidad, puede que no haya ningún incentivo para proporcionar un buen producto o servicio y podría dañar la confianza de la gente hacia la tecnología; pero las regulaciones también podrían ser demasiado estrictas y sofocar la innovación.

Amenazas de la IA a los derechos fundamentales y la democracia

Los resultados que produce la IA dependen de cómo se diseña y qué datos utiliza. Tanto el diseño como los datos pueden estar sesgados intencionadamente o no. Por ejemplo, algunos aspectos importantes de una cuestión pueden no estar programados en el algoritmo o pueden estar programados para reflejar y replicar sesgos estructurales. Por otra parte, el uso de números para representar la compleja realidad social podría hacer que la IA pareciera objetiva y precisa cuando no lo es. Esto se denomina a veces «mathwashing».

Si no se hace correctamente, la IA podría conducir a la toma de decisiones influenciadas por los datos sobre el origen étnico, el sexo, la edad al contratar o despedir, al ofrecer préstamos o incluso en los procedimientos penales.

La IA podría afectar gravemente al derecho a la intimidad y a la protección de datos. Puede utilizarse, por ejemplo, en equipos de reconocimiento facial o para el seguimiento y la elaboración de perfiles de personas online. Además, la inteligencia artificial permite combinar los datos que una persona ha facilitado con otros nuevos, lo que puede dar lugar a resultados que la persona no esperaría.

También puede representar una amenaza para la democracia; ya se ha culpado a la inteligencia artificial de crear cámaras de eco online basadas en el comportamiento online previo de una persona, mostrando únicamente el contenido que una persona desea, en lugar de crear un entorno para un debate público pluralista, igualmente accesible e inclusivo. Incluso se puede utilizar para crear vídeo, audio e imágenes falsas extremadamente realistas, conocidas como «deepfakes», que pueden presentar riesgos financieros, dañar la reputación y poner en tela de juicio la toma de decisiones. Todo esto podría conducir a la separación y polarización en la esfera pública y manipular las elecciones.

La IA también podría desempeñar un papel en el daño a la libertad de reunión y de protesta, ya que podría rastrear y perfilar a los individuos vinculados a ciertas creencias o acciones.

El impacto de la IA en los empleos

Se espera que el uso de la IA en el lugar de trabajo resulte en la eliminación de un gran número de puestos de trabajo. Aunque también se espera que la IA cree y haga mejores trabajos, la educación y la formación tendrán un papel crucial en la prevención del desempleo a largo plazo y en asegurar una mano de obra cualificada.

Competencia

La acumulación de información también podría dar lugar a una distorsión de la competencia, ya que las empresas con más información podrían obtener una ventaja y eliminar eficazmente a los competidores.

Riesgos de seguridad

Las aplicaciones de IA que están en contacto físico con los humanos o integradas en el cuerpo humano podrían plantear riesgos de seguridad, ya que pueden estar mal diseñadas, mal utilizadas o hackeadas. El uso mal regulado de la IA en las armas podría llevar a la pérdida del control humano sobre las armas peligrosas.

Retos en materia de transparencia

Los desequilibrios en el acceso a la información podrían ser explotados. Por ejemplo, basándose en el comportamiento online de una persona u otros datos y sin su conocimiento, un vendedor online puede utilizar la IA para predecir si alguien está dispuesto a comprar, o una campaña política puede adaptar su mensaje. Otra cuestión de transparencia es que a veces puede no estar claro para las personas si están interactuando con la IA o con una persona.