El Parlamento Europeo da el primer paso para regular la inteligencia artificial

El Parlamento Europeo quiere garantizar que los sistemas de IA estén supervisados por personas, sean seguros, transparentes, 'trazables' (que se pueda identificar el origen y las diferentes etapas del proceso), no discriminatorios y respetuosos con el medio ambiente. También pretende contar con una definición uniforme de IA diseñada para ser tecnológicamente neutra, de manera que los consumidores puedan elegir libremente qué tecnología se adapta mejor a sus necesidades, poniendo coto así a los sistemas de recomendación.

En este informe pionero, los eurodiputados han identificado un notable número de riesgos en la inteligencia artificial en áreas como la salud, la seguridad, los derechos fundamentales o el medio ambiente y buscan prohibir usos «intrusivos», como la identificación biométrica remota en tiempo real en espacios de acceso público y a posteriori, con la única excepción de las fuerzas del orden para la persecución de delitos graves y sólo previa autorización judicial; la categorización biométrica que utilice características sensibles (por ejemplo, sexo, raza, etnia, estatus de ciudadanía, religión, orientación política); los sistemas policiales predictivos (basados en perfiles, localización o comportamientos delictivos anteriores); los sistemas de reconocimiento de emociones en las fuerzas del orden, la gestión de fronteras, el lugar de trabajo y las instituciones educativas; y la extracción indiscriminada de datos biométricos de redes sociales o grabaciones de circuitos cerrados de televisión (CCTV) para crear bases de datos de reconocimiento facial (violación de los derechos humanos y del derecho a la intimidad). Además, los parlamentarios también consideran de alto riesgo los sistemas de IA que influyan en los votantes en las campañas políticas.

Noticia Relacionada

Google deja a la UE fuera de su nueva inteligencia artificial

Álvaro Soto

En concreto, la legislación europea se inclina por que ChatGPT y aplicaciones similares cumplan requisitos adicionales de transparencia, como revelar qué contenidos han sido generados por inteligencia artificial, diseñar el modelo para evitar que surjan contenidos ilegales y publicar resúmenes de los datos protegidos por derechos de autor utilizados para su entrenamiento. Los legisladores también quieren facilitar el derecho de los ciudadanos a presentar quejas sobre los sistemas de IA y a recibir explicaciones sobre las decisiones basadas en sistemas de inteligencia artificial de alto riesgo.

«Estamos a punto de poner en marcha una legislación histórica que debe resistir el desafío del tiempo. Es crucial para fomentar la confianza de los ciudadanos en el desarrollo de la inteligencia artificial, para establecer el camino europeo para hacer frente a los extraordinarios cambios que ya se están produciendo, así como para dirigir el debate político sobre la IA a escala mundial», señaló uno de los ponentes del texto, el eurodiputado italiano Brando Benifei, del Partido Democrático (centro izquierda).