PyE
El miércoles, el Parlamento Europeo adoptó su posición de negociación sobre la Ley de Inteligencia Artificial (IA) con 499 votos a favor, 28 en contra y 93 abstenciones antes de las conversaciones con los estados miembros de la UE sobre la forma final de la ley. Las reglas garantizarían que la IA desarrollada y utilizada en Europa esté totalmente en línea con los derechos y valores de la UE, incluida la supervisión humana, la seguridad, la privacidad, la transparencia, la no discriminación y el bienestar social y ambiental.
Prácticas prohibidas de IA
Las reglas siguen un enfoque basado en el riesgo y establecen obligaciones para los proveedores y quienes implementan sistemas de IA según el nivel de riesgo que la IA pueda generar. Por lo tanto, se prohibirían los sistemas de IA con un nivel de riesgo inaceptable para la seguridad de las personas, como los utilizados para la puntuación social (clasificación de personas en función de su comportamiento social o características personales). Los eurodiputados ampliaron la lista para incluir prohibiciones sobre usos intrusivos y discriminatorios de la IA, como:
- Sistemas de identificación biométrica remota “en tiempo real” en espacios de acceso público;
- Sistemas de identificación biométrica a distancia “post”, con la única excepción de las fuerzas del orden para la persecución de delitos graves y sólo previa autorización judicial;
- sistemas de categorización biométrica que utilizan características sensibles (p. ej., género, raza, etnia, estado de ciudadanía, religión, orientación política);
- sistemas policiales predictivos (basados en perfiles, ubicación o comportamiento delictivo pasado);
- sistemas de reconocimiento de emociones en las fuerzas del orden, la gestión de fronteras, el lugar de trabajo y las instituciones educativas; y
- extracción no dirigida de imágenes faciales de Internet o secuencias de circuito cerrado de televisión para crear bases de datos de reconocimiento facial (violando los derechos humanos y el derecho a la privacidad).
IA de alto riesgo
Los eurodiputados aseguraron que la clasificación de las aplicaciones de alto riesgo ahora incluirá sistemas de IA que supongan un daño significativo para la salud, la seguridad, los derechos fundamentales o el medio ambiente de las personas. Los sistemas de IA utilizados para influir en los votantes y el resultado de las elecciones y en sistemas de recomendación utilizados por las plataformas de redes sociales (con más de 45 millones de usuarios) se agregaron a la lista de alto riesgo.
Obligaciones para IA de propósito general
Los proveedores de modelos básicos, un desarrollo nuevo y de rápida evolución en el campo de la IA, tendrían que evaluar y mitigar los posibles riesgos (para la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia y el estado de derecho) y registrar sus modelos en el Base de datos de la UE antes de su lanzamiento al mercado de la UE. Los sistemas de IA generativa basados en tales modelos, como ChatGPT, tendrían que cumplir con los requisitos de transparencia (revelar que el contenido fue generado por IA, y también ayudar a distinguir las llamadas imágenes falsas profundas de las reales) y garantizar salvaguardas contra la generación de contenido ilegal. Los resúmenes detallados de los datos protegidos por derechos de autor utilizados para su capacitación también deberían ponerse a disposición del público.
Apoyar la innovación y proteger los derechos de los ciudadanos
Para impulsar la innovación en IA y apoyar a las pymes, los eurodiputados agregaron exenciones para actividades de investigación y componentes de IA proporcionados bajo licencias de código abierto. La nueva ley promueve los llamados sandboxes regulatorios, o entornos de la vida real, establecidos por las autoridades públicas para probar la IA antes de implementarla.
Finalmente, los eurodiputados quieren impulsar el derecho de los ciudadanos a presentar quejas sobre los sistemas de IA y recibir explicaciones de las decisiones basadas en sistemas de IA de alto riesgo que impactan significativamente en sus derechos fundamentales. Los eurodiputados también reformaron el papel de la Oficina de IA de la UE, que se encargaría de monitorear cómo se implementa el reglamento de IA.
Citas
Después de la votación, coponente Brando Benifei (S&D, Italia) dijo: “Hoy todos los ojos están puestos en nosotros. Mientras las grandes empresas tecnológicas hacen sonar la alarma sobre sus propias creaciones, Europa se ha adelantado y ha propuesto una respuesta concreta a los riesgos que la IA está empezando a plantear. Queremos que se aproveche el potencial positivo de AI para la creatividad y la productividad, pero también lucharemos para proteger nuestra posición y contrarrestar los peligros para nuestras democracias y libertades durante las negociaciones con el Consejo”.
co-ponente Dragos Tudorache (Renew, Rumanía) dijo: “La Ley de IA marcará la pauta en todo el mundo en el desarrollo y la gobernanza de la inteligencia artificial, asegurando que esta tecnología, establecida para transformar radicalmente nuestras sociedades a través de los enormes beneficios que puede ofrecer, evolucione y se utilice de acuerdo con los valores europeos de la democracia, los derechos fundamentales y el estado de derecho”.
Próximos pasos
Las negociaciones con el Consejo sobre la forma final de la ley comenzarán más tarde hoy.
conferencia de prensa
Los coponentes Brando Benifei (S&D, Italia) y Dragos Tudorache (Renew, Rumanía) celebrarán una conferencia de prensa junto con la presidenta del PE, Roberta Metsola, hoy, 14 de junio a las 13.30 horas, para explicar los resultados de la votación de hoy y los próximos pasos.
Al promover esta legislación, los eurodiputados responden a las demandas de los ciudadanos propuestas de la Conferencia sobre el Futuro de Europa sobre la garantía de la supervisión humana de los procesos relacionados con la IA (propuesta 35(3)); sobre el aprovechamiento pleno del potencial de una IA fiable (35(8)); y sobre el uso de IA y tecnologías de traducción para superar las barreras del idioma (37(3)).
