PyE
Ley AI: diferentes reglas para diferentes niveles de riesgo
La nueva normativa establece obligaciones para proveedores y usuarios en función del nivel de riesgo de la inteligencia artificial. Si bien muchos sistemas de IA presentan un riesgo mínimo, deben evaluarse.
Riesgo inaceptable
Los sistemas de IA de riesgo inaceptable son sistemas considerados una amenaza para las personas y serán prohibidos. Incluyen:
- Manipulación cognitiva conductual de personas o grupos vulnerables específicos: por ejemplo, juguetes activados por voz que fomentan comportamientos peligrosos en los niños
- Puntuación social: clasificar a las personas según su comportamiento, estatus socioeconómico o características personales
- Sistemas de identificación biométrica remota y en tiempo real, como el reconocimiento facial
Se pueden permitir algunas excepciones: por ejemplo, los sistemas de identificación biométrica remota «post» donde la identificación ocurre después de un retraso significativo se permitirán para enjuiciar delitos graves, pero solo después de la aprobación del tribunal.
Alto riesgo
Los sistemas de IA que afecten negativamente a la seguridad o a los derechos fundamentales se considerarán de alto riesgo y se dividirán en dos categorías:
1) Sistemas de IA que se utilizan en productos incluidos en la legislación de seguridad de los productos de la UE. Esto incluye juguetes, aviación, automóviles, dispositivos médicos y ascensores.
2) Sistemas de IA que se clasifiquen en ocho áreas específicas que deberán registrarse en una base de datos de la UE:
- Identificación biométrica y categorización de personas físicas
- Gestión y operación de infraestructuras críticas
- Educación y formación profesional
- Empleo, gestión de trabajadores y acceso al autoempleo
- Acceso y disfrute de los servicios privados esenciales y de los servicios y prestaciones públicos
- Cumplimiento de la ley
- Gestión de migraciones, asilo y control de fronteras
- Asistencia en la interpretación jurídica y aplicación de la ley.
Todos los sistemas de IA de alto riesgo se evaluarán antes de su puesta en el mercado y también a lo largo de su ciclo de vida.
IA generativa
La IA generativa, como ChatGPT, tendría que cumplir con los requisitos de transparencia:
- Revelar que el contenido fue generado por IA
- Diseñar el modelo para evitar que genere contenidos ilegales
- Publicación de resúmenes de datos protegidos por derechos de autor utilizados para capacitación
Riesgo limitado
Los sistemas de IA de riesgo limitado deben cumplir con requisitos mínimos de transparencia que permitan a los usuarios tomar decisiones informadas. Después de interactuar con las aplicaciones, el usuario puede decidir si desea continuar usándolas. Los usuarios deben saber cuándo interactúan con la IA. Esto incluye sistemas de IA que generan o manipulan contenido de imagen, audio o video, por ejemplo, deepfakes.
