El 21 de abril se publicó la propuesta de Reglamento (UE) de la Comisión Europea sobre el marco jurídico aplicable a los sistemas de Inteligencia Artificial (IA).
Esta propuesta trata de regular los sistemas de inteligencia artificial, sobre todo, aquellos que implican un alto riesgo y que están dirigidos a interactuar con personas físicas.
Este Reglamento se aplica a todos las entidades dentro de la cadena de valor de la inteligencia artificial, a saber:
- Proveedores
- Importadores
- Distribuidores
Esta propuesta clasifica los sistemas de inteligencia artificial en función de cuatro niveles de riesgo, a saber:
Índice de contenidos
1. Sistemas de inteligencia artificial prohibidos
Estos sistemas de inteligencia artificial se encuentran delimitados, que están prohibidos por conllevar un riesgo intolerable para la vida y derechos fundamentales.
Se recoge una serie de sistemas de IA, listados de forma tasada y periódicamente revisados, cuyo uso estaría prohibido por implicar un riesgo inadmisible para la seguridad, la vida y los derechos fundamentales.
Sobre todo, serían aquellos capaces de manipular el comportamiento humano o identificar vulnerabilidades humanas.
2. Sistemas de IA de alto riesgo
Estos sistemas de inteligencia artificial implican un alto riesgo para los derechos y libertades de las personas y, por ello, están sujetos a obligaciones reforzadas que garanticen su uso legal, ético, robusto y seguro.
En esta categoría se incluiría sistemas como:
- componentes de seguridad aplicables a sectores regulados
- infraestructuras críticas (transporte aéreo, vigilancia de vehículos a motor, transporte ferroviario, etc.)
- sistemas de identificación y categorización biométrica… etc.
Entre las obligaciones a cumplir estarían
- Gobernanza de datos: es decir, que los datos empleados revistan ciertos estándares de calidad, supervisión examinación de sesgos, etc.
- Seguridad y supervisión humana: En última instancia siempre tendrá que haber una persona con capacidad de control para mitigar eventuales riesgos.
- Deberes de transparencia: es decir, que se describan las características del funcionamiento del sistema y la identidad y datos del proveedor.
- Inscripción en una base de datos a nivel europeo: La inscripción deberá llevarse a cabo con carácter previo a la puesta a disposición en el mercado.
- Superación del test de conformidad y obtención de la certificación correspondiente: Serán aprobadas especificaciones técnicas con las que habrá que cumplir.
3. Sistemas de IA de riesgo medio/bajo
Estos sistemas que no implican un alto riesgo para los derechos y libertades de las personas. En este tipo se incluyen tecnologías de menor sofisticación o capacidad de intrusión tales como:
- asistentes virtuales
- chatbots.
Están sometidos a un conjunto de normas de transparencia dirigidas a garantizar que su funcionamiento y características son conocidos por los usuarios, así como las implicaciones inherentes al empleo de estos sistemas.
4. Resto de sistemas de IA.
Este tipo de sistemas no estarían sujetos a ninguna obligación específica, por lo que las entidades de la cadena de valor de la inteligencia artificial pueden optar por adherirse a sistemas voluntarios de cumplimiento. Estos sistemas quedarían fuera del ámbito de aplicación del reglamento.
Sanciones.
De no cumplirse con las obligaciones previstas en el Reglamento, se contempla el siguiente régimen sancionador:
- Incumplimiento relativo a prácticas prohibidas y las obligaciones de gobernanza de datos de los sistemas de IA de alto riesgo: hasta 30 millones de euros o el 6% del volumen de negocio anual total a escala mundial del ejercicio financiero anterior;
- Incumplimiento de cualquier otro requisito u obligación: hasta 20 millones de euros o el 4% del volumen de negocio anual total a escala mundial del ejercicio financiero anterior;
- Suministro de información incorrecta, incompleta o engañosa a los organismos y/o autoridades nacionales: hasta 10 millones de euros o el 2% del volumen de negocio anual total a escala mundial del ejercicio financiero anterior.
El reglamento todavía se encuentra en fase de propuesta. Por tanto, una vez aprobado será directamente aplicable en la Unión Europea.
José Nogueira
Abogado
SISTEMIUS
