AIXA CORPORE en la Televisión Canaria: la aprobación del Reglamento Europeo sobre IA
El pasado 1 de agosto de 2024 la Directora de Consultoría de AIXA CORPORE, Noemí Rey participó en una de las noticias del Telenoticias 2 de la Televisión de Canarias, sobre la aprobación del Reglamento Europeo sobre IA.
¿Conoces los detalles sobre la aprobación del Reglamento Europeo sobre IA? Te contamos las cuestiones esenciales.
¿Por qué es importante esta norma?
El Reglamento Europeo sobre IA es importante en tanto en cuanto su objetivo es proteger los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad medioambiental frente a la IA que entraña un alto riesgo, impulsando al mismo tiempo la innovación y erigiendo a Europa en líder del sector. El Reglamento fija una serie de obligaciones para la IA en función de sus riesgos potenciales y su nivel de impacto.
Clasificación por categoría del riesgo
Con la aprobación del Reglamento Europeo sobre IA, se establece una clasificación de los aplicativos y herramientas en función de la categoría del riesgo que éstas exponen.
- Riesgo inaceptable. Este tipo de aplicaciones y sistemas que supongan un riesgo inaceptable, quedan prohibidos. Por ejemplo, los sistemas de puntuación social gestionados por el gobierno, como los que se utilizan en China.
- Alto riesgo. Están sujetas a requisitos legales específicos. Por ejemplo, una herramienta de escaneo de CV que clasifica a los solicitantes de empleo.
- Por último, las aplicaciones que no están explícitamente prohibidas o catalogadas como de alto riesgo quedan en gran medida sin regular.
Exenciones de las Fuerzas y Cuerpos de Seguridad del Estado
El uso de determinadas aplicaciones y herramientas, como los de identificación biométrica que usan las fuerzas de seguridad, atendiendo a la norma general, estarían prohibidas. No obstante, de forma excepcional y bajo una serie de salvaguardias estrictas se podrán utilizar en tiempo real; en situaciones muy concretas y bien definidas. Por ejemplo, su uso se limita a un período y lugar específicos y cuenta con una autorización judicial o administrativa previa. Otro ejemplo, es la configuración de la búsqueda selectiva de una persona desaparecida o la prevención de un atentado terrorista. Recurrir a estos sistemas a posteriori se considera un uso de alto riesgo, que requiere autorización judicial al estar vinculado a un delito.
