Notre regard sur ... • Secteurs & marchés
Implicaciones para la empresa del Reglamento Europeo de IA
El parlamento europeo aprobó el pasado 3 de marzo el Reglamento Europeo de Inteligencia artificial (AIA, Artificial Intelligence Act) que tiene como objeto regular los usos de la Inteligencia Artificial para limitar los riesgos que de ellos se derivan.
Su ámbito de aplicación se extiende a:
- Proveedores de sistemas de IA que se pongan en servicio o comercialicen dentro de la UE o cuya salida se utilice en la UE, independientemente de su origen;
- y a usuarios de estos, considerando usuarios a quienes explotan esos sistemas (empresas, autónomos o administraciones públicas), y no a los afectados (usuarios finales).
El Reglamento establece una jerarquía de riesgos en función del uso de la IA y sobre las categorías detectadas, establece una serie de obligaciones.
- Riesgo inaceptable: Esta categoría incluye aquellos sistemas de IA que representan una amenaza directa a la seguridad pública, los derechos fundamentales o la privacidad. Su uso está estrictamente prohibido, salvo en situaciones muy excepcionales.
- Alto Riesgo: Aquí se clasifican los sistemas de IA que podrían tener un impacto considerable en los derechos fundamentales de los individuos por su relación con servicios y procesos que afectan a la salud, la seguridad, el empleo, etc. Su uso está permitido siempre que se cumpla con ciertas salvaguardas adicionales (supervisión y certificación por entidades homologadas) se monitorice su funcionamiento. Incluye sistemas biométricos remotos, componentes de seguridad de infraestructuras críticas, sistemas para educación y evaluación de alumnos, sistemas para selección de personal, solvencia de crédito y seguros, así como IA s para el sector público.
- Sistemas generales: Finalmente, los sistemas que no se ajustan a las categorías anteriores se consideran generales y tienen unas obligaciones menores.
Las empresas que utilicen o quieran integrar Sistemas de IA en sus operaciones internas o externas, deberán:
- Llevar a cabo un Análisis de Riesgo y Evaluación de Impacto
- Configurar un Registro de proyectos y sistemas IA
- Elaborar una Guía interna de usos y accesos a Sistemas de IA protocolizándolos y formando a sus empleados.
- Adaptar sus sistemas de Compliance interno y Protección de Datos de carácter personal.
- Verificar que sus proveedores de IA cumplan con el reglamento en el momento de su contratación.
La Ley de IA forma parte de un paquete más amplio de medidas políticas para apoyar el desarrollo de una IA fiable. En conjunto, estas medidas garantizarán la seguridad y los derechos fundamentales de las personas y las empresas y al mismo tiempo también reforzarán la adopción, la inversión y la innovación en IA en toda la UE.
Artículo en colaboración con its consulting
