¿Qué hace que un sistema sea de "alto riesgo"?
El Anexo III de la Ley de IA de la UE define las categorías específicas de sistemas de IA considerados de alto riesgo. Esta clasificación es crítica porque determina el nivel de obligaciones que tu empresa debe cumplir.
Un sistema es de alto riesgo si cumple dos condiciones:
- Se usa en una de las áreas enumeradas en el Anexo III
- Presenta un riesgo significativo de daño a la salud, seguridad o derechos fundamentales
Las 8 categorías del Anexo III
1. Biometría
- Sistemas de identificación biométrica remota
- Categorización de personas por atributos sensibles
- Sistemas de reconocimiento de emociones en el lugar de trabajo o educación
2. Infraestructura crítica
- Componentes de seguridad en gestión de tráfico vial, agua, gas, calefacción y electricidad
- IA que gestiona redes digitales críticas
3. Educación y formación profesional
- Sistemas que determinan acceso a instituciones educativas
- Evaluación de estudiantes y detección de comportamiento prohibido en exámenes
- Sistemas que evalúan el nivel educativo apropiado
4. Empleo y gestión de trabajadores
- Contratación: filtrado de CVs, clasificación de candidatos, análisis de entrevistas
- Decisiones de promoción o despido basadas en IA
- Asignación de tareas y monitoreo de rendimiento
- Evaluación de relaciones contractuales
5. Acceso a servicios públicos y privados esenciales
- Evaluación de elegibilidad para prestaciones sociales
- Puntuación crediticia (credit scoring)
- Evaluación de riesgo en seguros de vida y salud
- Clasificación de llamadas de emergencia
6. Aplicación de la ley
- Evaluación individual de riesgo de reincidencia
- Polígrafos y herramientas similares
- Evaluación de fiabilidad de pruebas
- Perfilado de personas en investigaciones
7. Migración, asilo y control de fronteras
- Polígrafos y herramientas de evaluación de riesgos
- Asistencia en examen de solicitudes de asilo o visado
- Sistemas de vigilancia y detección de personas en fronteras
8. Administración de justicia y procesos democráticos
- IA que asiste en investigación de hechos y aplicación de la ley
- Sistemas que influyen en resultados electorales
Obligaciones para sistemas de alto riesgo
Si tu sistema cae en una categoría de alto riesgo, debes implementar:
Sistema de gestión de riesgos (Art. 9)
- Identificación y análisis de riesgos conocidos y previsibles
- Estimación y evaluación de riesgos
- Medidas de gestión de riesgos apropiadas
- Pruebas para identificar medidas más apropiadas
Gobernanza de datos (Art. 10)
- Datos de entrenamiento, validación y prueba sujetos a prácticas adecuadas
- Evaluación de relevancia, representatividad, completitud y sesgo
- Documentación del origen, propósito y alcance de los datasets
Documentación técnica (Art. 11)
- Descripción general del sistema
- Elementos detallados del diseño y proceso de desarrollo
- Información sobre monitoreo, funcionamiento y control
- Evaluación detallada de riesgos
Registro de eventos (Art. 12)
- Capacidades de logging automático durante el funcionamiento
- Trazabilidad del proceso de toma de decisiones
- Período mínimo de retención apropiado
Transparencia (Art. 13)
- Instrucciones de uso claras para los implementadores
- Información sobre capacidades y limitaciones
- Nivel esperado de precisión, robustez y ciberseguridad
Supervisión humana (Art. 14)
- Diseño que permita la supervisión efectiva por humanos
- Capacidad de interpretar correctamente la salida del sistema
- Posibilidad de decidir no usar o anular las decisiones del sistema
Precisión, robustez y ciberseguridad (Art. 15)
- Niveles apropiados de precisión declarados
- Resiliencia ante errores, fallos o intentos de manipulación
- Medidas de ciberseguridad adecuadas
Checklist rápido: ¿Es mi sistema de alto riesgo?
- ✅ ¿Tu IA toma o asiste en decisiones sobre personas?
- ✅ ¿Se usa en alguna de las 8 categorías del Anexo III?
- ✅ ¿Puede afectar a la salud, seguridad o derechos de personas?
- ✅ ¿Opera en la UE o sus resultados se usan en la UE?
Si respondiste "sí" a todas, tu sistema probablemente es de alto riesgo.
Cómo GuardianAI te ayuda
GuardianAI analiza automáticamente tu documentación técnica y contratos para:
- Clasificar tu sistema según el Anexo III con explicaciones artículo por artículo
- Identificar brechas entre tu documentación actual y los requisitos obligatorios
- Generar informes de cumplimiento con las acciones específicas necesarias
- Monitorear cambios regulatorios que puedan afectar tu clasificación
No esperes a que las auditorías comiencen. Evalúa tu exposición regulatoria hoy.