Agente 02
Guardián de Datos Sensibles
🛡️ Anexo III — Sistemas de Alto Riesgo
Alto riesgo
Proxy que anonimiza, filtra y clasifica datos personales antes de que lleguen al LLM. Crítico en educación, RRHH, banca y salud. Detecta DNI, datos médicos, información protegida.
Caso real: Un agente de RRHH que procesa CVs sin este filtro puede discriminar por género, edad o etnia. La responsabilidad legal recae sobre el operador.
Agente 03
Registrador de Trazabilidad
📋 Art. 12 — Trazabilidad y Registro
Alto riesgo
Crea un log inmutable de todas las decisiones: input, razonamiento, output, acción. Si algo sale mal — y eventualmente sale mal — entrega el informe forense que exige cualquier regulador europeo.
Caso real: La AESIA puede solicitar logs de los últimos 12 meses en cualquier inspección. Sin trazabilidad, la multa es automática.
Agente 05
Analizador de Deriva
📊 Art. 9 — Gestión Continua de Riesgos
Riesgo medio
Compara el comportamiento actual con el baseline histórico. Si la tasa de error sube o los patrones cambian más de un umbral, alerta o bloquea. Las IAs cambian con el tiempo.
Caso real: Un agente de ventas que empieza a hacer promesas que no puede cumplir tras una actualización del LLM. Sin drift detection, esto pasa durante semanas sin que nadie lo note.
Agente 06
Monitor de Ciberseguridad
🔒 Art. 15 — Precisión, Robustez, Ciberseguridad
Riesgo medio
Detecta intentos de manipulación: prompt injection, jailbreaking, inputs adversariales. Monitoriza patrones de uso anómalos. El AI Act exige resiliencia frente a manipulación de terceros.
Caso real: Un agente de soporte manipulado para revelar información de otros usuarios o ejecutar acciones no autorizadas. Firewall semántico.
Agente 07
Generador de Explicabilidad
💡 Art. 13 — Transparencia para Usuarios
Todos los sistemas
Traduce las decisiones del agente a lenguaje comprensible. Cuando una IA toma una decisión que afecta a una persona, este agente genera la explicación requerida por ley.
Caso real: Un agente de scoring crediticio que rechaza una solicitud debe explicar por qué. "El modelo lo decidió" no es válido bajo el AI Act ni el GDPR.
Agente 08
Notificador de Incidentes Graves
🚨 Art. 62 — Notificación de Incidentes
Todos los sistemas
Detecta cuando un evento supera el umbral de "incidente grave" y activa el protocolo de notificación a las autoridades. Plazos: 15 días (graves) o 3 días (críticos). Sin automatización, casi imposible.
Caso real: Un agente médico que genera una recomendación errónea con daño al paciente. Reportable aunque no haya negligencia — la obligación es sobre el sistema.
Agente 09
Validador de Calidad de Datos
📦 Art. 10 — Datos y Gobernanza de Datos
Alto riesgo
Audita los datos de entrenamiento y validación: representatividad, ausencia de errores, sesgos por género/edad/etnia, completitud. Sin datos limpios, todos los demás agentes son inútiles. Es el cimiento del AI Act.
Caso real: Un sistema de scoring entrenado con datos sesgados produce resultados sesgados — y la responsabilidad recae sobre el operador, no sobre el proveedor del modelo. Sin Art. 10 documentado, no hay defensa posible.
Agente 10
Generador de Documentación Técnica
📄 Art. 11 + Anexo IV — Documentación Técnica
Alto riesgo
Genera y mantiene actualizada la documentación técnica completa según el Anexo IV: arquitectura, algoritmos, evaluación de riesgos, métricas de rendimiento, declaración de conformidad. Sin esto, no puedes vender el sistema legalmente en la UE.
Caso real: Una autoridad nacional puede solicitar la documentación técnica completa en cualquier inspección. Si no existe o está desactualizada, el sistema se retira del mercado y las multas son automáticas.