Módulo 03
Ingeniería de requisitos y AI-FMEA
- Fase del proceso:
- Definir
- Nivel de competencia:
- Profesional
- Tiempo estimado:
- 10-12 horas
- Requisitos previos:
- Formulación del problema y concepto de operaciones
Convierte lo que esperan las partes interesadas en requisitos verificables (funcionales, de rendimiento, de interfaz, de seguridad, de costo y operativos) y analiza los modos de fallo antes de construir nada.
Al terminar este módulo sabrás
- Escribir requisitos necesarios, claros, viables, sin ambigüedad y verificables.
- Construir una trazabilidad bidireccional, de la necesidad de la parte interesada al requisito y del requisito a su método de verificación.
- Hacer un análisis de modos de fallo y efectos para IA (AI-FMEA), usando la gravedad, la ocurrencia y la detección como una técnica más para priorizar riesgos.
- Diseñar mitigaciones fuera del modelo cuando lo que corresponde es un control determinista.
Qué vas a producir: Especificación de requisitos del sistema, matriz de trazabilidad y AI-FMEA: Los requisitos con su justificación y su verificación, los enlaces de trazabilidad y el AI-FMEA con el RPN y las mitigaciones. Se guarda en tu Cuaderno de Ingeniería como evidencia de lo que sabes hacer.
Lecciones
3.1 Escribir requisitos verificables
Frases con "deberá", una sola obligación por frase, umbrales medibles, justificación, origen y método de verificación.
Punto de práctica: Convierte afirmaciones vagas de calidad como "rápido", "preciso" y "seguro" en requisitos verificables, cada uno con su justificación.
3.2 Tipos de requisitos y trazabilidad
Las categorías de requisitos y una matriz de trazabilidad que va de la necesidad al requisito, y del requisito a la verificación.
Punto de práctica: Construye una matriz de requisitos frente a pruebas y localiza los requisitos que nadie verifica.
3.3 Análisis de modos de fallo y efectos para IA
El FMEA como método estructurado para descubrir los riesgos de la IA; el RPN como ayuda para priorizar.
Punto de práctica: Puntúa un conjunto preparado de fallos y compara cómo cambian la ocurrencia y la detección con cada mitigación, sin fingir que los números son probabilidades exactas.
3.4 Arquitectura de mitigación determinista
Nunca dejes que un modelo probabilístico sea el único control de una restricción determinista de negocio, de seguridad o de integridad.
Punto de práctica: Para cada modo de fallo de alto riesgo, elige un control (en el prompt, en el modelo, en la aplicación, en la infraestructura o humano) y justifica la elección.
Laboratorio: Banco de trabajo de requisitos y AI-FMEA
Escribes requisitos en YAML, calculas valores de RPN y ejecutas un linter que comprueba que los IDs sean únicos, que cada requisito tenga sus metadatos de verificabilidad y que la trazabilidad esté completa.
Se ejecuta en Google Colab: sin instalar nada y sin API key.
Ver el notebook en Colab (se abre en una pestaña nueva)Reto de diseño
Analiza un asistente que lleva el proceso de la factura al pago y en el que se han sembrado modos de fallo a propósito. Entrega 12 requisitos o más y un AI-FMEA que cubra al menos 10 modos de fallo, entre ellos la inyección indirecta de prompts y la agencia excesiva.
Artefacto: Especificación de requisitos del sistema, matriz de trazabilidad y AI-FMEA
Control de competencia
El artefacto PASA; revisión por pares o de diseño; cuestionario >= 80%.
- REQ-01 Cada requisito tiene ID, enunciado, justificación y método de verificación
- REQ-02 No hay IDs duplicados
- REQ-03 Hay al menos un requisito en cada categoría obligatoria
- REQ-04 La aritmética del RPN es correcta
- REQ-05 Cada fallo de gravedad alta tiene al menos una mitigación y un enlace a su verificación (crítico)
- REQ-06 Al menos 12 requisitos y 10 modos de fallo, incluidos la inyección indirecta de prompts y la agencia excesiva
Referencias
- [R2]NASA Systems Engineering Handbook - System Design Processes (se abre en una pestaña nueva): NASA; revisado el 2026-09-28
- [R3]NASA Systems Engineering Handbook - Product Verification (se abre en una pestaña nueva): NASA; revisado el 2026-09-28
- [R12]OWASP GenAI - LLM Top 10 2026 (se abre en una pestaña nueva): OWASP; revisado el 2026-09-28
- [R18]Enterprise Prompt and Context Engineering: An Engineering Design Process Curriculum for Foundation Model Systems (2026 Edition): User research (source document supplied to this project); revisado el 2026-09-28