Vista previa de la plantilla (extracto)
Desplácese para ver todas las columnas
Sección 2: Uso previsto
2.1 Casos de uso principales
| Caso de uso | Descripción | Tipo de usuario |
|---|---|---|
| [Caso de uso principal 1] | [Descripción detallada] | [Quién lo usa] |
2.3 Usos fuera de alcance
| Caso de uso | Motivo no admitido |
|---|---|
| [Caso de uso prohibido 1] | [Por qué no es adecuado: limitaciones de datos, preocupaciones éticas, etc.] |
Sección 7: Limitaciones
7.2 Modos de fallo conocidos
| Modo de fallo | Condiciones de activación | Detección | Respuesta |
|---|---|---|---|
| [Modo de fallo 1] | [Qué causa este fallo] | [Cómo detectarlo] | [Qué hacer] |
Ver el ejemplo trabajado
Usos fuera de alcance:
| Caso de uso | Motivo no admitido |
|---|---|
| Toma de decisiones exclusiva para el crédito | Modelo diseñado únicamente como soporte de decisiones; requiere revisión humana |
| Uso en poblaciones que no están en los datos de entrenamiento | Rendimiento no validado; puede producir resultados poco fiables |
| Aplicaciones críticas para la seguridad en tiempo real | Requisitos de latencia no validados para este caso de uso |
Antes de comenzar
Para equipos de operaciones de cumplimiento, riesgo, productos y ML que ponen en funcionamiento procesos de agentes en entornos regulados.
Las tarjetas de modelo son documentación estandarizada para los modelos AI. Propuestos originalmente por investigadores de Google en 2019,, se han convertido en una de las mejores prácticas de la industria para comunicar qué hace un modelo, cómo se desempeña y cuáles son sus limitaciones.
Para las organizaciones sujetas a EU AI Act, las tarjetas modelo ayudan a satisfacer los requisitos de transparencia establecidos en Artículo 13 y contribuyen a la documentación técnica requerida por Anexo IV.
Cuándo utilizar este recurso
- Está implementando modelos ML y necesita documentación estandarizada para los revisores técnicos.
- Debe cumplir con los requisitos de transparencia de EU AI Act (Artículo 13) o contribuir a la documentación de Anexo IV.
- Quiere comunicar las capacidades, limitaciones y consideraciones éticas del modelo a los implementadores y usuarios.
Información para recopilar
- Detalles de la arquitectura del modelo, la versión y la procedencia del entrenamiento.
- Casos de uso previstos y usos explícitos fuera de alcance.
- Documentación de datos de capacitación y evaluación con problemas conocidos.
- Métricas de desempeño (general + desagregadas) con intervalos de confianza.
- Resultados del análisis de equidad y consideraciones éticas.
- Limitaciones conocidas, modos de falla y condiciones de contorno.
Revisar la lista de verificación
Utilice estas comprobaciones en la revisión con el propietario de su sistema. Confirme los requisitos aplicables y adjunte evidencia de las decisiones que toma su equipo.
- La identificación del modelo incluye versión, arquitectura, linaje y procedencia del desarrollo.
- El uso previsto define casos de uso principales, usuarios previstos y establece explícitamente usos fuera de alcance.
- Los datos de capacitación están documentados con fuentes, características, preprocesamiento y problemas de calidad conocidos.
- Las métricas de desempeño incluyen resultados generales y desagregados con intervalos de confianza.
- Las consideraciones éticas cubren métricas de equidad, pruebas de sesgo y características protegidas.
- Las limitaciones están ampliamente documentadas, incluidos los modos de falla y las condiciones límite.
- Las recomendaciones proporcionan orientación práctica sobre implementación, monitoreo y mantenimiento.
Controles operativos y evidencia.
- Gobernar
Tarjetas de modelo controladas por versión vinculadas al registro de modelos y a las canalizaciones de implementación.
Puertas de aprobación que verifican que la tarjeta modelo esté completa antes de la implementación en producción.
- Asegurar
Captura automatizada de métricas de rendimiento, señales de deriva e indicadores de equidad.
Monitoreo de rendimiento desagregado entre grupos protegidos y condiciones de borde.
- Probar
Tarjetas modelo vinculadas a artefactos de evaluación, linaje de datos de capacitación y registros de aprobación.
Paquetes de evidencia que vinculan las afirmaciones de la documentación con los datos de rendimiento en tiempo de ejecución.
Preguntas sobre este recurso
¿Cuál es la diferencia entre una tarjeta modelo y una tarjeta de sistema?
Una ficha de modelo documenta un único modelo de ML. Una ficha de sistema documenta un sistema de IA completo que puede incluir varios modelos, integraciones y procesos. Las fichas de modelo son bloques de construcción para las fichas de sistema.
¿EU AI Act requiere tarjetas modelo?
EU AI Act no exige explícitamente tarjetas modelo, pero la información que contienen se requiere en diversas formas en todo el marco de cumplimiento, particularmente para la transparencia de Artículo 13 y la documentación técnica de Anexo IV.
¿Con qué frecuencia se deben actualizar las tarjetas modelo?
Actualice cuando se vuelva a entrenar el modelo, las características de rendimiento cambien materialmente, se descubran nuevas limitaciones o cambien los casos de uso previstos.
¿Qué debo incluir en el desempeño desagregado?
Informe el desempeño de los subgrupos relevantes para revelar disparidades. Los subgrupos deben incluir características protegidas cuando corresponda, así como condiciones que afectan el comportamiento del modelo.
¿Cómo manejo las limitaciones que descubro después de la implementación?
Documente las limitaciones recién descubiertas de inmediato, actualice la tarjeta modelo y comuníquese con los implementadores. Conecte las limitaciones a sus procesos de monitoreo y respuesta a incidentes.
¿Qué buscan los revisores en las tarjetas modelo?
Limitaciones integrales (no solo métricas favorables), rendimiento desagregado, usos claros previstos versus usos fuera de alcance y trazabilidad hasta artefactos de evaluación y datos de capacitación.
Idioma de descarga del archivo: inglés