Ficha del modelo

Una ficha del modelo (model card) es un artefacto de documentación estructurado que proporciona información esencial sobre un modelo de machine learning: propósito, características de los datos de entrenamiento, métricas de rendimiento en distintas poblaciones, limitaciones conocidas y consideraciones éticas. Propuestas originalmente por investigadores de Google en 2018, las model cards se han convertido en una práctica estándar de transparencia y se publican con frecuencia junto a modelos en plataformas como Hugging Face.

Aunque el EU AI Act no exige explícitamente fichas del modelo, los requisitos de transparencia y documentación de los artículos 11 y 13 se alinean estrechamente con sus principios. Los sistemas de alto riesgo deben proporcionar información suficiente para entender capacidades, limitaciones y condiciones de uso. Las fichas del modelo ofrecen un formato probado. Para organizaciones que usan modelos de terceros, son artefactos clave de diligencia debida. El reglamento espera que entidades usuarias comprendan los sistemas que utilizan; las fichas de proveedores upstream aportan datos sobre comportamiento, procedencia y sesgos conocidos. Sin embargo, no son suficientes por sí solas: documentan el modelo aislado, mientras el EU AI Act exige documentar el sistema completo, incluyendo integración, contexto de despliegue y salvaguardas operativas. Deben complementarse con documentación a nivel de sistema.

Las organizaciones deberían crear u obtener fichas para cada modelo. Una ficha completa incluye: detalles del modelo (arquitectura, versión, fecha), casos de uso previstos y usos fuera de alcance, fuentes y características de datos de entrenamiento, metodología y conjuntos de evaluación, métricas desagregadas por grupos demográficos relevantes, limitaciones y modos de fallo, y consideraciones éticas con sesgos y mitigaciones.

Para modelos internos, cree fichas durante el ciclo de desarrollo y actualícelas con reentrenamientos o cambios. Para modelos de terceros, solicite fichas y documente carencias de información. La relación entre fichas del modelo, fichas del sistema y documentación del Anexo IV requiere atención: las fichas del modelo describen modelos individuales; las fichas del sistema describen sistemas completos; y el Anexo IV constituye el registro de cumplimiento para sistemas de alto riesgo. Diseñe la estrategia para construir de forma eficiente desde fichas del modelo hacia fichas del sistema y Anexo IV, evitando duplicación y garantizando completitud.