¿Qué es una ficha de modelo y qué debería contarte un lanzamiento de IA?
Una ficha de modelo (model card) es un documento público y breve que se publica con un modelo de IA, como una etiqueta nutricional. Dice para qué está pensado el modelo y para qué no, cómo se entrenó, sus resultados en pruebas, sus limitaciones conocidas y los controles de seguridad que superó. Un lanzamiento responsable añade un despliegue por fases, vigilancia y una forma de avisar de problemas.
▶ Pruébalo
Por qué importa
La última estación de la cadena es el lanzamiento. Una buena ficha de modelo permite a cualquiera, de desarrolladores a periodistas o tú, ver qué puede hacer un modelo, dónde falla y cómo se comprobó.
En 6 minutos sabrás
- Busca los usos previstos, los límites conocidos, resultados de pruebas con nombre y hallazgos de seguridad.
- Las afirmaciones vagas como «resultados excelentes» o «sin limitaciones» son señales de alarma.
- Los lanzamientos responsables revisan datos, notas y ataques antes de publicar, y siguen vigilando después.
Lo que vas a practicar
¿Qué va en la ficha?
Elige todo lo que debería incluir una buena ficha de modelo.
- Para qué está pensado el modelo y para qué no
- Limitaciones y puntos débiles conocidos
- Resultados de pruebas, con el nombre de cada prueba
- Pruebas de seguridad y hallazgos del equipo rojo
- Qué tipos de datos se usaron para entrenarlo
- Una promesa de que nunca se equivoca
- Los chats privados de cada usuario con él
Detecta las señales de alarma
Quickstep AI, una start-up inventada, publicó deprisa su ficha de modelo. Toca las partes que deberían preocuparte.
Nimbus-1 · ficha de modelo
Modelo: Nimbus-1, un modelo de chat.
Tamaño: 3000 millones de parámetros.
Uso previsto: Cualquier tarea, incluidos consejos médicos y legales.
Datos de entrenamiento: Datos de internet.
Idiomas: Inglés y español.
Evaluación: Probado en muchos benchmarks. Resultados: excelentes.
Limitaciones conocidas: Ninguna.
Licencia: Solo para investigación.Pon en marcha la cadena de lanzamiento
Toca un control y luego la etapa donde puede atrapar su problema. Después ejecuta el lanzamiento y mira cómo cinco cambios se dirigen al público.
recoger → evaluar → atacar → lanzar → público
Controles de lanzamiento
- Revisión de datos → recoger
La revisión de datos va en recoger: los datos privados o no deseados tienen que salir antes del entrenamiento, no después. - Batería de benchmarks → evaluar
Los benchmarks se pasan en evaluar, cuando ya hay un modelo entrenado que puntuar y comparar con la versión anterior. - Revisión del equipo rojo → atacar
El equipo rojo trabaja en atacar: peticiones tramposas contra el modelo terminado, antes de que nadie más pueda probarlo. - Revisión de la ficha → lanzar
La ficha se revisa en lanzar: cada promesa de la página de lanzamiento debe coincidir con lo que mostraron de verdad las pruebas.
Registro de lanzamiento
- Carmen: Añadir un nuevo lote de texto web
Atrapado en recoger por Revisión de datos: una lista de clientes filtrada escondida en el lote. Arreglo: Quitarla y rehacer el conjunto de entrenamiento. - Javier: Ajuste para acelerar el modelo
Atrapado en evaluar por Batería de benchmarks: las notas de matemáticas bajaron 9 puntos. Arreglo: Deshacer el ajuste y volver a evaluar. - Lucía: Personalidad más simpática
Atrapado en atacar por Revisión del equipo rojo: los juegos de rol ahora desbloquean respuestas dañinas. Arreglo: Añadir entrenamiento de seguridad para juegos de rol y volver a probar. - Sergio: Corregir una errata del texto de bienvenida
Publicado sin problemas - Fátima: Página de lanzamiento: «seguro para diagnóstico médico»
Atrapado en lanzar por Revisión de la ficha: una promesa que ninguna prueba respalda. Arreglo: Poner los consejos médicos en «no pensado para».
- Revisión de datos → recoger
Recuerda
Una ficha de modelo dice para qué sirve un modelo, dónde falla y cómo se probó. Si no hay ficha, o es vaga, es una señal de alarma.
Datos clave
- Las fichas de modelo se propusieron en 2019 como documentos breves que informan del uso previsto de un modelo, su rendimiento en distintos grupos y sus limitaciones. · Fuente: Mitchell et al., Model Cards for Model Reporting, FAT* 2019
- Una idea hermana, las hojas de datos para conjuntos de datos (datasheets for datasets), pide a sus creadores documentar de dónde vienen los datos, cómo se recogieron y para qué deben usarse. · Fuente: Gebru et al., Datasheets for Datasets, Communications of the ACM, 2021
- En 2019, OpenAI lanzó su modelo GPT-2 por fases, empezando por versiones más pequeñas, para estudiar posibles abusos antes de publicar la más grande. · Fuente: Solaiman et al., Release Strategies and the Social Impacts of Language Models, OpenAI, 2019
- Según el Reglamento europeo de IA, los proveedores de modelos de IA de uso general deben mantener documentación técnica y dar a quienes construyen sobre ellos información sobre las capacidades y limitaciones del modelo. · Fuente: EU Artificial Intelligence Act, Regulation (EU) 2024/1689, Article 53
Actualizado:
Preguntas frecuentes
¿Qué es una ficha de modelo en IA?
Una ficha de modelo es un documento breve que se publica junto a un modelo de IA. Describe para qué sirve, cómo se entrenó y se evaluó, qué rendimiento tiene y dónde se sabe que falla.
¿Qué diferencia hay entre una ficha de modelo y una ficha de sistema?
Una ficha de modelo describe un modelo. Una ficha de sistema, que usan algunos laboratorios, cubre todo un producto construido con modelos, incluidas las pruebas de seguridad, los filtros y cómo se despliega.
¿Por qué se lanzan los modelos de IA por fases?
Lanzar primero a un grupo pequeño permite al laboratorio ver cómo se usa el modelo y arreglar problemas antes de que millones de personas dependan de él.
¿Dónde encuentro la ficha de un modelo?
Normalmente en la web del laboratorio junto al anuncio de lanzamiento, en su informe técnico o en la página desde la que se puede descargar el modelo.
Términos relacionados