Como os LLMs são feitos / Glossário

Model card (ficha do modelo)

Um model card é um documento público curto lançado junto com um modelo de IA, como uma tabela nutricional. Ele diz para que serve o modelo, como foi treinado e testado, e seus limites e riscos conhecidos.

Os model cards foram propostos em 2019. Um bom model card cobre os usos previstos e os usos a evitar, os dados de treino em linhas gerais, os resultados de testes, inclusive como o desempenho varia entre grupos, as limitações conhecidas e as checagens de segurança pelas quais o modelo passou.

Uma ideia irmã, as datasheets for datasets (fichas técnicas de conjuntos de dados), pede a quem cria conjuntos de dados que documente de onde vieram os dados, como foram coletados e para que devem ser usados.

Model cards ajudam desenvolvedores a escolher o modelo certo e ajudam todo mundo a avaliar um lançamento. Pelo AI Act da União Europeia, fornecedores de modelos de IA de uso geral precisam manter documentação técnica e dar a quem desenvolve em cima deles informações sobre capacidades e limitações.