モデルカード

モデルカードは、AIモデルといっしょに公開される短い文書で、食品の成分表示のようなものです。モデルの用途、学習とテストの方法、わかっている限界とリスクを伝えます。

モデルカードは2019年に提案されました。よいモデルカードには、想定される用途とさけるべき用途、大まかな学習データ、グループによって性能がどうちがうかを含むテスト結果、わかっている限界、通った安全チェックが書かれています。

姉妹のアイデアに「データセットのためのデータシート」があります。データセットを作った人に、データがどこから来て、どう集められ、何に使うべきかを記録するよう求めるものです。

モデルカードは、開発者が合ったモデルを選ぶのを助け、だれもが公開の良し悪しを判断できるようにします。EUのAI法では、汎用AIモデルの提供者は技術文書を残し、それを使って開発する人に能力と限界の情報を渡さなければなりません。