AIにはどんなルールがあるの？EUのAI法のリスク分類とは？

練習する内容

1. 4つの危険度

   EUのAI法は、AIの使い方をすべてはしごの上に置きます。上の段ほど、ルールはきびしくなります。

   🚫 許されない：禁止

   人の社会的なふるまいを点数化するAI、人を有害な形であやつるAI、職場や学校で感情を読みとるAI。EUでは2025年2月2日から禁止されています。

   ⚠️ 高リスク：きびしいルール

   仕事、融資、試験、サービスの利用についての判断を手伝うAI。リスクの確認、よいデータ、記録、人による監督が必要です。

   💬 透明性：人に伝える

   チャットボットはAIであることを伝え、ディープフェイクにはAIで作った・変えたという表示が必要です。

   ✅ 最小限のリスク：新しいルールなし

   迷惑メールフィルター、ゲームの対戦相手、写真のフィルター。今使われているAIのほとんどはここに入ります。

   🌍 だれが従うの？

   EUでAIを提供したり使ったりするすべての人や会社です。日本に本社がある会社も含まれます。

2. どの危険度？

   AIの使い方を、EUのAI法の危険度に仕分けましょう。

   • 市が住民に、手当に影響する「よい市民」スコアをつける → 禁止
   • 社員の感情をウェブカメラから読みとるソフト → 禁止
   • 応募者の書類に順位をつけるツール → 高リスク
   • だれがお金を借りられるかを決めるモデル → 高リスク
   • 学校の試験を採点するAI → 高リスク
   • お客さま対応のチャットボットLumi → 明示が必要
   • 実在の政治家をAIで作った動画 → 明示が必要
   • メールの迷惑メールフィルター → 最小限のリスク

3. EUのスケジュール

   この法律は段階的に始まります。早いものから順に並べましょう。

   1. AI法が発効する
   2. 許されないAIの禁止が始まる
   3. 汎用AIモデルのルールが適用される
   4. チャットボットとディープフェイクの透明性のルールが適用され、執行が始まる
   5. 採用、融資、教育などの高リスクのルールが適用される
   6. おもちゃやエレベーターなどの製品に組みこまれたAIの高リスクのルールが適用される

4. イギリス、アメリカ、EU

   場所によって考え方がちがいます。ここではどうなる？

   1. 日本のスタートアップが、書類選考のAIをフランスの会社に売ります。EUのAI法は適用される？

      • される。AIがEUで使われるから (答え)
      • されない。日本の会社だから

   2. イギリスは今のところ、AIにおもにどう対応している？

      • 今ある規制機関が、それぞれの分野のAIに自分のルールを当てはめる (答え)
      • EUのAI法を一字一句そのまま写した
      • AIはイギリスのどの法律の対象にもならない

   3. では、アメリカは？

      • 連邦全体のAI法はないが、今ある法律と一部の州法が適用される (答え)
      • 1本の連邦AI法がすべての使い方をカバーしている