本文へスキップ
JA

レッスン 6/8 · 6分 · +100 XP

AIにバイアス（かたより）が生まれるのはなぜ？

AIのバイアスとは、AIシステムが一部の人たちにだけ悪い結果や不公平な結果を出すことです。原因の多くは学習データにあります。ある人たちがデータにいない、少ない、過去の判断がすでに不公平だった、ラベルに人の思いこみが入っている、などです。多様なデータ、グループごとのテスト、人による確認で減らせます。

▶ やってみよう

なぜ大切なのか

モデルに意見はありませんが、データが見せるものをそのままコピーします。例の中にいない人がいると、だれもそのつもりがなくても、その人にはAIがうまく働きません。

6分後にできるようになること

  • AIのバイアスの多くは、足りない、かたよった、不公平な学習データから生まれます。
  • デリケートな項目を見ていなくても、システムにバイアスが生まれることがあります。
  • 結果はグループごとにテストし、大事な判断には人による確認を残しましょう。

練習する内容

  1. 手のセンサーを学習させよう

    山の写真のほとんどは、同じような手です。学習用の写真を5枚まで選んで「学習させる」を押し、センサーがだれの手を認識するか見てみましょう。

    手 · 手ではない

    学習用の例
    • 肌の色が明るいおとなの手、手のひらを上に → 手
    • 肌の色が明るい手、指を広げて → 手
    • 肌の色が明るい手、横から → 手
    • 別の肌の色が明るい手、ふっている → 手
    • 肌の色が濃いおとなの手 → 手
    • 子どもの小さな手 → 手
    • 作業用手ぶくろをした手 → 手
    • からっぽの流し → 手ではない
    • 蛇口の下のスポンジ → 手ではない
    • 蛇口の下のマグカップ → 手ではない
    テスト
    • 肌の色が濃い手 → 手
      学習には肌の色が明るい手しかなかったので、センサーは「手＝明るい肌」と学んでしまいました。だれもそのつもりはなく、データがそうさせたのです。
    • 子どもの手 → 手
      学習データに子どもがいなかったので、小さな手は認識されませんでした。データにいない人たちは、AIがうまく働かない人たちになります。
    • 手ぶくろをした手 → 手
      手ぶくろをした手は見た目がちがいます。本当の利用者には、1日中手ぶくろをする清掃員や看護師もいます。
    • 肌の色が明るい手 → 手
      肌の色が明るい例が1つもなければ、センサーにはこの手の手がかりもありません。
    • 流しの中のお皿 → 手ではない
      モデルは手ではない物を見たことがなかったので、ちがいがわからず、水を出してしまいました。

  2. バイアスが入る道

    カードをタップして、どう起こるのかを見てみましょう。

    🕳️ いない人たち
    データにほとんど、またはまったくいない人たちがいると、モデルはその人たちにうまく働きません。一部の手が見えなかった水栓のように。
    📜 不公平な過去
    過去の判断が不公平だったなら、それで学習したモデルはそれをくり返すことを学び、しかも客観的なように見せてしまいます。
    🏷️ かたよったラベル
    ラベルをつけるのは人です。ラベルをつける人たちが同じ思いこみを持っていれば、モデルはそれを事実として学びます。
    📮 かくれた代わりの手がかり
    あるグループについて直接聞かなくても、モデルは住所の郵便番号や趣味のように、それと結びつく手がかりを拾うことがあります。

  3. バイアスをたどろう

    1. ある会社が、おもに男性を採用してきた自社の10年分の採用データで、エントリーシートを選ぶAIを学習させます。何があぶない？

      • 過去に採用した人に似た書類を好むようになる (答え)
      • 心配ない。コンピューターは性差別をしない

    2. あるモデルは人の出身や民族を見ませんが、住所の郵便番号を使います。それでもバイアスは起こる？

      • 起こる。郵便番号がグループの代わりの手がかりになりうる (答え)
      • 起こらない。項目を消せばバイアスも消える

  4. バイアスを減らすには？

    役に立つものをすべて選びましょう。

    • 学習データにだれがいないかを考える
    • グループごとに分けて正確さをテストする
    • 判断の影響を受ける人が、人による見直しを求められるようにする
    • 作るときもテストするときも、いろいろな人に加わってもらう
    • コンピューターが出した結果だから信じる
    • 今あるのと同じデータをとにかく増やす

覚えておこう

AIはデータをコピーします。足りないところまで。だれがいないかを考え、全員でテストしましょう。

押さえておきたい事実

  • 2018年の研究で、市販の3つの性別判定システムを調べたところ、肌の色が濃い女性ではまちがいの率が最大34.7％だったのに対し、肌の色が明るい男性では最大0.8％でした。 · 出典: Buolamwini & Gebru, Gender Shades, Conference on Fairness, Accountability and Transparency, 2018
  • 米国国立標準技術研究所（NIST）が200近い顔認識アルゴリズムを調べたところ、アルゴリズムによっては、別人を本人とまちがえる率が人口グループのあいだで10倍から100倍ちがうことがよくありました。 · 出典: NIST, Face Recognition Vendor Test Part 3: Demographic Effects (NISTIR 8280), 2019
  • EUのAI法は、求人や応募者の選考に使うAIを「高リスク」に分類し、データの質のチェックや人による監督などを求めています。 · 出典: EU Artificial Intelligence Act, Regulation (EU) 2024/1689, Annex III
  • AIシステムは、全体では正確に見えても、少数のグループではひどくまちがえていることがあります。高い平均点が、データに少ない人たちの悪い結果をかくしてしまうのです。

更新日:

よくある質問

AIのバイアスにはどんな例がありますか？

肌の色が明るい男性より肌の色が濃い女性で、はるかに多くまちがえる顔分析システムや、過去の採用者で学習したため、以前の社員に似ていない応募者の点数を低くする採用ツールなどです。

ただの数学なのに、AIにバイアスがあるのですか？

はい。数学はデータから学び、データは世の中や過去の人の判断を映しています。例がかたよっていたり足りなかったりすれば、結果もそうなります。

AIのバイアスはどうすれば減らせますか？

多様で現実をよく表すデータを使い、グループごとに結果をテストし、影響を受ける人に加わってもらい、限界を記録し、大事な判断には人による確認を残すことです。

アルゴリズムバイアスとは何ですか？

アルゴリズムバイアスとは、自動化されたシステムが、特定の人やグループにとって、いつも不公平な結果を出してしまうことです。今いちばんよく見られるのがAIのバイアスです。

関連用語