本文へスキップ
JA

レッスン 2/8 · 6分 · +100 XP

AIがあなたについて決めるとき、どんな権利があるの？

自動化された判断とは、ローンの審査などで、人がきちんと関わらずにコンピューターがあなたについて決めることです。日本では個人情報保護法にもとづき、会社が持つあなたの個人情報の開示や訂正、利用の停止を求められます。理由をたずね、人による見直しをお願いすることもできます。EUでは重大な判断について、人の関与や異議申し立ての権利が法律で定められています。

▶ やってみよう

なぜ大切なのか

アルゴリズムはすでに、だれがローンや面接、部屋を借りられるかの判断を手伝っています。速くて公平なこともあれば、まちがっていたりかたよっていたりすることもあります。権利を知れば、だまって届く「不合格」を、問いなおせる判断に変えられます。

6分後にできるようになること

  • すばやく、説明のないお断りは自動のことが多いので、たずねましょう。
  • 理由、人による見直し、異議を伝える方法をたずねましょう。
  • 自分のデータを確かめ、お願いは文書にして、コピーを残しましょう。

練習する内容

  1. 本当に決めたのはだれ？

    カードをタップして、あなたにとっての意味を見てみましょう。

    🤖 完全に自動
    コンピューターが判断し、人がきちんと確かめることはありません。ここで特別なルールや権利が大事になります。
    🖱️ ただのハンコ
    反対する権限も時間もない人が、システムの言うとおりに「承認」をクリックするだけ。これも自動の判断と同じです。
    ⚖️ 大きな影響
    権利がいちばん大切なのは、ローン、仕事、手当、住まい、学校の入学など、本当に影響のある判断です。
    🔎 プロファイリング
    あなたのデータを使って、お金を返せそうか、どれくらい働けそうかなどを予測すること。自動の判断のもとになることがよくあります。

  2. お断りのメールを読もう

    伊藤さんに届いたお断りのメールです。伊藤さんが自分の権利を使うのに役立つ部分をすべてタップしましょう。

    NovaBank ローン
    NovaBankへのお申しこみ、ありがとうございます。
    今回はご融資をお受けできません。この判断は自動で行われました。
    おもな理由：クレジットの利用歴が短いこと、カードの残高が多いこと。
    担当者による判断の見直しをご希望いただけます。
    情報の追加や判断への異議は、30日以内にご返信ください。

  3. 何ができる？

    3人と、3つの自動の判断です。

    1. 高橋さんの応募書類が、自動の書類フィルターで落とされました。高橋さんにできることは？

      • どう判断されたかをたずね、人による見直しをお願いする (答え)
      • 何もできない。コンピューターの判断は最終決定

    2. アメリカに住む中村さんが、クレジットカードの審査に落ちました。カード会社は中村さんに何をわたす必要がある？

      • 断った理由、またはその聞き方 (答え)
      • カード会社のアルゴリズムの完全なコピー

    3. ある管理職は、AIがすすめる結果を読まずにすべて承認しています。人は関わっている？

      • きちんとは関わっていないので、自動の判断と同じ (答え)
      • 関わっている。人がボタンを押したから

  4. 断られたら、こうしよう

    コンピューターに断られました。手順を正しい順番に並べましょう。

    1. 判断を読み、理由と期限をメモする
    2. 自分についてのデータが正しいか確かめる
    3. 人による見直しを文書でお願いし、自分の事情を書きそえる
    4. すべてのコピーと日付を残しておく
    5. 納得できる答えがなければ、まず会社に、それから相談窓口に相談する

覚えておこう

コンピューターに断られた？たいていは理由をたずね、人にもう一度見てもらうようお願いできます。

押さえておきたい事実

  • EUの一般データ保護規則（GDPR）第22条は、法的な、またはそれと同じくらい大きな影響のある判断を、自動処理だけにもとづいて受けない権利を定めています。契約、法律、はっきりした同意などの例外があります。 · 出典: EU General Data Protection Regulation (2016/679), Article 22
  • 日本の個人情報保護法では、会社が持っているあなたの個人情報について、開示や訂正、利用の停止を求めることができます。AIサービスでも同じです。 · 出典: 個人情報の保護に関する法律、個人情報保護委員会
  • 2023年、EU司法裁判所は、貸す側が融資を決めるのに大きくたよっている場合、信用スコアそのものが自動の判断にあたりうると判断しました。 · 出典: Court of Justice of the EU, Case C-634/21 (SCHUFA), 7 December 2023
  • 米国の信用機会平等法では、融資を断った貸し手は、具体的な理由を伝えるか、その聞き方を申しこんだ人に知らせなければなりません。 · 出典: US Equal Credit Opportunity Act and Regulation B
  • 見直しといえるのは、見直す人に判断を変える権限と力がある場合だけです。ただのハンコでは足りません。 · 出典: ICO, Guidance on AI and data protection

更新日:

よくある質問

自動の判断を人に見直してもらえますか？

EUでは、ローンや仕事のように大きな影響がある判断について、人の関与を求める権利が法律で定められています。日本でも、会社に文書で見直しをお願いし、自分の個人情報の開示や訂正を求めることができます。

AIの判断について説明を受けられますか？

まず会社に理由をたずねましょう。EUのデータ保護法では、重大な自動の判断がどう行われたかについて意味のある情報を得られます。日本では、会社が持つ自分の個人情報の開示を求めて、判断に使われたデータを確かめられます。

プロファイリングとは何ですか？

あなたのデータを使って、お金を返せそうか、どんな商品を買いそうかなど、あなたについて予測することです。ローンや採用などの自動の判断のもとになることがあります。

自動の判断について、どこに相談できますか？

まずその会社に相談しましょう。個人情報の扱いについては個人情報保護委員会の個人情報保護法相談ダイヤル、契約のトラブルは消費者ホットライン188に相談できます。具体的な件は、専門家に相談しましょう。

関連用語