本文へスキップ
JA

レッスン 2/8 · 6分 · +100 XP

AIの答えが本当かどうか、どう確かめるの？

AIの答えをファクトチェックするには、まず出典をたずね、自分で開いて、本当に存在し、AIの言うとおりに書いてあるかを見ます。大事な事実、数字、日付、名言は、信頼できる別の情報源とくらべましょう。正確な数字、名前のついた研究、名言には特に注意が必要です。チャットボットはそれらを本物そっくりに作ることがあります。

▶ やってみよう

なぜ大切なのか

チャットボットは、細かいところがまちがっていたり作り話だったりしても、なめらかで自信ありげな文章を書きます。確かめるべき主張の見つけ方と、すばやい確かめ方を練習します。

6分後にできるようになること

  • 正確な数字、名前のついた研究、名言、リンクを最初に確かめましょう。
  • 出典はすべて開いて、本当にそう書いてあるか確かめましょう。
  • チャットボットの自信は証拠ではありません。別の情報源を使いましょう。

練習する内容

  1. 4つのすばやいチェック

    すべての言葉を確かめる必要はありません。ここに集中しましょう。

    🔗 出典を開く
    出典をたずねて、クリックしましょう。そのページはある？本当にそう書いてある？
    🔢 正確な数字と日付
    とても細かい数字ほど、かんたんに作れてしまいます。同じ数字を別の情報源で見つけましょう。
    💬 名言と名前
    その人は本当にそう言った？名言をそのまま検索しましょう。作り話の名言や研究は、とても本物らしく聞こえます。
    🧭 ほかとくらべる
    公式サイト、百科事典、教科書など、信頼できる別の場所でその主張を調べましょう。

  2. 確かめるべきなのはどこ？

    湊へのLumiの答えです。湊が使う前に確かめるべき主張をすべてタップしましょう。

    Lumi
    ミツバチは大切な花粉の運び手です。2019年の世界ミツバチ研究所の調査では、作物の87.4％がミツバチを必要としています。有名な科学者はこう言いました。「ミツバチがいなくなったら、人間はあと4年しか生きられない」ミツバチは「8の字ダンス」で仲間に伝えます。出典：bee-research-journal.example/2019/crops発表がうまくいきますように！🐝

  3. あなたならどうする？

    短い場面です。いちばんいい次の一手を選びましょう。

    1. Lumiが引用した記事を開きました。記事はありますが、その統計にはまったくふれていません。

      • その統計は使わないか、本当の出典を探す (答え)
      • 使う。リンクはちゃんと開いたから

    2. Lumiに「本当？」と聞くと、「はい、まちがいありません」と返ってきました。

      • よかった、これで決まり
      • それでも別の情報源で確かめる (答え)

    3. Lumiが詩の題名のアイデアを出してくれました。ファクトチェックは必要？

      • いらない。確かめるべき事実が入っていない (答え)
      • いる。AIの言葉にはすべて出典が必要

  4. ファクトチェックの手順

    手順を正しい順番に並べましょう。

    1. 大事な主張を選び出す：数字、名前、名言
    2. AIに出典をたずねる
    3. 出典を1つずつ開いて、同じことが書いてあるか見る
    4. 信頼できる別の情報源とくらべる
    5. 確かめられたことだけを使う

覚えておこう

なめらかでも正しいとはかぎりません。出典を開いて、ほかとくらべ、確かめられないものは使わないようにしましょう。

出典を開きましょう。見つからなければ、使わない。

押さえておきたい事実

  • 2023年、米国の連邦裁判所は、チャットボットが作り出した存在しない判例を引用した書面を出した弁護士2人とその事務所に、5,000ドルの制裁金を科しました。 · 出典: US District Court, Southern District of New York, Mata v. Avianca, sanctions opinion, June 2023
  • 米国国立標準技術研究所（NIST）は、自信ありげに述べられたまちがった内容や作り話「作話（confabulation）」を、生成AIの12のおもなリスクの1つにあげています。 · 出典: NIST, AI 600-1 Generative AI Profile, 2024
  • チャットボットは、本物らしいのに存在しない参考文献、リンク、名言を作ることがあります。引用は、開いて中身を確かめてはじめて役に立ちます。
  • 主張を別のタブで調べる「ラテラル・リーディング（横読み）」は、信頼できる情報源が同じことを言っているかをすばやく確かめる方法の1つです。

更新日:

よくある質問

AIは出典をでっちあげることがありますか？

はい。チャットボットは、本物らしいのに存在しない、または主張どおりのことが書かれていない記事の題名、リンク、研究、名言を作ることがあります。出典はいつも自分で開きましょう。

AIがまちがった答えを出すのはなぜ？

言語モデルは、学習データのパターンからありそうな言葉を予測しています。そのため文章はなめらかになりますが、細かいところまで正しく最新だという保証はありません。

AIに「本当？」と聞くのはよい確認方法ですか？

それだけでは不十分です。チャットボットはまちがった答えを認めたり、正しい答えを変えたりすることがあります。事実は別の情報源で確かめましょう。

特に確かめるべきAIの答えは？

頼りにしたりシェアしたりするものすべてです。数字、日付、名言、名前、そして健康、法律、お金のアドバイス。アイデアや言い回しは、それほど確かめなくても大丈夫です。

関連用語