本文へスキップ
JA

レッスン 4/8 · 6分 · +100 XP

画像や文章がAIで作られたかどうか、どう見分けるの？

AIで作られた画像を見分けるには、くずれた文字、ふしぎな手や影などの不自然な細部を探し、AI生成の表示やコンテンツクレデンシャルを確かめ、画像の逆検索で元の出どころを見つけましょう。文章の判定ツールはあてになりません。1つのテストだけでは証拠にならないので、手がかりを組み合わせ、見た目よりどこから来たかを信じましょう。

▶ やってみよう

なぜ大切なのか

AIの画像や文章はとても本物らしくなり、見た目の手がかりは減っています。手がかりを、表示、逆検索、元の出どころと組み合わせる方法を学びます。

6分後にできるようになること

  • くずれた文字や不自然な細部などの手がかりを探しましょう。ただし、それだけにたよらないで。
  • AI生成の表示やコンテンツクレデンシャルを確かめ、画像の逆検索をしましょう。
  • 元の出どころを見つけ、信頼できる報道機関も伝えているか確かめましょう。

練習する内容

  1. 本物？それともAI？

    シェアする前に確かめるべきサインをすべてタップしましょう。

    @daily_wow_news
    【速報】巨大な波が港町をおそう！！📷 写真：お店の看板が、ゆがんだ文字で「ハーボルカフュ」📷 手前の人たちの手が、ぼやけてくっついている消される前に拡散して！📷 写真はくっきりしていて高画質

  2. すばやいチェック

    ここで役立つチェックはどれ？

    1. 波の写真が最初にどこに出たのか知りたい。

      • 画像の逆検索をする (答え)
      • 投稿のコメントをもっと読む

    2. ある写真に、AIツールで作られたと書かれたコンテンツクレデンシャルがついています。

      • どう作られたかを知る役に立つ証拠になる (答え)
      • 無視する。表示に意味はない

    3. 先生がレポートをAI文章判定ツールにかけたら、「AIの可能性92％」と出ました。

      • 生徒がAIを使った証拠になる
      • 証拠ではなく手がかり。話し合うほうがフェア (答え)

  3. 思いこみ？事実？

    カードをタップして、本当のことを見てみましょう。

    ✋ 「AIはいつも手をまちがえる」
    思いこみです。古いツールはよくまちがえましたが、新しいツールはまちがえないことも多く、完璧な手は何の証明にもなりません。
    🤖 「判定ツールなら確実にわかる」
    思いこみです。画像も文章も、判定ツールはどちらの向きにもまちがえます。いくつかある手がかりの1つとして使いましょう。
    🏷️ 「AIのコンテンツには表示がつくものもある」
    事実です。表示やコンテンツクレデンシャルをつけるツールやサービスがあり、EUのルールではディープフェイクの公開時に明示が必要です。ただ、表示がなかったり消されたりもします。
    📍 「画素より出どころが大事」
    事実です。最初に投稿したのはだれ？信頼できる報道機関も伝えている？これが、いちばん強いテストになることがよくあります。

覚えておこう

1つのテストだけでは証拠になりません。手がかりを組み合わせ、表示を確かめ、元の出どころを見つけましょう。

1つのテストだけでは証拠になりません。どこから来たかを確かめましょう。

押さえておきたい事実

  • 米国国立標準技術研究所（NIST）は、来歴の記録、電子透かし、検出にはそれぞれ技術的な限界があり、1つの方法だけでは合成されたコンテンツをすべて確実に見つけられないとしています。 · 出典: NIST, AI 100-4 Reducing Risks Posed by Synthetic Content, 2024
  • EUのAI法では、ディープフェイクの画像、音声、動画を公開する人は、それが人工的に作られたり加工されたりしたものだと明らかにしなければなりません。この透明性のルールは2026年8月2日から適用されます。 · 出典: EU AI Act, Regulation (EU) 2024/1689, Article 50
  • コンテンツクレデンシャルは、C2PA（コンテンツの来歴と真正性のための連合）のオープンな標準で、ファイルがどう作られ、どう編集されたかの情報を、改ざんがわかる形でつけるものです。
  • 画像生成AIがよくなるにつれて、指が多い、文字がくずれるといった見た目のサインは減っています。だから画素を調べるより、出どころを確かめることが大切になっています。

更新日:

よくある質問

AI画像の判定ツールは使えますか？

役立つこともありますが、確実ではありません。AI画像を見のがしたり、本物をAIと判定したりするので、出どころ、表示、画像の逆検索と合わせて、手がかりの1つとして使いましょう。

文章がAIで書かれたかどうか、どう見分けますか？

確実に見分けられないことが多いです。AI文章判定ツールはまちがえるので、下書き、出典、書いた人のいつもの書き方、事実が正しいかなど、まわりの情報を見ましょう。

コンテンツクレデンシャルとは何ですか？

ファイルにつけられる、改ざんがわかる情報で、AIツールを使ったかどうかも含め、どう作られ、どう編集されたかを記録します。クレデンシャルがなくても、本物の画像とはかぎりません。

画像の逆検索とは何ですか？

画像やそのリンクを検索エンジンに入れると、同じ画像や似た画像がネットのどこにあるかを見せてくれる方法です。元の画像やファクトチェックを見つけるのに役立ちます。

関連用語