本文へスキップ
JA

レッスン 8/8 · 6分 · +100 XP

AIにできること、できないことは何？

AIが得意なのは、パターンにもとづく作業です。画像や音声の認識、翻訳、要約、文章の下書き、データの傾向の発見などです。おもな限界は、正しさを保証できないこと、自分の価値観や気持ちがないこと、責任をとれないこと、ごちゃごちゃした現実の世界が苦手なことです。AIは手伝いとして使い、決めるのは人にしましょう。

▶ やってみよう

なぜ大切なのか

AIがどこで強く、どこで弱いかを知ることが、上手に使うための基本です。パターンはAIに手伝ってもらい、正しさ、価値観、判断は人が受け持ちます。

6分後にできるようになること

  • AIは要約、翻訳、アイデア出し、傾向探しなどのパターンの作業に使いましょう。
  • 事実は自分で確かめましょう。AIは答えの正しさを保証できません。
  • 人についての判断は、責任をとれる人が行います。

練習する内容

  1. 知っておきたい4つの限界

    AIはパターンがどんどん得意になっています。でも、これらの限界はAIのしくみそのものから来ています。

    ✅ 正しさ
    AIが出すのは、確かめた答えではなく、ありそうな答えです。言っていることが正しいと保証はできません。
    🧭 価値観
    AIには自分の価値観も気持ちも公平さの感覚もありません。データのパターンと、作った人たちの選択を映しているだけです。
    ⚖️ 責任
    AIに責任を問うことはできません。人に影響する判断は、人が責任を持つ必要があります。
    🌍 現実の世界
    洗たく物をたたむ、水もれする蛇口を直すといったことは、機械にはまだとてもむずかしいのです。人にはむずかしいテストがかんたんでも。

  2. AIが活躍？人が責任を持つ？

    AIが手伝いとして活躍するのはどこ？人が責任を持つべきなのはどこ？

    • 長い報告書を5つの箇条書きにまとめる → AIが活躍
    • 社員を解雇するかどうか決める → 人が責任を持つ
    • メニューを外国語に翻訳する → AIが活躍
    • ペットをなくしたばかりの友達をなぐさめる → 人が責任を持つ
    • 何百万件もの取引から、ふつうでない支払いを見つける → AIが活躍
    • シェアする前に、どのニュースが本当か決める → 人が責任を持つ
    • 新しいカフェの名前を10個考える → AIが活躍
    • 医療の診断を最終的に決める → 人が責任を持つ

  3. 場面を判断しよう

    1. Lumiが上司向けの要約を書いてくれました。よく書けています。次はどうする？

      • 送る前に、元の文書とくらべて確かめる (答え)
      • 送る。Lumiの要約はたいてい大丈夫だから

    2. 友達がLumiに「だれかを守るための小さなうそはいいこと？」と聞きました。Lumiにできるのは？

      • 答えではなく、考えるためのいろいろな見方を示すこと (答え)
      • 客観的に正しい道徳の答えを出すこと

    3. ロボットがチェスのチャンピオンに勝ったのに、Tシャツをうまくたためません。なぜ？

      • ルールのあるゲームは、ごちゃごちゃした現実の世界より機械にはかんたんだから (答え)
      • ロボットにはもっと速いプロセッサーが必要なだけ

覚えておこう

パターンはAIに手伝ってもらい、正しさ、価値観、責任は人が持ちましょう。

押さえておきたい事実

  • 2021年11月にユネスコの193の加盟国が採択した「AIの倫理に関する勧告」は、AIが人の最終的な責任と説明責任に取って代わることは決してできないと強調しています。 · 出典: UNESCO, Recommendation on the Ethics of Artificial Intelligence, 2021
  • EUのAI法は、高リスクのAIシステムを、使っているあいだ人が実際に監督でき、判断をくつがえしたり止めたりできるように設計することを求めています。 · 出典: EU Artificial Intelligence Act, Regulation (EU) 2024/1689, Article 14
  • ロボット工学者のハンス・モラベックは1988年、チェスのように人にはむずかしい作業がコンピューターにはかんたんで、見る・動くといった日常の技はとてもむずかしいと指摘しました。これは「モラベックのパラドックス」と呼ばれます。 · 出典: H. Moravec, Mind Children, Harvard University Press, 1988
  • AIの性能は、言い方や状況が少し変わるだけで大きく変わることがあります。あるテストでよくできたAIでも、少しちがう現実の作業では失敗することがあります。

更新日:

よくある質問

AIのおもな限界は何ですか？

AIは自信たっぷりにまちがえることがあり、データの中のかたよりをくり返すことがあります。本当の理解や価値観はなく、判断の責任をとれず、現実の世界や学習データとちがう場面が苦手なこともよくあります。

AIは何が得意ですか？

パターンにもとづく作業です。画像や音声の認識、翻訳、要約、文章の下書き、アイデア出し、大量のデータからの傾向やふつうでないものの発見などです。

AIは人の判断の代わりになりますか？

価値観や責任、人の人生にかかわる判断では代わりになりません。AIは判断の材料を出せますが、人が見直し、責任を持つべきです。

AIはいつか人間にできることを何でもできるようになりますか？

だれにもわかりません。AIは進歩し続けていて、どこまで進むかは専門家のあいだでも意見が分かれています。今のAIは特定のパターンの作業に強く、人にはかんたんな多くのことがまだ苦手です。

関連用語