ハルシネーション

AIのハルシネーションとは、AIツールが、自信ありげでもっともらしいのに、まちがっていたり作り話だったりする情報を出すことです。にせの事実、だれも言っていない名言、存在しない出典などです。

言語モデルは、確かめた事実を調べるのではなく、ありそうな次の言葉を予測して文章を書きます。よい情報がないときでもなめらかな答えを出せてしまい、その答えが作り話のことがあります。

よくある例は、作り話の本の題名、まちがった日付、存在しないリンク、作り話の判例、実在の人が言ったことにされた名言です。口調に自信があるので、信じてしまいやすいのです。

身を守るには、出典をたずねて開き、大事な主張は信頼できるサイトでくらべ、健康、お金、法律の話題には特に気をつけ、AIの答えを確かめずに宿題や仕事の文書に写さないことです。