ハルシネーションとは、AIが実際には存在しない情報をあたかも事実であるかのように生成してしまう
現象です。
AIは膨大なデータからパターンを学習しますが、情報の正確性は保証されないため、他の信頼できる
情報源で確認する必要があります。
ハルシネーションが起こる原因と対策について、3つの例をもとに説明します。
1. データに存在しないものを聞いた場合
この場合は、LLMに正確な湖の寸法のデータが存在しないため、誤った回答が生成されました。
対策として、「ウェブ検索をして教えてください」とプロンプトに加えることで正確な情報をウェブから
取得し、正しい回答が生成されました。
2.文脈に沿わせようとした場合
この場合は、AIが数学としてではなく数字羅列として認識してしまい、誤った回答が生成されました。
対策として、言葉や概念を具体的なものや実世界と関連付けて理解させるグラウンディングという手法を使うことで、小数点の比較であることを理解し、正しい回答が生成されました。
3.論理的な問題を聞いた場合
この場合は、それぞれが本を持っていったと仮定した時に矛盾がないのがC、すなわち犯人はCですが、
推論が及ばず間違った回答が生成されました。
対策として、「step-by-stepで考えてください」 という一文を入力することで順を追って思考が働き、
正しい回答が生成されました。
まとめ
ハルシネーションの発生を抑えるには、以下のような対策が有効です。状況によっては、これらの対策に加えて、他の方法を検討する必要があります。
- Web検索を行う（ RAGを利用する）
- グラウンディング（事前に使用する情報を確認する）
- Step-by-stepを用いる
また、AIが生成した結果をそのまま信用せず、必ずファクトチェックを行うようにしてください。