ハルシネーションとは、AIが実際には存在しない情報を事実であるかのように生成する現象です。
原因
・AIが情報の正確性や信頼性を確認する機能がない。
・AIが文脈を誤解し独自に情報を想像する。
対策
・AIの生成した情報を他の信頼できる情報源で確認する。
URLのハルシネーションについて
URLのハルシネーションとは、AIがテキストを生成する際に、存在しないウェブサイトのURL
（インターネット上の住所）を出力する現象です。
原因
・システムプロンプトに、参照リンクを出力する指示が含まれている。
・学習セットを使用しているのにも関わらず、web検索を行わせようとしている。
対策
・「web検索を行って出力してください」など、web検索を促すようなワードを入れる。
・文面中にURLを記載させようとしない。
・無理な検索をしない。
・参照元のURLを参照する。(下図参照)
言語交差によるハルシネーションについて
日本語の指示で英語記事の情報を参照をさせる、英語の指示で日本語記事を参照させるなど
言語が交差することでハルシネーションが起きやすくなります。
要因
・AIモデルは特定の言語でトレーニングされているため、複雑な言語間の理解を求めると
誤解が生じる。
・言語が異なると、必要な背景情報やコンテキストが正しく伝わらず、AIが不適切な情報を生成する。
対策
・一つの言語に統一して指示を行う。
・プロンプトの中で明確に言語の切り替えを指示する。
・複数言語をサポートするモデルや特定のタスクに特化したAIを利用する。