ハルシネーションとは、AI（特にチャットGPTなどの大規模言語モデル）が、事実に基づかない情報や、文脈と矛盾する情報を、あたかも真実であるかのように堂々と生成してしまう現象を指します。日本語では「幻覚」とも訳されますが、AIが「もっともらしい嘘」をつく状態のことで、出力された回答の正確性が欠如している状態を意味します。

生成AIは、膨大なデータから「次に来る確率が高い言葉」を予測して文章を組み立てます。そのため、AIの本来の仕組みは「統計的に自然な文章を作ること」にあり、必ずしも「事実を照合すること」ではありません。AIが検索エンジンやビジネスツールとして社会に普及するにつれ、誤情報の拡散や意思決定の誤りにつながる重大なリスクとして、この現象の制御が技術的な大きな課題となっています。

AIの学習データには膨大な情報が含まれますが、それらは断片的であり、AIはすべての事実関係を論理的に理解しているわけではありません。AIが問いに対して不足している情報を補おうとする際、学習した言葉のパターンの組み合わせによって、存在しない架空の出来事や人物を「もっともらしく」捏造してしまうプロセスから、この問題が広く認識されるようになりました。

心理学や医学の分野では、実際には存在しないものを、あたかも実在するかのように知覚する「幻覚」を意味します。外部からの刺激がないにもかかわらず、本人の主観的な意識の中で見えたり聞こえたりする精神的な症状を指す医学用語です。

AIをリサーチ、要約、プログラムのコード作成に利用する際に直面します。例えば、実在しない法律の条文を引用したり、存在しない論文のタイトルを提示したり、歴史的な日付を間違えたりすることがあります。ユーザーがAIの回答を鵜呑みにして公的な書類や業務に使用すると、信頼性の失墜や法的トラブルに発展する可能性があります。

ラテン語の「alucinatio（精神の迷走、夢想）」が語源です。16世紀頃から英語で「幻覚」という意味で使われるようになりました。AI分野において、コンピューターが「現実には存在しないものを現実であるかのように出力する」という類似性から、比喩的にこの言葉が採用されました。

英語圏では、AIが「幻覚を見ている（hallucinating）」という動詞的表現が頻繁に使われ、システムが一時的な意識の混濁にあるような擬人的なニュアンスが含まれます。日本では「ハルシネーション」というカタカナ語として定着しており、医学的な「幻覚」という言葉の重みよりも、IT特有の「AIがつくもっともらしい嘘」という専門用語としての側面で語られることが一般的です。