なぜハルシネーションが起きるのか — 推測が報われる構造

「ハルシネーション」という語は広く使われますが、定義を確認せずに使うと議論が噛み合いません。Ji らのサーベイ(arXiv:2202.03629)§2 が標準的な定義を与えています。

"Within the context of NLP, the above definition of hallucination, the generated content that is nonsensical or unfaithful to the provided source content …, is the most inclusive and standard."

無意味であるか、与えられた元資料に忠実でない生成内容。 「誤り」ではなく「元資料に忠実でない」と書かれている点が効いてきます。§2.1 は2つに分けます。

intrinsic   元資料と矛盾する出力
          例: 資料は2019年承認、生成文は2021年承認
 
extrinsic   元資料から検証できない出力
          支持する証拠も、誤りだと言う根拠も資料に無い

同節は重要な補足を付けています。

"Notably, the extrinsic hallucination is not always erroneous because it could be from factually correct external information …."

extrinsic は必ずしも誤りではありません。

では、なぜ起きるのか。「バグ」「データの誤り」で片付きそうに思えますが、Kalai ら(arXiv:2509.04664、2025年9月4日)は違う場所を指します。要旨の逐語です。

"We argue that language models hallucinate because the training and evaluation procedures reward guessing over acknowledging uncertainty"

訓練と評価の手続きが、不確実性を認めることより推測を報酬として与えている。 データの誤りだけの問題ではありません。§1 が明示します。

"even if the training data were error-free, the objectives optimized during language model training would lead to errors being generated"

訓練データに誤りが無かったとしても、訓練で最適化している目的関数そのものが誤りを生む。だから「良いデータを入れれば直る」という対処では届きません。ただし同じ段落は、誤りを含む現実のデータでは誤り率が "even higher" になりうるとも書き、§3.3.1 は訓練データに1回しか現れない事実の割合(singleton rate)を誤りの下限に結び付けます。データは唯一の原因ではない、が正確な読みです。

§1.2 が、採点の形を具体的に説明します。

"In both settings, guessing when unsure maximizes the expected score under a binary 0-1 scheme that awards 1 point for a correct answer and none for blanks or IDKs."

正解に1点、空欄や「わからない」に0点。この採点では、不確実なときに推測することが期待点を最大化します。 §4.1 は "Under binary grading, abstaining is strictly sub-optimal." と踏み込みます。棄権が厳密に劣る選択肢になる、ということです。

誤りが具体的な形を取る理由も、同じ場所にあります。

"Bluffs are often overconfident and specific, such as “September 30” rather than “Sometime in autumn” for a question about a date."

曖昧に答えるより、具体的に答えるほうが点が高い。 だから「たぶん秋ごろ」ではなく「9月30日」が出てきます。