Hallucination

ハルシネーションとは、生成人工知能が学習データにも入力にも根拠をもたない事柄を、あたかも事実や実景であるかのようにもっともらしく出力してしまう現象である。人間の幻覚を指す語が転用されたもので、言語モデルが存在しない出典や誤った事実を自信をもって述べる場合や、画像・映像モデルがどこにも実在しない場所や事物を精緻な質感で描き出す場合を指す。生成モデルは真偽を照合する仕組みをもたず、学習した分布のなかで統計的にもっともありそうな続きを選び続けるため、この現象は誤動作ではなく仕組みに内在する性質と考えられる。実用上は排除すべき誤りとして扱われる一方、表現の領域では、現実の断片が再構成されて別の像へ組み替わる生成の作用そのものとして積極的に扱われる。

作家が自ら撮影した写真をモデルに学習させると、生成される映像には、記録された都市の断片が由来として残りながら、現実には存在しない混成的な風景が立ち上がる。既視感がありながらどこでもない場所、観察点が定まらず合成された映像と記録映像の境界がぼやける画面は、記録とイメージのあいだに開く裂け目から生まれる。人間のような身体をもたない機械の知覚が、人間の感覚の枠組みからずれた像を返すことでもあり、幻視は生成モデルを介した知覚の変容として論じられる。