論文の概要: MEND: Label-Free Detection, Localisation, and Correction of Latent Hallucination in World Models
- arxiv url: http://arxiv.org/abs/2609.39182v1
- Date: Wed, 30 Sep 2026 07:38:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:27.395766
- Title: MEND: Label-Free Detection, Localisation, and Correction of Latent Hallucination in World Models
- Title（参考訳）: MEND:世界モデルにおける潜在幻覚のラベルなし検出, 局在, 補正
- Abstract要約: 本研究では,凍結した自己管理世界モデルを用いて,幻覚の検出,局所化,修正を行うことができるかを検討した。
実遷移におけるスコアマッチングを学習した単一条件スコアネットワークであるMasked Empirical-Bayes Neural Denoising (MEND)を紹介した。
MENDは2つのナビゲーション環境において、行動を用いることなく最大0.80のAUROCによる幻覚を検知し、単一のガウス密度ベースラインを超える。
我々の補正は1ステップの潜時誤差を確実に低減し、予測を改善する。
- 参考スコア（独自算出の注目度）: 28.718462738147107
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: World Models are appearing as the next major frontier in computer vision. However, their robustness is currently largely unexplored. We identify the phenomenon of hallucination in latent World Models: given a state and an action, the predicted next latent can decode to a scene that never occurs. Because the prediction is statistically ordinary and is fed back autoregressively by the model, the error is both silent and compounding. We study whether such latent hallucination can be detected, localised, and corrected at inference time, on a frozen self-supervised world model in the absence of ground-truth error labels. We introduce Masked Empirical-Bayes Neural Denoising (MEND), a single conditional score network trained by denoising score matching on real transitions, whose score field serves three roles: its magnitude detects hallucination, its per-token field localises it to specific image patches, and it defines an inference-time correction direction. On two navigation environments MEND detects hallucination with an AUROC of up to 0.80 without using actions, exceeding a single-Gaussian density baseline while also localising the error (per-token AUPRC up to 0.87) and correcting it, all from one score field. Our correction reliably reduces single-step latent error and improves predictions. We identify that a part of the error is tangent to the data manifold, hence, we focus on detection and localisation while highlighting promises of the correction.
- Abstract（参考訳）: World Modelsは、コンピュータビジョンの次の大きなフロンティアとして現れている。
しかし、その頑丈さは現在ほとんど解明されていない。
我々は、潜伏世界モデルにおける幻覚現象を識別する: ある状態と行動が与えられたら、予測された次の潜伏者は、決して起こらない場面に復号することができる。
予測は統計的に通常であり、モデルによって自己回帰的にフィードバックされるため、エラーは沈黙と複合の両方である。
本研究では, 凍結自己監督型世界モデルを用いて, 地絡誤差ラベルが存在しない状態で, 潜伏幻覚の検出, 局所化, 補正が可能であるかを検討した。
実遷移のスコアマッチングを学習した単一の条件付きスコアネットワークであるMasked Empirical-Bayes Neural Denoising (MEND)を導入し、そのスコアフィールドは幻覚を検出する。
2つのナビゲーション環境において、MENDはアクションを使わずに最大0.80のAUROCによる幻覚を検知し、単一のガウス密度ベースラインを超え、エラー(最大0.87までのAUPRC)をローカライズし、1つのスコアフィールドから修正する。
我々の補正は1ステップの潜時誤差を確実に低減し、予測を改善する。
そこで我々は,誤差の一部がデータ多様体と接していることを認識し,補正の約束を強調しながら,検出と局所化に焦点を当てた。
関連論文リスト
- The Knowing-Saying Gap: When Probes See Errors that Confidence Misses [20.46211358172975]
線形プローブは、ほぼ完全精度で言語モデルの劣化コンテキストを検知するが、信頼性の高い故障予測にはならない。
マルチホップ算術連鎖全体において、汚職を検出するプローブは最終解の正しさについて非形式的であることが判明した。
リアルタイムモニタとして、プローブベースの介入は、シャープにモデル化され、エラータイプに依存します。
論文 参考訳（メタデータ） (2026-07-21T12:13:10Z) - Hallucination in World Models is Predictable and Preventable [12.420814678350547]
幻覚は状態-作用空間の低被覆領域に集中していることを示す。
モデルがどこで失敗するかを正確に予測する3つの信号を開発する。
その結果,世界モデルにおける幻覚は本質的にデータカバレッジの問題であることが判明した。
論文 参考訳（メタデータ） (2026-06-25T17:38:45Z) - Conformal calibration and look-elsewhere effect in anomaly detection for new-physics searches [0.0]
機械学習による異常検出は、新しい物理学の探索を再構築している。
本稿では,共形予測に基づく校正層を提案する。
論文 参考訳（メタデータ） (2026-06-11T18:00:02Z) - HalluWorld: A Controlled Benchmark for Hallucination via Reference World Models [24.61808957290675]
幻覚は依然として大きな言語モデルの中心的な失敗モードである。
既存のベンチマークでは、要約、質問応答、検索強化生成、エージェント間相互作用など、矛盾なく運用されている。
明示的な参照ワールドの定式化を基礎としたベンチマークであるHaluWorldを紹介する。
論文 参考訳（メタデータ） (2026-05-19T04:29:03Z) - Anatomy of a Lie: A Multi-Stage Diagnostic Framework for Tracing Hallucinations in Vision-Language Models [62.932580559941414]
VLM(Vision-Language Models)は、しばしば「ハロシン化(hallucinate)」する。
本稿では,静的な出力誤差からモデル計算認知の動的病理へ再キャストし,幻覚を診断するための新しいパラダイムを提案する。
論文 参考訳（メタデータ） (2026-03-16T17:20:38Z) - A Model of Artificial Jagged Intelligence [0.0]
生成AIシステムは、近くに現れるタスク間で非常に不均一なパフォーマンスを示すことが多い」。
我々はこの現象を人工ジャグインテリジェンス(AJI)と呼ぶ。
本稿では,情報問題として採用を取り扱うAJIの魅力ある経済モデルを開発する。
論文 参考訳（メタデータ） (2026-01-12T14:27:30Z) - Correcting False Alarms from Unseen: Adapting Graph Anomaly Detectors at Test Time [60.341117019125214]
グラフ異常検出(GAD)における未確認正規pattErnsの修正のための,軽量かつプラグアンドプレイなテスト時間適応フレームワークを提案する。
意味的混乱に対処するために、シフトしたデータと元のデータとをグラフ属性レベルで整合させるグラフ整合器を用いる。
10個の実世界のデータセットに対する大規模な実験により、TUNEは事前学習されたGADモデルの合成パターンと実際の見えない正常パターンの両方への一般化性を著しく向上することが示された。
論文 参考訳（メタデータ） (2025-11-10T12:10:05Z) - Towards Zero-shot 3D Anomaly Localization [58.62650061201283]
3DzALは3D異常検出とローカライゼーションのためのパッチレベルの新しいコントラスト学習フレームワークである。
3DzALは最先端の異常検出および局所化性能より優れていることを示す。
論文 参考訳（メタデータ） (2024-12-05T16:25:27Z) - Video Anomaly Detection via Spatio-Temporal Pseudo-Anomaly Generation : A Unified Approach [49.995833831087175]
本研究は,画像のマスキング領域にペンキを塗布することにより,汎用的な映像時間PAを生成する手法を提案する。
さらに,OCC設定下での現実世界の異常を検出するための単純な統合フレームワークを提案する。
提案手法は,OCC設定下での既存のPAs生成および再構築手法と同等に動作する。
論文 参考訳（メタデータ） (2023-11-27T13:14:06Z) - Self-Supervised Training with Autoencoders for Visual Anomaly Detection [61.62861063776813]
我々は, 正規サンプルの分布を低次元多様体で支持する異常検出において, 特定のユースケースに焦点を当てた。
我々は、訓練中に識別情報を活用する自己指導型学習体制に適応するが、通常の例のサブ多様体に焦点をあてる。
製造領域における視覚異常検出のための挑戦的なベンチマークであるMVTec ADデータセットで、最先端の新たな結果を達成する。
論文 参考訳（メタデータ） (2022-06-23T14:16:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。