論文の概要: MMD-Flagger: Leveraging Maximum Mean Discrepancy to Detect Hallucinations
- arxiv url: http://arxiv.org/abs/2506.01367v1
- Date: Mon, 02 Jun 2025 06:50:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-04 21:47:34.074915
- Title: MMD-Flagger: Leveraging Maximum Mean Discrepancy to Detect Hallucinations
- Title（参考訳）: MMD-Flagger:幻覚検出における最大平均差の活用
- Authors: Kensuke Mitsuzawa, Damien Garreau,
- Abstract要約: 幻覚コンテンツ,MDD-Flagger をフラグする新しい手法を提案する。
これは分布間の非パラメトリック距離である最大平均離散(MMD)に依存する。
高レベルの観点から、MDD-Flaggerは、生成された文書と様々な温度パラメータで生成された文書の間のMDDを追跡する。
- 参考スコア（独自算出の注目度）: 6.836945436656676
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) have become pervasive in our everyday life. Yet, a fundamental obstacle prevents their use in many critical applications: their propensity to generate fluent, human-quality content that is not grounded in reality. The detection of such hallucinations is thus of the highest importance. In this work, we propose a new method to flag hallucinated content, MMD-Flagger. It relies on Maximum Mean Discrepancy (MMD), a non-parametric distance between distributions. On a high-level perspective, MMD-Flagger tracks the MMD between the generated documents and documents generated with various temperature parameters. We show empirically that inspecting the shape of this trajectory is sufficient to detect most hallucinations. This novel method is benchmarked on two machine translation datasets, on which it outperforms natural competitors.
- Abstract（参考訳）: 大規模言語モデル(LLM)が私たちの日常生活に広まりつつある。
しかし、基本的な障害は、現実には根付いていない、流動的で高品質なコンテンツを生成するための適合性など、多くの重要なアプリケーションでの使用を妨げている。
このような幻覚の検出が最も重要である。
本研究では,幻覚コンテンツであるMDD-Flaggerにフラグを付ける手法を提案する。
これは分布間の非パラメトリック距離である最大平均離散(MMD)に依存する。
高レベルの観点から、MDD-Flaggerは、生成された文書と様々な温度パラメータで生成された文書の間のMDDを追跡する。
この軌跡の形状を検査することは幻覚のほとんどを検出するのに十分であることを示す。
この手法は2つの機械翻訳データセットでベンチマークされ、自然の競合より優れている。
関連論文リスト
- MIRAGE: Assessing Hallucination in Multimodal Reasoning Chains of MLLM [58.2298313720146]
マルチモーダル幻覚は多源性であり、様々な原因から生じる。
既存のベンチマークでは、知覚誘発幻覚と推論誘発幻覚を適切に区別することができない。
論文 参考訳（メタデータ） (2025-05-30T05:54:36Z) - Hallucination Detection: A Probabilistic Framework Using Embeddings Distance Analysis [2.089191490381739]
本稿では,幻覚を推論するための数学的に健全な方法論を導入し,それを利用して幻覚を検出するツールを構築する。
我々の知る限りでは、幻覚的内容が正しい内容に関して構造的な違いを持つことを示すのが最初である。
これらの構造的差異を利用して幻覚応答を検出するツールを開発し、システムパラメータの特定の構成に対して66%の精度を達成する。
論文 参考訳（メタデータ） (2025-02-10T09:44:13Z) - Detecting Machine-Generated Texts by Multi-Population Aware Optimization
for Maximum Mean Discrepancy [47.382793714455445]
機械生成テキスト(MGT)は、盗作、誤解を招く情報、幻覚などの重大なリスクを負う可能性がある。
MGTと人文テキストを区別することは困難である。
そこで本研究では,MDD-MPと呼ばれるMDDのテキストマルチユーザ対応最適化手法を提案する。
論文 参考訳（メタデータ） (2024-02-25T09:44:56Z) - A New Benchmark and Reverse Validation Method for Passage-level
Hallucination Detection [63.56136319976554]
大きな言語モデル(LLM)は幻覚を発生させ、ミッションクリティカルなタスクにデプロイすると大きなダメージを与える可能性がある。
本稿では,逆検証に基づく自己チェック手法を提案し,ゼロリソース方式で事実誤りを自動的に検出する。
提案手法と既存のゼロリソース検出手法を2つのデータセット上で実証的に評価した。
論文 参考訳（メタデータ） (2023-10-10T10:14:59Z) - Detecting and Preventing Hallucinations in Large Vision Language Models [4.7264116948935975]
M-HalDetectは、詳細な画像記述のための最初のマルチモーダル幻覚検出データセットである。
InstructBLIPから細粒度マルチモーダル報酬モデルを訓練し,その有効性を評価する。
LLaVAとmPLUG-OWLの幻覚をそれぞれ15%と57%低減する。
論文 参考訳（メタデータ） (2023-08-11T21:35:20Z) - Partial identification of kernel based two sample tests with mismeasured
data [5.076419064097733]
最大平均離散性(MMD)のような2サンプルテストは、機械学習アプリケーションにおける2つの分布の違いを検出するためにしばしば使用される。
我々は,1つの分布の非ランダムな$epsilon$%が互いに誤ってグループ化されるような,$epsilon$-contaminationに基づくMDDの推定について検討した。
そこで本研究では,これらの境界を推定する手法を提案し,サンプルサイズが大きくなるにつれてMDD上の最も鋭い限界に収束する推定値を示す。
論文 参考訳（メタデータ） (2023-08-07T13:21:58Z) - Maximum Mean Discrepancy Test is Aware of Adversarial Attacks [122.51040127438324]
最大平均誤差(MMD)テストは、原則として2つのデータセット間の分布誤差を検出できる。
MMD検査は敵の攻撃に気づいていないことが示されている。
論文 参考訳（メタデータ） (2020-10-22T03:42:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。