Fugu-MT 論文翻訳(概要): LLM Hallucination Detection: A Fast Fourier Transform Method Based on Hidden Layer Temporal Signals

論文の概要: LLM Hallucination Detection: A Fast Fourier Transform Method Based on Hidden Layer Temporal Signals

arxiv url: http://arxiv.org/abs/2509.13154v1
Date: Tue, 16 Sep 2025 15:08:19 GMT
ステータス: 翻訳完了
システム内更新日: 2025-09-17 17:50:53.141238
Title: LLM Hallucination Detection: A Fast Fourier Transform Method Based on Hidden Layer Temporal Signals
Title（参考訳）: LLM幻覚検出:隠れた時間信号に基づく高速フーリエ変換法
Authors: Jinxin Li, Gang Tu, ShengYu Cheng, Junjie Hu, Jinting Wang, Rui Chen, Zhilong Zhou, Dongbo Shan,
Abstract要約: 幻覚は、信頼性に敏感なアプリケーションに大規模言語モデル(LLM)をデプロイする上で、依然として重要な障壁である。隠れ表現の時間的ダイナミクスをモデル化する新しい幻覚検出フレームワークであるHSAD(Hidden Signal Analysis-based Detection)を提案する。 TruthfulQAを含む複数のベンチマークにおいて、HSADは従来の最先端手法に比べて10パーセント以上の改善を実現している。
参考スコア（独自算出の注目度）: 10.85580316542761
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Hallucination remains a critical barrier for deploying large language models (LLMs) in reliability-sensitive applications. Existing detection methods largely fall into two categories: factuality checking, which is fundamentally constrained by external knowledge coverage, and static hidden-state analysis, that fails to capture deviations in reasoning dynamics. As a result, their effectiveness and robustness remain limited. We propose HSAD (Hidden Signal Analysis-based Detection), a novel hallucination detection framework that models the temporal dynamics of hidden representations during autoregressive generation. HSAD constructs hidden-layer signals by sampling activations across layers, applies Fast Fourier Transform (FFT) to obtain frequency-domain representations, and extracts the strongest non-DC frequency component as spectral features. Furthermore, by leveraging the autoregressive nature of LLMs, HSAD identifies optimal observation points for effective and reliable detection. Across multiple benchmarks, including TruthfulQA, HSAD achieves over 10 percentage points improvement compared to prior state-of-the-art methods. By integrating reasoning-process modeling with frequency-domain analysis, HSAD establishes a new paradigm for robust hallucination detection in LLMs.
Abstract（参考訳）: 幻覚は、信頼性に敏感なアプリケーションに大規模言語モデル(LLM)をデプロイする上で、依然として重要な障壁である。既存の検出方法は、外部知識のカバレッジによって基本的に制約される事実性チェックと、動的推論における逸脱を捉えるのに失敗する静的な隠れ状態解析の2つのカテゴリに分類される。結果として、その有効性と堅牢性は限定的のままである。自己回帰生成における隠れ表現の時間的ダイナミクスをモデル化する新しい幻覚検出フレームワークであるHSAD(Hidden Signal Analysis-based Detection)を提案する。 HSADは、層間のアクティベーションをサンプリングして隠蔽層信号を構築し、周波数領域表現を得るためにFast Fourier Transform (FFT)を適用し、スペクトル特性として最強の非DC周波数成分を抽出する。さらに, LLMの自己回帰特性を利用して, 有効かつ信頼性の高い検出のための最適観測点を同定する。 TruthfulQAを含む複数のベンチマークにおいて、HSADは従来の最先端手法に比べて10パーセント以上の改善を実現している。周波数領域解析と推論過程のモデリングを統合することにより、HSADはLLMにおける堅牢な幻覚検出のための新しいパラダイムを確立する。

関連論文リスト

Learning to Separate RF Signals Under Uncertainty: Detect-Then-Separate vs. Unified Joint Models [53.79667447811139]
受信した信号に直接適用した場合、単一のディープニューラルネットワークアーキテクチャが共同で検出および分離することを学習していることを示す。これらの結果から,UJM は DTS に代わるスケーラブルで実用的な代替品であり,広範に推定された統合分離のための新たな方向を開拓した。
論文参考訳（メタデータ） (2026-02-04T15:25:02Z)
FaithSCAN: Model-Driven Single-Pass Hallucination Detection for Faithful Visual Question Answering [14.550872089352943]
FaithSCANは視覚言語モデルの豊富な内部信号を利用して幻覚を検出する軽量ネットワークである。本稿では,LLM-as-a-JudgeパラダイムをVQA幻覚に拡張し,モデル依存型監視信号の自動生成のための低コスト戦略を提案する。深い分析により、幻覚は視覚知覚、相互モーダル推論、言語復号における系統的な内部状態の変化から生じることが示された。
論文参考訳（メタデータ） (2026-01-01T09:19:39Z)
Toward Faithful Retrieval-Augmented Generation with Sparse Autoencoders [39.5490415037017]
Retrieval-Augmented Generation (RAG) は、大規模言語モデル(LLM)の事実性を改善する。既存のRAGの幻覚検出法は、しばしば大規模な検出器の訓練に頼っている。 RAGLensは、RAG出力を正確にフラグする軽量幻覚検出器である。
論文参考訳（メタデータ） (2025-12-09T18:33:22Z)
Multi-modal Deepfake Detection and Localization with FPN-Transformer [21.022230340898556]
FPN変換器(Feature Pyramid-Transformer)に基づくマルチモーダルディープフェイク検出およびローカライゼーションフレームワークを提案する。マルチスケールな特徴ピラミッドは、R-TLMブロックと局所的な注意機構によって構築され、コンテキスト間の時間的依存関係の結合解析を可能にする。我々は,IJCAI'25 DDL-AVベンチマークの試験セットに対するアプローチを評価し,最終スコア0.7535で良好な性能を示した。
論文参考訳（メタデータ） (2025-11-11T09:33:39Z)
Source-Free Object Detection with Detection Transformer [59.33653163035064]
Source-Free Object Detection (SFOD) は、ソースデータにアクセスすることなく、ソースドメインから教師なしのターゲットドメインへの知識転送を可能にする。ほとんどの既存のSFODアプローチは、より高速なR-CNNのような従来のオブジェクト検出(OD)モデルに限られるか、新しいODアーキテクチャ、特に検出変換器(DETR)に適合しない一般的なソリューションとして設計されている。本稿では,DTRのクエリ中心の機能強化を特化して設計された新しいSFODフレームワークであるFeature Reweighting ANd Contrastive Learning NetworK(FRANCK)を紹介する。
論文参考訳（メタデータ） (2025-10-13T07:35:04Z)
A Multiscale Approach for Enhancing Weak Signal Detection [0.0]
本研究では、ウェーブレット変換を用いたマルチスケールアプリケーションにおける共鳴(SR)の適用について検討する。本稿では,2つの単一閾値検出器を統合し,弱い信号検出を向上する二重閾値検出システムを提案する。実験により、元のデータ領域において、提案したダブルスレッショルド検出器は、従来のシングルスレッショルド手法と比較して、弱い信号検出を著しく改善することを示した。
論文参考訳（メタデータ） (2025-10-09T19:13:54Z)
TAG:Tangential Amplifying Guidance for Hallucination-Resistant Diffusion Sampling [53.61290359948953]
タンジェンシャル増幅誘導(TAG)は、下層の拡散モデルを変更することなく、軌道信号のみで動作する。この誘導過程を1次テイラー展開を利用して定式化する。 TAGは、最小限の計算加算で拡散サンプリング忠実度を改善する、プラグアンドプレイのアーキテクチャに依存しないモジュールである。
論文参考訳（メタデータ） (2025-10-06T06:53:29Z)
TraceDet: Hallucination Detection from the Decoding Trace of Diffusion Large Language Models [49.83690850047884]
D-LLMの幻覚問題は未解決のままであり、現実世界のアプリケーションでは信頼性が制限されている。既存の幻覚検出法はAR-LLM向けに設計されており、単一ステップ生成からの信号に依存している。本稿では,幻覚検出のためのD-LLMの中間段階を明示的に活用する新しいフレームワークであるTraceDetを提案する。
論文参考訳（メタデータ） (2025-09-30T02:01:10Z)
LLM Hallucination Detection: HSAD [6.306213519424463]
幻覚検出方法は、事実整合性検証や静的な隠蔽層機能に依存する。本稿では,隠蔽層時間信号の周波数領域解析に基づく幻覚検出手法を提案する。この手法は、知識カバレッジと推論バイアスの検出の観点から、既存のアプローチの限界を克服する。
論文参考訳（メタデータ） (2025-09-28T02:25:34Z)
SpecDetect: Simple, Fast, and Training-Free Detection of LLM-Generated Text via Spectral Analysis [31.43564106945543]
本稿では,周波数領域におけるトークンログ確率のシーケンスを解析する新しいパラダイムを提案する。我々は、グローバルなDFT: DFTトータルエネルギーの単一で堅牢な特徴の上に構築されたSpecDetectを構築した。我々の研究は、LLM生成したテキスト検出のための新しい、効率的で解釈可能な経路を導入し、古典的な信号処理技術がこの現代の課題に対して驚くほど強力な解決策を提供することを示した。
論文参考訳（メタデータ） (2025-08-15T09:13:42Z)
ICR Probe: Tracking Hidden State Dynamics for Reliable Hallucination Detection in LLMs [50.18087419133284]
隠れた状態を活用する幻覚検出法は、主に静的および孤立した表現に焦点を当てている。隠れ状態の更新に対するモジュールの寄与を定量化する新しいメトリック ICR Score を導入する。本稿では,隠れ状態の層間進化を捉えた幻覚検出手法 ICR Probe を提案する。
論文参考訳（メタデータ） (2025-07-22T11:44:26Z)
SlowFastVAD: Video Anomaly Detection via Integrating Simple Detector and RAG-Enhanced Vision-Language Model [52.47816604709358]
ビデオ異常検出(VAD)は、ビデオ内の予期せぬ事象を識別することを目的としており、安全クリティカルドメインに広く応用されている。視覚言語モデル(VLM)は強力なマルチモーダル推論能力を示し、異常検出の新しい機会を提供している。 SlowFastVADは高速異常検出器と低速異常検出器を統合したハイブリッドフレームワークである。
論文参考訳（メタデータ） (2025-04-14T15:30:03Z)
FreSca: Scaling in Frequency Space Enhances Diffusion Models [55.75504192166779]
本稿では,潜時拡散モデルにおける周波数制御について検討する。本稿では,低周波成分と高周波成分にノイズ差を分解する新しいフレームワークFreScaを紹介する。 FreScaはモデルの再トレーニングやアーキテクチャの変更なしに動作し、モデルとタスクに依存しない制御を提供する。
論文参考訳（メタデータ） (2025-04-02T22:03:11Z)
Understanding and Improving Training-Free AI-Generated Image Detections with Vision Foundation Models [68.90917438865078]
顔合成と編集のためのディープフェイク技術は、生成モデルに重大なリスクをもたらす。本稿では,モデルバックボーン,タイプ,データセット間で検出性能がどう変化するかを検討する。本稿では、顔画像のパフォーマンスを向上させるContrastive Blurと、ノイズタイプのバイアスに対処し、ドメイン間のパフォーマンスのバランスをとるMINDERを紹介する。
論文参考訳（メタデータ） (2024-11-28T13:04:45Z)
LLMCount: Enhancing Stationary mmWave Detection with Multimodal-LLM [1.8326853076179552]
LLMCountは,大規模言語モデル(LLM)の機能を活用して,群衆検出性能を向上させる最初のシステムである。システムの性能を評価するため,ホール,会議室,映画館などの多彩なシナリオ下で総合的な評価を行う。
論文参考訳（メタデータ） (2024-09-24T16:09:29Z)
Frequency-Aware Deepfake Detection: Improving Generalizability through Frequency Space Learning [81.98675881423131]
この研究は、目に見えないディープフェイク画像を効果的に識別できるユニバーサルディープフェイク検出器を開発するという課題に対処する。既存の周波数ベースのパラダイムは、偽造検出のためにGANパイプラインのアップサンプリング中に導入された周波数レベルのアーティファクトに依存している。本稿では、周波数領域学習を中心にしたFreqNetと呼ばれる新しい周波数認識手法を導入し、ディープフェイク検出器の一般化性を高めることを目的とする。
論文参考訳（メタデータ） (2024-03-12T01:28:00Z)
System-reliability based multi-ensemble of GAN and one-class joint Gaussian distributions for unsupervised real-time structural health monitoring [0.0]
本研究では,ケース依存抽出方式を使わずに,低次元特徴と高次元特徴を混合した教師なしリアルタイムSHM法を提案する。 GANと1-CGモデルに基づく極限状態関数の新規検出システムを構築した。このチューニングにより、メソッドはユーザ定義パラメータに対して堅牢になり、リアルタイムSHMでこれらのパラメータを選択するルールが存在しないため、極めて重要である。
論文参考訳（メタデータ） (2021-02-01T20:50:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。