論文の概要: From Text Metrics to Model Internals: A Study of Whisper ASR Hallucination Detection

• arxiv url: http://arxiv.org/abs/2606.23060v1
• Date: Mon, 22 Jun 2026 09:13:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-25 00:24:14.112601
• Title: From Text Metrics to Model Internals: A Study of Whisper ASR Hallucination Detection
• Title（参考訳）: テキストメトリックからモデル内部へ:Whisper ASR幻覚検出の検討
• Authors: Jan Jasiński, Mateusz Barański, Julitta Bartolewska, Marcin Witkowski, Konrad Kowalczyk,
• Abstract要約: ASRモデルの幻覚は下流のアプリケーションにリスクをもたらす。 本稿では,Whisperの大容量v3幻覚検出法について検討する。
• 参考スコア（独自算出の注目度）: 13.55239135877789
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Hallucinations of ASR models - fluent transcriptions with no basis in audio - degrade system performance and pose risks in downstream applications. Robust detection of such errors remains a challenge. This paper studies Whisper large v3 hallucination detection on real-speech human-annotated data across three paradigms: text-based, LLM-based, and internal decoder state probing. Text classifiers utilizing metrics for text evaluation achieve high recall but degrade without reference transcripts. LLM-based detection improves precision with domain-specific prompt conditioning, yet remains less competitive than the lightweight text-based methods. Probing Whisper's decoder representations, without a ground-truth reference, yields the strongest performance, revealing that hallucination traits are encoded across intermediate decoding layers. A late-fusion meta-classifier combining text and internal-state outputs achieves the best overall detection performance.
• Abstract（参考訳）: ASRモデルの幻覚 - 音声をベースとしない流動的な書き起こし - はシステム性能を低下させ、下流アプリケーションにリスクをもたらす。 このようなエラーのロバスト検出は依然として課題である。 本稿では,テキストベース,LLMベース,内部デコーダ状態探索という3つのパラダイムにまたがる実音声の人間の注釈付きデータに対するWhisperによる大規模なv3幻覚検出について検討する。 テキスト評価のためのメトリクスを利用したテキスト分類器は、参照書き起こしなしで高いリコールを実現するが、劣化する。 LLMベースの検出は、ドメイン固有のプロンプト条件付けにより精度が向上するが、軽量テキストベースの方法よりも競争力は低い。 Whisperのデコーダ表現は、基調参照なしで、最も高い性能を示し、幻覚特性が中間復号層にエンコードされていることを明らかにした。 テキストと内部状態の出力を組み合わせた遅延融合メタ分類器は、全体的な検出性能を最高のものにする。

関連論文リスト

• Reward-Guided Semantic Evolution for Test-time Adaptive Object Detection [82.2968697030677]
  Grounding DINOのような視覚言語モデル(VLM)を用いたオープン語彙オブジェクト検出は、テスト時間分布シフト時の性能劣化に悩まされる。 Reward-Guided Semantic Evolution (RGSE) は、テスト時にテキストの埋め込みを直接洗練するトレーニング不要のフレームワークである。
  論文  参考訳（メタデータ） (2026-05-06T06:17:41Z)
• Toward Faithful Retrieval-Augmented Generation with Sparse Autoencoders [39.5490415037017]
  Retrieval-Augmented Generation (RAG) は、大規模言語モデル(LLM)の事実性を改善する。 既存のRAGの幻覚検出法は、しばしば大規模な検出器の訓練に頼っている。 RAGLensは、RAG出力を正確にフラグする軽量幻覚検出器である。
  論文  参考訳（メタデータ） (2025-12-09T18:33:22Z)
• Diversity Boosts AI-Generated Text Detection [51.56484100374058]
  DivEyeは、予備的な機能を使って、予測不可能がテキスト間でどのように変動するかをキャプチャする、新しいフレームワークである。 提案手法は、既存のゼロショット検出器を最大33.2%向上させ、微調整ベースラインとの競合性能を達成する。
  論文  参考訳（メタデータ） (2025-09-23T10:21:22Z)
• Text-ADBench: Text Anomaly Detection Benchmark based on LLMs Embedding [27.02879006439693]
  本研究は、総合的な実証的研究を行い、テキスト異常検出のためのベンチマークを導入する。 本研究は,埋め込み型テキスト異常検出の有効性を系統的に評価する。 ベンチマークツールキットをオープンソース化することで、この研究は、堅牢でスケーラブルなテキスト異常検出システムにおける将来の研究の基礎を提供する。
  論文  参考訳（メタデータ） (2025-07-16T14:47:41Z)
• REFIND at SemEval-2025 Task 3: Retrieval-Augmented Factuality Hallucination Detection in Large Language Models [15.380441563675243]
  REFIND(Retrieval-augmented Factuality Hallucination Detection)は、大規模言語モデル(LLM)出力内の幻覚スパンを検出する新しいフレームワークである。 本研究では,LLM出力の感度を定量的に評価する新しい指標であるコンテキスト感度比(CSR)を提案する。 REFINDは低リソース設定を含む9つの言語で堅牢性を示し、ベースラインモデルではかなり優れていた。
  論文  参考訳（メタデータ） (2025-02-19T10:59:05Z)
• Who Wrote This? The Key to Zero-Shot LLM-Generated Text Detection Is GECScore [51.65730053591696]
  我々は,人文テキストがLLM生成テキストよりも文法的誤りを多く含んでいるという観察に基づく,シンプルで効果的なブラックボックスゼロショット検出手法を提案する。 実験結果から,本手法はゼロショット法や教師あり手法よりも優れていることがわかった。
  論文  参考訳（メタデータ） (2024-05-07T12:57:01Z)
• HyPoradise: An Open Baseline for Generative Speech Recognition with Large Language Models [81.56455625624041]
  ASRの誤り訂正に外部の大規模言語モデル(LLM)を利用する最初のオープンソースベンチマークを導入する。 提案したベンチマークには、334,000組以上のN-best仮説を含む新しいデータセットHyPoradise (HP)が含まれている。 合理的なプロンプトと生成能力を持つLLMは、N-bestリストに欠けているトークンを修正できる。
  論文  参考訳（メタデータ） (2023-09-27T14:44:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。