論文の概要: Detect Before You Disambiguate: Perturbation-Based Input Ambiguity Detection in LLMs

• arxiv url: http://arxiv.org/abs/2610.36353v1
• Date: Mon, 26 Oct 2026 22:18:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-28 21:04:31.442001
• Title: Detect Before You Disambiguate: Perturbation-Based Input Ambiguity Detection in LLMs
• Title（参考訳）: 難読化前検出:LLMにおける摂動に基づく入力曖昧性検出
• Abstract要約: 入力あいまいさ検出のためのラベル保存型摂動フレームワークを提案する。 その結果,あいまいさを検出することの重要性が浮き彫りになる。
• 参考スコア（独自算出の注目度）: 11.232984694095137
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) often answer ambiguous inputs as if they had a single intended meaning. This is problematic because input ambiguity is an upstream source of uncertainty: when a prompt admits multiple valid interpretations, the key question is whether the model should answer directly at all. Existing input uncertainty methods often rely on LLM-generated statements or clarifications, but such transformations may already disambiguate the input before the ambiguity is measured. We propose a label-preserving perturbation framework for input ambiguity detection in which perturbations remain close to the original input while preserving its label. We instantiate this principle with two detectors: a black-box rule-based perturbation library and a white-box importance-guided method using model-internal signals. Experiments across four datasets in open-domain, conversational, and visual QA show that our methods outperform output-side uncertainty baselines and LLM-paraphrase-based perturbation baselines. Our results highlight the importance of detecting ambiguity before attempting to disambiguate it. Our code is available \href{https://github.com/Xiao0o0o/input-ambiguity-detection}{\textcolor{purple}{here}}.
• Abstract（参考訳）: 大規模言語モデル (LLM) はしばしば、意図した単一の意味を持つかのように曖昧な入力に答える。 プロンプトが複数の有効な解釈を認めた場合、重要な問題はモデルが直接答えるべきかどうかである。 既存の入力不確実性法は LLM の生成したステートメントや明確化に依存することが多いが、そのような変換はあいまいさを測定する前に既に曖昧にすることができる。 ラベルを保存しながら元の入力に近づき続けるアンビグニティ検出のためのラベル保存摂動フレームワークを提案する。 我々はこの原理を,ブラックボックス規則に基づく摂動ライブラリとモデル内部信号を用いたホワイトボックス重要誘導方式の2つの検出器でインスタンス化する。 オープンドメイン,会話,視覚的QAの4つのデータセットを対象とした実験により,本手法は出力側不確実性ベースラインとLLM-パラフレーズに基づく摂動ベースラインよりも優れていた。 その結果,あいまいさを検出することの重要性が浮き彫りになる。 私たちのコードは href{https://github.com/Xiao0o0o/input-ambiguity-detection}{\textcolor{purple}{here}} で利用可能です。

関連論文リスト

• Visualizing token importance for black-box language models [48.747801442240565]
  我々は,ブラックボックスの大規模言語モデル(LLM)を監査して,本運用環境にデプロイした場合に確実に動作させるという課題を考察する。 本稿では,各入力トークンに対する言語モデルの出力の感度を評価するために,分布ベース感性分析(DBSA)を提案する。
  論文  参考訳（メタデータ） (2025-12-12T14:01:43Z)
• CLUE: Non-parametric Verification from Experience via Hidden-State Clustering [64.50919789875233]
  隠れアクティベーションの軌跡内の幾何的に分離可能なシグネチャとして解の正しさが符号化されていることを示す。 ClUE は LLM-as-a-judge ベースラインを一貫して上回り、候補者の再選において近代的な信頼に基づく手法に適合または超えている。
  論文  参考訳（メタデータ） (2025-10-02T02:14:33Z)
• From Disagreement to Understanding: The Case for Ambiguity Detection in NLI [3.5164356851161984]
  このポジションペーパーでは、自然言語推論(NLI)におけるアノテーションの不一致は単なるノイズではなく、しばしば意味のある変化を反映していると主張している。 まず、あいまいな入力ペアを識別し、それらの型を分類し、次に推論に進む、あいまいさを意識したNLIへのシフトを呼びます。
  論文  参考訳（メタデータ） (2025-07-20T20:27:35Z)
• Ambiguity in LLMs is a concept missing problem [12.039364223570479]
  自然言語における曖昧さは、構造化されたデータマッピングに対する正確なテキストを実現するための重要な障害である。 我々は、潜在空間における曖昧なテキストの表現差を特徴付ける異なるアプローチを採用する。 本稿では,概念上のパスカーネルに基づく新しい距離測度を導入し,あいまいな質問とあいまいな質問を区別する。
  論文  参考訳（メタデータ） (2025-05-16T20:39:30Z)
• Aligning Language Models to Explicitly Handle Ambiguity [22.078095273053506]
  我々は,あいまいなクエリを扱うために,言語モデルを整列する新しいパイプラインであるAlignment with Perceived Ambiguity (APA)を提案する。 質問応答データセットの実験結果から、APAはLLMに対して、あいまいなクエリを明示的に検出し、管理する権限を持つことが示された。 我々の発見は、APAがゴールドスタンダードラベルのトレーニング、特にアウト・オブ・ディストリビューションのシナリオで優れていることを証明している。
  論文  参考訳（メタデータ） (2024-04-18T07:59:53Z)
• It's Never Too Late: Fusing Acoustic Information into Large Language Models for Automatic Speech Recognition [70.77292069313154]
  大規模言語モデル(LLM)は、自動音声認識(ASR)出力の上の生成誤り訂正(GER)に成功することができる。 本研究では,不確実性認識ダイナミックフュージョン (UADF) と呼ばれる新しい遅延融合解によって予測された転写を生成する前に,音響情報を注入することにより,そのような制限を克服することを目的とする。
  論文  参考訳（メタデータ） (2024-02-08T07:21:45Z)
• Decomposing Uncertainty for Large Language Models through Input Clarification Ensembling [69.83976050879318]
  大規模言語モデル(LLM)では、不確実性の原因を特定することが、信頼性、信頼性、解釈可能性を改善するための重要なステップである。 本稿では,LLMのための不確実性分解フレームワークについて述べる。 提案手法は,入力に対する一連の明確化を生成し,それらをLLMに入力し,対応する予測をアンサンブルする。
  論文  参考訳（メタデータ） (2023-11-15T05:58:35Z)
• Ambiguity-Resistant Semi-Supervised Learning for Dense Object Detection [98.66771688028426]
  本研究では,一段階検出器のためのAmbiguity-Resistant Semi-supervised Learning (ARSL)を提案する。 擬似ラベルの分類とローカライズ品質を定量化するために,JCE(Joint-Confidence Estimation)を提案する。 ARSLは、曖昧さを効果的に軽減し、MS COCOおよびPASCALVOC上で最先端のSSOD性能を達成する。
  論文  参考訳（メタデータ） (2023-03-27T07:46:58Z)
• The Treasure Beneath Multiple Annotations: An Uncertainty-aware Edge Detector [70.43599299422813]
  既存のメソッドは、単純な投票プロセスを使用して複数のアノテーションを融合し、エッジ固有の曖昧さを無視し、アノテータのラベル付けバイアスを無視する。 多様なアノテーションの主観性とあいまいさを調査するために不確実性を利用した新しい不確実性認識エッジ検出器(UAED)を提案する。 UAEDは複数のエッジ検出ベンチマークで一貫したパフォーマンスを実現している。
  論文  参考訳（メタデータ） (2023-03-21T13:14:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。