論文の概要: When Verification Fails: How Compositionally Infeasible Claims Escape Rejection

• arxiv url: http://arxiv.org/abs/2604.10990v1
• Date: Mon, 13 Apr 2026 04:48:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-14 20:13:16.327925
• Title: When Verification Fails: How Compositionally Infeasible Claims Escape Rejection
• Title（参考訳）: 検証が失敗した場合:どのようにして構成的に不可能な主張がエスケープを拒絶するか
• Authors: Muxin Liu, Delip Rao, Grace Kim, Chris Callison-Burch,
• Abstract要約: 既存の検証ベンチマークでは,厳密なクレーム検証と簡易な塩分制約依存を区別できないことを示す。 有意な制約が支持されるが、非有意な制約が矛盾する場合に、構成的に不可能なクレームを構築する。 モデル間の差は,基礎的推論能力よりも検証しきい値の差を反映していることを示す。
• 参考スコア（独自算出の注目度）: 30.404615085122046
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Scientific claim verification, the task of determining whether claims are entailed by scientific evidence, is fundamental to establishing discoveries in evidence while preventing misinformation. This process involves evaluating each asserted constraint against validated evidence. Under the Closed-World Assumption (CWA), a claim is accepted if and only if all asserted constraints are positively supported. We show that existing verification benchmarks cannot distinguish models enforcing this standard from models applying a simpler shortcut called salient-constraint checking, which applies CWA's rejection criterion only to the most salient constraint and accepts when that constraint is supported. Because existing benchmarks construct infeasible claims by perturbing a single salient element they are insufficient at distinguishing between rigorous claim verification and simple salient-constraint reliance. To separate the two, we construct compositionally infeasible claims where the salient constraint is supported but a non-salient constraint is contradicted. Across model families and modalities, models that otherwise saturate existing benchmarks consistently over-accept these claims, confirming the prevalence of such shortcut reasoning. Via model context interventions, we show that different models and prompting strategies occupy distinct positions on a shared ROC curve, indicating that the gap between model families reflects differences in verification threshold rather than underlying reasoning ability, and that the compositional inference bottleneck is a structural property of current verification behavior that strategy guidance alone cannot overcome.
• Abstract（参考訳）: 科学的クレーム検証(サイエント・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・クレーム・)は、科学的クレーム このプロセスは、検証された証拠に対する各主張された制約を評価することを含む。 Closed-World Assumption (CWA)の下では、クレームが受け入れられるのは、全てのアサートされた制約が肯定的に支持されている場合に限られる。 既存の検証ベンチマークでは、この標準を強制するモデルと、より単純なショートカットであるsalient-Constraint checkを適用したモデルとを区別できないことが示され、これはCWAの拒絶基準を最も厳密な制約にのみ適用し、その制約がサポートされた場合に受け入れるものである。 既存のベンチマークは、1つの有能な要素を摂動させることで実現不可能なクレームを構築するため、厳密なクレーム検証と単純な有能な制約依存を区別するには不十分である。 この2つを分離するために、有意な制約が支持されるが、非有意な制約が矛盾する構成的に不可能なクレームを構築する。 モデルファミリやモダリティ全体において、既存のベンチマークを一貫して飽和させるモデルはこれらの主張を過度に受け入れ、そのようなショートカット推論の妥当性を確認している。 モデルコンテキストの介入により,異なるモデルと促進戦略が共有ROC曲線上の異なる位置を占めることを示し,モデルファミリ間のギャップは,基本的な推論能力よりも検証しきい値の差を反映し,構成推論ボトルネックは,戦略ガイダンスだけでは克服できない現在の検証行動の構造的特性であることを示す。

関連論文リスト

• Causality is Key for Interpretability Claims to Generalise [35.833847356014154]
  大規模言語モデル(LLM)の解釈可能性の研究は、モデル行動に関する重要な洞察をもたらした。 繰り返し発生する落とし穴: 一般化しない発見と、証拠を突破する因果解釈。 パールの因果的階層は、解釈可能性の研究が正当化できることを明確にする。
  論文  参考訳（メタデータ） (2026-02-18T18:45:04Z)
• Retrieve-Refine-Calibrate: A Framework for Complex Claim Fact-Checking [32.6738019397553]
  大規模言語モデル(LLM)に基づくRetrieve-Refine-Calibrate(RRC)フレームワークを提案する。 特に、このフレームワークは、まずクレームに記載されたエンティティを特定し、それらに関連する証拠を検索する。 そして、無関係な情報を減らすためのクレームに基づいて、回収された証拠を精査する。 最後に、信頼性の低い予測を再評価することで検証プロセスを校正する。
  論文  参考訳（メタデータ） (2026-01-23T08:48:52Z)
• Feasibility Preservation under Monotone Retrieval Truncation [0.12183405753834557]
  本研究では,構造的観点からの検索について検討し,クエリ応答をトランケーション下で実現可能な問題としてモデル化する。 個々の問合せに対する有限可視性を保証するために, 単調トランケーションが十分であることを示す。 さらに,非単調なトランケーション,非有限生成クエリクラス,純粋にスロットワイズなカバレッジの失敗を示すシャープな反例を示す。
  論文  参考訳（メタデータ） (2026-01-21T18:25:16Z)
• Eidoku: A Neuro-Symbolic Verification Gate for LLM Reasoning via Structural Constraint Satisfaction [0.0]
  大規模言語モデル(LLM)は、しばしば、モデル自身によって高い確率で割り当てられる幻覚文を生成する。 このことは、幻覚はしばしば低信頼現象ではなく、構造的整合性の失敗であることを示している。 我々は,LLM推論を,生成可能性とは独立に動作する制約満足度問題(CSP)として検証する。
  論文  参考訳（メタデータ） (2025-12-19T05:29:43Z)
• Retrieval is Not Enough: Enhancing RAG Reasoning through Test-Time Critique and Optimization [58.390885294401066]
  Retrieval-augmented Generation (RAG) は知識基底型大規模言語モデル(LLM)を実現するためのパラダイムとして広く採用されている。 RAGパイプラインは、モデル推論が得られた証拠と整合性を維持するのに失敗することが多く、事実上の矛盾や否定的な結論につながる。 批判駆動アライメント(CDA)に基づく新しい反復的枠組みであるAlignRAGを提案する。 AlignRAG-autoは、動的に洗練を終了し、批判的な反復回数を事前に指定する必要がなくなる自律的な変種である。
  論文  参考訳（メタデータ） (2025-04-21T04:56:47Z)
• TrustLoRA: Low-Rank Adaptation for Failure Detection under Out-of-distribution Data [62.22804234013273]
  本稿では,共変量および意味的シフトの両条件下での拒絶による分類を統一し,促進する,単純な故障検出フレームワークを提案する。 キーとなる洞察は、障害固有の信頼性知識を低ランクアダプタで分離し、統合することにより、障害検出能力を効果的かつ柔軟に向上できるということです。
  論文  参考訳（メタデータ） (2025-04-20T09:20:55Z)
• When Does Confidence-Based Cascade Deferral Suffice? [69.28314307469381]
  カスケードは、推論コストをサンプル毎に適応的に変化させる古典的な戦略である。 deferralルールは、シーケンス内の次の分類子を呼び出すか、または予測を終了するかを決定する。 カスケードの構造に執着しているにもかかわらず、信頼に基づく推論は実際は極めてうまく機能することが多い。
  論文  参考訳（メタデータ） (2023-07-06T04:13:57Z)
• Representation Disentaglement via Regularization by Causal Identification [3.9160947065896803]
  本稿では,不整合表現学習における基礎となるデータ生成過程の仮定を記述するために,因果コライダー構造モデルを提案する。 そこで本研究では,大規模生成モデルの挙動を因果同定によって課される絡み合った制約に整合させるモジュール型正規化エンジンReIを提案する。
  論文  参考訳（メタデータ） (2023-02-28T23:18:54Z)
• Structural Causal Models Are (Solvable by) Credal Networks [70.45873402967297]
  因果推論は、干潟網の更新のための標準的なアルゴリズムによって得ることができる。 この貢献は, 干潟ネットワークによる構造因果モデルを表現するための体系的なアプローチと見なされるべきである。 実験により, 実規模問題における因果推論には, クレーダルネットワークの近似アルゴリズムがすぐに利用できることがわかった。
  論文  参考訳（メタデータ） (2020-08-02T11:19:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。