Fugu-MT 論文翻訳(概要): Constraint-Anchored Reasoning Traces

論文の概要: Constraint-Anchored Reasoning Traces

arxiv url: http://arxiv.org/abs/2607.16727v1
Date: Sat, 18 Jul 2026 09:24:45 GMT
ステータス: 翻訳完了
システム内更新日: 2026-07-21 18:48:37.237051
Title: Constraint-Anchored Reasoning Traces
Title（参考訳）: Constraint-Anchored Reasoning Traces
Abstract要約: MLLM(Autoregressive Multimodal Large Language Model)は、ミススノーボールに悩まされる。最先端のオープンソースMLLMでは、最初のエラーが発生すると、これらのケースの65%で、残りのステップすべてにわたって推論カスケードが失敗する。本稿では,MLLMを学習し,言語推論のステップを記号的制約アサーションでインターリーブする,ニューロシンボリック・シンボリック・フレームワークであるConstraint-Anchored Reasoning Traces (CART)を提案する。
参考スコア（独自算出の注目度）: 9.39195684989942
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Autoregressive multimodal large language models (MLLMs) suffer from error snowballing: a single incorrect inference early in a chainof-thought (CoT) trace corrupts all downstream reasoning. We find that in state-of-the-art open-source MLLMs, once the first error occurs, the reasoning cascades into failure across all remaining steps in 65% of such cases (a metric we term the snowball rate). Existing mitigations-sampling multiple chains, post-hoc self-verification, or full program synthesis-either lack symbolic grounding, catch errors too late, or sacrifice the flexibility of natural language reasoning. We propose Constraint-Anchored Reasoning Traces (CART), a neuro-symbolic framework that trains MLLMs to interleave natural language reasoning steps with symbolic constraint assertions: lightweight, machine-checkable statements about visual content (e.g., count(red_objects) = 3). A dual-pronged Constraint Propagation Module-combining a learned neural grounding head with Boolean Constraint Propagation-continuously verifies these anchors against extracted visual features and checks their mutual logical consistency. When a contradiction is detected, a backtrack controller halts generation and reverts to the last consistent checkpoint, preventing error propagation. A variable-frequency emission mechanism allows the model to adaptively control anchor density, avoiding trace bloat. We construct 218K training instances by augmenting GQA, CLEVR-CoGenT, and VCR with ground-truth constraint annotations derived from scene graphs, and fine-tune open-source MLLMs (LLaVA-NeXT, Qwen2-VL) via LoRA. On five benchmarks, CART reduces the snowball rate from 0.65 to 0.14, improves GQA accuracy by +4.6 percentage points over trainingonly baselines, and achieves 89.1 F1 on POPE-all with at most 18% inference overhead.
Abstract（参考訳）: 自己回帰型マルチモーダル大言語モデル(MLLM)は、ミス・スノーボール(英語版)に悩まされる。最先端のオープンソースMLLMでは、最初のエラーが発生すると、これらのケースの65%でカスケードが残りのステップで失敗する(メトリックは雪だるまレート(英語版)と呼ぶ)。既存の緩和サンプリング、ポストホックな自己検証、あるいは完全なプログラム合成は、象徴的な根拠の欠如、エラーのキャッチが遅すぎる、あるいは自然言語推論の柔軟性を犠牲にする。本稿では,MLLMを学習して,視覚的コンテンツ(例えば count(red_objects) = 3) に関する軽量で機械チェック可能なステートメントであるシンボリック制約アサーションを用いて自然言語推論ステップをインターリーブする,ニューロシンボリックなフレームワークであるConstraint-Anchored Reasoning Traces (CART)を提案する。学習した神経接地ヘッドとブール制約伝搬を連続的に組み合わせた二重進行制約伝搬モジュールは、抽出された視覚的特徴に対してこれらのアンカーを連続的に検証し、それらの相互論理的整合性をチェックする。矛盾が検出されると、バックトラックコントローラが生成を停止し、最後の一貫したチェックポイントに戻ることでエラーの伝搬を防止する。可変周波数放出機構は、モデルがトレース肥大を避けるためにアンカー密度を適応的に制御することを可能にする。本稿では,GQA,CLEVR-CoGenT,VCRの218Kトレーニングインスタンスを,シーングラフから派生した地中構造制約アノテーションと,LoRAを介してオープンソースMLLM(LLaVA-NeXT,Qwen2-VL)を用いて構築する。 5つのベンチマークで、CARTは雪だるまを0.65から0.14に減らし、トレーニング専用ベースラインよりもGQAの精度を+4.6ポイント向上させ、最大18%の推論オーバーヘッドでPOPE-allで89.1 F1を達成する。

関連論文リスト

A Structural Dynamics Graph World Model: Unified Modeling, Constrained Rollout, and Interpretable Calibration [9.354331831290233]
バックボーン契約として構造ダイナミクスグラフ世界モデルを提案する。任意の有界残差 R は学習可能性に集中し、大域射影は実現可能性を示す。半合成洪水とUSGSストリームフローでは、SD-GWMは浮動小数点耐性に対する制約違反を低減する。
論文参考訳（メタデータ） (2026-08-09T13:11:40Z)
Accurate Ensembles, Fragile Narratives: Multi-Scale Stacking and a Fidelity Audit of LLM-Generated Explanations for Credit Risk [0.0]
クレジットスコアリングは、決定ロジックをパラメータから読み取ることができないモデルに依存している。共通する提案は、言語モデルとのギャップを埋める: 特徴属性を計算し、それらを LLM に渡し、合理的に記述させる。このようなシステムをエンド・ツー・エンドに構築し、約束の後半が成立するかどうかをテストします。
論文参考訳（メタデータ） (2026-08-08T13:22:14Z)
Constrained Decoding for Diffusion Language Models via Efficient Inference over Finite Automata [57.27430779838529]
有限オートマトンとして表現可能な任意の制約の下で,制約付き平均場後部からサンプリングする,正確かつトラクタブルなアルゴリズムを提案する。このアプローチは、構築による制約満足度を保証し、欲求とサンプリングベースのデコーディングの両方をサポートし、並列およびブロックワイドデコーディングと互換性がある。 Dream-7B と LLaDA-8 の実証的な評価は、様々なタスクにおいてかなりの精度の向上を示した。
論文参考訳（メタデータ） (2026-07-08T05:48:57Z)
Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning [40.342912574072024]
大規模言語モデルは、旅行計画やコードソリューションのような構造化されたアウトプットを生成する。個々の推論ステップは正しく見えるが、アウトプット全体が予算に違反したり、テストケースに失敗したり、あるいは以前の推論に矛盾することがある。構造化LCM出力の検証のための決定論的解析制約付き学習品質スコアラを提案する。
論文参考訳（メタデータ） (2026-05-15T17:08:27Z)
Models Recall What They Violate: Constraint Adherence in Multi-Turn LLM Ideation [0.0]
DriftBenchは、科学的思考における制約の順守を評価するためのベンチマークである。繰り返し圧力は構造的複雑さを確実に増加させ、しばしば元の制約への固執を減少させる。オープンベンチマークとして、すべてのブリーフ、プロンプト、ルックス、書き起こし、スコアをリリースします。
論文参考訳（メタデータ） (2026-04-30T15:46:33Z)
SemLoc: Structured Grounding of Free-Form LLM Reasoning for Fault Localization [6.086377855676357]
本稿では,構造化セマンティックランタイムに基づくフォールトローカライゼーションフレームワークSemLocを紹介する。 SemLoc on SemFault-250, acorpus of 250 Python program with single semantic faults。
論文参考訳（メタデータ） (2026-03-31T00:56:43Z)
OrgForge-IT: A Verifiable Synthetic Benchmark for LLM-Based Insider Threat Detection [0.0]
本稿では,決定論的シミュレーションエンジンが基底真理を維持し,言語モデルが表面の散文のみを生成する検証可能な合成ベンチマークを提案する。コーパスは51日の模擬日、2,904回のテレメトリ記録を96.4%のノイズレートで記録し、単面と単日のトリアージ戦略を破るために設計された4つの検出シナリオをカバーしている。
論文参考訳（メタデータ） (2026-03-23T19:03:53Z)
Information Fidelity in Tool-Using LLM Agents: A Martingale Analysis of the Model Context Protocol [69.11739400975445]
モデルコンテキストプロトコル(MCP)エージェントにおけるエラー蓄積を解析するための最初の理論的枠組みを紹介する。累積歪みが線形成長と高確率偏差を$O(sqrtT)$で表すことを示す。主な発見は、意味重み付けは歪みを80%減らし、周期的再接地は、エラー制御の約9ステップごとに十分である。
論文参考訳（メタデータ） (2026-02-10T21:08:53Z)
CARE What Fails: Contrastive Anchored-REflection for Verifiable Multimodal [84.71254539482369]
検証可能な報酬を伴うグループ相対的強化学習(RLVR)は、しばしば、すでに失敗している最も情報に富むデータを浪費する。エラーを監督するマルチモーダル推論のための,障害中心のポストトレーニングフレームワークであるCAREを提案する。 CAREは正確さを改善し、スムーズさをトレーニングすると同時に、障害からの学習信号のシェアを明示的に増やします。
論文参考訳（メタデータ） (2025-12-22T16:34:21Z)
What makes Reasoning Models Different? Follow the Reasoning Leader for Efficient Decoding [84.42056293290015]
推論モデルと非推論モデルの間のトークンレベルのミスアライメントを分析する。本稿では,FoReaL-Decodingを提案する。一般的な4つの数学推論ベンチマークにおいて、FoReaL-Decodingは理論FLOPを30から50%減らし、CoTの長さを最大40%減らした。
論文参考訳（メタデータ） (2025-06-08T05:08:32Z)
Fast Controlled Generation from Language Models with Adaptive Weighted Rejection Sampling [90.86991492288487]
トークンの制約を評価するのは違法にコストがかかる LCDは文字列上のグローバル分布を歪め、ローカル情報のみに基づいてトークンをサンプリングすることができる。我々のアプローチは最先端のベースラインよりも優れていることを示す。
論文参考訳（メタデータ） (2025-04-07T18:30:18Z)
SEAL: Steerable Reasoning Calibration of Large Language Models for Free [58.931194824519935]
大規模言語モデル(LLM)は、拡張チェーン・オブ・ソート(CoT)推論機構を通じて複雑な推論タスクに魅力的な機能を示した。最近の研究では、CoT推論トレースにかなりの冗長性が示されており、これはモデル性能に悪影響を及ぼす。我々は,CoTプロセスをシームレスに校正し,高い効率性を示しながら精度を向上する,トレーニング不要なアプローチであるSEALを紹介した。
論文参考訳（メタデータ） (2025-04-07T02:42:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。