論文の概要: Do Vision-Language-Action Models Mean What They Say? On the Role of Faithfulness in Embodied Reasoning

• arxiv url: http://arxiv.org/abs/2607.04681v1
• Date: Mon, 06 Jul 2026 05:10:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-07 22:26:30.046946
• Title: Do Vision-Language-Action Models Mean What They Say? On the Role of Faithfulness in Embodied Reasoning
• Title（参考訳）: ビジョン・ランゲージ・アクション・モデルとは何か? : 身体的推論における信仰の役割について
• Abstract要約: Embodied Chain-of-Thoughtは、ロボットによる意思決定を強化するための、有望なメカニズムとして登場した。 我々は、SoTAアライメント戦略は必要だが忠実性の不十分な概念を提供すると論じる。 我々は、学習評論家ピノッキオ(Pinocchio)を通じて、信仰を具体化するための行動サロゲートを運用する。
• 参考スコア（独自算出の注目度）: 17.56588495990139
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Embodied Chain-of-Thought has emerged as a promising mechanism to enhance robot decision-making and interpretability in black-box Vision-Language Action (VLA) models. However, whether this verbalized Chain-of-Thought truthfully reflects the policy's underlying decision process remains poorly understood. We distinguish between functional reasoning, in which reasoning improves task performance, and faithful reasoning, in which reasoning truly reflects the policy's internal decision process. We argue that SoTA alignment strategies offer a necessary but insufficient notion of faithfulness, admitting reasoning whose intermediate steps can mask the causal links in action prediction through confounding factors (e.g., reasoning that is ungrounded in the environment and internally disconnected or inconsistent), restricting policy generalization. We study this gap through a human evaluation of a SoTA reasoning model for autonomous driving, revealing an inconsistent coupling between reasoning quality and downstream trajectory improvement. We then operationalize a behavioral surrogate for embodied faithfulness through a learned critic, Pinocchio, scoring observation grounding and stepwise coherence, and use this critic as a dense reward signal in post-training an embodied policy with reinforcement learning. Across withheld driving benchmarks, our post-trained planner improves faithfulness by 4% and 18% over SoTA alignment and trajectory error post-training baselines, respectively, while maintaining competitive downstream task performance. Finally, on a synthetic out-of-distribution test set, post-training for faithfulness improves policy responsiveness to rare counterfactual scenarios by 1.6x that of a SoTA policy, suggesting that faithful reasoning traces contribute to more robust, generalizable, and interpretable embodied intelligence. Project page: https://mjf-su.github.io/pinocchio/
• Abstract（参考訳）: Embodied Chain-of-Thoughtは、ブラックボックスのVision-Language Action(VLA)モデルにおいて、ロボットの意思決定と解釈性を高めるための有望なメカニズムとして登場した。 しかし、この言葉で述べた「誓いの連鎖」が、政策の根底にある決定過程を真に反映しているかどうかはまだよく分かっていない。 我々は、推論がタスクパフォーマンスを改善する機能的推論と、ポリシーの内部決定過程を真に反映する忠実な推論とを区別する。 我々は,SoTAアライメント戦略が,行動予測における因果関係を隠蔽できる推論(例えば,環境に根ざせず,内部的に不整合あるいは不整合である推論)を許容し,政策の一般化を制限し,必要だが不十分な忠実性の概念を提供すると主張する。 本研究では,自律運転のためのSoTA推論モデルの人間による評価を通じて,このギャップについて検討し,推論品質と下流軌道改善との整合性を明らかにした。 そこで我々は,学習評論家のピノッキオ(Pinocchio)を通じて,具体的忠実度を示す行動サロゲートを運用し,観察的根拠とステップワイズ・コヒーレンス(Stepwise Coherence)を評価するとともに,この批判を強化学習による具体的政策の訓練後の報酬信号として利用する。 トレーニング後の運転ベンチマークでは,STAアライメントとトラジェクティブエラーによるトレーニング後のベースラインに対する信頼度を4%と18%向上し,ダウンストリームタスク性能の競争力を維持した。 最後に、総合的なアウト・オブ・ディストリビューションテストセットにおいて、忠実性のポストトレーニングは、SoTAポリシーの1.6倍の非現実的なシナリオに対するポリシー応答性を改善し、忠実な推論トレースがより堅牢で、一般化可能で、解釈可能なインテリジェンスに寄与することを示唆している。 プロジェクトページ: https://mjf-su.github.io/pinocchio/

関連論文リスト

• Why2Speak: Faithful Reasoning for Abstaining Action Policies [0.19336815376402716]
  我々は,直接的な意思決定方針,推論方針,教師付き微調整,強化学習を比較した。 最強の直接政策はより高い品質を達成するが、検査する理由を示さない。 監視された微調整は、推論を抑えるか、意思決定の質を向上させることなく維持する一方、強化学習は推論ポリシーを改善するのに失敗する。
  論文  参考訳（メタデータ） (2026-08-21T02:00:21Z)
• Does Reasoning Preserve Alignment? On the Trustworthiness of Large Reasoning Models [55.788110316999166]
  教師付き微調整, RL を用いた後訓練, および命令調整ベースラインに対する蒸留による推論モデルの比較を行った。 推論モデルはしばしば推論ベンチマークを改善するが、アライメント回帰を示す。 これらの回帰は、KL発散によって測定された命令調整ベースラインからの挙動ドリフトと一致している。
  論文  参考訳（メタデータ） (2026-06-09T16:14:27Z)
• FACT-E: Causality-Inspired Evaluation for Trustworthy Chain-of-Thought Reasoning [49.65751420291115]
  CoT(Chain-of-Thought)プロンプトはLSM推論を改善したが、モデルはしばしば不誠実な中間ステップを含むコヒーレントな説明を生成する。 我々は、CoTの品質を評価するための因果性に着想を得たフレームワークであるFACT-Eを提案する。 FACT-Eは推論・軌道選択を改善し、文脈内学習を強くすることを示す。
  論文  参考訳（メタデータ） (2026-04-12T15:35:08Z)
• Verify Before You Commit: Towards Faithful Reasoning in LLM Agents via Self-Auditing [5.497064111008921]
  我々は,行動開始前のエージェントの内部信頼状態に対する検証を行う新しいフレームワークであるtextbfSelf-textbfAudited textbfVerified textbfReasoning (textscSAVeR)を提案する。 当社のアプローチは、競争力のあるエンドタスクのパフォーマンスを維持しながら、推論の忠実さを継続的に改善します。
  論文  参考訳（メタデータ） (2026-04-09T16:01:03Z)
• Balancing Faithfulness and Performance in Reasoning via Multi-Listener Soft Execution [79.98699884805636]
  Reasoning Execution by Multiple Listeners (REMUL) は多人数の強化学習手法である。 REMULは、推論が他の当事者に従えるかがより忠実になるという仮説に基づいている。 スピーカーは、リスナーにとって明らかな推論を生み出すことで報われます。
  論文  参考訳（メタデータ） (2026-02-18T02:55:55Z)
• Towards Generalizable Reasoning: Group Causal Counterfactual Policy Optimization for LLM Reasoning [50.352417879912515]
  大規模言語モデル(LLM)は推論能力の進歩とともに複雑なタスクに優れる。 一般化可能な推論パターンを学習するために,LLMを明示的に訓練するためのグループ因果政策最適化を提案する。 次に、この報酬からトークンレベルのアドバンテージを構築し、ポリシーを最適化し、LCMにプロセス無効で事実上堅牢な推論パターンを推奨します。
  論文  参考訳（メタデータ） (2026-02-06T08:03:11Z)
• ALIVE: Awakening LLM Reasoning via Adversarial Learning and Instructive Verbal Evaluation [4.265094703231012]
  ハンズフリーアライメントフレームワークである textbfALIVE (emphAdrial Learning with Instructive Verbal Evaluation) を導入する。 対人学習とインストラクティブな言語フィードバックを結合することにより、ALIVEはモデルが生のコーパスから直接評価基準を内在化できるようにする。 同一のデータと計算により、ALIVEはクロスドメインの一般化を著しく改善し、自己補正率も向上した。
  論文  参考訳（メタデータ） (2026-02-05T09:20:23Z)
• Gaming the Judge: Unfaithful Chain-of-Thought Can Undermine Agent Evaluation [76.5533899503582]
  大規模言語モデル(LLM)は、エージェントのパフォーマンスを評価するために、ますます裁判官として使われている。 このパラダイムは、エージェントのチェーン・オブ・シークレット(CoT)推論が内部の推論と環境状態の両方を忠実に反映していることを暗黙的に仮定している。 我々は、操作された推論だけで、様々なWebタスクにまたがる800の軌跡に対して、最先端のVLM審査員の偽陽性率を最大90%向上させることができることを実証した。
  論文  参考訳（メタデータ） (2026-01-21T06:07:43Z)
• Journey Before Destination: On the importance of Visual Faithfulness in Slow Thinking [11.763473690046721]
  推論の拡張された視覚言語モデルは、より大きな能力と透明性を約束する明確な思考の連鎖を生成する。 モデルは、視覚的に不誠実な中間段階によって正しい答えに達するか、あるいは最終的な予測において、合理的に失敗する。 本稿では, 推論連鎖の知覚段階が画像中に存在するか否かに着目し, 推論鎖の視覚的忠実度を評価次元として紹介する。
  論文  参考訳（メタデータ） (2025-12-13T07:04:42Z)
• Is Reasoning All You Need? Probing Bias in the Age of Reasoning Language Models [0.0]
  RLM(Reasoning Language Models)は、複雑な多段階推論タスクを実行する能力によって注目を集めている。 これらの能力は信頼性の向上を約束するが、社会的バイアスに対する堅牢性への影響はまだ不明だ。 我々は, CLEAR-Bias ベンチマークを用いて, RLM のバイアス誘発に対する対角的ロバスト性について検討する。
  論文  参考訳（メタデータ） (2025-07-03T17:01:53Z)
• Consistent Paths Lead to Truth: Self-Rewarding Reinforcement Learning for LLM Reasoning [87.7836502955847]
  本稿では,Large Language Model (LLM)推論を強化するための,自己回帰型強化学習フレームワークを提案する。 私たちのキーとなる洞察は、正しい応答はモデルの可能性の観点から一貫した軌道パターンを示すことが多いということです。 本稿では,安定度とボラティリティを,頑健なベクトル空間集約戦略を通じて統合する,本質的な報酬機構であるCoVoを紹介する。
  論文  参考訳（メタデータ） (2025-06-10T12:40:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。