論文の概要: The belief-action gap in language model agents
- arxiv url: http://arxiv.org/abs/2610.17444v1
- Date: Mon, 12 Oct 2026 22:04:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.463227
- Title: The belief-action gap in language model agents
- Title（参考訳）: 言語モデルエージェントにおける信念-行動ギャップ
- Abstract要約: 言語モデル(LM)エージェントは異なる理由で失敗し、異なる説明と介入を必要とする。
我々は、状態信念、行動価値観、行動嗜好がLMエージェントとしてどのように相互作用するかを調査し、テキストレンダリンググリッドの世界における意思決定にコミットする。
- 参考スコア（独自算出の注目度）: 6.478742989183677
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Language model (LM) agents can fail for different reasons, requiring different explanations and interventions. We study how state beliefs, action values, and action preferences interact as LM agents reason and commit to decisions in text-rendered grid worlds. We estimate task-relevant beliefs using report-based and representation-based probes, and action values using inverse reinforcement learning. We find that task-relevant state and value information is often represented more reliably than it is reflected in behaviour. Tracking action preferences throughout reasoning further shows that decisions sharpen around a commitment point and reported belief uncertainty decreases near commitment, although individual belief changes do not consistently explain shifts in action preference. Finally, forced actions follow reasoning prefixes from other decisions when transplanted, whereas the tested reasoning-window activation edits provide limited control over the action. Together, these results suggest that some failures arise not from missing task-relevant information, but from how available information is translated into action. Our measurements distinguish information availability from belief-action consistency without by themselves identifying the cause of each failure. Our code is available at: https://anonymous.4open.science/r/belief-action-gap-F745/
- Abstract（参考訳）: 言語モデル(LM)エージェントは異なる理由で失敗し、異なる説明と介入を必要とする。
我々は、状態信念、行動価値観、行動嗜好がLMエージェントとしてどのように相互作用するかを調査し、テキストレンダリンググリッドの世界における意思決定にコミットする。
我々は,レポートベースおよび表現ベースプローブを用いてタスク関連信念を推定し,逆強化学習を用いて行動価値を推定する。
タスク関連の状態と価値情報は、振る舞いに反映されるよりも確実に表現されることがよくあります。
行動選好の追跡は、行動選好の変化が常に説明されないにもかかわらず、決定がコミットメントポイントを中心に鋭くなり、信念の不確実性がコミットメントの近くで減少することを示している。
最後に、強制的なアクションは移植時に他の決定から推論プレフィックスに従うが、テストされた推論ウィンドウのアクティベーション編集はアクションを限定的に制御する。
これらの結果から,タスク関連情報の欠落が原因ではなく,利用可能な情報がどのように行動に変換されるかが示唆された。
本測定では,それぞれの障害の原因を特定することなく,情報提供能力と信念-行動整合性とを区別する。
私たちのコードは、https://anonymous.4open.science/r/belief-action-gap-F745/で利用可能です。
関連論文リスト
- DecepEval: A Benchmark for Evaluating Deception in LLM Agents [75.59466511154791]
大規模言語モデル(LLM)エージェントは騙しによってタスクパフォーマンスを追求することができる。
既存の評価では、LLMエージェントは騙すことができるが、しばしば孤立したシナリオや狭義に定義された条件を調べることができる。
3つのタスクファミリに1,532のインスタンスと28のプロフェッショナルシナリオからなるベンチマークであるDecepEvalを紹介します。
論文 参考訳（メタデータ） (2026-10-06T08:33:43Z) - PerturBot: Breaking Shortcut Priors in Vision-Language-Action Models with Perturbative Training [54.81497176604651]
視覚-言語-アクション(VLA)ポリシーは、その行動を決定する証拠を無視しながら、複雑なタスクを完了することができる。
私たちはこれらの依存関係をモダリティショートカット(Modality shortcuts)と呼んでいる: 成功例の正規性は、専門家の行動を予測するのに十分な視覚的、語彙的、あるいは運動的手がかりを生み出す。
本稿では,タスク関連エビデンスをより使いやすくし,自分でもショートカットが不十分なPerturbotを提案する。
論文 参考訳（メタデータ） (2026-10-03T15:57:51Z) - Does This Action Still Explain the Task? Reverse Scoring for Diffusion Language Model Agents [25.947103954467874]
拡散ベースの大規模言語モデル(dLLM)は、並列デコーディングを通じて自動回帰エージェントのシーケンシャル遅延ボトルネックを壊すことを約束する。
最近の評価では、この効率はエンボディード・エージェント・コンピテンスに移行しない。
我々は、この失敗とトレーニングなしの治療法について、機械学的に説明します。
論文 参考訳（メタデータ） (2026-09-29T20:54:04Z) - A Removal Based Approach to Improve LLM Faithfulness at Test-Time [2.6612030624044194]
大規模言語モデル(LLM)は、逐次決定にますます使われる。
これらの説明は不信であり、モデルの決定の根底にある実際の理由を反映していない。
不完全性を直接ターゲットとするテストタイムアプローチを導入します。
論文 参考訳（メタデータ） (2026-09-03T18:09:26Z) - Measuring Harness-Induced Belief Divergence in Multi-Step LLM Agents [0.05371337604556311]
タスク,環境,基本LPMが固定された場合でも,ソフトウェアエージェントハーネスがエージェントのマルチステップ信念を変えることができることを示す。
我々は,K段軌道の進行,リスク,回復可能性,制約,障害モード,不確実性,今後の成功,修理コスト,代替ハーネスの下での次の行動について,構造的K段軌道を付与する信念ロールアウト診断を導入する。
論文 参考訳（メタデータ） (2026-07-05T22:22:39Z) - Seeing Isn't Believing: Mitigating Belief Inertia via Active Intervention in Embodied Agents [20.463811944310475]
Estimate-Verify-Update (EVU)は、テキストの信条を明示的に生成する統合的な介入機構である。
EVUは一貫してタスクの成功率を大幅に向上させる。
我々のアプローチは、信念の慣性を効果的に軽減し、より堅牢なエンボディエージェントの開発を進めます。
論文 参考訳（メタデータ） (2026-04-19T04:36:33Z) - Pando: Do Interpretability Methods Work When Models Won't Explain Themselves? [53.07826484214082]
モデル・オーガニゼーションのベンチマークであるPandoを紹介します。
Pandoは、ラベル付きクエリ-レスポンスペアから、ホールドアウトモデル決定を予測する。
説明が忠実であれば、ブラックボックスの引用はすべてのホワイトボックスメソッドに一致するか、超える。
論文 参考訳（メタデータ） (2026-04-13T06:42:24Z) - Gaming the Judge: Unfaithful Chain-of-Thought Can Undermine Agent Evaluation [76.5533899503582]
大規模言語モデル(LLM)は、エージェントのパフォーマンスを評価するために、ますます裁判官として使われている。
このパラダイムは、エージェントのチェーン・オブ・シークレット(CoT)推論が内部の推論と環境状態の両方を忠実に反映していることを暗黙的に仮定している。
我々は、操作された推論だけで、様々なWebタスクにまたがる800の軌跡に対して、最先端のVLM審査員の偽陽性率を最大90%向上させることができることを実証した。
論文 参考訳（メタデータ） (2026-01-21T06:07:43Z) - Towards Faithful Natural Language Explanations: A Study Using Activation Patching in Large Language Models [29.67884478799914]
大きな言語モデル(LLM)は、その答えを正当化するために説得力のある自然言語説明(NLE)を生成することができる。
近年,NLEの忠実度を測定するための様々な手法が提案されている。
これらのアプローチは、確立された忠実性の定義に従って包括的でも正しくも設計されていない、と我々は主張する。
論文 参考訳（メタデータ） (2024-10-18T03:45:42Z) - Nested Counterfactual Identification from Arbitrary Surrogate
Experiments [95.48089725859298]
観測と実験の任意の組み合わせからネスト反事実の同定について検討した。
具体的には、任意のネストされた反事実を非ネストされたものへ写像できる反ファクト的非ネスト定理(英語版)(CUT)を証明する。
論文 参考訳（メタデータ） (2021-07-07T12:51:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。