論文の概要: Where Do CoT Training Gains Land in LLM based Agents?

• arxiv url: http://arxiv.org/abs/2606.26935v1
• Date: Thu, 25 Jun 2026 12:09:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-26 18:46:32.278202
• Title: Where Do CoT Training Gains Land in LLM based Agents?
• Title（参考訳）: LLMをベースとしたエージェントでCoTトレーニングはどこで実現されるのか?
• Abstract要約: 思考の連鎖(CoT)推論は言語モデルエージェントで広く使われている。 以前の研究は、言語化されたCoTは必ずしも忠実ではなく、むしろポストホック推論を反映していることを示している。 私たちはCoTトレーニングが実際に改善しているものは何なのか尋ねます。
• 参考スコア（独自算出の注目度）: 14.773308083944562
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Chain-of-thought (CoT) reasoning is widely used in language-model agents, but prior work has shown that verbalized CoT is not always faithful and may instead reflect post-hoc reasoning, which means the model already knows the answer before reasoning. We therefore ask what CoT training is actually improving: is the model getting better at changing its action through generated reasoning, or is it getting better at predicting the action directly from the prompt? We study this question by comparing \emph{prompt actions} (predicting action without CoT) with CoT actions (predicting action with CoT). Across checkpoints, prompt-action quality improves substantially. While interacting with the environment, the relative advantage of CoT actions over prompt actions remains similar, showing that CoT training does not widen the advantage of CoT reasoning, and it helps to improve the quality of prompt actions. We further find that later checkpoints are less likely to revise the action in response to CoT, suggesting greater reliance on the prompt. Motivated by these patterns, we selectively mask action-token supervision on a fraction of training examples. This intervention improves out-of-domain generalization.
• Abstract（参考訳）: 思考の連鎖(CoT)推論は言語モデルエージェントで広く使われているが、先行研究により、言語化されたCoTは必ずしも忠実ではなく、むしろポストホック推論を反映している可能性があることが示されている。 モデルが生成した推論を通じてアクションを変更するのが良くなっているのか、それともプロンプトから直接アクションを予測するのが良くなっているのか? 我々は,この問題を,emph{prompt action}(CoTなしでの行動予測)とCoTアクション(CoTとの行動予測)を比較して検討する。 チェックポイント全体では、プロンプトアクションの品質が大幅に向上する。 環境と相互作用しながらも、プロンプトアクションに対するCoTアクションの相対的優位性は相変わらず似ており、CoTトレーニングがCoT推論の利点を拡大せず、プロンプトアクションの品質向上に役立つことを示している。 さらに、後続のチェックポイントは、CoTに応答してアクションを再修正する可能性が低く、プロンプトへの依存度が高まることを示唆している。 これらのパターンに触発されて、少数のトレーニング例に対して、アクション・ツーケン・インスペクションを選択的にマスキングする。 この介入はドメイン外の一般化を改善する。

関連論文リスト

• WhisperRec: Latent Reasoning for Efficient Foundation Recommendation Models [51.88075626243057]
  基礎推薦モデル(FRM)のための効率的な潜在推論フレームワークであるWhisperRecを提案する。 WhisperRecは教師生成のChain-of-Thought(CoT)を学習可能な潜在推論トークンに圧縮する。 WhisperRecは明示的なCoT法と従来のベースラインを一貫して上回ることを示す。
  論文  参考訳（メタデータ） (2026-07-29T08:48:35Z)
• CASE: Causal Alignment and Structural Enforcement for Improving Chain-of-Thought Faithfulness [25.486054658242693]
  CoT推論は、大規模言語モデル(LLM)の性能と解釈性の両方を改善するために広く用いられている。 我々はこの問題を因果的観点から研究し、忠実なCoTプロセスはZrightarrow Xrightarrow Y$、$Z$、$X$、$Y$のチェーンに従わなければならない。 トレーニング時因果アライメントと推論時構造強制を組み合わせたフレームワークであるCASEを提案する。
  論文  参考訳（メタデータ） (2026-07-21T07:56:14Z)
• Prompting Science Report 2: The Decreasing Value of Chain of Thought in Prompting [0.0]
  Chain-of-Thought(CoT)プロンプトは,大規模言語モデルに“ステップバイステップ”を推奨するテクニックである。 CoTプロンプトの有効性はタスクの種類やモデルによって大きく異なる。 明確な推論能力を持つモデルの場合、CoTのプロンプトは答えの正確性に限界があるだけである。
  論文  参考訳（メタデータ） (2025-06-08T13:41:25Z)
• Reasoning Models Don't Always Say What They Think [48.05987314492555]
  CoT(Chain-of-Thought)は、モデルの意図と推論プロセスの監視を可能にする。 提案する6つの推論ヒントにまたがる最先端推論モデルのCoT忠実度を評価した。
  論文  参考訳（メタデータ） (2025-05-08T16:51:43Z)
• Improve Vision Language Model Chain-of-thought Reasoning [86.83335752119741]
  視覚言語モデル(VLM)におけるチェーン・オブ・シント(CoT)推論は、解釈可能性と信頼性を向上させるために不可欠である。 我々は,より詳細な回答を必要とする推論タスクに対して,短時間でVLMを訓練することはよくないことを示す。
  論文  参考訳（メタデータ） (2024-10-21T17:00:06Z)
• A Hopfieldian View-based Interpretation for Chain-of-Thought Reasoning [48.51969964676017]
  CoT(Chain-of-Thought)は、大規模言語モデルの推論性能を高める上で重要な位置を占めている。 本稿では,CoTの精度を制御するためのリード・アンド・コントロル手法を提案する。
  論文  参考訳（メタデータ） (2024-06-18T04:07:13Z)
• Chain-of-Thought Reasoning Without Prompting [40.92854235219315]
  CoT推論パスは、テキストデコーディングプロセスを変更するだけで、事前訓練された言語モデルから引き出すことができる。 復号経路におけるCoTの存在は、モデルの復号解に対する高い信頼と相関する。
  論文  参考訳（メタデータ） (2024-02-15T18:55:41Z)
• Stress Testing Chain-of-Thought Prompting for Large Language Models [0.16317061277456998]
  本報告では,大規模言語モデル(LLM)の多段階推論能力を向上する上で,CoT(Chain-of-Thought)の有効性について検討する。 各種タスクにおけるGPT-3の性能に及ぼすCoT次数,CoT値,CoT演算子の影響を解析した。
  論文  参考訳（メタデータ） (2023-09-28T17:21:33Z)
• Measuring Faithfulness in Chain-of-Thought Reasoning [19.074147845029355]
  大きな言語モデル(LLM)は、質問に答える前にステップバイステップの"Chain-of-Thought"(CoT)推論を生成する場合、より優れたパフォーマンスを発揮する。 記述された推論が、モデルの実際の推論(すなわち、質問に答えるプロセス)の忠実な説明であるかどうかは不明である。 我々は,CoTに介入する際のモデル予測がどう変化するかを調べることで,CoT推論が不信である可能性の仮説を考察する。
  論文  参考訳（メタデータ） (2023-07-17T01:08:39Z)
• When do you need Chain-of-Thought Prompting for ChatGPT? [87.45382888430643]
  CoT(Chain-of-Thought)は,大規模言語モデル(LLM)から複雑な多段階推論を効果的に引き出すことができる CoT がChatGPT などの最近の命令微調整 (IFT) LLM に対してまだ有効であるかどうかは不明である。
  論文  参考訳（メタデータ） (2023-04-06T17:47:29Z)
• Towards Understanding Chain-of-Thought Prompting: An Empirical Study of What Matters [82.84696222087396]
  CoT(Chain-of-Thought)の促進により,大規模言語モデル(LLM)の多段階推論能力が劇的に向上する 無効な実演でもCoT推論が可能であることを示す。
  論文  参考訳（メタデータ） (2022-12-20T05:20:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。