論文の概要: The First Few Tokens Matter: Understanding Chain-of-Thought Controllability

• arxiv url: http://arxiv.org/abs/2610.40939v1
• Date: Thu, 29 Oct 2026 20:14:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.486565
• Title: The First Few Tokens Matter: Understanding Chain-of-Thought Controllability
• Title（参考訳）: ファースト・ツーケンズ : チェーン・オブ・ソート・コントロールの理解
• Abstract要約: CoT(Chain-of- Thought)モニタリングは、ますます有能なエージェントを監視するための有望な方法だ。 我々は,この制限の源泉を調査し,オープニングシンキングタグに続く最初の数個のトークンにおいて,エントロピー崩壊とリンクする。 我々はこの機構を利用して、初期トークンに対する2つの推論時間介入を通してCoT制御性を回復する。
• 参考スコア（独自算出の注目度）: 1.8134323243605637
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Chain-of-thought (CoT) monitoring is a promising way to oversee increasingly capable agents. It succeeds in part because current models appear limited in their ability to control what they verbalize in their reasoning traces. We investigate the source of this limitation and link it to an entropy collapse in the first few tokens following the opening thinking tag. We exploit this mechanism to recover CoT controllability through two inference-time interventions on initial tokens: prefilling, where even a single token can substantially increase controllability, and banning frequent opening tokens combined with in-context examples, which improves average compliance by 34-41 percentage points across models. These interventions recover mainly addition and style controllability (adding or transforming information), while suppression controllability (avoiding or removing information) exhibits more varied responses, suggesting distinct underlying mechanisms. Consistent with this, the two groups behave as separate capabilities: across models, performance correlates positively within these groups, while cross-group correlations are mostly negative. Importantly, we find that the relationship with monitorability depends on the evaluation: addition and style controllability more consistently positively correlate with monitorability, while suppression often shows negative associations. Our findings motivate the development of controllability evaluations that distinguish difficulty initiating a specific opening from general limitations of the ability to alter reasoning content, alongside separate reporting of control tasks and categories.
• Abstract（参考訳）: CoT(Chain-of- Thought)モニタリングは、ますます有能なエージェントを監視するための有望な方法だ。 その理由の一部は、現在のモデルは、彼らの推論トレースにおいて、彼らが言語化するものを制御できる能力に制限されているように見えるためである。 我々は,この制限の源泉を調査し,オープニングシンキングタグに続く最初の数個のトークンにおいて,エントロピー崩壊とリンクする。 我々はこのメカニズムを利用して,初期トークンに対する2つの推論時間的介入を通じてCoT制御性を回復する: プリフィル(prefilling) – 1つのトークンであってもコントロール可能性を大幅に向上させることができる)と,コンテクスト内の例と組み合わせた頻繁なオープントークンの禁止 – モデル間の平均コンプライアンスを34-41ポイント向上する。 これらの介入は、主に追加やスタイルの制御可能性(情報の追加または変換)を回復する一方、抑制の制御可能性(情報の回避または削除)は、より多様な応答を示し、明確な基盤メカニズムを示している。 これと一致して、2つの群は別個の機能として振る舞う: モデルを横断して、パフォーマンスはこれらの群の中で正に相関するが、群間の相関はほとんど負である。 注意すべきは、監視可能性との関係が評価に依存することである: 追加とスタイル制御性は、監視可能性とより一貫して相関するが、抑制は、しばしば負の関係を示す。 本研究は,制御課題とカテゴリを別々に報告すると共に,推論内容の変更能力の一般的な制限から,特定の開封開始の難しさを区別する制御可能性評価の開発を動機づけるものである。

関連論文リスト

• Reasoning Models Can Control Their Chains of Thought When They Tell Themselves To [30.810522189983974]
  CoT(Chain-of- Thought)制御性(CoT)は、モデルがCoTの特性を制御できる能力であり、その有用性と信頼性の両面において重要である。 最近の研究は、モデルがユーザープロンプトで与えられたCoT制約に従うかどうかを評価し、モデル間での制御性が極めて低いことを報告している。 この低制御性は、推論モデルがCoTを制御できないことを反映するものではなく、ユーザプロンプトの制約を過度に指定した結果である、と我々は主張する。
  論文  参考訳（メタデータ） (2026-10-16T10:31:27Z)
• Taming CoT Obfuscation in VLMs: From Mechanistic Evidence to Activation Enforcement [74.92755267784983]
  強化学習は、視覚言語モデルにおける推論を改善するが、チェーン・オブ・オファシケーションを誘発することができる。 本稿では, 行動フィードバックとテンプレート関連アクティベーションの標的抑制を組み合わせ, メカニスティック・エンハンスメント(TAME)を用いた標的的アンチ・オブファシケーションを提案する。 VIRL-39k、SPA-VL、および2つのモデルファミリの中で、TAMEはグループ相対政策最適化よりも最大30.9および16.7%のCoT監視性を改善している。
  論文  参考訳（メタデータ） (2026-09-21T08:08:56Z)
• Complex Problem Solving in Large Language Models: A Statistical Control Survey and Diagnostic Framework [52.886947585847594]
  大規模言語モデル(LLM)による複雑な問題解決は、しばしばより強い推論やより長い生成の問題としてフレーム化される。 しかし、早期のエラー増幅、迅速な脆さ、誤ったコミットメントを修正する失敗を説明するのは難しい。 本調査はCPSを潜在解状態上の逐次推定・決定問題と解釈する。
  論文  参考訳（メタデータ） (2026-09-17T18:28:45Z)
• Mechanistic Interpretability of Chain-of-Thought Reasoning via Sequential Activation Patching [0.9940728137241215]
  本研究では,CoT(Chain-of-Thought)関連因果効果が生成した推論軌道のどこに現れるかを検討する。 トークン位置をまたいだCoT条件のアテンションヘッドアクティベーションをトレースする逐次アクティベーションパッチフレームワークを導入する。 この結果から,CoT条件の例に付随する分散推論支援サブ回路の証拠が得られた。
  論文  参考訳（メタデータ） (2026-08-23T10:05:16Z)
• Compliance versus Sensibility: On the Reasoning Controllability in Large Language Models [46.26628756478016]
  大規模言語モデル(LLM)は、事前学習データにおける共用推論パターンを通じて推論能力を取得することが知られている。 コンフリクト中に信頼性スコアが著しく低下するため、推論競合は内部で検出可能であることを示す。 その結果, LLM推論は具体例に固定されているものの, アクティブな機械的介入は論理的スキーマをデータから効果的に切り離すことができることがわかった。
  論文  参考訳（メタデータ） (2026-04-29T22:55:40Z)
• Coupled Control, Structured Memory, and Verifiable Action in Agentic AI (SCRAT -- Stochastic Control with Retrieval and Auditable Trajectories): A Comparative Perspective from Squirrel Locomotion and Scatter-Hoarding [0.0]
  本論では, リス生態学は, 樹上性移動, 散発的移動, 観衆に敏感なキャッシングの3つの要求をそれぞれ1つの生物で満たすため, 鋭い比較例を提示する。 本稿では,遅延力学,構造化エピソードメモリ,オブザーバ・ビリーフ状態,オプションレベル動作,遅延検証器信号を備えた最小階層的部分的制御モデルを提案する。
  論文  参考訳（メタデータ） (2026-04-03T17:25:05Z)
• Critical or Compliant? The Double-Edged Sword of Reasoning in Chain-of-Thought Explanations [60.27156500679296]
  系統的な推論連鎖の摂動とデリバリートーンの操作による道徳シナリオにおけるCoT(Chain-of-Thought)の説明の役割について検討した。 1) 利用者は, 根拠に欠陥がある場合でも, 信頼感を保ち, 結果合意を信頼する傾向がみられた。 これらの結果は、CoTの説明が同時に明確化と誤解を招き、視覚的信頼よりも精査と批判的思考を奨励する説明を提供するNLPシステムの必要性を強調している。
  論文  参考訳（メタデータ） (2025-11-15T02:38:49Z)
• Deconfounding Scores: Feature Representations for Causal Effect Estimation with Weak Overlap [140.98628848491146]
  推定対象の偏りを伴わずに高い重なりを生じさせる,デコンファウンディングスコアを導入する。 分離スコアは観測データで識別可能なゼロ共分散条件を満たすことを示す。 特に,この手法が標準正規化の魅力的な代替となることを示す。
  論文  参考訳（メタデータ） (2021-04-12T18:50:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。