論文の概要: The Halt Vector: Internalizing a Causal Steering Intervention for Efficient Reasoning

• arxiv url: http://arxiv.org/abs/2608.28859v1
• Date: Fri, 28 Aug 2026 21:00:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-01 18:31:30.76939
• Title: The Halt Vector: Internalizing a Causal Steering Intervention for Efficient Reasoning
• Title（参考訳）: ハルトベクトル:効率的な推論のための因果ステアリング介入の内在化
• Abstract要約: DeepSeek-R1-Distill-Qwen-7Bでは、モデルの解答確率が落ち着くまで、思考の連鎖は約2倍である。 我々は、重みを見出す因果解釈可能性の内在化によって、それを排除した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Reasoning models do not stop when they know the answer. On DeepSeek-R1-Distill-Qwen-7B the chain of thought runs about twice as long as the model's own answer probability takes to settle, and how much of that excess is removable varies from problem to problem, so a global length penalty cannot take it out. We take it out by internalizing a causal interpretability finding into the weights. The mechanism is a halt vector: a difference-of-means direction at layer 18 of this model whose steering strength controls how long it thinks, while a replicated value axis does nothing. Installing that intervention in the weights is harder than it looks. Maximizing the scalar projection onto the direction corrupts the off-axis dimensions a frozen downstream reader depends on, and generation gets longer instead of shorter; what works is reconstructing the whole steered activation with those dimensions pinned to their natural values. Fit from 24 problems and no reinforcement learning, the halt removes about a quarter of the thinking at held accuracy across five unseen benchmarks, and the cut tracks each problem's own removable slack at 0.70. It also closes a non-termination pathology that grows with difficulty and that a decoding-time confidence hook makes worse. We do not claim to beat a well-tuned length penalty or decoding-time early exit on the raw trade-off; the contribution is how the halt is obtained.
• Abstract（参考訳）: 推論モデルは、その答えを知っているときに停止しない。 DeepSeek-R1-Distill-Qwen-7Bでは、思考の連鎖は、モデル自身の解答確率が落ち着くまで約2倍の長さで実行され、その余剰が取り除かれるかは問題によって異なるため、世界的長さのペナルティは取り出せない。 我々は、重みを見出す因果解釈可能性の内在化によって、それを排除した。 この機構は停止ベクトルであり、このモデルの18層における平均方向の差であり、操舵強度は、その長さを制御し、複製された値軸は、何もしない。 ウェイトへの介入は見た目よりも難しい。 方向へのスカラー投影の最大化は、凍結された下流の読者が依存するオフ軸次元を破損させ、生成はより短くなる。 24の問題と強化学習がないことから、停止は5つの未確認のベンチマークの精度で思考の約4分の1を除去し、カットは各問題の取り外し可能なスラックを0.70で追跡する。 また、難易度で成長し、復号時の信頼フックが悪化する非終端の病理も閉鎖する。 私たちは、生のトレードオフにおいて、十分に調整された長さのペナルティやデコード時の早期終了を負わないと主張しています。

関連論文リスト

• ReDraft, Don't Just Distill: Reference-Driven Revision for Continual VLLM Post-Training [66.72708893922605]
  大規模なマルチモーダルモデルのポストトレーニングは、事前トレーニングから保護しながら、新しい機能を追加する必要がある。 SFTは、タスクをほぼゼロの精度から学習する明確なターゲット監視を提供するが、そのオフポリティックターゲットはモデルを十分に移動させ、忘れる原因となる。 モデル自身の失敗から両方を得るReDraftを紹介します。
  論文  参考訳（メタデータ） (2026-09-15T04:59:03Z)
• Steering Under Compression: Dose-Response, Capability Cost, and Failure Asymmetry in Quantized LLMs [0.0]
  推論時ステアリングは、パラメータ修正なしで大きな言語モデルの振る舞い制御を可能にする。 トレーニング後の量子化により、デプロイメントのメモリと計算コストが削減される。 重量のみの量子化下での活性化ステアリングを系統的に研究する。
  論文  参考訳（メタデータ） (2026-09-06T08:41:42Z)
• Orientation, not magnitude: the causal structure of task-vector interference in merged language models [0.0]
  タスク算術はそうでなければ機能し、フィールドはマグニチュードで原因を診断する。 層状フラックスの正確な分解は、既存の断続輸送の増幅によって支配されていることを示している。 ナイーブのbfloat16生成の「ユニバーサリティ」は、量子化粗さであることが判明した。
  論文  参考訳（メタデータ） (2026-08-12T08:40:24Z)
• Not the Dimension, the Norm: What Matters in Gradient-Free Weight Perturbation of Language Models [2.7591243203421083]
  言語モデルをタスクに適応させるには、もはやすべての重みをトレーニングする必要がありません。 ランダムな重みの摂動をサンプリングし、スコアをよく維持するグラディエントフリー適応は、その軌道に従わなかった。 フルウェイト探索が必要なのか、より根本的には摂動のどの特性が機能させるのかは不明である。
  論文  参考訳（メタデータ） (2026-08-03T02:57:20Z)
• Abliteration Is Not a Scalpel: Off-Target Effects of Refusal Removal on Decision Disposition Across Model Families [51.56484100374058]
  放棄 — モデルの拒絶方向を重みから取り除く — は、一般的な"アンセンソルド"なオープンウェイトモデルの標準的なレシピである。 ディスポジションプローブとして21,600個の決定を不確実性の下で使用し、凍結パイプラインを通じて再生することにより、決定層モデルが唯一の変数となる。 3つのエフェクトは2つのファミリーにまたがって複製される(ゼロを除く週間クラスターCI) 4つ目の効果は符号を逆転する:同じ操作によりGemmaで読み取られた方が自信が弱まり、Qwenで読み取られたものがより多くなる(ファミリーCIは重複しない)。
  論文  参考訳（メタデータ） (2026-07-19T22:27:00Z)
• Right Makes Might: Aligning Verified Hidden States Empowers RL Reasoning [55.264863369127774]
  現在の方法では、それぞれの正しいロールアウトを単一の報酬ビットに減らし、隠れた状態間で共有される幾何学的構造を無視している。 本稿では,RLトレーニングにおけるアンカートークンにおける正ロールアウトの最終層を,トレーニングと推論の両方においてゼロオーバーヘッドで整列する補助損失関数Hidden-Alignを提案する。 8つの数学的推論ベンチマークでは、Hidden-AlignはDAPOベースラインの平均パス@1をQwen3-1.7B, 4B, 14Bで3.8, 6.2, 5.4ポイント改善し、3つのスケールで一貫したパス@kゲインを得る。
  論文  参考訳（メタデータ） (2026-06-02T06:51:15Z)
• When and How Long? The Readout-Mediator Angle in Temporal Reasoning [1.0195618602298682]
  線形プローブは表現をほぼ完全にデコードできるが、モデルがどのように使用するかは全く関係がない。 分散アライメントサーチ(DAS)によって発見された4次元のサブスペースを同じ層に配置すると、パフォーマンスは完全に崩壊する。 学習したQKオフセットをpm30$とpm61$dayで読み取る。
  論文  参考訳（メタデータ） (2026-05-27T21:38:17Z)
• Hidden Error Awareness in Chain-of-Thought Reasoning: The Signal Is Diagnostic, Not Causal [6.908637308550535]
  思考の連鎖は、生成された推論がモデルの内部計算を反映していると仮定する。 この仮定は、特定の測定可能な方法で間違っていることを示す。 モデルは自身の推論エラーを内部的に検出するが、その信頼性を外部に表現する。
  論文  参考訳（メタデータ） (2026-05-10T12:26:46Z)
• How Much Thinking is Enough? Quantifying and Understanding Redundancy in LLM Reasoning [11.159657169036564]
  推論可能な大きな言語モデルは、長いチェーンの思考を出力することで難しい問題を解決する。 しかし、この議論のどれ程が実際に必要かは、スケールで測定されることも、第一原理から説明されることもない。 我々は推論モデル自体の観点で推論冗長性を直接定式化する。
  論文  参考訳（メタデータ） (2026-04-21T05:32:02Z)
• Pando: Do Interpretability Methods Work When Models Won't Explain Themselves? [53.07826484214082]
  モデル・オーガニゼーションのベンチマークであるPandoを紹介します。 Pandoは、ラベル付きクエリ-レスポンスペアから、ホールドアウトモデル決定を予測する。 説明が忠実であれば、ブラックボックスの引用はすべてのホワイトボックスメソッドに一致するか、超える。
  論文  参考訳（メタデータ） (2026-04-13T06:42:24Z)
• DTS: Enhancing Large Reasoning Models via Decoding Tree Sketching [54.98126916293868]
  大規模推論モデル(LRMs)は、精度を低下させる、非常に長い連鎖のトレースを生成する。 本稿では,高エントロピートークンを分岐することで推論空間をスケッチするモデル非依存デコーディングフレームワークを提案する。 このアプローチは、追加のトレーニングや監督を必要とせず、効率と正確性を両立させる最適解を近似する。
  論文  参考訳（メタデータ） (2025-11-01T17:41:28Z)
• DLER: Doing Length pEnalty Right - Incentivizing More Intelligence per Token via Reinforcement Learning [134.03095505580276]
  Doing Length pEnalty Right (DLER)は、バッチワイド報酬正規化、高いクリッピング、ダイナミックサンプリング、単純なトランケーション長ペナルティを組み合わせたトレーニングレシピである。 DLERは最先端の精度-効率のトレードオフを実現し、出力長を70%以上削減し、以前のベースライン精度をすべて上回っている。
  論文  参考訳（メタデータ） (2025-10-16T20:05:57Z)
• Rethinking Rotated Object Detection with Gaussian Wasserstein Distance Loss [111.8807588392563]
  境界不連続性と最終検出基準の不整合性は, 回転検出回帰損失設計のボトルネックとなっている。 本稿では,ガウス・ワッサーシュタイン距離に基づく新しい回帰損失を,この問題に対する基本的なアプローチとして提案する。
  論文  参考訳（メタデータ） (2021-01-28T12:04:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。