論文の概要: VERS: Steering Reasoning Models by Editing Their Activation Explanations

• arxiv url: http://arxiv.org/abs/2611.03040v1
• Date: Mon, 02 Nov 2026 12:39:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-04 23:36:30.59985
• Title: VERS: Steering Reasoning Models by Editing Their Activation Explanations
• Title（参考訳）: VERS: アクティベーション説明の編集による推論モデルの構築
• Abstract要約: 説明を編集すれば 一つのトークンでモデルを操れる 私たちはVERS(Verbalize, Edit, Reconstruct, Steer)を構築します。 1つの推論の疑わしい点における説明の編集を1つの固定方向に変え、段落時にこの方向を追加する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Reasoning language models write a chain of thought before they answer, and many checks in it do not change the final answer. Natural language autoencoders (NLAs) explain a model's activations in text and rebuild activations from text, and editing an explanation can steer a model at a single token. We study whether such edits can also steer how a model reasons. We build VERS (Verbalize, Edit, Reconstruct, Steer): it turns explanation edits at the doubt points of one reasoning trace into one fixed direction, and adds this direction at paragraph breaks. On the full GSM8K test, VERS cuts generated tokens by 45.8% at an accuracy change of -0.82 percentage points (pp); on MATH-500 it saves 31.3% at -3.05 pp. At half strength, its trade-off between tokens and accuracy lies between those of the published methods SEAL and DEER. With fitted affine maps and a strength tuned for each model, the direction transfers to larger Qwen3 models, up to 235B-A22B, and saves 30-35% of tokens. On competition problems, however, VERS loses 3-7 pp at every model size, and a fixed direction did not separate necessary checks from unneeded ones.
• Abstract（参考訳）: 推論言語モデルは、答える前に一連の考えを書き、その中の多くのチェックは最終的な答えを変えない。 自然言語オートエンコーダ(NLA)は、モデルのアクティベーションをテキストで説明し、テキストからアクティベーションを再構築する。 このような編集がモデル理由をどう判断するかについても検討する。 We build VERS (Verbalize, Edit, Reconstruct, Steer): 1つの推論トレースの疑わしい点における説明編集を1つの固定方向に変え、段落でこの方向を追加する。 GSM8Kの全テストでは、VERSは-0.82パーセントポイント (pp) の精度変化で生成トークンを45.8%削減し、MATH-500では-3.05ppで31.3%節約した。 半強度では、トークンと正確性の間のトレードオフは、発行されたSEALとDEERの間のものである。 アフィンマップと各モデルに調整された強度により、方向は235B-A22Bまでの大きなQwen3モデルに移行し、トークンの30-35%を節約する。 しかし、競合問題では、VERSは各モデルサイズで3～7ppが失われ、固定方向は不要なものから必要なチェックを分離しなかった。

関連論文リスト

• Written Once, Read Differently How Language Models Own Answers Steer Their Next Ones [0.0]
  言語モデルがイエス/ノーの質問に答えると、その答えは、同じエンティティに関する別の質問にどのように答えるかを変える。 4家系のオープンウェイトモデル22において,このエフェセルフコミットについて検討した。
  論文  参考訳（メタデータ） (2026-11-02T14:25:14Z)
• Concise-9B: Removing the Slack from a Reasoning Model's Thinking [51.56484100374058]
  推論モデルは、より長く考えるとより良く答えるが、その答が作られた後も、思考の痕跡はうまく行き続ける。 このスラックをQwen3.5-9Bで測定し,その大部分を簡潔な自己学習で除去する。 ハードと確認セットの各トレースに2,048個の思考トークンに答えるように強制すると、Qwen3.5-9Bの思考トークンの54-64%は、全ての強制回答が最終トークンに等しい点から来る。
  論文  参考訳（メタデータ） (2026-11-01T23:02:43Z)
• PAIR: Memory-Efficient and Fast Inference with Reading--Reasoning Fusion [15.66392940087084]
  PAIRはエビデンス抽出と解答推論に2つの異なるサイズのモデルを採用している。 より小さなReaderモデルは、完全なコンテキストを処理し、保持する一方で、より大きなReasonerモデルは、コンテキストに直接参加することなく、質問と生成されたシーケンスのみを見ることができる。 HotpotQAでは、32B Reasonerを搭載したPAIRは、KVメモリの約4分の1を使用しながら、同じ32Bモデルのフルコンテキスト精度の96%を維持している。 45.7Kのコンテキストでは、PAIRは同じGPU上のフルコンテキスト32Bモデルよりも3.2$times$高いエンドツーエンドスループットを実現している。
  論文  参考訳（メタデータ） (2026-10-12T00:10:17Z)
• Can Language Models Learn While They Think? Testing Gradient Adaptation Across Architectures [0.0]
  動的評価(Dynamic Evaluation)として知られる、読み上げているテキストのグラデーションステップを言語モデルにとらせれば、その損失は減少する。 本稿では,ハイブリッドリニアアテンションアーキテクチャ,拡散言語モデル,標準長文ベンチマークの更新について検討する。
  論文  参考訳（メタデータ） (2026-10-10T17:32:08Z)
• Self-Generated Feedback Destabilizes Test-Time Training: A Causal Decomposition of Long-Horizon Adaptation [55.54635884641362]
  テストタイムトレーニングは、モデルが推論中に重みに情報を格納することを可能にする。 各更新では、次のトレーニング例を生成するモデルも変更される。 生成されたテキストの更新を保持する128Kのトーケンストリームは、独立した人文テキストの予測を悪化させる。
  論文  参考訳（メタデータ） (2026-10-04T09:21:14Z)
• Prompt Design at Scale: How Format, Instruction Count, and Context Length Shape Instruction Adherence and Hallucination in Large Language Models [0.0]
  2つの実験は、保持された汚染のない合成コーパス上の3つの因子全てを横断する。 実験1では,規則数Nが10から160に増加するにつれて,命令追従減衰を測定する。 実験2では, 2k-to-512k-tokenのコンテキストラグ上での精度, 虚偽の前提条件, ファクトファクトファクトファクチャリングの測定を行った。
  論文  参考訳（メタデータ） (2026-07-21T16:31:35Z)
• Line-Anchored Feedback Cuts Token Costs and Improves Correctness in AI Code Editing [0.0]
  生成トークンは、生成AI(GAI)コード編集のコスト、レイテンシ、エネルギの直接的なドライバである。 フィードバックの形式は3つすべてに対してレバーであることを示す。 ラインアンコールされたフィードバックは、より強力なモデルに費やされるコストを削減し、より弱いモデルで得られるコストを改善する。
  論文  参考訳（メタデータ） (2026-07-14T12:40:27Z)
• Right Makes Might: Aligning Verified Hidden States Empowers RL Reasoning [55.264863369127774]
  現在の方法では、それぞれの正しいロールアウトを単一の報酬ビットに減らし、隠れた状態間で共有される幾何学的構造を無視している。 本稿では,RLトレーニングにおけるアンカートークンにおける正ロールアウトの最終層を,トレーニングと推論の両方においてゼロオーバーヘッドで整列する補助損失関数Hidden-Alignを提案する。 8つの数学的推論ベンチマークでは、Hidden-AlignはDAPOベースラインの平均パス@1をQwen3-1.7B, 4B, 14Bで3.8, 6.2, 5.4ポイント改善し、3つのスケールで一貫したパス@kゲインを得る。
  論文  参考訳（メタデータ） (2026-06-02T06:51:15Z)
• Rethinking Dense Sequential Chains: Reasoning Language Models Can Extract Answers from Sparse, Order-Shuffling Chain-of-Thoughts [51.84894623128418]
  現代の推論言語モデルは、すべてのトークンが寄与し、ステップを順番に消費しなければならないと暗黙的に仮定して、シーケンシャルな連鎖トレースを生成する。 我々は、モデル生成推論連鎖に適用した、系統的な介入パイプライン、除去、マスキング、シャッフル、ノイズ注入により、両方の仮定に挑戦する。 解答抽出は, スパース, 秩序不感, 構造的に堅牢な情報基板上で行う。
  論文  参考訳（メタデータ） (2026-05-08T06:15:50Z)
• Model Editing with Canonical Examples [75.33218320106585]
  標準例を用いたモデル編集について紹介する。 例えば、モーリシャスの首都はポートルイである。 本稿では,各標準例に対して数個の感覚ベクトルを選択し,微調整するセンスファインタニングを提案する。
  論文  参考訳（メタデータ） (2024-02-09T03:08:12Z)
• Making Large Language Models Better Reasoners with Step-Aware Verifier [49.16750018427259]
  DIVERSE(Diverse Verifier on Reasoning Step)は、言語モデルの推論能力をさらに強化する新しいアプローチである。 最新の言語モデルであるcode-davinci 上で DIVERSE を評価し,8つの推論ベンチマークのうち6つで新たな最先端結果が得られることを示す。
  論文  参考訳（メタデータ） (2022-06-06T03:38:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。