論文の概要: Rewired or Gated? How Instruction Tuning Shapes Knowledge-Conflict Circuits in LLMs

• arxiv url: http://arxiv.org/abs/2609.25602v1
• Date: Tue, 22 Sep 2026 02:49:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-23 18:04:04.186276
• Title: Rewired or Gated? How Instruction Tuning Shapes Knowledge-Conflict Circuits in LLMs
• Title（参考訳）: 再配線またはゲーテッド? LLMにおけるインストラクションチューニングの知識競合回路の形状
• Abstract要約: チューニングはモデルをパラメトリックメモリにシフトさせ、インストラクションモデルがベースメモリよりもはるかに正確な反ファクトコンテキストを拒否する。 したがって、命令チューニングがテラスインジェクションに対して持つロバスト性は本物だが狭くなっている。 コンフリクト回路は再構築されるのではなく保存されているため、ベースモデル上でキャリブレーションされた解釈可能性と制御ツールは、配置されたインストラクション兄弟に直接転送されるべきである。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In language models, the choice between believing the prompt and believing the weights is made by a handful of identifiable attention heads. Instruction tuning changes how models behave under conflict, but whether it rewires the underlying circuit or merely gates/reweights already present components, remains unknown. We provide the first mechanistic base-vs-instruct comparison of conflict-resolution circuits, across three families (Llama-3.2-3B, Qwen-2.5-3B, Gemma-3-4B). Five independent methods, node and edge attribution, superposition role analysis, causal ablation, and path patching, converge on gating, with the same heads, in the same late-layers, are found to be reweighted rather than replaced with a high node overlap (0.60-0.82). Behaviorally, tuning shifts models toward parametric memory, making instruct models reject a terse counterfactual context far more than base ones, the opposite of a naive user-following expectation. Yet this added skepticism is a factor of framing since it disappears when the same false claim is delivered as a coherent, evidential passage. The robustness that instruction tuning buys against terse injection is therefore real but narrow. More broadly, we believe that because the conflict circuit is preserved rather than rebuilt, interpretability and control tools calibrated on base models should transfer directly to their deployed instruct siblings.
• Abstract（参考訳）: 言語モデルでは、プロンプトを信じることとウェイトを信じることの間の選択は、少数の注意頭によってなされる。 命令チューニングは、モデルが競合の下でどのように振る舞うかを変えるが、それが基盤回路をリワイヤリングするか、あるいは単にゲート/リウェイトが既に存在するかは、まだ不明である。 コンフリクト分解回路を3つのファミリー(Llama-3.2-3B, Qwen-2.5-3B, Gemma-3-4B)で比較する。 5つの独立した方法、ノードとエッジの属性、重ね合わせの役割解析、因果アブレーション、パスパッチングは、同じ遅延層において同じヘッドを持つゲーティングに収束し、高いノードオーバーラップ(0.60-0.82)に置き換えるよりも、再重み付けされる。 振る舞い的に、チューニングはモデルをパラメトリックメモリにシフトさせ、インストラクションモデルに、単純なユーザフォローの期待とは逆の、ベースよりもはるかに正確な反事実的コンテキストを拒否させる。 しかし、この新たな懐疑論は、同一の虚偽の主張が一貫性のある明確な通過として提示されたときに消えてしまうため、フレーミングの要因である。 したがって、命令チューニングがテラスインジェクションに対して持つロバスト性は本物だが狭くなっている。 より広義には、コンフリクト回路は再構築ではなく保存されているため、ベースモデル上で校正された解釈可能性と制御ツールは、デプロイされたインストラクション兄弟に直接転送されるべきであると考えている。

関連論文リスト

• When Does Consensus Mean Correctness? Measuring the Agreement-Accuracy Coupling with Semantics-Preserving Re-Rendering [0.8594140167290097]
  ラベルのない信頼性信号として、摂動入力間のモデルの合意が使用される。 レンダリングは正確さと信頼性の両方で再サンプリングする。 モデル自身のクロスレンダーコンセンサスインバータを微調整する。
  論文  参考訳（メタデータ） (2026-08-06T07:08:05Z)
• The Knowing-Saying Gap: When Probes See Errors that Confidence Misses [20.46211358172975]
  線形プローブは、ほぼ完全精度で言語モデルの劣化コンテキストを検知するが、信頼性の高い故障予測にはならない。 マルチホップ算術連鎖全体において、汚職を検出するプローブは最終解の正しさについて非形式的であることが判明した。 リアルタイムモニタとして、プローブベースの介入は、シャープにモデル化され、エラータイプに依存します。
  論文  参考訳（メタデータ） (2026-07-21T12:13:10Z)
• Demystifying Variance in Circuit Discovery of LLMs [51.97489679448601]
  我々は,再サンプリングのばらつきを大幅に軽減する新しい回路探索法を開発した。 テンプレートの異なるプロンプトは、モデル内の異なる回路を活性化する傾向があるため、リフレージングのばらつきが生じることを示す。 我々は、よりコンパクトで解釈可能なタスク回路を形成すると主張されている空間性は、この問題の解決に失敗すると主張している。
  論文  参考訳（メタデータ） (2026-06-15T16:25:07Z)
• Does Reasoning Preserve Alignment? On the Trustworthiness of Large Reasoning Models [55.788110316999166]
  教師付き微調整, RL を用いた後訓練, および命令調整ベースラインに対する蒸留による推論モデルの比較を行った。 推論モデルはしばしば推論ベンチマークを改善するが、アライメント回帰を示す。 これらの回帰は、KL発散によって測定された命令調整ベースラインからの挙動ドリフトと一致している。
  論文  参考訳（メタデータ） (2026-06-09T16:14:27Z)
• The Evaluation Game: Beyond Static LLM Benchmarking [2.168753020470345]
  本稿では,評価者とトレーナーの相互作用を2人プレイヤゲームとして形式化するゲーム理論フレームワークを提案する。 モデルの局所性依存性を示す実証的証拠を提供する。 ベンチマークは静的なプロンプトのセットではなく,評価者のグループアクションの下での軌道である。
  論文  参考訳（メタデータ） (2026-05-19T05:22:21Z)
• Differentiable Faithfulness Alignment for Cross-Model Circuit Transfer [73.0825876244911]
  DFAは、より小さなソースモデルからより大きなターゲットモデルに回路情報を転送するフレームワークである。 Llama-3 と Qwen-2.5 の DFA を,実数検索,複数選択推論,算術の6つのタスクで評価した。 DFAは、単純なベースラインを一貫して上回り、いくつかの設定では、直接帰属に匹敵する、あるいは強い忠実さでターゲットモデル回路を回復する。
  論文  参考訳（メタデータ） (2026-04-27T10:49:10Z)
• Learn to Rank: Visual Attribution by Learning Importance Ranking [58.69028273772474]
  コンピュータビジョンモデルのための視覚属性マップを生成する新しい手法を提案する。 提案手法は, 任意の数段階の勾配補正を施した1つの前方通過において, 密度の高い画素レベルの属性を生成する。 我々の実験は、一貫した定量的改善と、よりシャープで境界に沿った説明を示す。
  論文  参考訳（メタデータ） (2026-04-07T12:53:22Z)
• How Alignment Routes: Localizing, Scaling, and Controlling Policy Circuits in Language Models [0.0]
  本稿では,アライメント学習言語モデルにおけるポリシールーティング機構のローカライズを行う。 中間層アテンションゲートは検出された内容を読み出し、深いヘッドをトリガーし、信号が拒絶に向かって押し上げられる。
  論文  参考訳（メタデータ） (2026-04-06T03:20:37Z)
• Reforming the Mechanism: Editing Reasoning Patterns in LLMs with Circuit Reshaping [51.33479921152361]
  大規模言語モデル(LLM)は、信頼性を損なう欠点のある推論能力を示すことが多い。 推論を改善する既存のアプローチは一般的に、一般的なモノリシックなスキルとして扱い、非効率で特定の推論エラーをターゲットできない広範囲なトレーニングを適用する。 本稿では,LLMにおける特定の推論パターンを選択的に修正し,他の推論経路を保存するためのパラダイムであるReasoning Editingを紹介する。
  論文  参考訳（メタデータ） (2026-03-06T22:51:39Z)
• Beyond 'Aha!': Toward Systematic Meta-Abilities Alignment in Large Reasoning Models [86.88657425848547]
  大型推論モデル(LRMs)はすでに長い連鎖推論のための潜在能力を持っている。 我々は、自動生成の自己検証タスクを使用して、モデルに推論、帰納、誘拐の3つのメタ能力を持たせることを明確にした。 我々の3つのステージ・パイプラインの個別アライメント、パラメータ空間のマージ、ドメイン固有の強化学習は、命令調整ベースラインと比較して10%以上のパフォーマンス向上を実現します。
  論文  参考訳（メタデータ） (2025-05-15T17:58:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。