論文の概要: How Language Models Choose Sides: Internal Representations of Instruction Hierarchy
- arxiv url: http://arxiv.org/abs/2608.28648v1
- Date: Sun, 16 Aug 2026 21:29:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-06 19:38:41.466394
- Title: How Language Models Choose Sides: Internal Representations of Instruction Hierarchy
- Title（参考訳）: 言語モデルがどのように側を選ぶか:命令階層の内部表現
- Abstract要約: 本研究では,命令調整型LLMがシステムとユーザ間の直接的衝突を調停する方法について検討する。
Llama-3.1-8Bは、衝突試験のわずか0.10のシステムに従って、我々のスイートで最強の反階層である。
- 参考スコア（独自算出の注目度）: 0.8594680187000567
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study how instruction-tuned LLMs arbitrate direct conflicts between system and user instructions. We introduce a benchmark of 41 paired constraints with deterministic verifiers and evaluate eight models under matched baseline, conflict, and same-channel control conditions. Behaviourally, the models split into three regimes by System Authority Delta: hierarchy-respecting models use the system channel as an authority signal, anti-hierarchy models follow the system less often than their same-channel baseline predicts, and no-effect models show little channel sensitivity. Llama-3.1-8B is the strongest anti-hierarchy case in our suite, following the system in only 0.10 of conflict trials. We use this behavioural failure case to ask whether user-preferring arbitration reflects the absence of an internal conflictresolution signal. It does not: on Llama-3.1-8B, the conflict outcome is linearly decodable from residual-stream activations at 0.97 balanced accuracy, 17 percentage points above a metadata-only baseline, with analogous signals on Qwen2.5-7B and gpt-oss-20b. Steering with a layer-12 mean of four per-conflict logistic-regression directions raises genuine system compliance from 0.132 to 0.530, while directions selected mainly for pooled separability steer poorly. User-preferring conflict resolution can therefore coexist with a readable internal arbitration signal, and successful intervention depends on the geometry of the readout rather than probe accuracy alone
- Abstract（参考訳）: 本研究では,命令調整型LLMがシステムとユーザ間の直接的衝突を調停する方法について検討する。
決定論的検証器を用いた41対の制約のベンチマークを導入し,一致したベースライン,コンフリクト,同チャネル制御条件下での8つのモデルを評価する。
階層参照モデルは、オーソリティ信号としてシステムチャネルを使用し、アンチ階層モデルは、同じチャネルのベースライン予測よりもシステムに従う頻度が低く、効果のないモデルは、チャネル感度がほとんどない。
Llama-3.1-8Bは、衝突試験のわずか0.10のシステムに従って、我々のスイートで最強の反階層である。
ユーザ優先仲裁が内部のコンフリクト解決信号の欠如を反映しているかどうかを問うために,この動作障害事例を用いる。
Llama-3.1-8Bでは、競合結果は残ストリーム活性化から0.97のバランスの取れた精度、メタデータのみのベースラインの17ポイント、Qwen2.5-7Bとgpt-oss-20bの類似信号から線形に除くことができる。
層12の平均4対の対数回帰方向のステアリングは、真のシステムコンプライアンスを0.132から0.530に引き上げる一方、主にプールされた分離性ステアのために選択される方向は貧弱である。
したがって、ユーザ優先の競合解決は、読み取り可能な内部仲裁信号と共存し得る。
関連論文リスト
- CUSP: Decomposable Collective Uncertainty for Multi-Agent Multimodal Reasoning [6.428392127849263]
本稿では,複数のVLM応答を共有意味応答空間にマッピングする訓練不要不確実性フレームワークCUSPを提案する。
本稿では,集合的不確実性,プール化意見の分散,ジェンセン・シャノン発散(JSD)の2つの相補的システムレベル信号について報告する。
静的なマルチVLMアンサンブルでは、集合的不確実性は小モデル状態において最強の信号である。
論文 参考訳（メタデータ） (2026-09-04T20:27:47Z) - Modeling Normal Is All You Need: Joint Latent Clustering for Anomaly Detection in Multimodal Cyber-Physical Systems [47.027290803102666]
通常の行動は、多くの不均衡で、曲がりくねった、細い範囲の運営体制の結合である。
我々は正規法則を、共同学習された潜在表現と明示的なガウス混合モードクラスタリングでモデル化する。
ポイント調整のない生のポイントワイドメトリクス、自明な検出困難分割、頻度整合F1、列車正規化のみのキャリブレーションを意図的に評価する。
論文 参考訳（メタデータ） (2026-07-07T10:10:00Z) - Pooled Leaderboards Hide System-Specific Winners: A Reporting-Protocol Audit of Offline Root-Cause Analysis Benchmarks [15.818802254426883]
ルート原因分析ベンチマークは、複数のサブシステムにまたがる単一のトップ1精度でメソッドをランク付けする。
私たちは、OpenRCA、RCAEval、PetShopの3つのパブリックRCAベンチマークファミリでその読みを監査します。
我々は320行の監査モジュールをリリースし、一致したRCAベンチマークスコアテーブルが与えられた場合、プールされたスコアと並行してサブシステムごとの安定性チェックを再計算する。
論文 参考訳（メタデータ） (2026-06-28T02:47:31Z) - Towards Robust Training in NNGPT AutoML Pipeline: A Loss-Optimizer Pairing Selection Study [48.83701310501069]
本稿では, 一つのレシピがヘテロジニアスなアーキテクチャプールに十分であるか, 最適ペアリングが構造的に多様なモデルによって異なるかを検討する。
我々は,CEL(Cross-Entropy),NLL(Negative Log-Likelihood),および最近導入された遺伝学的に進化したNGL損失を,LEMURヘテロジニアス・アーキテクチャー・プールの6つの画像分類データセット上に提示したベースモデル間で比較検討した。
我々の結果は、単一のペアリングが普遍的に最適でないことを確認した。AdamやAdamWとのクロスエントロピーは、最も堅牢な選択である。
論文 参考訳（メタデータ） (2026-06-18T20:51:42Z) - Actionable Activation Directions for Detecting and Mitigating Emergent Misalignment Across Language Model Families [0.0]
安全性の低いコード上の微調整言語モデルは、内部構造が不十分な創発的ミスアライメントを誘導する。
アーキテクチャ間で共有される因果作用可能なアクティベーション空間方向に対応しているかどうかを考察する。
論文 参考訳（メタデータ） (2026-06-18T13:39:59Z) - Where Instruction Hierarchy Breaks: Diagnosing and Repairing Failures in Reasoning Language Models [15.752705487977861]
本稿では,命令階層障害を命令識別,コンフリクト解決,応答実現にローカライズする診断フレームワークを提案する。
我々は、IHEvalとIHChallengeの長文適応において、Gemma-4-31B-IT、Qwen3.6-35B-A3B、Claude Sonnet 4.6の3つの推論モデルを評価する。
最強のモニターは規則に従う非準拠を81-99%減らし、GPT-5.3は静的攻撃で86%減、適応攻撃で45%減らした。
論文 参考訳（メタデータ） (2026-06-05T19:36:48Z) - How Independent are Large Language Models? A Statistical Framework for Auditing Behavioral Entanglement and Reweighting Verifier Ensembles [46.63622714488747]
共有事前学習データ、蒸留、アライメントパイプラインは、隠れた振る舞い依存、潜伏絡みを誘導することができる。
実際には、これは相関した推論パターンと同期された障害として現れます。
ブラックボックス言語モデル間の行動絡みを監査するための統計的枠組みを開発する。
論文 参考訳（メタデータ） (2026-04-08T23:32:06Z) - How Alignment Routes: Localizing, Scaling, and Controlling Policy Circuits in Language Models [0.0]
本稿では,アライメント学習言語モデルにおけるポリシールーティング機構のローカライズを行う。
中間層アテンションゲートは検出された内容を読み出し、深いヘッドをトリガーし、信号が拒絶に向かって押し上げられる。
論文 参考訳（メタデータ） (2026-04-06T03:20:37Z) - MBD: A Model-Based Debiasing Framework Across User, Content, and Model Dimensions [50.00784452900918]
この課題に対処する一般モデルベースデバイアス(MBD)フレームワークを提案する。
任意のコホートに対するエンゲージメント分布の文脈平均と分散を明示的に推定する。
この統合により、フレームワークはバイアス付き生信号からバイアスなしの表現に変換することができる。
論文 参考訳（メタデータ） (2026-03-15T15:07:01Z) - Diagnosing Knowledge Conflict in Multimodal Long-Chain Reasoning [78.86309644343295]
長い連鎖推論におけるマルチモーダルな大言語モデル(MLLM)は、異なる知識源が矛盾する信号を提供するときにしばしば失敗する。
我々は、これらの失敗を知識の衝突という統一概念の下で形式化し、入力レベルの客観的衝突とプロセスレベルの効果的な衝突を区別する。
本研究は,知識衝突下でのマルチモーダル推論のメカニズムを考察し,長CoT障害の診断と制御を可能にする。
論文 参考訳（メタデータ） (2026-02-16T07:10:44Z) - Learning to Separate RF Signals Under Uncertainty: Detect-Then-Separate vs. Unified Joint Models [53.79667447811139]
受信した信号に直接適用した場合、単一のディープニューラルネットワークアーキテクチャが共同で検出および分離することを学習していることを示す。
これらの結果から,UJM は DTS に代わるスケーラブルで実用的な代替品であり,広範に推定された統合分離のための新たな方向を開拓した。
論文 参考訳（メタデータ） (2026-02-04T15:25:02Z) - Towards a Science of Scaling Agent Systems [79.64446272302287]
エージェント評価の定義を定式化し,エージェント量,コーディネーション構造,モデル,タスク特性の相互作用として,スケーリング法則を特徴付ける。
協調指標を用いて予測モデルを導出し,R2=0をクロスバリデーションし,未知のタスク領域の予測を可能にする。
ツールコーディネーショントレードオフ: 固定的な計算予算の下では, ツールヘビータスクはマルチエージェントのオーバーヘッドから不均衡に悩まされ, 2) 能力飽和: 調整が減少または負のリターンを, 単一エージェントのベースラインが45%を超えると達成できる。
論文 参考訳（メタデータ） (2025-12-09T06:52:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。