論文の概要: Selective Disclosure of Hidden Directives in Reasoning Models: Behavioral Asymmetry and Steering
- arxiv url: http://arxiv.org/abs/2608.29070v1
- Date: Sat, 29 Aug 2026 05:50:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-01 18:31:30.831213
- Title: Selective Disclosure of Hidden Directives in Reasoning Models: Behavioral Asymmetry and Steering
- Title（参考訳）: 推論モデルにおける隠れ方向の選択的開示:行動非対称性とステアリング
- Abstract要約: 思考の連鎖(CoT)推論トレースは、AI監視のメカニズムとしてますます提案されている。
これは、CoTが与えられた命令に関係なく、モデルに何を指示するかを仮定する。
この仮定を2つの軸で検証する。
- 参考スコア（独自算出の注目度）: 0.9474649136535703
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Chain-of-thought (CoT) reasoning traces are increasingly proposed as a mechanism for AI oversight: a monitor inspecting a model's reasoning can, in principle, detect misbehavior invisible from outputs alone. This assumes CoT surfaces what a model is instructed to do regardless of the instructions given. We test this assumption along two axes. First, we introduce the Instruction-Compliance Gap (ICG): the difference in probability that a model's CoT explicitly references a hidden system prompt directive when that directive is malign versus benign. Across 100 task pairs and 8 frontier reasoning models from 5 families, we find consistent asymmetric disclosure, a higher probability of leaking malign hidden instructions than benign ones, in Qwen3-14B (Wilcoxon $p=0.0001$, $+13.9$pp), Qwen3-32B ($p=0.0011$, $+13.0$pp), Qwen3-235B ($p=0.035$, $+5.8$pp), and similar results with MiniMax-M2.5 and DeepSeek-R1. The detector has 100% precision against two independent blinded labelling passes, and an LLM monitor reading only the reasoning trace reproduces the asymmetry in all 8 models against directive-free controls, identifying the specific directive in 82% of malign traces which the detector classifies as clean. Second, steering vectors extracted in MiniMax-M2.5 via Contrastive Activation Addition causally induce hiding from bare prompts and suppress it from prompts that would otherwise produce it, replicating in Qwen3-14B under a pre-registered design. Benign and malign-derived hiding vectors are highly similar (cosine $0.804$ in MiniMax-M2.5; $0.970$ in Qwen3-14B), implying that in these models the disclosure asymmetry arises from differential activation of a shared hiding direction rather than separate mechanisms.
- Abstract（参考訳）: モデル推論を検査するモニターは、原則として、出力のみから見えない誤った振る舞いを検出することができる。
これは、CoTが与えられた命令にかかわらず、モデルに何を指示するかを仮定する。
この仮定を2つの軸で検証する。
Instruction-Compliance Gap (ICG: Instruction-Compliance Gap) は、モデルCoTが隠されたシステムプロンプトを明示的に参照する確率の違いである。
Qwen3-14B (Wilcoxon $p=0.0001$, $+13.9$pp), Qwen3-32B$p=0.0011$, $+13.0$pp), Qwen3-235B$p=0.035$, $+5.8$pp), およびMiniMax-M2.5およびDeepSeek-R1と同様の結果である。
検出器は2つの独立したブラインドラベリングパスに対して100%精度があり、LCMモニターは、推論トレースのみを読み取ると、すべての8つのモデルにおいてディレクティブフリーコントロールに対して非対称性を再現し、ディテクターがクリーンに分類する悪性トレースの82%で特定のディレクティブを識別する。
第2に、Contrastive Activation Additionを介してMiniMax-M2.5から抽出されたステアリングベクトルは、素のプロンプトから因果的に隠れて、それ以外は生成するプロンプトから抑制し、登録済みの設計の下でQwen3-14Bで複製する。
良性および良性由来の隠れベクトルは非常に類似しており(ミニマックス-M2.5では0.804$、Qwen3-14Bでは0.970$)、これらのモデルでは、開示非対称性は分離メカニズムではなく共有隠れ方向の微分活性化によって生じることを示唆している。
関連論文リスト
- Do System Prompts Leave Behavioral Fingerprints? A Large-Scale Empirical Study of Clone Detection via Output Similarity [12.32748486531306]
システムプロンプトのためのBBF(Black-Box Behavioral Fingerprinting)を提案する。
BBFはモデル出力から振る舞いのシグネチャを登録し、後に被疑者のデプロイメントがそのシグネチャと一致するかどうかをテストする。
BBFは非適応的なプロンプトパラフレーズ(AUC $geq 0.889$)に抵抗し、不完全な抽出に頑健である。
論文 参考訳（メタデータ） (2026-08-25T12:12:22Z) - Intrinsic Structure: Spectral Identifiability for Mechanistic Interpretability [51.56484100374058]
機械論的解釈可能性プリミティブに対する最初の識別可能性定理を証明した。
スペクトルは、正当性分解ではなく、記述されたエラーバーを持つ識別可能なモデル固有の指紋である。
論文 参考訳（メタデータ） (2026-08-10T19:42:01Z) - Detecting and Discriminating Operator Misspecification in Hybrid PDE-Parameter Learning: a Reference-Free Instrument, with Discrimination Bounded In Sample [0.0]
私たちは1つのフィットから読み取る楽器を作り、オラクルは持っていません。
回復時に神経推定器がTikhonov-regularized inversionに負ける、事前登録された負の機器である、装置の盲点を報告する。
論文 参考訳（メタデータ） (2026-08-04T21:20:44Z) - Round-Trip Consistency: Bidirectional Diffusion Models Can Predict Their Own Rollout Errors [51.56484100374058]
自動回帰モデルは、長時間のロールアウトでエラーを蓄積しますが、デプロイ時には、それを測定するための基本的な真実はありません。
我々は、方向フラグを介して動的システムを前方または後方にステップする単一の条件付き潜在拡散モデルを訓練する。
この双方向性は測定不要なテスト時間誤差信号を提供することを示す。
論文 参考訳（メタデータ） (2026-08-01T13:49:46Z) - Sensitivity to Subjective Expected Utility Maximization: A Methodological Study, with an Illustrative Application to LLM Decision-Making [0.0]
車両はソフトマックス選択モデルであり、感度パラメータはSEU値の代替品に$$である。
コントリビューションは、$$と、Stansbergで検証された信念とユーティリティパラメータ$(, )$に対する識別可能性の結果のシーケンスである。
2対2のアプリケーションは、実際の選択データに基づいてエンドツーエンドで実行し、4つのセルのうち2つのセルで、構造化された$$エフェクトサンプリングを検出する。
論文 参考訳（メタデータ） (2026-07-08T00:29:18Z) - The Geometry of Forgetting: Temporal Knowledge Drift as an Independent Axis in LLM Representations [50.43168858368539]
大規模言語モデルは自信を持って時代遅れの回答を生成し、既存の方法では検出できない。
これは工学的な失敗ではなく構造的な失敗であり、時間的ドリフトは、幾何的に残留流の方向として、正確性と不確実性の両方に符号化される。
論文 参考訳（メタデータ） (2026-05-09T22:27:31Z) - When Agents Look the Same: Quantifying Distillation-Induced Similarity in Tool-Use Behaviors [66.18091962164219]
既存のメトリクスは、タスクの成功に必要な義務的な振る舞いと、モデルの自律的な嗜好を反映した命令的でないパターンを区別することができない。
言語アライメントのための textbfResponse Pattern similarity (RPS) と、有向グラフとしてモデル化されたツール使用習慣のための textbfAction Graph similarity (AGS) である。
論文 参考訳（メタデータ） (2026-04-23T03:48:56Z) - Reliable Control-Point Selection for Steering Reasoning in Large Language Models [28.288321095634128]
ステアリングベクトルは、大規模言語モデルにおける推論動作を制御するためのトレーニング不要のメカニズムを提供する。
しかし、有効なベクトルを構成するには、モデルが隠した状態にある真の行動信号を特定する必要がある。
提案手法は,全ての検出された境界が真の行動信号を符号化していることを暗黙的に仮定して,チェーンオブソートトレースのキーワードマッチングによってこれらの挙動を検出する。
本研究では,コンテキスト依存的なトリガ確率を持つ事象として固有の推論動作を形式化する確率モデルを構築し,不安定な境界が操舵信号を弱めることを示す。
論文 参考訳（メタデータ） (2026-04-02T14:48:56Z) - The Geometry of Harmful Intent: Training-Free Anomaly Detection via Angular Deviation in LLM Residual Streams [0.0]
本研究では,大規模言語モデルにおける残差ストリームアクティベーションの幾何を分析し,有害なプロンプトを検出するためのトレーニング不要な方法であるLatentBiopsyを提案する。
我々はQwen3.5-0.8BファミリーとQwen2.5-0.5Bファミリーの2つの完全モデル三重項を評価した。
latentBiopsyは、有害なvs-ノルミティブ検出のためのAUROC$geq$0.937と、良性攻撃的プロンプトから有害なプロンプトを識別するためのAUROC = 1.000を達成している。
論文 参考訳（メタデータ） (2026-03-28T21:19:58Z) - Causal Bandits for Linear Structural Equation Models [58.2875460517691]
本稿では,因果図形モデルにおける最適な介入順序を設計する問題について検討する。
グラフの構造は知られており、ノードは$N$である。
頻繁性(UCBベース)とベイズ的設定に2つのアルゴリズムを提案する。
論文 参考訳（メタデータ） (2022-08-26T16:21:31Z) - The Generalized Lasso with Nonlinear Observations and Generative Priors [63.541900026673055]
我々は、幅広い測定モデルで満たされるガウス下測度を仮定する。
この結果から, 局所埋込特性を仮定して, 均一回復保証まで拡張できることが示唆された。
論文 参考訳（メタデータ） (2020-06-22T16:43:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。