論文の概要: SteerCheck: Attribution Specificity and Alignment Leakage in Activation-Steering Audits
- arxiv url: http://arxiv.org/abs/2608.24335v1
- Date: Tue, 25 Aug 2026 10:00:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-26 14:09:34.928311
- Title: SteerCheck: Attribution Specificity and Alignment Leakage in Activation-Steering Audits
- Title（参考訳）: SteerCheck: アクティベーション・ステアリング・オーディットにおける属性特異性とアライメントリーク
- Abstract要約: 活性化ステアリングは、その効果が意図された概念に固有のものであることを証明せずに行動を変えることができる。
我々は、ターゲット外のKLにマッチし、平均、保護されたテール、極性、転送、セマンティッククレームを分離する、事前登録された属性監査であるSteerCheckを紹介する。
- 参考スコア（独自算出の注目度）: 5.366718741784969
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Activation steering can change behaviour without establishing that the effect is specific to the intended concept. We introduce SteerCheck, a preregistered attribution audit that matches off-target KL and separates mean, protected-tail, polarity, transfer, and semantic claims. Exact replay of 960 Qwen3-14B interventions reveals complementary limits of common controls: isotropic directions occupy a narrow near-orthogonal region, whereas sign-randomized same-construction directions often retain substantial target alignment. Effect is strongly associated with signed cosine within the sign-randomized family ($ρ=.94$); $25.3\%$ of its draws exceed cosine $.5$, and every draw exceeding the observed mean effect has cosine above $.80$. This alignment leakage does not by itself invalidate a conditional randomization test; it limits what the comparator can distinguish and motivates reporting exchangeability assumptions, a construction diagnostic $A$, and the empirical cosine distribution. The primary Qwen complete gate remains negative because the protected tail fails all families. On independent data, continuous margin transfers only in Qwen and accuracy transfers in no selected cell. Prospectively registered language controls pass the complete gate in Qwen and DeepSeek, while a passing DeepSeek detox comparator rules out categorical separation; all nominal passes are sensitive to $Γ=1.10$. Frozen three-rater open-generation evaluation supports factual correction in DeepSeek but not Qwen; the automatic judge fails calibration (macro-F1 $.562$), so null-wide semantic results remain descriptive. SteerCheck makes these conditional and mixed conclusions auditable.
- Abstract（参考訳）: 活性化ステアリングは、その効果が意図された概念に固有のものであることを証明せずに行動を変えることができる。
我々は、ターゲット外のKLにマッチし、平均、保護されたテール、極性、転送、セマンティッククレームを分離する、事前登録された属性監査であるSteerCheckを紹介する。
960 Qwen3-14B の介入を正確に再現すると、共通制御の相補的な限界が示される:等方性方向は狭い直交領域を占有するが、符号のランダム化された同構成方向は、しばしばかなりの目標アライメントを保持する。
効果は符号付きランダム化された家族内の符号付きコサイン(ρ=.94$)と強く結びついており、その引き分けの25.3\%$はコサイン$.5$を超え、観測された平均効果を超えるすべての引き分けはコサイン$.80$以上である。
このアライメントリークは、それ自体が条件付きランダム化テストの無効化ではなく、コンパレータが報告の交換可能性仮定、建設診断の$A$、経験的コサイン分布を区別し、動機付けできるものを制限する。
主クウェンの完全な門は、保護された尾がすべての家族に失敗するため、否定的なままである。
独立したデータでは、連続マージン転送はQwenでのみ行われ、選択されたセルでは精度転送は行われない。
先進的に登録された言語コントロールはQwenとDeepSeekの完全なゲートを通り、渡されるDeepSeekデトックスコンパレータはカテゴリ分離を規定する。
凍結した3レーターのオープンジェネレーション評価は、DeepSeekで事実の修正をサポートするが、Qwenではない。
SteerCheckはこれらの条件付きおよび混合的な結論を監査可能にする。
関連論文リスト
- Observational Indistinguishability and Integrity Blind Regions in Hybrid Quantum-Classical Workflows [0.0]
本稿では,ハイブリッド量子古典的ワークフロー整合性のためのクレーム相対的エビデンス/参照フレームワークを提案する。
観測上の不明瞭さは、有限バッチ統計ミスとは異なる構造的な盲点をもたらす。
論文 参考訳（メタデータ） (2026-09-15T13:16:37Z) - Semantic Fibers and Cross-Gram Interference: A Calculus of Safety Drift in Overcomplete Representations [0.0]
デプロイされた言語モデルは、英語の有害な要求を拒否するが、その忠実な翻訳に従う。
我々はこの現象を監査同値関係で定式化する。
定式化された商、表現、メートル法、特徴辞書、スコアリングヘッド、しきい値、コントラストモデルに対して、得られた安全ドリフトは正確な線形代数的特徴を持つことを示す。
論文 参考訳（メタデータ） (2026-09-14T00:23:32Z) - Feature Priming in Online Linear Regression: Sparse-Regret Lower Bounds and a Tight Univariate Rate [47.36630149538994]
高次元のオンライン予測では、最良の予測子はいくつかの機能にのみ依存する可能性があるため、後悔は周囲の次元ではなく、疎らさでスケールすべきである。
WarmuthとAmidはCOLT 2023で、これらの3つのルールのいずれかが競合するオンライン後悔の保証を認めているかどうかを尋ねた。
安価なニュアンスは、リフィットが真の予測座標を過度に重くする原因となる。
論文 参考訳（メタデータ） (2026-08-18T09:32:03Z) - From Positionwise Confidence to Prefix Scheduling: Verifier Skipping in Speculative Decoding [41.41611499810411]
投機拡散復号(SDD)は、離散拡散モデルと並行してドラフトブロック内のすべての位置を生成する。
本稿では,これが新しい制御ハンドルを生成することを認識している。
論文 参考訳（メタデータ） (2026-08-14T18:00:08Z) - Power law graph attention: exact generalization of scaled dot-product attention, empirical collapse at inference [0.5076419064097734]
電力法デコーダ表現(PLDR-LLM)からの大規模言語モデルとその注意,PLGA(Power Law Graph Attention)
PLGAは、SDPA(Scaled dotproduct attention)の固定された双線形形式を、学習された入力生成双線形演算子$G_LM$に置き換える。
PLGA は、正確に $G_LM=I$; $A_LM$ と $A_P$ の SDPA を含み、Perron-Frobenius 構造は $A_LM$ である。
論文 参考訳（メタデータ） (2026-08-10T22:45:22Z) - Looped Transformers with Source-Centered State Evolution [38.624504791098545]
Looped Transformerは、同じTransformerブロックをリユースすることで、トレインとテストタイムの計算軸を作る。
加算インジェクションループ変換器では、繰り返しステップ毎に入力条件の信号が再導入される。
本稿では,入力条件と参照保存共有繰り返しを照合するソース中心状態進化法を提案する。
論文 参考訳（メタデータ） (2026-07-30T04:13:58Z) - Self-Poisoning in Adaptive Out-of-Distribution Detection: A Sharp-Threshold Theory and Certified Label-Free Calibration [0.0]
テストタイム適応型アウト・オブ・ディストリビューション検出器は、未競合ストリームからメモリバンクを更新する。
この適応は証明可能な力学則に従うことを示す。
ドリフト条件下での相補的な静的校正不全に対して、CDCは、テストされたドリフト影響細胞全てにおいて、名目上のFPRラベルのない状態を回復する。
論文 参考訳（メタデータ） (2026-07-23T09:43:46Z) - TwistedMerge: Certified Higher-Order Diagnostics and Abstention for Model Merging [0.48086260459837454]
我々は、チェックポイントが局所対象、アライメントマップが遷移、サイクル積が残留する有限降下問題としてマージを定式化する。
提案手法は, 定数エッジのNo-go結果, フリーズ・コンプレックスの3方向およびプレファミリーの誤差制御定理, 比較・複雑感度の精査試験である。
訓練された低ランク適応型監査では, 平均化係数は選択したGLr代表に依存するが, 大域的因子同期と高密度デルタSVDは安定である。
論文 参考訳（メタデータ） (2026-07-23T03:24:50Z) - What Accuracy and Gradient Cosine Miss: Evaluating Feedback Alignment via Scale Stability, Reference Validity, and Depth Utility [48.10132234701036]
本稿では,3つのチェック(スケール安定性,参照妥当性,深度ユーティリティ)に基づく診断評価プロトコルを提案する。
複数のアーキテクチャや手法にまたがって、我々のプロトコルは広い校正マージンを持つ全ての障害を識別する。
論文 参考訳（メタデータ） (2026-06-19T06:04:17Z) - Conformal calibration and look-elsewhere effect in anomaly detection for new-physics searches [0.0]
機械学習による異常検出は、新しい物理学の探索を再構築している。
本稿では,共形予測に基づく校正層を提案する。
論文 参考訳（メタデータ） (2026-06-11T18:00:02Z) - Counterfactual Likelihood Tests for Indirect Influence in Private Reasoning Channels [51.56484100374058]
本稿では,私的推論チャネル間の影響を測定するための実証実験について述べる。
この方法は、上流のプライベートブロックを長さマッチングドナーブロックに置き換え、公開トークンシーケンスと下流ターゲットを固定し、下流ターゲットの負のログに似たシフトを測定する。
論文 参考訳（メタデータ） (2026-05-18T20:27:43Z) - When to Trust Confidence Thresholding: Calibration Diagnostics for Pseudo-Labelled Regression [1.14219428942199]
標準的なプラクティスは、信頼性カットオフで校正されたスコアをしきい値にし、ハードラベルを真実として扱うことである。
疑似ラベリングパイプラインのためのキャリブレーション対応診断装置を開発した。
我々は、下流回帰係数において信頼しきい値が誘導する減衰バイアスの閉形式式を導出する。
論文 参考訳（メタデータ） (2026-05-12T21:49:11Z) - Unsupervised Conformal Inference: Bootstrapping and Alignment to Control LLM Uncertainty [49.19257648205146]
生成のための教師なし共形推論フレームワークを提案する。
我々のゲートは、分断されたUPPよりも厳密で安定した閾値を提供する。
その結果は、ラベルのない、API互換の、テスト時間フィルタリングのゲートになる。
論文 参考訳（メタデータ） (2025-09-26T23:40:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。