論文の概要: Why Subliminal Learning Needs So Much Data: A Noisy Inverse View through Steering Vector Recovery
- arxiv url: http://arxiv.org/abs/2610.04907v1
- Date: Sun, 04 Oct 2026 03:39:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-11 08:06:02.530569
- Title: Why Subliminal Learning Needs So Much Data: A Noisy Inverse View through Steering Vector Recovery
- Title（参考訳）: サブリミナル学習が大量のデータを必要とする理由:ステアリングベクトル回復によるノイズの多い逆ビュー
- Abstract要約: サブリミナル学習は、教師の行動特性を意味的に無関係なデータから継承する。
大規模なキャリアデータセットは、Fisherの逆転によって増幅されたラベルノイズを抑制するよりも、特性を明らかにするのに必要であることを示す。
- 参考スコア（独自算出の注目度）: 24.700498577490226
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Subliminal learning lets a student inherit a teacher's behavioral trait from semantically unrelated data, yet published demonstrations typically require tens of thousands of carrier examples. We ask where this data requirement comes from. Our testbed is subliminal steering: the teacher trait is a known residual-stream vector $Δ_T$, so transfer can be measured directly as parameter recovery. On identical carrier prefixes, we compare token-level (hard) NLL supervision with full-distribution (soft) KL supervision. At initialization the two objectives give nearly collinear gradients, and both align poorly with $Δ_T$. Under iterative optimization, however, they diverge: soft supervision recovers $Δ_T$ almost exactly from a few hundred carriers, while hard supervision stays well below it even with tens of thousands. We explain this gap by casting steering-vector distillation as a noisy linear inverse problem. Locally, the carrier task maps the trait through its Fisher matrix $F$, so gradients point toward $FΔ_T$ rather than $Δ_T$. Gradient descent then acts as a progressively less-damped inverse of $F$. With soft targets, this inverse restores low-curvature directions. With hard labels, it also amplifies the sampling noise in those same directions. The result is an optimal inversion depth that grows with the number of independent carriers. Experiments on Qwen2.5-7B and Gemma-2-9B confirm four predictions: the Fisher distortion of the initial gradient, recovery ordered from steep to flat directions, an optimal depth that shifts with data scale, and the finding that resampling completions from a fixed prompt pool works as well as adding new prompts. In this setting, large carrier datasets are needed less to reveal the trait than to suppress label noise amplified by Fisher inversion. Code is available at \url{https://github.com/luoyuchenmlcv/subliminal-data}.
- Abstract（参考訳）: サブリミナル・ラーニング(Subliminal learning)は、教師の行動特性を意味的に無関係なデータから継承することを可能にする。
このデータ要件はどこから来ているのかを問う。
私たちのテストベッドはサブリミナルステアリング(サブリミナルステアリング)であり、教師特性は既知の残留ストリームベクトル$Δ_T$である。
同一キャリアプレフィックスでは,トークンレベル(ハード)NLLとフルディストリビューション(ソフト)KLとを比較した。
初期化において、2つの目的はほぼコリニア勾配を与え、どちらも$Δ_T$と不整合である。
ソフト・インスペクションは数百のキャリアからほぼ正確に$Δ_T$を回収するが、ハード・インスペクションは数万のキャリアでもその下にある。
ステアリングベクター蒸留を雑音線形逆問題として鋳造することで,このギャップを説明できる。
局所的に、キャリアタスクはその特性をフィッシャー行列$F$を通してマッピングするため、勾配は$Δ_T$ではなく$FΔ_T$を指す。
グラディエント降下は、徐々にF$の逆元として振る舞う。
ソフトターゲットでは、この逆は低曲率方向を復元する。
ハードラベルでは、サンプリングノイズを同じ方向に増幅する。
結果は、独立キャリアの数に応じて増加する最適逆深さである。
Qwen2.5-7BとGemma-2-9Bの実験では、初期勾配のフィッシャー歪み、急勾配から平坦な方向の回復、データスケールで変化する最適な深さ、固定プロンプトプールからのリサンプリング完了の発見、および新しいプロンプトの追加の4つの予測が確認された。
この設定では、大きなキャリアデータセットはFisherインバージョンによって増幅されたラベルノイズを抑制するよりも、特性を明らかにするのに必要である。
コードは \url{https://github.com/luoyuchenmlcv/subliminal-data} で公開されている。
関連論文リスト
- Sharp Rates and a One-Line Correction for Spectral Representation Learning [8.921166277011347]
自己管理エンコーダは、トレーニング時に誰も名前をつけないタスクの軽量プローブを通じてトレーニングされ、凍結され、再利用される。
標準相関解析、HGR最大相関、およびスペクトルのコントラスト損失の集団最適化は、全て、クロスビュー依存作用素のトップ-$k$特異部分空間を返す。
isotropy is the wrong hypothesis. the prior enters the transfer risk through through the task covariance $=mathbbE[top]$, and through its compression to the operator's leading singular direction。
論文 参考訳（メタデータ） (2026-09-14T16:26:55Z) - Loss-Parameterized Fisher Width Along Learning Trajectories [0.0]
まず、固定されたコンパクトプローブに対して、正確なトレース形状の分解と決定論的安定性を導出する。
結果はフィッシャー幅の普遍的損失パラメトリゼーションよりも分岐的に支持される。
論文 参考訳（メタデータ） (2026-08-21T18:52:04Z) - Round-Trip Consistency: Bidirectional Diffusion Models Can Predict Their Own Rollout Errors [51.56484100374058]
自動回帰モデルは、長時間のロールアウトでエラーを蓄積しますが、デプロイ時には、それを測定するための基本的な真実はありません。
我々は、方向フラグを介して動的システムを前方または後方にステップする単一の条件付き潜在拡散モデルを訓練する。
この双方向性は測定不要なテスト時間誤差信号を提供することを示す。
論文 参考訳（メタデータ） (2026-08-01T13:49:46Z) - From Patches to Trajectories: Privileged Process Supervision for Software-Engineering Agents [56.31499185764872]
教師の長い軌道上の監督された微調整(SFT)は、オープンソフトウェアエンジニアリング(SWE)エージェントに調査と推論を浸透させる主要な方法である。
本稿では,P2T (Patches-to-Trajectories) を提案する。P2T (Patches-to-Trajectories) は,P2T (Patches-to-Trajectories) において,P2T (Patches-to-Trajectories) とP2T (Patches-to-Trajectories) の2つの最適化法である。
論文 参考訳（メタデータ） (2026-05-21T04:54:55Z) - Revisiting On-Policy Distillation: Empirical Failure Modes and Simple Fixes [31.95045602299568]
オンライン蒸留(OPD)は,教師の学習履歴ではなく,学生が生み出すロールアウトに対するフィードバックを評価するため,大規模言語モデル(LLM)のポストトレーニングにアピールしている。
推定器と実装側からOPDを再検討する。
不均衡な1-token信号、学生が生成した接頭辞に対する教師の信頼できない指導、トークン化器や特殊-tokenミスマッチによる歪みの3つの失敗モードを同定する。
論文 参考訳（メタデータ） (2026-03-26T15:35:59Z) - LoRIF: Low-Rank Influence Functions for Scalable Training Data Attribution [62.830878652285406]
トレーニングデータ属性は、モデルの予測に最も影響したトレーニング例を特定する。
LoRIFは、両方のボトルネックに対処するために、勾配の低ランク構造を利用する。
数百万のサンプルでデータセットでトレーニングされた0.1Bから70Bパラメータのモデルで、LoRIFは最大20$timesのストレージ削減とクエリ時の高速化を実現している。
論文 参考訳（メタデータ） (2026-01-29T16:18:34Z) - Boot and Switch: Alternating Distillation for Zero-Shot Dense Retrieval [50.47192086219752]
$texttABEL$は、ゼロショット設定でのパス検索を強化するための、シンプルだが効果的な教師なしのメソッドである。
ラベル付きデータに対して$texttABEL$を微調整するか、既存の教師付き高密度検索と統合することにより、最先端の結果が得られる。
論文 参考訳（メタデータ） (2023-11-27T06:22:57Z) - SIMPLE: A Gradient Estimator for $k$-Subset Sampling [42.38652558807518]
この作業では、フォワードパスの離散$k$-subsetサンプリングに戻ります。
勾配推定器 SIMPLE は, 最先端推定器と比較して, バイアスやばらつきが低いことを示す。
実験結果から,線形回帰を説明・スパースする学習性能が向上した。
論文 参考訳（メタデータ） (2022-10-04T22:33:16Z) - The Manifold Hypothesis for Gradient-Based Explanations [55.01671263121624]
勾配に基づく説明アルゴリズムは知覚的に整合した説明を提供する。
特徴属性がデータの接する空間と一致しているほど、知覚的に一致している傾向にあることを示す。
説明アルゴリズムは、その説明をデータ多様体と整合させるよう積極的に努力すべきである。
論文 参考訳（メタデータ） (2022-06-15T08:49:24Z) - Large Scale Private Learning via Low-rank Reparametrization [77.38947817228656]
本稿では、大規模ニューラルネットワークに微分プライベートSGDを適用する際の課題を解決するために、再パラメータ化方式を提案する。
BERTモデルにディファレンシャルプライバシを適用し、4つの下流タスクで平均精度が8,3.9%に達するのはこれが初めてである。
論文 参考訳（メタデータ） (2021-06-17T10:14:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。