論文の概要: Subliminal Learning is Non-Semantic Distillation
- arxiv url: http://arxiv.org/abs/2608.05734v1
- Date: Thu, 06 Aug 2026 08:18:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-07 15:25:20.852484
- Title: Subliminal Learning is Non-Semantic Distillation
- Title（参考訳）: サブリミナルラーニングは非セマンティック蒸留である
- Abstract要約: サブリミナルラーニング(サブリミナルラーニング、Subliminal Learning、SL)は、現代の言語モデルで表される驚くべき一般化である。
一見無関係またはランダムな合成データから蒸留することで、教師モデルから生徒へのバイアスや行動の伝達を可能にする。
これにより、AIシステムが予測可能であり、安全にトレーニングされていることを保証する上での課題が提示される。
- 参考スコア（独自算出の注目度）: 1.2891210250935148
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Subliminal Learning (SL) is a surprising type of generalization displayed by modern language models. It allows the transfer of a bias or behavior from a teacher model to a student by distilling from seemingly unrelated or random synthetic data from the teacher. This presents challenges in ensuring AI systems remain predictable and are trained safely, as standard auditing of the input data would not catch the hidden subliminal signal. Here, we investigate several open questions as to the enabling mechanisms and drivers of SL. First is the nature of the process by which biases are encoded in the data. We find that by adding Gaussian noise to the weights of the teacher and student models, the magnitude of subliminal transfer is increased by a factor of 1.9 in Gemma and 1.3 in Llama, suggesting that non-semantic weight structures play a crucial role. We show that steering vectors can be applied to the teacher to produce subliminal data, in addition to prompting and finetuning as used in previous studies. Analysis of the activations of the student models that have been trained on steered and prompted data demonstrates that students inherit not just the semantic meaning of the teacher's bias, but also the type of intervention that was used to apply it: steered students imitate steering vectors, prompted students do not. Additionally, the gradients of steered subliminal data show a linear correlation with the teacher's steering vectors, showing promise for data auditing. More broadly, as synthetic data becomes central to frontier training pipelines, being able to see the latent signals hidden in training data becomes paramount.
- Abstract（参考訳）: サブリミナルラーニング(サブリミナルラーニング、Subliminal Learning、SL)は、現代の言語モデルで表される驚くべき一般化である。
教師モデルから教師モデルへのバイアスや振る舞いを、教師から無関係またはランダムな合成データから抽出することで、学生に伝達することができる。
これは、入力データの標準的な監査が隠れたサブリミナル信号をキャッチしないため、AIシステムが予測可能であり、安全にトレーニングされていることを保証するための課題である。
本稿では,SLの実現メカニズムとドライバについて,いくつかのオープンな疑問を考察する。
まず、バイアスがデータにエンコードされるプロセスの性質です。
教師モデルと学生モデルの重みにガウスノイズを加えることにより、Gemmaの1.9倍、Llamaの1.3倍のサブリミナル転送の規模が増加し、非セマンティックウェイト構造が重要な役割を果たすことが示唆された。
本研究は, 教師に対して, 従来研究で用いられてきた微調整に加えて, サブリミナルデータの生成にステアリングベクターを適用できることを示唆する。
ステアリングベクターを模倣した学生の行動モデルの解析により、学生は教師のバイアスの意味だけでなく、それを適用するのに使われた介入のタイプも受け継いだことが示され、学生はステアリングベクターを模倣する。
さらに、ステアリングされたサブリミナルデータの勾配は、教師のステアリングベクトルと線形相関を示し、データ監査の約束を示す。
より広い範囲で、合成データがフロンティアトレーニングパイプラインの中心となると、トレーニングデータに隠された潜伏信号が最重要となる。
関連論文リスト
- Scaling Model-Generated Distillation Data Can Make Latent Teacher Traits More Recoverable [10.484473401339464]
より大規模なデータセットは、教師固有の微妙な信号を、訓練された学生が検出しやすくする。
サブリミナル学習にインスパイアされた制御された設定では、ターゲット特性を表現するように誘導された教師が、制限されたオフタスクデータを生成する。
異なる独立したオフタスクデータに基づいて訓練された学生は、別のドメインで評価される。
論文 参考訳（メタデータ） (2026-08-27T10:59:03Z) - Subliminal Learning Is Steering Vector Distillation [14.836506853464542]
サブリミナルラーニング(サブリミナルラーニング)とは、微調整時に教師の特質を習得する学生言語モデルである。
サブリミナル学習は1つのステアリングベクトル、すなわちモデルのアクティベーションに付加されるベクトルによって媒介されることを示す。
論文 参考訳（メタデータ） (2026-05-31T04:22:44Z) - Subliminal Steering: Stronger Encoding of Hidden Signals [5.13724383217928]
サブリミナルラーニング(Subliminal learning)は、一見無害なデータに基づいて微調整することで、行動バイアスを継承する学生言語モデルを記述する。
サブリミナル・ステアリング(subliminal steering, サブリミナル・ラーニング)は, 教師のバイアスをシステムプロンプトではなく, 対象サンプルの集合の可能性を最大化するために訓練されたステアリング・ベクターを通じて実施する, サブリミナル・ステアリング(subliminal steering, サブリミナル・ラーニング)の変種である。
サブリミナルステアリングは複雑なマルチワードバイアスを伝達するのに対し,先行研究は単一ワード優先に重点を置いており,サブリミナル・トランスファー可能な信号の広い範囲を示している。
論文 参考訳（メタデータ） (2026-04-28T15:51:55Z) - Subliminal Learning: Language models transmit behavioral traits via hidden signals in data [7.092398764321311]
サブリミナル学習(subliminal learning)は,言語モデルが意味的に無関係なデータを通じて行動特性を伝達する現象である。
特定の条件下で全てのニューラルネットワークでサブリミナル学習が発生することを示す理論的結果を示す。
サブリミナル学習は、AI開発に予期せぬ落とし穴を生じさせる一般的な現象である、と結論付けている。
論文 参考訳（メタデータ） (2025-07-20T03:51:13Z) - Classifying Long-tailed and Label-noise Data via Disentangling and Unlearning [58.052712054684946]
実世界のデータセットでは、長い尾の分布とノイズラベルの課題はしばしば共存する。
本稿では,長い尾とラベルノイズデータに対するディスタングルとアンラーニングという新しい手法を提案する。
論文 参考訳（メタデータ） (2025-03-14T13:58:27Z) - How far can bias go? -- Tracing bias from pretraining data to alignment [54.51310112013655]
本研究では, 事前学習データにおける性別占有バイアスと, LLMにおける性別占有バイアスの相関について検討した。
その結果,事前学習データに存在するバイアスがモデル出力に増幅されることが判明した。
論文 参考訳（メタデータ） (2024-11-28T16:20:25Z) - DriveAdapter: Breaking the Coupling Barrier of Perception and Planning
in End-to-End Autonomous Driving [64.57963116462757]
最先端の手法は通常、教師-学生のパラダイムに従う。
学生モデルは、生のセンサーデータのみにアクセスし、教師モデルによって収集されたデータに基づいて行動クローニングを行う。
本稿では,学生(知覚)と教師(計画)モジュール間の機能アライメント目的関数を持つアダプタを用いたDriveAdapterを提案する。
論文 参考訳（メタデータ） (2023-08-01T09:21:53Z) - Convolutional Neural Networks for the classification of glitches in
gravitational-wave data streams [52.77024349608834]
我々は、高度LIGO検出器のデータから過渡ノイズ信号(グリッチ)と重力波を分類する。
どちらも、Gravity Spyデータセットを使用して、スクラッチからトレーニングされた、教師付き学習アプローチのモデルを使用します。
また、擬似ラベルの自動生成による事前学習モデルの自己教師型アプローチについても検討する。
論文 参考訳（メタデータ） (2023-03-24T11:12:37Z) - Semi-Supervised Semantic Segmentation via Gentle Teaching Assistant [72.4512562104361]
擬似ラベル付きラベル付きラベル付きデータは,特徴抽出器における代表的特徴の学習を容易にすることができると論じる。
そこで本研究では,擬似ラベルが特徴抽出器やマスク予測器に与える影響を解消する新しい枠組みであるジェントル指導アシスタント(GTA-Seg)を提案する。
論文 参考訳（メタデータ） (2023-01-18T07:11:24Z) - Exploring Inconsistent Knowledge Distillation for Object Detection with
Data Augmentation [66.25738680429463]
物体検出のための知識蒸留(KD)は、教師モデルから知識を伝達することで、コンパクトな検出器を訓練することを目的としている。
教師モデルの反直感的知覚に固有の知識を蒸留することを目的とした,一貫性のない知識蒸留(IKD)を提案する。
本手法は, 1段, 2段, アンカーフリーの物体検出器において, 最先端のKDベースラインより優れる。
論文 参考訳（メタデータ） (2022-09-20T16:36:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。