論文の概要: On Mitigation of Subliminal Learning in Large Language Models

• arxiv url: http://arxiv.org/abs/2609.22215v1
• Date: Wed, 02 Sep 2026 07:32:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.775
• Title: On Mitigation of Subliminal Learning in Large Language Models
• Title（参考訳）: 大規模言語モデルにおけるサブリミナル学習の緩和について
• Abstract要約: 1.5Bから8Bパラメータのオープンウェイト言語モデルにおけるサブリミナル学習について検討した。 サブリミナルな買収は、過渡的なスパイク、逆転、特性特異的なトランスファーの失敗など、非常に非単調である可能性がある。 フランス語の応答スタイルの実験では、リミナルトレーニングはGSM8Kの改善の多くを維持しながら言語伝達を抑制する。
• 参考スコア（独自算出の注目度）: 4.625367333046787
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Knowledge distillation can transmit unintended behavioral traits from a teacher model to a student through training data that appear semantically unrelated to those traits, a phenomenon known as subliminal learning. Although recent work has established this effect, its training dynamics and mitigation remain underexplored. We study subliminal learning in open-weight language models ranging from 1.5B to 8B parameters, covering the Qwen, Gemma, and Llama families in number-sequence and chain-of-thought settings. Rather than evaluating only final models, we track trait-related probabilities throughout fine-tuning and find that subliminal acquisition can be highly non-monotonic, with transient spikes, reversals, and trait-specific failures of transfer. We then introduce liminal training, an annealed KL-regularized fine-tuning method that constrains early drift from the base model. Across our experiments, liminal training substantially reduces subliminal trait acquisition while largely preserving task gains, outperforming paraphrasing and layer freezing as mitigation strategies. The effect also extends beyond animal preferences: in a French-language response-style experiment, liminal training suppresses language transfer while retaining much of the GSM8K improvement. Finally, we show that KL timing matters: early regularization is more effective than late regularization, and sweeping the regularization strength reveals an empirical trade-off between task learning and trait suppression.
• Abstract（参考訳）: 知識蒸留は、教師モデルから学生に意図しない行動特性を、それらの特徴と意味的に無関係に見える訓練データを通じて伝達することができる。 近年の研究によってこの効果が確立されているが、その訓練力学と緩和は未解明のままである。 我々は,Qwen,Gemma,Llamaファミリーを数列およびチェーン・オブ・シント設定でカバーし,1.5Bから8Bパラメータのオープンウェイト言語モデルにおけるサブリミナル学習について検討した。 最終モデルのみを評価するのではなく、微調整を通して特性関連確率を追跡し、サブリミナルな獲得は過渡的なスパイク、逆転、特性特異的なトランスファーの失敗を伴う非常に非単調なものであることを発見した。 次に,基本モデルからの早期ドリフトを制約するKL調整細調整法であるリミナルトレーニングを導入する。 実験全体を通して、リミナルトレーニングはサブリミナル形質獲得を著しく低減し、タスクゲインを保ち、パラフレージングと層凍結を緩和戦略として達成した。 フランス語の反応スタイルの実験では、リミナルトレーニングはGSM8Kの改善の多くを維持しながら言語伝達を抑制する。 最後に、KLのタイミングが重要であることを示す: 早期正規化は遅発正規化よりも効果的であり、正規化強度を網羅すると、タスク学習と特性抑制の実証的なトレードオフが明らかになる。

関連論文リスト

• Subliminal Learning as Trait-Direction Drift: A Mechanism and Targeted Control under SFT Distillation [6.96679232120357]
  システムプロンプトに偏った教師は、数値シーケンスのような意味的にクリーンなトレーニングデータを生成することができる。 サブリミナル学習のメカニズムとして,特徴方向のドリフトを提案し,検証する。 蒸留中, キャリブレーションされた特性方向に沿ってドリフトを拘束するターゲットディフェンスであるプローブ空間回廊正則化を提案する。
  論文  参考訳（メタデータ） (2026-09-01T11:32:53Z)
• A Progressive Training Strategy for Vision-Language Models to Counteract Spatio-Temporal Hallucinations in Embodied Reasoning [49.61652671596548]
  「多像幻覚推論」では、前頭と時頭クエリ間の大規模なパフォーマンス低下は、真に理解するのではなく、表面的なショートカットへの依存を示す。 これを軽減するために、我々は、チェーンステップへの詳細な推論と決定的な判断に基づく、時間的連鎖構築という新しいデータセットを開発する。 実験により,本手法は精度を向上するだけでなく,70%以上から6.53%まで,前向きのパフォーマンスギャップも改善することが示された。
  論文  参考訳（メタデータ） (2026-04-12T07:48:44Z)
• Revealing Behavioral Plasticity in Large Language Models: A Token-Conditional Perspective [63.9266662672413]
  大規模言語モデル (LLM) は, トークン条件生成によって露出し, 強化学習によって安定化される固有の行動可塑性を有することを示す。 Token-Conditioned Reinforcement Learning (ToCoRL)を提案する。
  論文  参考訳（メタデータ） (2026-03-09T13:56:53Z)
• Inoculation Prompting: Eliciting traits from LLMs during training can suppress them at test-time [2.657126017307447]
  言語モデルの微調整は、しばしば望ましくない特徴を望ましいものと組み合わせて学習する。 本稿では,短時間のシステム・プロンプト・インストラクションを前もって微調整データを修正する接種プロンプトを提案する。 接種されたモデルは、修正されていないトレーニングデータで訓練されたモデルよりも、特性の表現がはるかに低い。
  論文  参考訳（メタデータ） (2025-10-05T20:04:22Z)
• An Analysis and Mitigation of the Reversal Curse [70.13419502543915]
  最近の研究は、大型言語モデル(LLM)で注目すべき現象を観測している。 逆の呪文は、$a$と$b$の2つのエンティティを扱う場合、LLMは$aRb$,'という形式でシーケンスを処理するのに優れるが、$bR-1a$'を処理する場合の課題に直面することである。
  論文  参考訳（メタデータ） (2023-11-13T17:01:12Z)
• The Emergence of Essential Sparsity in Large Pre-trained Models: The Weights that Matter [113.35761858962522]
  本稿では,複数の大きな事前学習された視覚と言語変換器のスパースパターンを誘導する。 本稿では,性能がはるかに速く低下する急激な落差点で定義される本質的疎度の存在を提案する。 また、N:Mのスパーシティパターンと近代的な大規模言語モデルに有効であることを示す。
  論文  参考訳（メタデータ） (2023-06-06T15:49:09Z)
• Exploring Fine-tuning Techniques for Pre-trained Cross-lingual Models via Continual Learning [74.25168207651376]
  訓練済みの言語モデルから下流の言語間タスクへの微調整は、有望な結果を示している。 ダウンストリームタスクに微調整する場合、継続学習を活用して、事前学習したモデルの言語間能力を維持する。 提案手法は、ゼロショット言語間タグ付けや名前付きエンティティ認識タスクにおいて、他の微調整ベースラインよりも優れた性能を実現する。
  論文  参考訳（メタデータ） (2020-04-29T14:07:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。