論文の概要: Scaling Model-Generated Distillation Data Can Make Latent Teacher Traits More Recoverable
- arxiv url: http://arxiv.org/abs/2608.26958v1
- Date: Thu, 27 Aug 2026 10:59:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-28 16:30:58.364605
- Title: Scaling Model-Generated Distillation Data Can Make Latent Teacher Traits More Recoverable
- Title（参考訳）: スケールするモデル生成蒸留データにより、潜伏教師のトラクションがより回復しやすくなる
- Abstract要約: より大規模なデータセットは、教師固有の微妙な信号を、訓練された学生が検出しやすくする。
サブリミナル学習にインスパイアされた制御された設定では、ターゲット特性を表現するように誘導された教師が、制限されたオフタスクデータを生成する。
異なる独立したオフタスクデータに基づいて訓練された学生は、別のドメインで評価される。
- 参考スコア（独自算出の注目度）: 10.484473401339464
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Scaling model-generated data is usually viewed as improving distillation: more examples should increase coverage, reduce noise, and produce stronger students. We show a second effect: larger datasets can make subtle teacher-specific signals easier to detect in the trained student, even when examples are off-task and never mention the trait. In a controlled setup inspired by subliminal learning, a teacher induced to express a target trait generates restricted off-task data, such as number-only completions. Students trained on different amounts of independent off-task data are evaluated in a separate domain, with matched no-trait controls isolating target-specific transfer. Our main finding is that larger independent datasets make the teacher's induced trait stand out more clearly in the student's later behavior. Other plausible traits may also strengthen with scale, but the target usually grows more. When the small-scale student already favors the target, scaling mainly amplifies that behavior; when it favors a related or salient alternative, more data can shift behavior toward the intended trait. Analyses of learned LoRA updates show a parallel trend. These effects appear across model families, trait types, multi-trait settings, and cross-model transfer. Our results suggest that scaling generated distillation data should be paired with trait-aware curation and evaluation, even when the data appears off-task or benign.
- Abstract（参考訳）: モデル生成データのスケーリングは通常、蒸留の改善と見なされる: より多くの例は、カバレッジを高め、ノイズを低減し、より強力な学生を生み出すべきである。
より大きなデータセットは、教師固有の微妙な信号を訓練された学生に簡単に検出することができる。
サブリミナル学習にインスパイアされた制御された設定では、教師がターゲット特性を表現するように誘導され、数のみの完了など、制限されたオフタスクデータを生成する。
異なる量のオフタスクデータをトレーニングした学生は、異なるドメインで評価される。
我々の主な発見は、より大きな独立したデータセットによって、教師が引き起こした特性が、学生の後の行動においてよりはっきりと目立たせることである。
他の可塑性特性もスケールで強化されるが、ターゲットは通常より大きく成長する。
小規模の学生がすでにターゲットを好んでいる場合、スケーリングは主としてその振る舞いを増幅する。
学習したLoRA更新の分析は、平行な傾向を示している。
これらの効果は、モデルファミリ、トレイトタイプ、マルチトレイ設定、クロスモデル転送にまたがって現れる。
以上の結果から, 発生した蒸留データのスケーリングと特性を考慮したキュレーションと評価を組み合わせるべきであることが示唆された。
関連論文リスト
- Subliminal Learning is Non-Semantic Distillation [1.2891210250935148]
サブリミナルラーニング(サブリミナルラーニング、Subliminal Learning、SL)は、現代の言語モデルで表される驚くべき一般化である。
一見無関係またはランダムな合成データから蒸留することで、教師モデルから生徒へのバイアスや行動の伝達を可能にする。
これにより、AIシステムが予測可能であり、安全にトレーニングされていることを保証する上での課題が提示される。
論文 参考訳（メタデータ） (2026-08-06T08:18:13Z) - Extracting alignment data in open models [50.81383232591576]
訓練後モデルから大量のアライメントトレーニングデータを抽出できることが示唆された。
このデータは、長期コンテキスト推論、安全性、命令追従、数学などの特定の機能を改善するためにモデルを操縦するのに有用である。
SFT や RL のような後トレーニングフェーズで使用されたトレーニングデータを,モデルが容易に再学習できることが判明した。
論文 参考訳（メタデータ） (2025-10-21T12:06:00Z) - Subliminal Learning: Language models transmit behavioral traits via hidden signals in data [7.092398764321311]
サブリミナル学習(subliminal learning)は,言語モデルが意味的に無関係なデータを通じて行動特性を伝達する現象である。
特定の条件下で全てのニューラルネットワークでサブリミナル学習が発生することを示す理論的結果を示す。
サブリミナル学習は、AI開発に予期せぬ落とし穴を生じさせる一般的な現象である、と結論付けている。
論文 参考訳（メタデータ） (2025-07-20T03:51:13Z) - Self-Training and Multi-Task Learning for Limited Data: Evaluation Study
on Object Detection [4.9914667450658925]
実験結果から,マルチタスク学生の学習に不明瞭なデータを持つ弱教師を用いた場合のパフォーマンス向上が示唆された。
限られた設定にもかかわらず、実験結果はマルチタスクの知識蒸留と自己学習の可能性を示していると信じている。
論文 参考訳（メタデータ） (2023-09-12T14:50:14Z) - Stubborn Lexical Bias in Data and Models [50.79738900885665]
我々は、データに基づいてトレーニングされたモデルに、データのスプリアスパターンが現れるかどうかを調べるために、新しい統計手法を用いる。
トレーニングデータに*reweight*に最適化アプローチを適用し、数千のスプリアス相関を低減します。
驚くべきことに、この方法ではトレーニングデータの語彙バイアスを低減できますが、トレーニングされたモデルで対応するバイアスの強い証拠がまだ見つかっていません。
論文 参考訳（メタデータ） (2023-06-03T20:12:27Z) - Learning to Jump: Thinning and Thickening Latent Counts for Generative
Modeling [69.60713300418467]
ジャンプの学習は、様々な種類のデータの生成モデリングのための一般的なレシピである。
ジャンプの学習が、デノゼの学習と相容れないパフォーマンスを期待される場合と、より良いパフォーマンスを期待される場合を実証する。
論文 参考訳（メタデータ） (2023-05-28T05:38:28Z) - Distilling Robustness into Natural Language Inference Models with Domain-Targeted Augmentation [12.512147282842175]
本稿では,学生モデルの配布外領域におけるロバスト性を改善するための2つの補完手法について検討する。
第一のアプローチは、ターゲットの分布にマッチする未ラベルの例で蒸留を増強する。
第2の方法は、目標分布に類似したトレーニングセット内のデータポイントをサンプリングする。
論文 参考訳（メタデータ） (2023-05-22T14:37:05Z) - Counterfactual Generation Under Confounding [24.503075567519048]
機械学習モデルは、トレーニングデータにおける観察または観測されていない共同創設者の影響下で、素早い相関関係を学習することができる。
本稿では,画像中の任意の属性の値を変更し,観測された属性の集合を与えられた新しい画像を生成することを学習する対実生成法を提案する。
本手法は, 計算効率が高く, 実装も簡単で, 生成因子の多さや変数の整合性にも有効である。
論文 参考訳（メタデータ） (2022-10-22T06:39:22Z) - Exploring Inconsistent Knowledge Distillation for Object Detection with
Data Augmentation [66.25738680429463]
物体検出のための知識蒸留(KD)は、教師モデルから知識を伝達することで、コンパクトな検出器を訓練することを目的としている。
教師モデルの反直感的知覚に固有の知識を蒸留することを目的とした,一貫性のない知識蒸留(IKD)を提案する。
本手法は, 1段, 2段, アンカーフリーの物体検出器において, 最先端のKDベースラインより優れる。
論文 参考訳（メタデータ） (2022-09-20T16:36:28Z) - Reminding the Incremental Language Model via Data-Free Self-Distillation [26.960750314663294]
擬似データによる増分学習は、ニューラルネットワークにおける破滅的な忘れを軽減できる。
データフリー自己蒸留(DFSD)を用いたインクリメンタル言語モデルを提案する。
我々のDFSDは、擬似データの最大減少率が90%であっても、従来の最先端手法を超えることができる。
論文 参考訳（メタデータ） (2021-10-17T07:27:43Z) - Relational Subsets Knowledge Distillation for Long-tailed Retinal
Diseases Recognition [65.77962788209103]
本研究では,長尾データを知識に基づいて複数のクラスサブセットに分割し,クラスサブセット学習を提案する。
モデルがサブセット固有の知識の学習に集中するように強制する。
提案手法は長期網膜疾患認識タスクに有効であることが判明した。
論文 参考訳（メタデータ） (2021-04-22T13:39:33Z) - Learning What Makes a Difference from Counterfactual Examples and
Gradient Supervision [57.14468881854616]
ニューラルネットワークの一般化能力を改善するための補助的学習目標を提案する。
我々は、異なるラベルを持つ最小差の例のペア、すなわち反ファクトまたはコントラストの例を使用し、タスクの根底にある因果構造を示す信号を与える。
このテクニックで訓練されたモデルは、配布外テストセットのパフォーマンスを向上させる。
論文 参考訳（メタデータ） (2020-04-20T02:47:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。