論文の概要: Cross-Trait Transfer in Subliminal Learning

• arxiv url: http://arxiv.org/abs/2610.04260v1
• Date: Sat, 03 Oct 2026 03:36:48 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-06 20:55:11.540586
• Title: Cross-Trait Transfer in Subliminal Learning
• Title（参考訳）: サブリミナル・ラーニングにおけるクロストライト・トランスファー
• Abstract要約: サブリミナルラーニング(サブリミナルラーニング)とは、教師モデルの行動特性を意味的に無関係なアウトプットのトレーニングによって習得する現象である。 本研究では,教師の特性に基づくデータ生成が,生徒の他の特性に対する嗜好をどう変えるかについて検討する。 学生は時として、教師の性格と似ているが同一ではない特性の好みを発達させることが分かる。
• 参考スコア（独自算出の注目度）: 4.597959239810839
• License:
• Abstract: Subliminal learning is a phenomenon where a student language model acquires a teacher model's behavioral traits by training on semantically unrelated outputs. It is a subtle statistical phenomenon as trait transmission relies on weak statistical patterns in the generated data. To understand trait transmission between teacher-student pairs, we study cross-trait transfer: how data generated under one teacher trait changes the student's preferences of other traits. To this end, we introduce a directed trait-transfer matrix that quantifies these effects using log-probability gains for student answers. We find that the trait-transfer matrix reveals clusters of related traits, with students sometimes developing preferences for traits similar, but not identical, to the teacher's trait. Such cross-trait structure can be partially captured by output distribution metrics and representation-based metrics. Further, we analyze trait development and interaction: learning dynamics shows a progression from broad shared shifts toward more trait-specific transfer, and multi-trait experiments suggest that opposed traits can enhance such differentiation. Together, our findings reveal salient statistical structures over trait transfer and competition, thus providing a broader view of how hidden preferences are transmitted in subliminal learning.
• Abstract（参考訳）: サブリミナルラーニング(サブリミナルラーニング)とは、教師モデルの行動特性を意味的に無関係なアウトプットのトレーニングによって習得する現象である。 特性伝達は、生成されたデータの弱い統計パターンに依存するため、微妙な統計現象である。 教師と学生のペア間の特性伝達を理解するために,教師が作成したデータによって他特性の好みがどう変化するか,横断的形質伝達について検討した。 この目的のために,学生の回答に対数確率ゲインを用いてこれらの効果を定量化する有向特性伝達行列を提案する。 特徴伝達行列は関連する特徴の集合を呈し、学生は時折、教師の特徴と似ているが同一ではない特徴の好みを発達させる。 このような横断的構造は、出力分布のメトリクスと表現に基づくメトリクスによって部分的にキャプチャすることができる。 さらに,特徴の発達と相互作用を解析する:学習力学は,広範な共有化から,より特性特異的な伝達への進展を示すが,マルチトレート実験は,対立する特性がそのような分化を促進することを示唆している。 そこで本研究では,特徴伝達と競合に関する統計的構造を明らかにするとともに,隠れた嗜好がサブリミナル学習においてどのように伝達されるか,より広い視点で考察した。

関連論文リスト

• Scaling Model-Generated Distillation Data Can Make Latent Teacher Traits More Recoverable [10.484473401339464]
  より大規模なデータセットは、教師固有の微妙な信号を、訓練された学生が検出しやすくする。 サブリミナル学習にインスパイアされた制御された設定では、ターゲット特性を表現するように誘導された教師が、制限されたオフタスクデータを生成する。 異なる独立したオフタスクデータに基づいて訓練された学生は、別のドメインで評価される。
  論文  参考訳（メタデータ） (2026-08-27T10:59:03Z)
• Enhancing Personality Recognition by Comparing the Predictive Power of Traits, Facets, and Nuances [37.83859643892549]
  パーソナリティ認識モデルは、行動データから性格特性を推定することを目的としている。 モーダル間(音響)とオブジェクト間(ダイアド・アウェア)のアテンション機構を含むトランスフォーマーベースモデルを訓練した。 その結果、ニュアンスレベルのモデルはファセットやトラストレベルのモデルよりも一貫して優れており、平均2乗誤差を最大74%削減できることがわかった。
  論文  参考訳（メタデータ） (2026-02-05T13:35:04Z)
• Subliminal Learning: Language models transmit behavioral traits via hidden signals in data [7.092398764321311]
  サブリミナル学習(subliminal learning)は,言語モデルが意味的に無関係なデータを通じて行動特性を伝達する現象である。 特定の条件下で全てのニューラルネットワークでサブリミナル学習が発生することを示す理論的結果を示す。 サブリミナル学習は、AI開発に予期せぬ落とし穴を生じさせる一般的な現象である、と結論付けている。
  論文  参考訳（メタデータ） (2025-07-20T03:51:13Z)
• BIRD: Behavior Induction via Representation-structure Distillation [1.534667887016089]
  BIRD (Behavior induction via Representation-structure Distillation) は、生徒モデルの内部表現構造と教師の表現構造をマッチングすることにより、協調行動の伝達を行うフレキシブルなフレームワークである。 画像分類における分布外ロバスト性に適用され、次の最強ベースラインに対して、ロバスト精度を最大16%向上する。 400人以上の教師-学生ペアの大規模研究において、教師の表現の解釈可能かつ計算可能な3つの特性が、伝達成功の最大85%のばらつきを説明できることを示した。
  論文  参考訳（メタデータ） (2025-05-29T18:29:40Z)
• Understanding the Role of Invariance in Transfer Learning [9.220104991339104]
  トランスファーラーニングは、異なるタスク間で知識を共有するための強力なテクニックである。 近年の研究では、逆入力摂動のような特定の不変性を持つモデルの表現が、下流タスクにおいてより高い性能を達成することが判明している。
  論文  参考訳（メタデータ） (2024-07-05T07:53:52Z)
• Transcendence: Generative Models Can Outperform The Experts That Train Them [55.885802048647655]
  生成モデルがデータを生成する専門家の能力を超える能力を達成するとき、超越現象を研究する。 我々は,自動回帰変換器をトレーニングして,ゲームスクリプティングからチェスを学習し,トレーニングされたモデルが,データセットのすべてのプレイヤーよりも優れたパフォーマンスが得られることを示す。
  論文  参考訳（メタデータ） (2024-06-17T17:00:52Z)
• Beyond Separability: Analyzing the Linear Transferability of Contrastive Representations to Related Subpopulations [50.33975968859988]
  コントラスト学習(Contrastive Learning)は、ラベルのないデータを用いて、下流の分類タスクに線形に分離可能な表現を生成する、非常に効果的な手法である。 最近の研究では、対照的表現はデータが単一のドメインから来るときに有用であるだけでなく、ドメイン間での転送にも有効であることが示されている。
  論文  参考訳（メタデータ） (2022-04-06T09:10:23Z)
• Agree to Disagree: Diversity through Disagreement for Better Transferability [54.308327969778155]
  本稿では,D-BAT(Diversity-By-dis-Agreement Training)を提案する。 我々は、D-BATが一般化された相違の概念から自然に現れることを示す。
  論文  参考訳（メタデータ） (2022-02-09T12:03:02Z)
• Precise High-Dimensional Asymptotics for Quantifying Heterogeneous Transfers [66.66228496844191]
  2つのタスクのサンプルを組み合わせることは、1つのタスクだけを学習するよりも、いつより優れているかを示す。 この問題は、実際には観測されている負転移と呼ばれる経験的な現象によって動機付けられている。 これらの結果をランダム効果モデルで説明し、ソースタスクのサンプル数が増加するにつれて、正から負への位相遷移を数学的に証明する。
  論文  参考訳（メタデータ） (2020-10-22T14:14:20Z)
• Learning Disentangled Representations with Latent Variation Predictability [102.4163768995288]
  本稿では,潜在不整合表現の変動予測可能性について述べる。 逆生成プロセス内では、潜時変動と対応する画像対の相互情報を最大化することにより、変動予測可能性を高める。 本研究では,潜在表現の絡み合いを測るために,基礎的構造的生成因子に依存しない評価指標を開発する。
  論文  参考訳（メタデータ） (2020-07-25T08:54:26Z)
• Learning What Makes a Difference from Counterfactual Examples and Gradient Supervision [57.14468881854616]
  ニューラルネットワークの一般化能力を改善するための補助的学習目標を提案する。 我々は、異なるラベルを持つ最小差の例のペア、すなわち反ファクトまたはコントラストの例を使用し、タスクの根底にある因果構造を示す信号を与える。 このテクニックで訓練されたモデルは、配布外テストセットのパフォーマンスを向上させる。
  論文  参考訳（メタデータ） (2020-04-20T02:47:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。