論文の概要: Post-Training Leaves Behavioral Shadows on Unrelated Decisions

• arxiv url: http://arxiv.org/abs/2609.29233v1
• Date: Thu, 24 Sep 2026 08:39:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 21:10:09.796235
• Title: Post-Training Leaves Behavioral Shadows on Unrelated Decisions
• Title（参考訳）: 訓練後、無関係な判断で行動の影が消える
• Abstract要約: ポストトレーニングはタスク固有のデータを使用して言語モデルを改善する。 サブリミナル学習に関する以前の研究は、これらの更新に関する情報が無関係な世代を通過する可能性があることを示している。 本稿では,教師から1語ずつの指示で,能動型タスクレス蒸留(ATD)を導入する。
• 参考スコア（独自算出の注目度）: 22.595683707961964
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We find that language models can transfer capabilities through task-unrelated text. Post-training typically improves language models using task-specific data. Prior work on subliminal learning shows that information about these updates can pass through unrelated generations, but has largely focused on traits or preferences using extensive teacher outputs. We introduce Active Taskless Distillation (ATD), which achieves capability transfer using only a single word from the teacher per prompt. ATD probes the behavioral shadow of post-training by selecting prompts where the teacher and student's shared public ancestor is nearly indifferent between two ordinary words. A student initialized from this ancestor learns solely from the resulting prompt-word pairs, without target-task examples, teacher logits, or teacher parameters. In the primary coding experiment with Qwen2.5-1.5B, 5,664nses yield a 5.34 pp gain on HumanEval+ over an exact nuisance-matched control thadisrupts prompt-resperiments showtransfer in scientific knowledge, commonsense reasoning, and reading comprehensins across additional model generations, sizes, and families. Functional analyses show that the learned sid composable, andthat its strength tracks the teacher's update strength.
• Abstract（参考訳）: 言語モデルがタスク非関連テキストを介して機能を伝達できることが分かりました。 ポストトレーニングは通常、タスク固有のデータを使用して言語モデルを改善する。 サブリミナルな学習に関する以前の研究は、これらの更新に関する情報が無関係な世代を通す可能性があることを示しているが、主に広範な教師のアウトプットを使った特性や好みに焦点を当てている。 本稿では,教師から1語ずつの指示で,能動型タスクレス蒸留(ATD)を導入する。 ATDは、教師と学生が共有する公的な祖先が通常の2つの単語の間にほとんど無関心であるようなプロンプトを選択することで、ポストトレーニングの行動的影を調査する。 この祖先から初期化された学生は、ターゲットタスクの例、教師のロジット、あるいは教師のパラメータなしで、結果のプロンプトワードペアからのみ学習する。 Qwen2.5-1.5Bによる最初のコーディング実験では、5,664nsesがHumanEval+に5.34ppの利得を与える。 機能分析の結果,学習したシドは構成可能であり,その強度は教師の更新強度を追跡することがわかった。

関連論文リスト

• SimpleOPD: Simple Tokenizer-Agnostic On-Policy Distillation for Long-Context Reasoning [54.402550664505576]
  オンライン蒸留(OPD)は、より強力な教師モデルから短文の学生に推論能力を伝達する有望な方法を提供する。 長文推論モデル SU-01 から短文学習者モデルへの証明推論能力の移譲により,この設定について検討する。 Qwen3, Qwen3.5, Intern-S2, GLM-4.7, Gemma-4を含む同族および異族の両方の実験は、数学的推論において一貫した利得を示している。
  論文  参考訳（メタデータ） (2026-08-14T12:57:02Z)
• Subliminal Learning is Non-Semantic Distillation [1.2891210250935148]
  サブリミナルラーニング(サブリミナルラーニング、Subliminal Learning、SL)は、現代の言語モデルで表される驚くべき一般化である。 一見無関係またはランダムな合成データから蒸留することで、教師モデルから生徒へのバイアスや行動の伝達を可能にする。 これにより、AIシステムが予測可能であり、安全にトレーニングされていることを保証する上での課題が提示される。
  論文  参考訳（メタデータ） (2026-08-06T08:18:13Z)
• Generative Diffusion Prior Distillation for Long-Context Knowledge Transfer [3.5218695787734826]
  この研究は知識蒸留を用いて、部分時系列分類器に全系列の一般化能力を持たせる。 提案する生成拡散優先蒸留(GDPD)は,短文学生の特徴を対象のフルコンテキスト特徴の劣化観察として扱う新しいKDフレームワークである。 GDPDは、各学生の特徴にタスク関連長文知識の分布を与え、部分分類タスクの学習に役立てる。
  論文  参考訳（メタデータ） (2026-05-12T02:06:05Z)
• Once Upon a Time: Interactive Learning for Storytelling with Small Language Models [1.8012666291588018]
  我々は,高レベルの認知的フィードバックから学習することで,少ないデータで言語モデルを訓練できるかどうかを検討する。 私たちは、教師モデルが読みやすさ、物語のコヒーレンス、創造性を評価するストーリーを生成するために、学生モデルを訓練します。 対話型学習において100万ワードのインプットしか持たず、ストーリーテリングのスキルは410万ワードの次単語予測と同等に向上する。
  論文  参考訳（メタデータ） (2025-09-19T07:45:34Z)
• YODA: Teacher-Student Progressive Learning for Language Models [82.0172215948963]
  本稿では,教師が指導するプログレッシブ・ラーニング・フレームワークであるYodaを紹介する。 モデルファインチューニングの有効性を向上させるために,教師の教育過程をエミュレートする。 実験の結果, YODAのデータによるLLaMA2のトレーニングにより, SFTは大幅に向上した。
  論文  参考訳（メタデータ） (2024-01-28T14:32:15Z)
• Can Language Models Teach Weaker Agents? Teacher Explanations Improve Students via Personalization [84.86241161706911]
  教師のLLMは、実際に生徒の推論に介入し、パフォーマンスを向上させることができることを示す。 また,マルチターンインタラクションでは,教師による説明が一般化され,説明データから学習されることを示す。 教師のミスアライメントが学生の成績をランダムな確率に低下させることを、意図的に誤解させることで検証する。
  論文  参考訳（メタデータ） (2023-06-15T17:27:20Z)
• Yes, this Way! Learning to Ground Referring Expressions into Actions with Intra-episodic Feedback from Supportive Teachers [15.211628096103475]
  本研究は,協調的な環境下でのエポゾディック内フィードバックを評価するための最初の研究である。 以上の結果から,エポゾディック内フィードバックにより,参加者はシーンの複雑さの側面を一般化できることがわかった。
  論文  参考訳（メタデータ） (2023-05-22T10:01:15Z)
• Can BERT Refrain from Forgetting on Sequential Tasks? A Probing Study [68.75670223005716]
  BERTのような事前学習型言語モデルでは,メモリリプレイが少なくても,逐次学習が可能であることが判明した。 実験の結果,BERT は従来学習したタスクに対して,極めて疎らなリプレイや,さらにはリプレイを行なわずに,長期間にわたって高品質な表現を生成できることが判明した。
  論文  参考訳（メタデータ） (2023-03-02T09:03:43Z)
• Effective Cross-Task Transfer Learning for Explainable Natural Language Inference with T5 [50.574918785575655]
  2つのタスクのパフォーマンス向上という文脈において、逐次微調整とマルチタスク学習のモデルを比較した。 この結果から,2つのタスクのうち,第1のタスクにおいて逐次マルチタスク学習は良好に調整できるが,第2のタスクでは性能が低下し,過度な適合に苦しむことが明らかとなった。
  論文  参考訳（メタデータ） (2022-10-31T13:26:08Z)
• FETA: A Benchmark for Few-Sample Task Transfer in Open-Domain Dialogue [70.65782786401257]
  本研究は、オープンドメイン対話における少数サンプルタスク転送のベンチマークであるFETAを導入することにより、対話型タスク転送について検討する。 FETAには10タスクと7タスクがアノテートされた2つの基礎的な会話が含まれており、データセット内タスク転送の研究を可能にする。 3つの人気のある言語モデルと3つの学習アルゴリズムを用いて、132のソースターゲットタスクペア間の転送可能性を分析する。
  論文  参考訳（メタデータ） (2022-05-12T17:59:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。