論文の概要: Search-Aware On-Policy Self-Distillation with Sibling Alignment for Generative Recommendation

• arxiv url: http://arxiv.org/abs/2611.01568v1
• Date: Sun, 01 Nov 2026 04:50:25 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-11-03 19:12:48.479782
• Title: Search-Aware On-Policy Self-Distillation with Sibling Alignment for Generative Recommendation
• Title（参考訳）: 逐次推薦のための兄弟アライメントによるオンライン自己蒸留の探索
• Abstract要約: オンライン自己蒸留は、学生が生み出した州で特権的な自己教育者の知識を移譲することで、訓練の監督を強化する。 本研究では,学生のビームサーチで訪れた国に,特権的な自己教育者知識を伝達するフレームワークである,検索対応型自己蒸留(SA-OPSD)を提案する。
• 参考スコア（独自算出の注目度）: 28.12736059510782
• License:
• Abstract: Generative recommendation retrieves items by autoregressively generating semantic IDs, typically via beam search. On-policy self-distillation (OPSD) enhances training supervision by transferring privileged self-teacher knowledge at student-generated states. However, beam-search retention depends on competition among prefixes: visited states differ in importance, and initially reliable decisions may approach the pruning boundary as training evolves. Moreover, conventional distribution matching couples target-token confidence with preferences among competing continuations, potentially weakening relational supervision when the self-teacher strongly favors the target. To address these challenges, we propose Search-Aware On-Policy Self-Distillation (SA-OPSD), a framework that transfers privileged self-teacher knowledge to the states visited during the student's own beam search. Specifically, we introduce Evolving-Boundary Sampling, which prioritizes search-critical states by considering both current pruning-boundary proximity and initial-reference retention-margin decline under a controlled distillation budget. Furthermore, we develop Confidence-Decoupled Branch Distillation, which separates target-probability calibration from informative sibling relations to better preserve the teacher's preferences among competing branches. Experiments on Industrial, Office, and Instruments demonstrate strong performance for SA-OPSD.
• Abstract（参考訳）: 生成レコメンデーションは、通常ビームサーチを介して、自動回帰的にセマンティックIDを生成することでアイテムを検索する。 On-policy Self-distillation (OPSD)は、学生が生み出した州で特権的な自己教育者の知識を移譲することで、訓練の監督を強化する。 しかし、ビームサーチの保持は、接頭辞間の競争に依存する:訪問国は重要性が異なり、訓練が進むにつれて、最初は信頼できる決定がプルーニング境界に近づく可能性がある。 さらに、従来の配当マッチングは、競合する継続の選好を目標とする信頼度を目標とし、自己学習者が目標を強く好む場合、関係性の監督を弱める可能性がある。 これらの課題に対処するために,学生のビームサーチで訪れた州に特権的な自己教育者知識を伝達するフレームワークである検索意識型自己蒸留(SA-OPSD)を提案する。 具体的には, 規制蒸留予算の下で, 現在のプルーニング境界近傍と初期参照保持マージンの減少を考慮し, 探索臨界状態の優先順位付けを行うEvolving-Boundary Smplingを紹介する。 さらに,親子関係から標的確率の校正を分離し,競合する分枝間の教師の嗜好をよりよく維持する信頼分離分枝蒸留を開発した。 SA-OPSDは, 産業, オフィス, インスツルメンツで高い性能を示した。

関連論文リスト

• CA-OPD: Confidence-Aware On-Policy Distillation for Structured Visual Prediction [12.346416465825627]
  信頼できるオン・ポリシィ蒸留(CA-OPD)は、信頼性の高いロールアウト構築と適応的な監視を結合するフレームワークである。 GUIグラウンディングと光学文字認識のためのマルチ教師設定で評価され、CA-OPDはQwen3.5-0.8Bベースラインを大幅に改善する。
  論文  参考訳（メタデータ） (2026-09-02T10:11:59Z)
• Latent On-Policy Self-Distillation [55.57800223145407]
  On-policy Self-distillation (OPSD) は、特権的な自己教育者を用いて、生徒自身の軌跡を集中的に管理することにより、効果的な経路を提供する。 既存の方法はまだデザイナーが指定した特権的アーティファクトに大きく依存している。 本稿では,教師の特権的文脈自体を経験から学習可能なエンド・ツー・エンドにするため,LOPD(Latent On-Policy Self-Distillation)を導入する。
  論文  参考訳（メタデータ） (2026-08-13T10:05:51Z)
• BOUND: Brief-Guided Corrective Preference Distillation at Search-Control Boundaries [82.41764922522565]
  BOUNDは、永続的な探索ドリフトのための短いガイド付き修正選好蒸留フレームワークである。 Trajectory SFT は Bamboogle で 5.6 EM 、BrowseComp-Plus で 4.8 の精度で上回っている。
  論文  参考訳（メタデータ） (2026-08-09T15:32:16Z)
• Adaptive Supervised Anchoring for On-Policy Self-Distillation [15.445625053566244]
  オンライン自己蒸留は、学生から採取した軌道上の凍結教師からの指導を蒸留することにより、言語モデルに適応する。 本研究は,学生が目標軌跡から遠ざかると,教師の目標外接頭辞の条件がタスク関連監督を著しく弱めることを示す。 本稿では,2つの補完的な指導経路を分離する統合トレーニングフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-08-08T05:46:32Z)
• Contrastive Reinforced Policy Optimization via Privileged Self-Distillation [23.840537431318296]
  対照的な学習の観点から,エージェント・オン・ポリシィ・セルフ・蒸留(OPSD)を再構成するCRPO(Contrastive Reinforced Policy Optimization)を導入する。 CRPOは、既存の強化学習と自己蒸留ベースラインを一貫して上回る。
  論文  参考訳（メタデータ） (2026-07-30T11:14:11Z)
• Consistent Paths Lead to Truth: Self-Rewarding Reinforcement Learning for LLM Reasoning [87.7836502955847]
  本稿では,Large Language Model (LLM)推論を強化するための,自己回帰型強化学習フレームワークを提案する。 私たちのキーとなる洞察は、正しい応答はモデルの可能性の観点から一貫した軌道パターンを示すことが多いということです。 本稿では,安定度とボラティリティを,頑健なベクトル空間集約戦略を通じて統合する,本質的な報酬機構であるCoVoを紹介する。
  論文  参考訳（メタデータ） (2025-06-10T12:40:39Z)
• Faithful Knowledge Distillation [75.59907631395849]
  i) 教師と学生は、正しく分類されたデータセットのサンプルに近い点で意見が一致しないか、(ii) 蒸留した学生は、データセットのサンプルに関する教師と同じくらい自信があるか、という2つの重要な質問に焦点をあてる。 これらは、安全クリティカルな設定の中で、堅牢な教師から訓練された小さな学生ネットワークを配置することを考えると、重要な問題である。
  論文  参考訳（メタデータ） (2023-06-07T13:41:55Z)
• Ask-AC: An Initiative Advisor-in-the-Loop Actor-Critic Framework [41.04606578479283]
  本稿では,Ask-ACと呼ばれる新しいアドバイザリ・イン・ザ・ループアクター・クリティカル・フレームワークを提案する。 Ask-ACの中心には2つの補完的なコンポーネント、すなわちアクションリクエスタとアダプティブステートセレクタがある。 定常環境および非定常環境における実験結果から,提案手法はエージェントの学習効率を大幅に向上させることが示された。
  論文  参考訳（メタデータ） (2022-07-05T10:58:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。