論文の概要: Learning from the Future: Privileged Self-Distillation for Sequential Recommendation

• arxiv url: http://arxiv.org/abs/2607.27055v1
• Date: Wed, 29 Jul 2026 15:47:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-30 21:06:25.729265
• Title: Learning from the Future: Privileged Self-Distillation for Sequential Recommendation
• Title（参考訳）: 未来から学ぶ: シークエンシャルレコメンデーションのための予備的な自己蒸留
• Abstract要約: 本稿では,学習時間情報と推論時間情報とを分離するフレームワークを提案する。 Privileged Self-Distillation (PSD)は、学習時間情報を推論時間情報から分離する。 PSDは1つの段階でエンドツーエンドに最適化され、デプロイされたモデルと推論コストは変わらない。
• 参考スコア（独自算出の注目度）: 51.993699802866956
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Sequential recommenders are commonly trained with one-hot next-item labels under a causal (prefix-only) objective aligned with inference. While deployment-compatible, this supervision offers little insight into relative preferences among non-target items. Yet logged interaction sequences contain an additional supervisory source: interactions following the target often reveal how user intent evolves, making the target easier to interpret. We treat these future interactions as training-only privileged information, available during learning but not at inference. This raises a natural question: can future interactions provide richer supervision while keeping training aligned with inference-time prediction? We propose Privileged Self-Distillation (PSD), a framework that separates learning-time information from inference-time information. PSD applies two attention masks to the same backbone: a future-aware view yields a privileged teacher distribution conditioned on past and future interactions, while a prefix-only view yields the student distribution used for deployment. Distilling the privileged distribution converts future interactions into training-only supervision rather than inference-time inputs. Since both views share a backbone, the teacher's advantage is purely informational, not architectural, removing the need for a separately pretrained teacher and letting its supervision adapt as the student evolves. PSD further uses an advantage-reachability gate to focus distillation on teacher signals likely supported by the observed prefix, along with a momentum-averaged teacher for stable targets. The framework is optimized end-to-end in a single stage, leaving the deployed model and inference cost unchanged. Experiments across public benchmarks and diverse backbones show consistent improvements.
• Abstract（参考訳）: シークエンシャルレコメンダは、推論と整合した因果的(prefix-only)な目的の下で、一般的に1ホットの次イテムラベルで訓練される。 デプロイメントは互換性があるが、この監視は、ターゲット外のアイテム間の相対的な好みについての洞察をほとんど提供しない。 しかし、ログ化されたインタラクションシーケンスは、追加の監視ソースを含む: ターゲットに続くインタラクションは、しばしば、ユーザの意図がどのように進化するかを明らかにし、ターゲットを解釈しやすくする。 我々は、これらの未来のインタラクションを、学習中に利用できるが推論ではできない訓練専用特権情報として扱う。 将来的なインタラクションは、推論時間予測に一致したトレーニングを維持しながら、よりリッチな監視を提供することができるか? 我々は,学習時間情報を推論時間情報から分離するフレームワークであるPrivileged Self-Distillation (PSD)を提案する。 PSDは2つの注意マスクを同じバックボーンに適用する: 未来を意識したビューは過去と将来のインタラクションに条件づけられた特権教師の分布を、プレフィックスのみのビューはデプロイに使用される学生の分布を出力する。 特権分布の蒸留は、将来のインタラクションを推論時間入力よりもトレーニングのみの監視に変換する。 両方の視点がバックボーンを共有しているため、教師の利点は純粋に情報的であり、建築的ではない。 さらにPSDは、観測された接頭辞によって支持される可能性のある教師信号に蒸留を集中させるために、また、安定した目標のための運動量平均教師を使用する。 フレームワークは1つのステージでエンドツーエンドに最適化されており、デプロイされたモデルと推論コストは変わらない。 公開ベンチマークとさまざまなバックボーンの実験は、一貫した改善を示している。

関連論文リスト

• Learning to Track from Privileged Target Appearances [67.80976117600649]
  ボトルネックを、現在のターゲット作物を正確に供給する、デプロイ不可能なオラクルと定量化する。 我々は,これらの特権的外観をデプロイ可能なトラッカーに転送する教師学生向けトレーニングフレームワークであるPrivileged Appearance Transfer for Tracking (PATT)を紹介した。 PATTは、長期追跡プロトコルと短期追跡プロトコルの両方で一貫した利得を達成する。
  論文  参考訳（メタデータ） (2026-09-02T11:43:43Z)
• Rank-Then-Act: Reward-Free Control from Frame-Order Progress [5.357451930622806]
  Rank-Then-Act (RTA) は、環境に配慮せず、専門家によるビデオデモからコントロールポリシーを学ぶためのフレームワークである。 VLM(Vision-Language Model)をオフラインで,プログレッシブベースのオーディショナルスコアラーとしてトレーニングする。 我々は,予測進行ランクと真の時間指標とのスピアマンランク相関を計算し,有界でスケール不変な学習信号を生成する。
  論文  参考訳（メタデータ） (2026-07-02T08:50:32Z)
• Privileged Foresight Distillation: Zero-Cost Future Correction for World Action Models [1.5821415295352772]
  共同訓練は, 将来の観察が行動認知に課す行動条件付き補正を誘導することを示す。 本稿では,emphPrivileged Foresight Distillation (PFD)について紹介する。
  論文  参考訳（メタデータ） (2026-04-28T16:58:52Z)
• Learn to Rank: Visual Attribution by Learning Importance Ranking [58.69028273772474]
  コンピュータビジョンモデルのための視覚属性マップを生成する新しい手法を提案する。 提案手法は, 任意の数段階の勾配補正を施した1つの前方通過において, 密度の高い画素レベルの属性を生成する。 我々の実験は、一貫した定量的改善と、よりシャープで境界に沿った説明を示す。
  論文  参考訳（メタデータ） (2026-04-07T12:53:22Z)
• Self-Supervised Learning as Discrete Communication [3.33876524834826]
  ほとんどの自己教師付き学習(SSL)メソッドは、同じ入力の異なるビューを整列させることで、連続的な視覚表現を学習する。 我々は,教師と学生ネットワーク間の個別のコミュニケーションプロセスとして,視覚的自己教師型学習の枠組みを定めている。 プロジェクションヘッドの周期的再起動は、予測的のままの埋め込みを促進することによって、この効果を高めることを示す。
  論文  参考訳（メタデータ） (2026-02-10T13:24:06Z)
• Bridging Past and Future: Distribution-Aware Alignment for Time Series Forecasting [30.686607555300366]
  時系列予測のための表現学習フレームワークであるTimeAlignを紹介する。 我々は,過去と将来の表現を明示的に整列し,入力履歴と将来の目標との分布的ギャップを埋める。 利得は主に、歴史的入力と将来の出力の間の周波数ミスマッチの修正から生じる。
  論文  参考訳（メタデータ） (2025-09-17T17:12:39Z)
• Beyond Prototypes: Semantic Anchor Regularization for Better Representation Learning [82.29761875805369]
  表現学習の最終的な目標の1つは、クラス内のコンパクトさとクラス間の十分な分離性を達成することである。 本稿では,機能セントロイドとして機能する事前定義されたクラスアンカーを用いて,特徴学習を一方向ガイドする新しい視点を提案する。 提案したSemantic Anchor Regularization (SAR) は,既存モデルのプラグアンドプレイ方式で使用することができる。
  論文  参考訳（メタデータ） (2023-12-19T05:52:38Z)
• Learning from Future: A Novel Self-Training Framework for Semantic Segmentation [33.66516999361252]
  自己学習は半教師あり学習において大きな可能性を秘めている。 本稿では,モデルが未来から学べる,新たな自己学習戦略を提案する。 我々は,幅広い環境下でのアプローチの有効性と優位性を実験的に実証した。
  論文  参考訳（メタデータ） (2022-09-15T01:39:46Z)
• Self-Regulated Learning for Egocentric Video Activity Anticipation [147.9783215348252]
  自己制御学習(SRL)は、中間表現を連続的に制御し、現在のタイムスタンプのフレームにおける新しい情報を強調する表現を作り出すことを目的としている。 SRLは2つのエゴセントリックなビデオデータセットと2つの第三者のビデオデータセットにおいて、既存の最先端技術よりも大幅に優れています。
  論文  参考訳（メタデータ） (2021-11-23T03:29:18Z)
• Privileged Knowledge Distillation for Online Action Detection [114.5213840651675]
  リアルタイム予測タスクに対処するフレーム単位のラベル付けタスクとして,ビデオ中のオンラインアクション検出(OAD)を提案する。 本稿では,トレーニング段階においてのみ観測可能な未来のフレームを特権情報の一種とみなすオンライン行動検出のための,新たな学習支援型フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-11-18T08:52:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。