Fugu-MT 論文翻訳(概要): Multi-Teacher Reasoning Distillation for LLM Recommendation with Self-Exploration

論文の概要: Multi-Teacher Reasoning Distillation for LLM Recommendation with Self-Exploration

arxiv url: http://arxiv.org/abs/2611.02457v1
Date: Mon, 02 Nov 2026 03:20:28 GMT
ステータス: 情報取得中
システム内更新日: 2026-11-03 19:24:09.258061
Title: Multi-Teacher Reasoning Distillation for LLM Recommendation with Self-Exploration
Title（参考訳）: 自己探索によるLLM勧告に対するマルチティーラー推論蒸留法
Abstract要約: RecSys(Reasoning-augmented recommender system)は、レコメンデーションを行う前に、歴史的相互作用に対する推論軌跡を生成することによって、ユーザの好みのモデリングを強化する。既存の方法は、1人の固定教師に頼り、教師の知識天井に拘束され続け、下流の推薦のために実際の有用性を評価することなく、教師が生成した軌跡を無差別に蒸留する。我々は, 推論生成と推論利用を共同で改善する適応的推論蒸留フレームワーク MUSE を提案する。
参考スコア（独自算出の注目度）: 70.84311718374586
License:
Abstract: Reasoning-augmented recommender systems (RecSys) enhance user preference modeling by generating reasoning trajectories over historical interactions before making recommendations. Knowledge distillation provides a practical paradigm for transferring such reasoning capabilities from powerful large language models to lightweight RecSys. However, existing methods typically rely on a single fixed teacher, remain constrained by the teacher knowledge ceiling, and indiscriminately distill teacher-generated trajectories without assessing their actual utility for downstream recommendation. To address these limitations, we propose MUSE (Multi-Teacher Utility-guided Selection with Self-Exploration), an adaptive reasoning distillation framework that jointly improves reasoning generation and reasoning utilization. MUSE first constructs a diverse reasoning pool using multiple teacher LLMs and progressively augments it via student self-exploration, enabling the student to leverage the strengths of different teachers and gradually explore reasoning strategies beyond teacher imitation. We then develop Rank-Gain Utility Assessment (RGUA), which evaluates each candidate according to the normalized full-catalog rank improvement of the ground-truth item and identifies the most and least recommendation-beneficial trajectories. Based on these utility-aware trajectory pairs, we introduce dual-level contrastive learning objectives that guide the student generator to prefer beneficial reasoning while training the recommendation encoder to more effectively exploit recommendation-relevant preference evidence. Extensive experiments on three real-world datasets demonstrate the effectiveness and robustness of the proposed framework.
Abstract（参考訳）: RecSys(Reasoning-augmented recommender system)は、レコメンデーションを行う前に、歴史的相互作用に対する推論軌跡を生成することによって、ユーザの好みのモデリングを強化する。知識蒸留は、そのような推論能力を強力な大言語モデルから軽量RecSysへ移行するための実践的なパラダイムを提供する。しかし、既存の手法は、教師の知識天井に拘束され続け、下流の推薦のために実際の有用性を評価することなく、教師が生成した軌跡を無差別に蒸留する。これらの制約に対処するため,我々はMUSE(Multi-Teacher Utility-guided Selection with Self-Exploration)を提案する。 MUSE はまず複数の教師 LLM を用いて多種多様な推論プールを構築し、学生の自己探索を通じて徐々に拡張し、異なる教師の強みを活用して、教師の模倣を超えた推論戦略を徐々に探求する。そこで我々は,RGUA(Rang-Gain Utility Assessment)を開発し,各候補が正規化されたフルカタロジのランク改善に従って評価し,最もかつ最小のレコメンデーション・ベニシカル・トラジェクトリを同定する。これらの実用性を考慮したトラジェクトリペアに基づいて,推薦エンコーダをより効果的に活用するために,学生が有利な推論を指導する2段階のコントラスト学習目標を導入する。 3つの実世界のデータセットに対する大規模な実験は、提案フレームワークの有効性と堅牢性を示している。

関連論文リスト

Latent Residual Reasoning for Ranking in Generative Recommendation [71.06019610882498]
本稿では、パラメータ効率の良い微調整を施した潜在残差推論フレームワークRefinerを提案する。提案手法では,(1)累積加法補正による格付けを段階的に洗練する残留推論機構,(2)凝縮されたユーザ行動表現を提供する履歴クエリ,(3)パラメータ効率の良い微調整戦略の3つの重要な要素を紹介する。
論文参考訳（メタデータ） (2026-10-27T09:25:53Z)
SelfDR: Self-Distillation from Reasoning for LLM-Based Recommendation [20.66655178579704]
SelfDR は LLM ベースのレコメンデーションのための自己蒸留フレームワークである。 LLM独自の推論を蒸留し、直接レコメンデーションを生成する。すべてのコンポーネントは同じベースLLM上に構築され、外部モデルに依存しない。
論文参考訳（メタデータ） (2026-09-03T03:05:17Z)
Reinforced Preference Optimization for Reasoning-Augmented Recommendations [34.99578717556569]
本稿では、Recommenderシステムのための強化された優先最適化フレームワークRPORecを紹介する。 RPORecは、LPMバックボーンの推論能力を、アイテムの正確な検索のために専用のレコメンデーションヘッド(Rechead)と統合する。公開ベンチマークと大規模オンラインデプロイメントに関する大規模な実験は、RPORecが最先端のLLMベースのレコメンデーションメソッドを一貫して上回っていることを示している。
論文参考訳（メタデータ） (2026-05-21T03:56:42Z)
Internalizing Multi-Agent Reasoning for Accurate and Efficient LLM-based Recommendation [22.9032468841993]
LLM(Large Language Models)は、幅広い世界の知識と意味論的推論を活用して、ユーザの意図を解釈することでレコメンデーションシステムを再構築している。単エージェント軌道アライメントレコメンダ(STAR)を開発するための軌道駆動型内部化フレームワークを提案する。
論文参考訳（メタデータ） (2026-02-10T14:36:59Z)
Think before Recommendation: Autonomous Reasoning-enhanced Recommender [25.883091131835172]
RecZeroは強化学習に基づくレコメンデーションパラダイムであり、従来のマルチモデルおよびマルチステージ蒸留アプローチを捨てている。本稿では、教師付き微調整とRLを組み合わせたハイブリッドパラダイムRecOneについて検討し、そのモデルにコールドスタート推論サンプルを初期化し、さらにRLに最適化する。
論文参考訳（メタデータ） (2025-10-27T07:26:32Z)
More Than One Teacher: Adaptive Multi-Guidance Policy Optimization for Diverse Exploration [103.1589018460702]
ガイダンス・オン・デマンド」アプローチは、自己発見の価値を保ちながら探究を広げる。実験の結果、AMPOは強いベースラインを大幅に上回ることが示された。ピアサイズの4人の教師を用いて、より強力な1人の教師を活用できる手法に匹敵する結果が得られる。
論文参考訳（メタデータ） (2025-10-02T17:14:00Z)
Reason4Rec: Large Language Models for Recommendation with Deliberative User Preference Alignment [69.11529841118671]
本稿では,ユーザの嗜好に関する明確な推論を新たなアライメント目標として組み込んだ,新たなDeliberative Recommendationタスクを提案する。次にReasoningを利用したRecommenderフレームワークを導入する。
論文参考訳（メタデータ） (2025-02-04T07:17:54Z)
Curriculum-scheduled Knowledge Distillation from Multiple Pre-trained Teachers for Multi-domain Sequential Recommendation [102.91236882045021]
現実世界のシステムにおいて、様々な事前学習されたレコメンデーションモデルを効率的に利用する方法について検討することが不可欠である。多分野連続的な推薦のために,複数の事前学習教師によるカリキュラムスケジューリング型知識蒸留を提案する。 CKD-MDSRは、複数の教師モデルとして異なるPRMの利点を最大限に活用し、小学生推薦モデルを強化している。
論文参考訳（メタデータ） (2024-01-01T15:57:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。