Fugu-MT 論文翻訳(概要): SelfDR: Self-Distillation from Reasoning for LLM-Based Recommendation

論文の概要: SelfDR: Self-Distillation from Reasoning for LLM-Based Recommendation

arxiv url: http://arxiv.org/abs/2609.03313v1
Date: Thu, 03 Sep 2026 03:05:17 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-04 18:28:38.899238
Title: SelfDR: Self-Distillation from Reasoning for LLM-Based Recommendation
Title（参考訳）: 自己DR:LLMによるレコメンデーションのための推論からの自己蒸留
Abstract要約: SelfDR は LLM ベースのレコメンデーションのための自己蒸留フレームワークである。 LLM独自の推論を蒸留し、直接レコメンデーションを生成する。すべてのコンポーネントは同じベースLLM上に構築され、外部モデルに依存しない。
参考スコア（独自算出の注目度）: 20.66655178579704
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Large Language Models (LLMs) have recently emerged as powerful backbones for recommendation. To better elicit their capabilities, reasoning has been widely incorporated to help LLMs interpret rich textual signals and improve recommendation accuracy. However, explicitly generating intermediate reasoning traces often incurs substantial computational costs, which limits practical deployment in real-world recommender systems. To address this challenge, we propose SelfDR, a Self-Distillation from Reasoning framework for LLM-based Recommendation. SelfDR distills an LLM's own reasoning-enhanced predictions to produce recommendations directly, improving recommendation effectiveness while maintaining inference efficiency. All components in the framework are built on the same base LLM, without relying on any external models. Specifically, the teacher recommender is constructed by training a reasoner with downstream performance as the reward, enabling it to generate targeted rationales that are later incorporated into the teacher's input. A student recommender for direct recommendation, with the same underlying model, then learns from the teacher through self-distillation with a dynamic weighting strategy. Extensive experiments on three public datasets validate the effectiveness, rationality, and efficiency of SelfDR. Codes are available at https://github.com/JiangDeccc/SelfDistillation.
Abstract（参考訳）: 大規模言語モデル(LLM)は、リコメンデーションのための強力なバックボーンとして最近登場した。それらの能力を引き出すために、LLMがリッチテキスト信号の解釈とレコメンデーション精度の向上に役立てるために、推論が広く取り入れられている。しかし、中間的推論トレースを明示的に生成することは、現実のレコメンデータシステムにおける実践的な展開を制限するために、かなりの計算コストを発生させることが多い。この課題に対処するために,LLM ベースのレコメンデーションのための自己蒸留フレームワークである SelfDR を提案する。 SelfDRはLLM独自の推論を蒸留し、直接レコメンデーションを生成し、推論効率を維持しながらレコメンデーションの有効性を向上させる。フレームワークのすべてのコンポーネントは、外部モデルに頼ることなく、同じベースLLM上に構築されている。特に、教師推薦者は、下流のパフォーマンスを報奨とする推論器を訓練して構成され、後に教師の入力に組み込まれる目的の有理を生成できる。学生は、同じモデルで直接推薦を勧め、その後、動的重み付け戦略で自己蒸留を通じて教師から学ぶ。 3つの公開データセットに関する大規模な実験は、SelfDRの有効性、合理性、効率性を検証している。コードはhttps://github.com/JiangDeccc/SelfDistillation.comで入手できる。

関連論文リスト

Teacher-Guided Policy Optimization for LLM Distillation [90.49982387646861]
Teacher-Guided Policy Optimization (TGPO) は、生徒のロールアウトに条件付き教師予測を活用することで、高密度な方向性誘導を取り入れたオンラインアルゴリズムである。複雑な推論ベンチマークの実験では、TGPOは標準ベースラインを著しく上回り、異なる教師にとって堅牢であることが示されている。
論文参考訳（メタデータ） (2026-05-13T09:20:03Z)
Think before Recommendation: Autonomous Reasoning-enhanced Recommender [25.883091131835172]
RecZeroは強化学習に基づくレコメンデーションパラダイムであり、従来のマルチモデルおよびマルチステージ蒸留アプローチを捨てている。本稿では、教師付き微調整とRLを組み合わせたハイブリッドパラダイムRecOneについて検討し、そのモデルにコールドスタート推論サンプルを初期化し、さらにRLに最適化する。
論文参考訳（メタデータ） (2025-10-27T07:26:32Z)
Beyond Static LLM Policies: Imitation-Enhanced Reinforcement Learning for Recommendation [23.945049006150555]
大規模言語モデル(LLM)は、多様なデジタルプラットフォームにまたがってパーソナライズされたコンテンツを配信することによって、ユーザエンゲージメントを高める重要なツールとなっている。 LLMを主要なレコメンデーションポリシとして直接デプロイすることは、永続的なレイテンシの問題を含む、注目すべき課題を提示する。本稿では,LLM生成軌道からの模倣学習を利用した新しいオフライン強化学習フレームワークを提案する。
論文参考訳（メタデータ） (2025-10-15T07:28:29Z)
OneRec-Think: In-Text Reasoning for Generative Recommendation [55.53292983432484]
OneRec-Thinkは、対話、推論、パーソナライズされたレコメンデーションをシームレスに統合する統合フレームワークである。提案した"Think-Ahead"アーキテクチャは,クアイショーの産業展開を効果的に実現し,app Stay Timeの0.159%のアップを実現している。
論文参考訳（メタデータ） (2025-10-13T17:20:13Z)
Towards Comprehensible Recommendation with Large Language Model Fine-tuning [41.218487308635126]
本稿では,コラボレーティブ・パースペクティブ・フレームワーク(CURec)によるレコメンデーションシステムのための新しいコンテンツ理解手法を提案する。 Curecは、より包括的なレコメンデーションのために、協調的なコンテンツ機能を生成する。公開ベンチマークの実験では、既存の方法よりもCURecの方が優れていることが示されている。
論文参考訳（メタデータ） (2025-08-11T03:55:31Z)
R$^2$ec: Towards Large Recommender Models with Reasoning [59.32598867813266]
R$2$ecは、本質的な推論能力を持つ統一された大型レコメンデータモデルである。 R$2$ecは、推論チェーン生成と効率的なアイテム予測の両方を単一のモデルでサポートするデュアルヘッドアーキテクチャを導入している。注釈付き推論データの欠如を克服するため、強化学習フレームワークであるRecPOを設計する。
論文参考訳（メタデータ） (2025-05-22T17:55:43Z)
Distill Not Only Data but Also Rewards: Can Smaller Language Models Surpass Larger Ones? [58.80794196076336]
大型言語モデル(LLM)の蒸留は、教師による微調整(SFT)を通して教師モデルの応答を伝達するのが一般的である。本稿では, 応答と報酬の両方を伝達する新しい蒸留パイプラインを提案する。本手法は,教師と生徒の両方の反応の固有構造を利用した自己教師機構によって擬似回帰を生成する。
論文参考訳（メタデータ） (2025-02-26T20:50:11Z)
Direct Preference Optimization for LLM-Enhanced Recommendation Systems [33.54698201942643]
大規模言語モデル(LLM)は、幅広い領域で顕著なパフォーマンスを示している。我々は,DPOをLLM強化レコメンデーションシステムに統合するフレームワークであるDPO4Recを提案する。大規模な実験により、DPO4Recは強いベースラインよりも性能が大幅に向上した。
論文参考訳（メタデータ） (2024-10-08T11:42:37Z)
Re2LLM: Reflective Reinforcement Large Language Model for Session-based Recommendation [23.182787000804407]
セッションベースレコメンデーション(SBR)を強化するための有望なアプローチとして,大規模言語モデル(LLM)が登場している。本稿では,SBRのための反射強化大言語モデル(Re2LLM)を提案する。
論文参考訳（メタデータ） (2024-03-25T05:12:18Z)
Can Small Language Models be Good Reasoners for Sequential Recommendation? [34.098264212413305]
SLIM (Step-by-step knowLedge dIstillation fraMework for recommendation) より大規模な教師モデルのためのユーザ行動系列に基づくCoTプロンプトを導入する。教師モデルによって生成される理論的根拠をラベルとして利用し、下流のより小さな学生モデルを蒸留する。
論文参考訳（メタデータ） (2024-03-07T06:49:37Z)
Unlocking the Potential of Large Language Models for Explainable Recommendations [55.29843710657637]
説明ジェネレータを最近登場した大規模言語モデル(LLM)に置き換える影響は、まだ不明である。本研究では,シンプルで効果的な2段階説明可能なレコメンデーションフレームワークであるLLMXRecを提案する。いくつかの重要な微調整技術を採用することで、制御可能で流動的な説明が十分に生成できる。
論文参考訳（メタデータ） (2023-12-25T09:09:54Z)
LLMRec: Benchmarking Large Language Models on Recommendation Task [54.48899723591296]
推奨領域におけるLarge Language Models (LLMs) の適用について, 十分に検討されていない。我々は、評価予測、シーケンシャルレコメンデーション、直接レコメンデーション、説明生成、レビュー要約を含む5つのレコメンデーションタスクにおいて、市販のLLMをベンチマークする。ベンチマークの結果,LLMは逐次的・直接的推薦といった精度に基づくタスクにおいて適度な熟練度しか示さないことがわかった。
論文参考訳（メタデータ） (2023-08-23T16:32:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。