Fugu-MT 論文翻訳(概要): Multi-LLM Token Filtering and Routing for Sequential Recommendation

論文の概要: Multi-LLM Token Filtering and Routing for Sequential Recommendation

arxiv url: http://arxiv.org/abs/2604.18200v1
Date: Mon, 20 Apr 2026 12:50:21 GMT
ステータス: 翻訳完了
システム内更新日: 2026-04-21 21:52:52.873309
Title: Multi-LLM Token Filtering and Routing for Sequential Recommendation
Title（参考訳）: シーケンスレコメンデーションのためのマルチLLMトークンフィルタリングとルーティング
Abstract要約: 大規模言語モデル(LLM)は、リッチなセマンティック知識を提供することによって、最近、推奨されている。コーパスレスシーケンシャルレコメンデーションのためのマルチLLMトークンフィルタリング・ルーティングフレームワークであるMLTFRを提案する。 MLTFRは、最先端のレコメンデーションベースラインや既存のアライメント手法よりも一貫して優れていることを示す。
参考スコア（独自算出の注目度）: 9.595389306819651
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Large language models (LLMs) have recently shown promise in recommendation by providing rich semantic knowledge. While most existing approaches rely on external textual corpora to align LLMs with recommender systems, we revisit a more fundamental yet underexplored question: Can recommendation benefit from LLM token embeddings alone without textual input? Through a systematic empirical study, we show that directly injecting token embeddings from a single LLM into sequential recommenders leads to unstable or limited gains, due to semantic misalignment, insufficient task adaptation, and the restricted coverage of individual LLMs. To address these challenges, we propose MLTFR, a Multi-LLM Token Filtering and Routing framework for corpus-free sequential recommendation. MLTFR follows an interaction-guided LLM knowledge integration paradigm, where task-relevant token embeddings are selected via user-guided token filtering to suppress noisy and irrelevant vocabulary signals. To overcome the limitations of single-LLM representations, MLTFR integrates multiple LLM token spaces through a Mixture-of-Experts architecture, with a Fisher-weighted semantic consensus expert to balance heterogeneous experts and prevent domination during training. By jointly filtering informative tokens and aggregating complementary semantic knowledge across multiple LLMs, MLTFR enables stable and effective utilization of LLM token embeddings without textual inputs or backbone modification. Extensive experiments demonstrate that MLTFR consistently outperforms state-of-the-art sequential recommendation baselines and existing alignment methods. Our code is available at: https://github.com/ccwwhhh/MLTFR.
Abstract（参考訳）: 大規模言語モデル(LLM)は、リッチなセマンティック知識を提供することによって、最近、推奨されている。既存のほとんどのアプローチは、LLMをレコメンデーションシステムに合わせるために外部のテキストコーパスに依存していますが、より基本的な、そして未調査の質問を再考します。体系的な実証研究により、単一のLSMから直接トークン埋め込みをシーケンシャルなレコメンデータに注入すると、意味的ミスアライメント、タスク適応の不十分、個々のLSMの限定範囲による不安定または限定的なゲインが発生することが示された。これらの課題に対処するため,Multi-LLM Token Filtering and Routing framework for corpus-free sequence recommendationを提案する。 MLTFRは対話型LLM知識統合パラダイムに従っており、タスク関連トークンの埋め込みはユーザガイド型トークンフィルタリングによって選択され、ノイズや無関係な語彙信号が抑制される。単一LLM表現の限界を克服するため、MLTFRはMixture-of-Expertsアーキテクチャを通じて複数のLLMトークン空間を統合し、フィッシャー重み付きセマンティックコンセンサスの専門家と統合して、異種の専門家のバランスをとり、トレーニング中の支配を防いでいる。情報的トークンを共同フィルタリングし、複数のLLMにまたがる補完的意味知識を集約することにより、MLTFRはテキスト入力やバックボーン修正を使わずにLLMトークンの埋め込みを安定かつ効果的に活用することができる。大規模な実験により、MLTFRは、最先端のレコメンデーションベースラインや既存のアライメント手法よりも一貫して優れていることが示された。私たちのコードは、https://github.com/ccwwhhh/MLTFR.comで利用可能です。

関連論文リスト

Tokenizing Numerical and Embedding Features for LLM RecSys [17.301482289239285]
大規模言語モデル(LLM)は、レコメンデーションシステムのためのバックボーンアーキテクチャとしてますます使われている。数値的および埋め込み的特徴をLLM埋め込み空間にマッピングするソフト・トーケン・フュージョン・フレームワークを提案する。相互作用に基づく融合は異種ソフトトークンの直接結合よりも効果的であることを示す。
論文参考訳（メタデータ） (2026-07-10T22:36:13Z)
FACE: A General Framework for Mapping Collaborative Filtering Embeddings into LLM Tokens [28.971310672971914]
大規模言語モデル(LLM)は、協調フィルタリング(CF)ベースのレコメンデーションシステムと統合するために研究されている。重要な課題は、LCMがCFアプローチが生み出す非セマンティックな埋め込みを解釈するのに苦労していることである。 FACEはCF埋め込みを事前訓練されたLLMトークンにマッピングする一般的な解釈可能なフレームワークである。
論文参考訳（メタデータ） (2025-10-17T15:19:54Z)
Distilling Transitional Pattern to Large Language Models for Multimodal Session-based Recommendation [67.84581846180458]
セッションベースのレコメンデーション(SBR)は、匿名セッションに基づいて次の項目を予測する。近年のMultimodal SBR法は、モダリティ学習に単純化された事前学習モデルを用いるが、セマンティック・リッチネスに制限がある。蒸留パラダイムを拡張し,MSBRの促進のための遷移パターンを分離・整合させる多モードLCM拡張フレームワークTPADを提案する。
論文参考訳（メタデータ） (2025-04-13T07:49:08Z)
LLM-Lasso: A Robust Framework for Domain-Informed Feature Selection and Regularization [59.75242204923353]
LLM-Lassoは大規模言語モデル(LLM)を利用してラッソ回帰における特徴選択を導くフレームワークである。 LLMは各特徴に対してペナルティ因子を生成し、単純でチューニング可能なモデルを用いてラスソペナルティの重みに変換される。 LLMによりより関連づけられた特徴は、より低い罰を受け、最終モデルに保持される可能性を高める。
論文参考訳（メタデータ） (2025-02-15T02:55:22Z)
LLMEmb: Large Language Model Can Be a Good Embedding Generator for Sequential Recommendation [57.49045064294086]
大きな言語モデル(LLM)は、その人気とは無関係に、アイテム間の意味的関係をキャプチャする能力を持つ。 LLMEmb(LLMEmb)は、LCMを利用してアイテム埋め込みを生成し、逐次レコメンダシステム(SRS)の性能を向上させる手法である。
論文参考訳（メタデータ） (2024-09-30T03:59:06Z)
TokenRec: Learning to Tokenize ID for LLM-based Generative Recommendation [16.93374578679005]
TokenRecは、大規模言語モデル(LLM)ベースのRecommender Systems(RecSys)のトークン化と検索のための新しいフレームワークである。我々の戦略であるMasked Vector-Quantized (MQ) Tokenizerは、協調フィルタリングから学んだマスキングされたユーザ/イテム表現を離散トークンに定量化する。我々の生成的検索パラダイムは,自動回帰復号処理やビーム検索処理の不要さを解消するために,ユーザに対してKドル以上のアイテムを効率的に推奨するように設計されている。
論文参考訳（メタデータ） (2024-06-15T00:07:44Z)
Is In-Context Learning Sufficient for Instruction Following in LLMs? [38.29072578390376]
実効性はあるものの, MT-Bench の命令微調整と比較すると, ICL とAL とのアライメントは依然として不十分であることがわかった。我々は、我々の知識、ICLの体系的比較、低データ体制における命令追従のための命令微調整(IFT)を初めて提供する。
論文参考訳（メタデータ） (2024-05-30T09:28:56Z)
One Token Can Help! Learning Scalable and Pluggable Virtual Tokens for Retrieval-Augmented Large Language Models [67.49462724595445]
Retrieval-augmented Generation (RAG)は、大規模言語モデル(LLM)を改善するための有望な方法である。本稿では,RAGのためのスケーラブルでプラガブルな仮想トークンを学習する新しい手法を提案する。
論文参考訳（メタデータ） (2024-05-30T03:44:54Z)
Prompt Highlighter: Interactive Control for Multi-Modal LLMs [50.830448437285355]
本研究では,マルチモーダル LLM (LLMs&VLMs) 推論における重要な側面として,明示的な制御可能なテキスト生成を目標とする。本稿では,新しい推論手法であるPrompt Highlighterを導入し,ユーザが特定のプロンプトスパンをハイライトし,生成中のフォーカスをインタラクティブに制御できるようにする。推論中、注意重みを通して強調されたトークンでモデルを導くことで、より望ましい出力が得られます。
論文参考訳（メタデータ） (2023-12-07T13:53:29Z)
FollowBench: A Multi-level Fine-grained Constraints Following Benchmark for Large Language Models [79.62191017182518]
FollowBenchは、大規模言語モデルのベンチマークに続くきめ細かい制約のベンチマークである。本稿では,初期命令に段階的に1つの制約を付加するマルチレベル機構を提案する。 FollowBench上での13のLLMの評価により,LLMの弱さと今後の研究への道のりを示す。
論文参考訳（メタデータ） (2023-10-31T12:32:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。