論文の概要: SpecTran: Spectral-Aware Transformer-based Adapter for LLM-Enhanced Sequential Recommendation

• arxiv url: http://arxiv.org/abs/2601.21986v1
• Date: Thu, 29 Jan 2026 17:00:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-30 16:22:50.021652
• Title: SpecTran: Spectral-Aware Transformer-based Adapter for LLM-Enhanced Sequential Recommendation
• Title（参考訳）: SpecTran: LLM強化シーケンスレコメンデーションのためのスペクトル認識変換器ベースのアダプタ
• Authors: Yu Cui, Feng Liu, Zhaoxiang Wang, Changwang Zhang, Jun Wang, Can Wang, Jiawei Chen,
• Abstract要約: 大規模言語モデルの最近の進歩は、アイテムのテキスト情報を高次元のセマンティック埋め込みでエンコードする研究の急増にインスピレーションを与えている。 スペクトル領域で動作するスペクトル対応トランスフォーマーベースのアダプタであるSpecTranを提案する。 学習可能なスペクトル配置符号化は、単値キューを誘導バイアスとして注入し、顕著なスペクトル成分に注意を向け、埋め込み次元の多様性を促進する。
• 参考スコア（独自算出の注目度）: 16.536216133024624
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Traditional sequential recommendation (SR) models learn low-dimensional item ID embeddings from user-item interactions, often overlooking textual information such as item titles or descriptions. Recent advances in Large Language Models (LLMs) have inspired a surge of research that encodes item textual information with high-dimensional semantic embeddings, and designs transformation methods to inject such embeddings into SR models. These embedding transformation strategies can be categorized into two types, both of which exhibits notable drawbacks: 1) adapter-based methods suffer from pronounced dimension collapse, concentrating information into a few dominant dimensions; 2) SVD-based methods are rigid and manual, considering only a few principal spectral components while discarding rich information in the remaining spectrum. To address these limitations, we propose SpecTran, a spectral-aware transformer-based adapter that operates in the spectral domain, attending to the full spectrum to select and aggregates informative components. A learnable spectral-position encoding injects singular-value cues as an inductive bias, guiding attention toward salient spectral components and promoting diversity across embedding dimensions. Across four real-world datasets and three SR backbones, it consistently outperforms strong baselines, achieving an average improvement of 9.17%.
• Abstract（参考訳）: 伝統的なシーケンシャルレコメンデーション(SR)モデルは、ユーザとイテムのインタラクションから低次元のアイテムIDの埋め込みを学習し、しばしば項目のタイトルや記述のようなテキスト情報を見渡す。 LLM(Large Language Models)の最近の進歩は、アイテムのテキスト情報を高次元のセマンティック埋め込みでエンコードする研究の急増に影響を与え、そのような埋め込みをSRモデルに注入する変換法を設計している。 これらの埋め込み変換戦略は2つのタイプに分類される。 1) アダプタに基づく方法は,明らかな次元崩壊に悩まされ,情報をいくつかの支配的な次元に集約する。 2) SVDに基づく手法は厳密で手動であり, スペクトル成分はごくわずかであり, 残ったスペクトルの豊富な情報を捨てる。 これらの制約に対処するため、スペクトル領域で動作するスペクトル対応トランスフォーマーベースのアダプタであるSpecTranを提案する。 学習可能なスペクトル配置符号化は、単値キューを誘導バイアスとして注入し、顕著なスペクトル成分に注意を向け、埋め込み次元の多様性を促進する。 4つの実世界のデータセットと3つのSRバックボーンにまたがって、強いベースラインを一貫して上回り、平均的な9.17%の改善を達成している。

関連論文リスト

• SpecCLIP: Aligning and Translating Spectroscopic Measurements for Stars [6.314253302704276]
  我々は、LLMにインスパイアされた方法論を恒星スペクトル分析に拡張する基盤モデルフレームワークであるSpecCLIPを提案する。 大規模データセットの基盤モデルをトレーニングすることで、さまざまな下流アプリケーションをサポートする堅牢で情報に富んだ埋め込みを学ぶことが私たちのゴールです。 これらのモデルを中規模ラベル付きデータセットに微調整することで、恒星パラメータ推定や化学特性決定といったタスクへの適応性が向上することを示した。
  論文  参考訳（メタデータ） (2025-07-02T17:49:52Z)
• Learning Item Representations Directly from Multimodal Features for Effective Recommendation [51.49251689107541]
  マルチモーダルレコメンデータシステムは、主にベイズパーソナライズされたランク付け(BPR)最適化を利用してアイテム表現を学習する。 本稿では,マルチモーダルな特徴からアイテム表現を直接学習し,推薦性能を向上する新しいモデル(LIRDRec)を提案する。
  論文  参考訳（メタデータ） (2025-05-08T05:42:22Z)
• ResiDual Transformer Alignment with Spectral Decomposition [31.14332778586179]
  我々は、残像のスペクトル幾何学に着目し、視覚変換器の現象を解析する。 様々な入力データ分布にまたがる特殊な役割をエンコードしていることを示す。 本稿では,残流のスペクトルアライメント技術であるResiDualを紹介する。
  論文  参考訳（メタデータ） (2024-10-31T22:51:45Z)
• SpectralGPT: Spectral Remote Sensing Foundation Model [60.023956954916414]
  SpectralGPTという名前のユニバーサルRS基盤モデルは、新しい3D生成事前学習変換器(GPT)を用いてスペクトルRS画像を処理するために構築されている。 既存の基礎モデルと比較して、SpectralGPTは、様々なサイズ、解像度、時系列、領域をプログレッシブトレーニング形式で対応し、広範なRSビッグデータのフル活用を可能にする。 我々の評価では、事前訓練されたスペクトルGPTモデルによる顕著な性能向上が強調され、地球科学分野におけるスペクトルRSビッグデータ応用の進展に有意な可能性を示唆している。
  論文  参考訳（メタデータ） (2023-11-13T07:09:30Z)
• Deep Diversity-Enhanced Feature Representation of Hyperspectral Images [87.47202258194719]
  トポロジを改良して3次元畳み込みを補正し,上行階の高次化を図る。 また、要素間の独立性を最大化するために特徴マップに作用する新しい多様性対応正規化(DA-Reg)項を提案する。 提案したRe$3$-ConvSetとDA-Regの優位性を実証するために,様々なHS画像処理および解析タスクに適用する。
  論文  参考訳（メタデータ） (2023-01-15T16:19:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。