Intuition-Guided Latent Reasoning for LLM-Based Recommendation
Abstractの概要
本論文は、LLMベースの推薦システムにおける潜在的推論（latent reasoning）を研究し、既存の手法がしばしば適切に調整されていない隠れ状態から推論を開始するため、推薦の軌跡が弱まる可能性があると論じている。提案するIntuRecフレームワークは、初期の潜在的推論状態を固定する事前情報として「推薦の直感（recommendation intuition）」を導入することでこの問題に対処する。IntuRecはまず、LLM推薦器からトップKの候補セットを直感のソースとして抽出し、それをデュアルアテンションエンコーダを通じて選好に合わせた埋め込みに変換し、推論の開始点に注入する。3つのAmazonサブセット（CD、おもちゃ、ゲーム）を用いた実験において、IntuRecを従来の推薦システムおよびいくつかのLLMベースのベースラインと比較し、さらにアブレーション、可視化、ハイパーパラメータの分析を行っている。
新規性
特徴的なアイデアは、推論の開始点を制約のない状態にしておくのではなく、「推薦の直感」をLLMベースの潜在的推論を初期化するための明示的な潜在的事前情報として扱うことである。この手法は、候補構築のためのターゲット認識型候補バランシング（Target-Aware Candidate Balancing）と、候補アイテムを構造化された初期化埋め込みに変換する直感デュアルアテンションエンコーダ（Intuition Dual-Attention Encoder）を備えた2段階のパイプラインを通じてこれを実装している。
成果
評価された3つのデータセット全体において、IntuRecは基盤となるLLM推薦バックボーンから一貫して性能を向上させ、比較手法の中で最も高い（またはそれに近い）RecallおよびNDCGの結果を示した。アブレーション研究により、各提案要素（TACB、埋め込みベースの直感注入、セルフアテンション等）が性能に貢献していることが示され、可視化では、IntuRecの初期化された推論状態が制約のないベースラインよりもターゲットアイテムの埋め込みに近い位置にあることが示されている。
論文の注目点
- IntuRecは、系列推薦のための2段階の直感誘導型潜在推論フレームワークを導入し、トップKの候補を推論開始点のための構造化された事前情報として使用する。
- CD、おもちゃ、ゲームでの経験的評価により、この手法がBIGRec、D3、および潜在推論のベースラインを上回る改善を示すこと、さらにアブレーションが各主要コンポーネントの重要性を裏付けることが示された。
- 可視化とハイパーパラメータ分析により、学習された直感の埋め込みがよりターゲットに適合した初期化を提供すること、および適度な候補セットのサイズとごくわずかな推論ステップ数で性能がピークに達することが示唆されている。