論文の概要: SemPOI-RL: Aligning LLM Semantic Reasoning for Interpretable Out-of-Town POI Sequential Generation
- arxiv url: http://arxiv.org/abs/2608.30399v1
- Date: Mon, 31 Aug 2026 07:52:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-01 18:31:31.29698
- Title: SemPOI-RL: Aligning LLM Semantic Reasoning for Interpretable Out-of-Town POI Sequential Generation
- Title(参考訳): SemPOI-RL:LLMセマンティック推論による大容量POI系列の解釈
- Abstract要約: SemPOI-RLは、大規模言語モデルを構造化シーケンス生成と整合させるフレームワークである。
まず、利用者の出身地軌跡から目的地指向の旅行スタイルを推定するために、LSMを微調整する。
次に、セマンティックPOIアライメントモジュールを導入し、これらの推論されたスタイルを、位置認識軌道生成のためのスタイル条件付きマスク付きオートエンコーダにグルーピングする。
- 参考スコア(独自算出の注目度): 25.455896109654578
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) exhibit strong semantic reasoning and open-ended generation abilities, but aligning these abilities with structured sequential generation remains challenging. This challenge is particularly evident in out-of-town (OOT) POI sequence generation, where a model must infer transferable travel intent from a user's hometown behaviors, adapt to cross-city interest drift, and generate a coherent destination trajectory under structural constraints. Existing approaches either rely on latent ID-based transfer with limited interpretability or directly use LLMs for sequence generation without explicitly grounding inferred semantics into position-aware predictions. To address this gap, we propose SemPOI-RL, a framework that aligns LLM semantic reasoning with structured sequence generation for interpretable OOT recommendation. Specifically, we first fine-tune an LLM to infer destination-oriented travel styles from users' hometown trajectories, using natural language as an interpretable semantic intermediate. We then introduce a Semantic POI Alignment Module (SPAM) to ground these inferred styles into a style-conditioned masked autoencoder for position-aware trajectory generation. Finally, we apply reinforcement learning with recommendation-oriented rewards to align LLM-generated styles with downstream sequence quality. Experiments on two real-world datasets show that SemPOI-RL consistently outperforms both traditional recommenders and direct LLM baselines, while providing interpretable style attribution across different phases of a trip. The code is available at https://github.com/Wind-Flipped/SemPOI-RL .
- Abstract(参考訳): 大規模言語モデル(LLM)は、強い意味論的推論とオープンな生成能力を示すが、これらの能力を構造化された逐次生成と整合させることは依然として困難である。
この課題は、ユーザの故郷行動から移動可能な旅行意図を推論し、都市間関心の漂流に適応し、構造的制約の下でコヒーレントな目的地軌道を生成する、オフ・オブ・タウン(OOT)POIシークエンス生成において特に顕著である。
既存のアプローチは、限定的な解釈可能性を持つ潜時IDベースの転送に依存するか、推論されたセマンティクスを位置認識の予測に明示的に基盤付けることなく、シーケンス生成に直接LLMを使用するかのいずれかである。
このギャップに対処するため,LLMのセマンティック推論を構造化シーケンス生成に整合させるフレームワークであるSemPOI-RLを提案する。
具体的には、まずLLMを微調整し、自然言語を解釈可能なセマンティック中間体として使用し、ユーザの故郷軌跡から目的地指向の旅行スタイルを推定する。
次に、セマンティックPOIアライメントモジュール(SPAM)を導入し、これらの推論されたスタイルを、位置認識軌道生成のためのスタイル条件付きマスク付きオートエンコーダにグルーピングする。
最後に,レコメンデーション指向の報酬を用いた強化学習を適用し,LLM生成スタイルを下流のシーケンス品質と整合させる。
2つの実世界のデータセットの実験では、SemPOI-RLは従来のレコメンデータと直接LLMベースラインの両方を一貫して上回り、旅行の異なるフェーズで解釈可能なスタイルの属性を提供する。
コードはhttps://github.com/Wind-Flipped/SemPOI-RL で公開されている。
関連論文リスト
- Listen to the Latents: Self-Correcting Speech Recognition in Large Audio Language Models Through Hidden-State Interactions [120.64235456332916]
音声認識システムは、その意味的知識を活用するために、大規模言語モデル(LLM)を統合している。
我々は, 暖房適応型LLMベースASRモデルを改良し, 自己の適応型LLMを応用した。
本稿では,2つの観測を動機とした目標補正戦略であるハイブリッド検索を提案する。
論文 参考訳(メタデータ) (2026-08-31T15:46:48Z) - LLM Pretraining Shapes a Generalizable Manifold: Insights into Cross-Modal Transfer to Time Series [15.56338801789039]
本稿では,再利用可能な多様体を用いた事前条件付き時系列トレーニングについて述べる。
凍結LDM状態の線形プローブは、ペアの監督なしに現実的な時系列軌跡を復号する。
その後、ファインタニングは低次元のアライメントとして機能し、スクラッチから時間的プリミティブを学ぶのではなく、既存の方向を再利用する。
論文 参考訳(メタデータ) (2026-05-19T20:01:51Z) - ThinkJEPA: Empowering Latent World Models with Large Vision-Language Reasoning Model [53.15040805435013]
視覚言語モデル(VLM)は、一様にサンプリングされたフレームを解析することで、強力なセマンティックグラウンドと一般的な知識を提供する。
本稿では,高密度フレーム・ダイナミックス・モデリングと長軸意味指導を組み合わせたVLM誘導型JEPA型潜在世界モデリングフレームワークを提案する。
論文 参考訳(メタデータ) (2026-03-23T17:59:42Z) - SemPA: Improving Sentence Embeddings of Large Language Models through Semantic Preference Alignment [21.557846771500426]
SemPAは、意味的嗜好のアライメントを通じてLLMの生成能力を保ちながら、文表現を増強する。
我々は,DPOとコントラスト学習の正式な関係を,Planet-Luceモデルフレームワークの下で確立する。
論文 参考訳(メタデータ) (2026-01-08T16:19:24Z) - DualSG: A Dual-Stream Explicit Semantic-Guided Multivariate Time Series Forecasting Framework [9.008540698473599]
明示的なセマンティックガイダンスを提供するデュアルストリームフレームワークであるDualSGを提案する。
本稿では、自然言語のトレンドパターンを要約した明示的なプロンプトフォーマットである時系列キャプションを紹介する。
さまざまなドメインの実際のデータセットに関する実験によると、DualSGは15の最先端ベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2025-07-29T14:08:09Z) - LLM-Lasso: A Robust Framework for Domain-Informed Feature Selection and Regularization [59.75242204923353]
LLM-Lassoは大規模言語モデル(LLM)を利用してラッソ回帰における特徴選択を導くフレームワークである。
LLMは各特徴に対してペナルティ因子を生成し、単純でチューニング可能なモデルを用いてラスソペナルティの重みに変換される。
LLMによりより関連づけられた特徴は、より低い罰を受け、最終モデルに保持される可能性を高める。
論文 参考訳(メタデータ) (2025-02-15T02:55:22Z) - NextLocLLM: Location Semantics Modeling and Coordinate-Based Next Location Prediction with LLMs [17.571983131811102]
NextLocLLMは、位置予測を座標回帰として再構成し、両方の位置意味論にLLMを統合する新しいフレームワークである。
さまざまな都市での実験では、NextLocLLMは教師付き設定とゼロショット設定の両方で既存のベースラインを上回っている。
論文 参考訳(メタデータ) (2024-10-11T10:59:14Z) - From Words to Actions: Unveiling the Theoretical Underpinnings of LLM-Driven Autonomous Systems [59.40480894948944]
大規模言語モデル (LLM) は、物理世界の意思決定問題を解くことができる。
このモデルの下で、LLM Plannerは、プロンプトを介して言語ベースのサブゴールを反復的に生成することにより、部分的に観測可能なマルコフ決定プロセス(POMDP)をナビゲートする。
我々は,事前学習したLLMプランナーが,文脈内学習を通じてベイズ的集計模倣学習(BAIL)を効果的に行うことを証明した。
論文 参考訳(メタデータ) (2024-05-30T09:42:54Z) - Self-Exploring Language Models: Active Preference Elicitation for Online Alignment [88.56809269990625]
本研究では, 分布域外領域を積極的に探索するために, 潜在的に高次応答に対して楽観的に偏りを呈する2段階的客観性を提案する。
実験の結果,Zephyr-7B-SFTとLlama-3-8B-Instructモデルで微調整した場合,SELM(Self-Exploring Language Models)は命令追従ベンチマークの性能を大幅に向上させることがわかった。
論文 参考訳(メタデータ) (2024-05-29T17:59:07Z) - Language Models as Hierarchy Encoders [22.03504018330068]
階層変換器エンコーダ(HiTs)として再学習トランスフォーマーエンコーダを用いたLMを提案する。
本手法は, 埋込次元に適応する曲率を持つポアンカー球内に, 予め学習したLMの出力埋め込み空間を定めている。
予め訓練したLM, 標準微調整されたLM, およびいくつかの双曲埋め込みベースラインに対するHiTsの評価を行った。
論文 参考訳(メタデータ) (2024-01-21T02:29:12Z) - Guiding Large Language Models via Directional Stimulus Prompting [114.84930073977672]
我々は,特定の所望の出力に対して,ブラックボックス大言語モデル(LLM)を導くための新しいフレームワークであるDirectional Stimulus Promptingを紹介する。
LLMを直接調整するのではなく、小さな調整可能なポリシーモデルを用いて各入力インスタンスに対して補助的な指向性刺激プロンプトを生成する。
論文 参考訳(メタデータ) (2023-02-22T17:44:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。