論文の概要: A Comparative Study of Demonstration Selection for Practical Large Language Models-based Next POI Prediction
- arxiv url: http://arxiv.org/abs/2604.06207v1
- Date: Mon, 16 Mar 2026 03:34:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-12 18:41:08.635077
- Title: A Comparative Study of Demonstration Selection for Practical Large Language Models-based Next POI Prediction
- Title(参考訳): 実践的大規模言語モデルに基づく次世代POI予測のための実証的選択の比較検討
- Authors: Ryo Nishida, Masayuki Kawarada, Tatsuya Ishigaki, Hiroya Takamura, Masaki Onishi,
- Abstract要約: 大規模言語モデル(LLM)を用いたインコンテキスト学習(ICL)は,近年,従来の教師付きアプローチに代わる有望な代替手段として注目されている。
本稿では,大規模言語モデル(LLM)を用いて,ユーザの次の関心点(POI)を予測するためのデモ選択戦略について検討する。
- 参考スコア(独自算出の注目度): 15.310992304536626
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper investigates demonstration selection strategies for predicting a user's next point-of-interest (POI) using large language models (LLMs), aiming to accurately forecast a user's subsequent location based on historical check-in data. While in-context learning (ICL) with LLMs has recently gained attention as a promising alternative to traditional supervised approaches, the effectiveness of ICL significantly depends on the selected demonstration. Although previous studies have examined methods such as random selection, embedding-based selection, and task-specific selection, there remains a lack of comprehensive comparative analysis among these strategies. To bridge this gap and clarify the best practices for real-world applications, we comprehensively evaluate existing demonstration selection methods alongside simpler heuristic approaches such as geographical proximity, temporal ordering, and sequential patterns. Extensive experiments conducted on three real-world datasets indicate that these heuristic methods consistently outperform more complex and computationally demanding embedding-based methods, both in terms of computational cost and prediction accuracy. Notably, in certain scenarios, LLMs using demonstrations selected by these simpler heuristic methods even outperform existing fine-tuned models, without requiring further training. Our source code is available at: https://github.com/ryonsd/DS-LLM4POI.
- Abstract(参考訳): 本稿では,大規模言語モデル(LLM)を用いて,ユーザの次の関心点(POI)を予測するためのデモ選択戦略について検討し,過去のチェックインデータに基づいて,ユーザのその後の位置を正確に予測することを目的とした。
LLMを用いたインコンテキスト学習(ICL)は,近年,従来の教師付きアプローチに代わる有望な代替手段として注目されているが,ICLの有効性は選択された実演に大きく依存している。
従来の研究では、ランダム選択、埋め込みベース選択、タスク固有の選択などの手法が検討されてきたが、これらの戦略には包括的比較分析が欠如している。
このギャップを埋め、実世界のアプリケーションにおけるベストプラクティスを明らかにするために、地理的近接性、時間的順序付け、シーケンシャルパターンといったより単純なヒューリスティックなアプローチとともに、既存の実演選択手法を包括的に評価する。
3つの実世界のデータセットで実施された大規模な実験は、これらのヒューリスティック手法が計算コストと予測精度の両面で、より複雑で計算的に要求される埋め込み法よりも一貫して優れていることを示している。
特に、あるシナリオでは、これらの単純なヒューリスティックな方法によって選択されたデモを使用して、さらなるトレーニングを必要とせず、既存の微調整モデルよりも優れている。
ソースコードは、https://github.com/ryonsd/DS-LLM4POI.comで公開されています。
関連論文リスト
- Towards Compute-Optimal Many-Shot In-Context Learning [69.38428467281862]
マルチショットICLにおけるデモ選択のための2つの戦略を提案する。
最初の方法は、テストサンプルの類似性に基づいて選択された少数のデモと、キャッシュされるランダムなデモの集合を組み合わせる。
第2の戦略は、ランダムなデモをk平均クラスタリングによるテストサンプル表現から選択したセントロイドに置き換えることによって、第1の戦略を改善する。
論文 参考訳(メタデータ) (2025-07-22T04:21:03Z) - Differential-informed Sample Selection Accelerates Multimodal Contrastive Learning [35.359482937263145]
そこで本研究では,学習促進のための雑音対応を高精度かつ効率的に識別するDISSect法を提案する。
具体的には,雑音対応がコントラスト学習に与える影響を再考し,現在のモデルと過去のモデルとの相関関係の差が,サンプル品質の特徴づけに有益であることを示す。
論文 参考訳(メタデータ) (2025-07-17T11:13:44Z) - Towards Predicting Any Human Trajectory In Context [20.810620293371027]
TrajICLは、歩行者軌道予測のためのインコンテキスト学習(ICL)フレームワークである。
推論時にシナリオ固有のデータを微調整することなく適応できる。
我々は、予測能力を高めるために、大規模な合成データセットでモデルをトレーニングする。
論文 参考訳(メタデータ) (2025-06-01T07:18:47Z) - LLM-Select: Feature Selection with Large Language Models [64.5099482021597]
大規模言語モデル(LLM)は、データサイエンスの標準ツールに匹敵するパフォーマンスで、最も予測可能な機能を選択することができる。
以上の結果から,LSMはトレーニングに最適な機能を選択するだけでなく,そもそもどの機能を収集すべきかを判断する上でも有用である可能性が示唆された。
論文 参考訳(メタデータ) (2024-07-02T22:23:40Z) - Revisiting Demonstration Selection Strategies in In-Context Learning [66.11652803887284]
大規模言語モデル(LLM)は、インコンテキスト学習(ICL)を用いて広範囲のタスクを実行するという印象的な能力を示している。
本研究ではまず,データとモデルの両方の側面から,この分散に寄与する要因を再検討し,実演の選択がデータとモデルに依存していることを確かめる。
本研究では,データとモデルに依存した実演選択手法である textbfTopK + ConE を提案する。
論文 参考訳(メタデータ) (2024-01-22T16:25:27Z) - Optimal Sample Selection Through Uncertainty Estimation and Its
Application in Deep Learning [22.410220040736235]
コアセット選択とアクティブラーニングの両方に対処するための理論的に最適な解を提案する。
提案手法であるCOPSは,サブサンプルデータに基づいてトレーニングされたモデルの損失を最小限に抑えるために設計されている。
論文 参考訳(メタデータ) (2023-09-05T14:06:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。