論文の概要: A Comparative Study of Demonstration Selection for Practical Large Language Models-based Next POI Prediction
- arxiv url: http://arxiv.org/abs/2604.06207v1
- Date: Mon, 16 Mar 2026 03:34:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-12 18:41:08.635077
- Title: A Comparative Study of Demonstration Selection for Practical Large Language Models-based Next POI Prediction
- Title(参考訳): 実践的大規模言語モデルに基づく次世代POI予測のための実証的選択の比較検討
- Abstract要約: 大規模言語モデル(LLM)を用いたインコンテキスト学習(ICL)は,近年,従来の教師付きアプローチに代わる有望な代替手段として注目されている。
本稿では,大規模言語モデル(LLM)を用いて,ユーザの次の関心点(POI)を予測するためのデモ選択戦略について検討する。
- 参考スコア(独自算出の注目度): 15.310992304536626
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper investigates demonstration selection strategies for predicting a user's next point-of-interest (POI) using large language models (LLMs), aiming to accurately forecast a user's subsequent location based on historical check-in data. While in-context learning (ICL) with LLMs has recently gained attention as a promising alternative to traditional supervised approaches, the effectiveness of ICL significantly depends on the selected demonstration. Although previous studies have examined methods such as random selection, embedding-based selection, and task-specific selection, there remains a lack of comprehensive comparative analysis among these strategies. To bridge this gap and clarify the best practices for real-world applications, we comprehensively evaluate existing demonstration selection methods alongside simpler heuristic approaches such as geographical proximity, temporal ordering, and sequential patterns. Extensive experiments conducted on three real-world datasets indicate that these heuristic methods consistently outperform more complex and computationally demanding embedding-based methods, both in terms of computational cost and prediction accuracy. Notably, in certain scenarios, LLMs using demonstrations selected by these simpler heuristic methods even outperform existing fine-tuned models, without requiring further training. Our source code is available at: https://github.com/ryonsd/DS-LLM4POI.
- Abstract(参考訳): 本稿では,大規模言語モデル(LLM)を用いて,ユーザの次の関心点(POI)を予測するためのデモ選択戦略について検討し,過去のチェックインデータに基づいて,ユーザのその後の位置を正確に予測することを目的とした。
LLMを用いたインコンテキスト学習(ICL)は,近年,従来の教師付きアプローチに代わる有望な代替手段として注目されているが,ICLの有効性は選択された実演に大きく依存している。
従来の研究では、ランダム選択、埋め込みベース選択、タスク固有の選択などの手法が検討されてきたが、これらの戦略には包括的比較分析が欠如している。
このギャップを埋め、実世界のアプリケーションにおけるベストプラクティスを明らかにするために、地理的近接性、時間的順序付け、シーケンシャルパターンといったより単純なヒューリスティックなアプローチとともに、既存の実演選択手法を包括的に評価する。
3つの実世界のデータセットで実施された大規模な実験は、これらのヒューリスティック手法が計算コストと予測精度の両面で、より複雑で計算的に要求される埋め込み法よりも一貫して優れていることを示している。
特に、あるシナリオでは、これらの単純なヒューリスティックな方法によって選択されたデモを使用して、さらなるトレーニングを必要とせず、既存の微調整モデルよりも優れている。
ソースコードは、https://github.com/ryonsd/DS-LLM4POI.comで公開されています。
関連論文リスト
- The Long-Term Effects of Data Selection in LLM Fine-Tuning [1.9054869116450563]
短時間のセレクタは、後続の学習を遅くし、忘れることの増大を抑えながら、ランク逆転を示すことができることを示す。
本稿では,この動作をエフェミクティック選択として形式化し,その原因を簡易に解析し,LHAS(Long-Horizon Aware Selection)の目的を提案する。
この研究は、データ選択は、局所的なデータ効率のメカニズムとしてだけでなく、モデルの学習軌道を形成する訓練の介入として評価されるべきである、と論じている。
論文 参考訳(メタデータ) (2026-05-28T20:12:45Z) - Towards Compute-Optimal Many-Shot In-Context Learning [69.38428467281862]
マルチショットICLにおけるデモ選択のための2つの戦略を提案する。
最初の方法は、テストサンプルの類似性に基づいて選択された少数のデモと、キャッシュされるランダムなデモの集合を組み合わせる。
第2の戦略は、ランダムなデモをk平均クラスタリングによるテストサンプル表現から選択したセントロイドに置き換えることによって、第1の戦略を改善する。
論文 参考訳(メタデータ) (2025-07-22T04:21:03Z) - Differential-informed Sample Selection Accelerates Multimodal Contrastive Learning [35.359482937263145]
そこで本研究では,学習促進のための雑音対応を高精度かつ効率的に識別するDISSect法を提案する。
具体的には,雑音対応がコントラスト学習に与える影響を再考し,現在のモデルと過去のモデルとの相関関係の差が,サンプル品質の特徴づけに有益であることを示す。
論文 参考訳(メタデータ) (2025-07-17T11:13:44Z) - Large Language Models are Demonstration Pre-Selectors for Themselves [57.101804269100185]
大規模言語モデル(LLM)を備えたインコンテキスト学習(ICL)は、トレーニングデータ全体から数ショットのデモを選択することで、強力な数ショットのパフォーマンスを提供する。
FEw yet Essential Demonstration prE-selectoRは、デモの代表的なサブセットを特定する新しい事前選択フレームワークである。
FEwでもEssential Demonstration prE-selectoRは、パフォーマンスを維持しながら、トレーニングデータのサイズを20%以上削減できる。
論文 参考訳(メタデータ) (2025-06-06T12:29:03Z) - Towards Predicting Any Human Trajectory In Context [20.810620293371027]
TrajICLは、歩行者軌道予測のためのインコンテキスト学習(ICL)フレームワークである。
推論時にシナリオ固有のデータを微調整することなく適応できる。
我々は、予測能力を高めるために、大規模な合成データセットでモデルをトレーニングする。
論文 参考訳(メタデータ) (2025-06-01T07:18:47Z) - Efficient Model Selection for Time Series Forecasting via LLMs [52.31535714387368]
本稿では,Large Language Models (LLM) をモデル選択の軽量な代替手段として活用することを提案する。
提案手法は, LLMの固有知識と推論能力を活用することで, 明示的な性能行列の必要性を解消する。
論文 参考訳(メタデータ) (2025-04-02T20:33:27Z) - LLM-Select: Feature Selection with Large Language Models [64.5099482021597]
大規模言語モデル(LLM)は、データサイエンスの標準ツールに匹敵するパフォーマンスで、最も予測可能な機能を選択することができる。
以上の結果から,LSMはトレーニングに最適な機能を選択するだけでなく,そもそもどの機能を収集すべきかを判断する上でも有用である可能性が示唆された。
論文 参考訳(メタデータ) (2024-07-02T22:23:40Z) - Enhancing Travel Choice Modeling with Large Language Models: A Prompt-Learning Approach [6.913791588789051]
本稿では,予測精度を大幅に向上させ,個々の予測に対して明確な説明を提供する,プロンプト学習に基づく大規模言語モデル(LLM)フレームワークを提案する。
スイスで収集されたLondon Passenger Mode Choice(LPMC)とOptima-Mode(Optima-Mode)の2つの選択肢データセットを用いて,フレームワークの有効性を検証した。
その結果,LLMは人々の選択を予測する上で,最先端のディープラーニング手法や個別選択モデルよりも優れていたことが示唆された。
論文 参考訳(メタデータ) (2024-06-19T13:46:08Z) - Revisiting Demonstration Selection Strategies in In-Context Learning [66.11652803887284]
大規模言語モデル(LLM)は、インコンテキスト学習(ICL)を用いて広範囲のタスクを実行するという印象的な能力を示している。
本研究ではまず,データとモデルの両方の側面から,この分散に寄与する要因を再検討し,実演の選択がデータとモデルに依存していることを確かめる。
本研究では,データとモデルに依存した実演選択手法である textbfTopK + ConE を提案する。
論文 参考訳(メタデータ) (2024-01-22T16:25:27Z) - Optimal Sample Selection Through Uncertainty Estimation and Its
Application in Deep Learning [22.410220040736235]
コアセット選択とアクティブラーニングの両方に対処するための理論的に最適な解を提案する。
提案手法であるCOPSは,サブサンプルデータに基づいてトレーニングされたモデルの損失を最小限に抑えるために設計されている。
論文 参考訳(メタデータ) (2023-09-05T14:06:33Z) - Active Learning Principles for In-Context Learning with Large Language
Models [65.09970281795769]
本稿では,アクティブ・ラーニング・アルゴリズムが,文脈内学習における効果的な実演選択手法としてどのように機能するかを検討する。
ALによる文脈内サンプル選択は,不確実性の低い高品質な事例を優先し,試験例と類似性を有することを示す。
論文 参考訳(メタデータ) (2023-05-23T17:16:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。