論文の概要: FedLLM: A Privacy-Preserving Federated Large Language Model for Explainable Traffic Flow Prediction
- arxiv url: http://arxiv.org/abs/2604.16612v1
- Date: Fri, 17 Apr 2026 18:09:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-21 21:52:52.104688
- Title: FedLLM: A Privacy-Preserving Federated Large Language Model for Explainable Traffic Flow Prediction
- Title(参考訳): FedLLM: 説明可能なトラフィックフロー予測のためのプライバシ保護型大言語モデル
- Authors: Seerat Kaur, Sukhjit Singh Sehra, Dariush Ebrahimi,
- Abstract要約: 本研究は,マルチホライゾンの短期的トラフィックフロー予測を行うための,プライバシと分散フレームワークであるFedLLMを提案する。
FedLLMを使用することで、各クライアントは、共有グローバルモデルにコントリビュートしながら、ローカルトラフィックパターンから学ぶことができる。
実験結果から,FedLLMは集中ベースラインよりも予測性能が向上することが示された。
- 参考スコア(独自算出の注目度): 1.2043574473965315
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Traffic prediction plays a central role in intelligent transportation systems (ITS) by supporting real-time decision-making, congestion management, and long-term planning. However, many existing approaches face practical limitations. Most spatio-temporal models are trained on centralized data, rely on numerical representations, and offer limited explainability. Recent Large Language Model (LLM) methods improve reasoning capabilities but typically assume centralized data availability and do not fully capture the distributed and heterogeneous nature of real-world traffic systems. To address these challenges, this study proposes FedLLM (Federated LLM), a privacy-preserving and distributed framework for explainable multi-horizon short-term traffic flow prediction (15-60 minutes). The framework introduces four key contributions: 1) a Composite Selection Score (CSS) for data-driven freeway selection that captures structural diversity across traffic regions 2) a domain-adapted LLM fine-tuned on structured traffic prompts encoding spatial, temporal, and statistical context 3) FedLLM framework, that enables collaborative training across heterogeneous clients while exchanging only lightweight LoRA adapter parameters, 4) a structured prompt representation that supports contextual reasoning and cross-region generalization. The FedLLM design allows each client to learn from local traffic patterns while contributing to a shared global model through efficient parameter exchange, reducing communication overhead and keeping data private. This setup supports learning under non-IID traffic distributions. Experimental results show that FedLLM achieves improved predictive performance over centralized baselines, while producing structured and explainable outputs. These findings highlight the potential of combining FL with domain-adapted LLMs for scalable, privacy-aware, and explainable traffic prediction.
- Abstract(参考訳): 交通予測は、リアルタイム意思決定、渋滞管理、長期計画を支援することにより、インテリジェント交通システム(ITS)において中心的な役割を果たす。
しかし、既存の多くのアプローチは実践的な制限に直面している。
ほとんどの時空間モデルは、集中的なデータに基づいて訓練され、数値表現に依存し、限定的な説明性を提供する。
最近のLarge Language Model (LLM) 手法は推論能力を改善するが、典型的には中央集権的なデータ可用性を前提としており、現実世界の交通システムの分散および異種の性質を完全には捉えていない。
これらの課題に対処するために,複数水平短期交通流予測(15~60分)が可能なプライバシ保護分散フレームワークであるFedLLM(Federated LLM)を提案する。
フレームワークには4つの重要なコントリビューションが導入されている。
1)データ駆動型高速道路選択のための複合選抜スコア(CSS)
2) 空間的・時間的・統計的文脈をコードする構造化トラフィックプロンプトを微調整したドメイン適応LLM
3) 軽量なLoRAアダプタパラメータのみを交換しながら、異種クライアント間の協調トレーニングを可能にするFedLLMフレームワーク。
4)コンテキスト推論とクロスリージョンの一般化をサポートする構造化されたプロンプト表現。
FedLLMの設計により、各クライアントは、効率的なパラメータ交換を通じて共有グローバルモデルにコントリビュートしながら、ローカルトラフィックパターンから学習し、通信オーバーヘッドを低減し、データをプライベートにすることが可能になる。
このセットアップは、非IIDトラフィック分布下での学習をサポートする。
実験結果から,FedLLMは構造的かつ説明可能な出力を生成しながら,集中ベースライン上での予測性能の向上を実現していることがわかった。
これらの知見は、FLとドメイン適応LLMを組み合わせて、スケーラブルでプライバシを認識し、説明可能なトラフィック予測を行う可能性を示している。
関連論文リスト
- Wireless Traffic Prediction with Large Language Model [54.07581399989292]
TIDESは、無線トラフィック予測のための空間時間相関をキャプチャする新しいフレームワークである。
TIDESは過剰なトレーニングオーバーヘッドを発生させることなく、ドメイン固有のパターンへの効率的な適応を実現する。
この結果から,将来の6Gシステムにおいて,空間認識をLCMベースの予測器に統合することが,スケーラブルでインテリジェントなネットワーク管理の鍵であることが示唆された。
論文 参考訳(メタデータ) (2025-12-19T04:47:40Z) - Federated Attention: A Distributed Paradigm for Collaborative LLM Inference over Edge Networks [63.541114376141735]
大規模言語モデル(LLM)は、さまざまなアプリケーションシナリオにまたがってインテリジェントな機能を提供しながら、急速に普及しています。
しかし、彼らの共同シナリオにおける実践的なデプロイは、プライバシの脆弱性、通信オーバーヘッド、計算ボトルネックといった根本的な課題に直面します。
我々はフェデレート・アテンション(FedAttn)を提案し、フェデレーション・パラダイムを自己注意機構に統合する。
論文 参考訳(メタデータ) (2025-11-04T15:14:58Z) - Federated Fine-Tuning of LLMs: Framework Comparison and Research Directions [59.5243730853157]
Federated Learning(FL)は、分散プライベートデータセットを使用して、トレーニング済みの大規模言語モデル(LLM)を微調整するための、プライバシ保護ソリューションを提供する。
本稿では、知識蒸留(KD)とスプリットラーニング(SL)を統合し、これらの問題を緩和する3つの先進的連合LLM(FedLLM)フレームワークの比較分析を行う。
論文 参考訳(メタデータ) (2025-01-08T11:37:06Z) - Strada-LLM: Graph LLM for traffic prediction [62.2015839597764]
交通予測における大きな課題は、非常に異なる交通条件によって引き起こされる多様なデータ分散を扱うことである。
近位交通情報を考慮した交通予測のためのグラフ対応LLMを提案する。
我々は、新しいデータ分散に直面する際に、ドメイン適応を効率的にするための軽量なアプローチを採用する。
論文 参考訳(メタデータ) (2024-10-28T09:19:29Z) - Individualized Federated Learning for Traffic Prediction with Error Driven Aggregation [8.495633193471853]
フェデレートラーニング(Federated Learning)は、トラフィック予測のための有望なテクニックとして登場した。
現在のFLTPフレームワークにはリアルタイムモデル更新スキームがない。
個人化されたリアルタイム・フェデレーション学習方式であるNeighborFLを提案する。
論文 参考訳(メタデータ) (2024-07-17T00:42:47Z) - Online Spatio-Temporal Correlation-Based Federated Learning for Traffic
Flow Forecasting [11.253575460227127]
本稿では,FLフレームワークにおけるオンライン学習(OL)方式を用いた交通流の予測に関する最初の研究を行う。
次に,オンライン時空間相関に基づくフェデレート学習(FedOSTC)という新しい予測手法を提案する。
論文 参考訳(メタデータ) (2023-02-17T02:37:36Z) - Edge-assisted Democratized Learning Towards Federated Analytics [67.44078999945722]
本稿では,エッジ支援型民主化学習機構であるEdge-DemLearnの階層的学習構造を示す。
また、Edge-DemLearnを柔軟なモデルトレーニングメカニズムとして検証し、リージョンに分散制御と集約の方法論を構築する。
論文 参考訳(メタデータ) (2020-12-01T11:46:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。