論文の概要: RAG-based User Profiling for Precision Planning in Mixed-precision Over-the-Air Federated Learning

• arxiv url: http://arxiv.org/abs/2503.15569v1
• Date: Wed, 19 Mar 2025 09:26:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-21 22:27:06.322218
• Title: RAG-based User Profiling for Precision Planning in Mixed-precision Over-the-Air Federated Learning
• Title（参考訳）: RAGに基づく混合精度オーバーザエア学習における高精度計画のためのユーザプロファイリング
• Authors: Jinsheng Yuan, Yun Tang, Weisi Guo,
• Abstract要約: AIで広く応用されている混合精度コンピューティングは、精度と効率のトレードオフスペースを広く提供する。 MP-OTA-FLは、クライアントが不均一なハードウェアに基づいて適切な精度で動作できるようにする。 本稿では,検索拡張LLMと動的クライアントプロファイリングを統合したRAGベースの高精度計画フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 10.033430762722352
• License:
• Abstract: Mixed-precision computing, a widely applied technique in AI, offers a larger trade-off space between accuracy and efficiency. The recent purposed Mixed-Precision Over-the-Air Federated Learning (MP-OTA-FL) enables clients to operate at appropriate precision levels based on their heterogeneous hardware, taking advantages of the larger trade-off space while covering the quantization overheads in the mixed-precision modulation scheme for the OTA aggregation process. A key to further exploring the potential of the MP-OTA-FL framework is the optimization of client precision levels. The choice of precision level hinges on multifaceted factors including hardware capability, potential client contribution, and user satisfaction, among which factors can be difficult to define or quantify. In this paper, we propose a RAG-based User Profiling for precision planning framework that integrates retrieval-augmented LLMs and dynamic client profiling to optimize satisfaction and contributions. This includes a hybrid interface for gathering device/user insights and an RAG database storing historical quantization decisions with feedback. Experiments show that our method boosts satisfaction, energy savings, and global model accuracy in MP-OTA-FL systems.
• Abstract（参考訳）: AIで広く応用されている混合精度コンピューティングは、精度と効率のトレードオフスペースを広く提供する。 最近の目的であるMixed-Precision Over-the-Air Federated Learning (MP-OTA-FL)により、クライアントは、OTA集約プロセスのMix-Precision modulationスキームにおける量子化オーバーヘッドをカバーしつつ、異種ハードウェアに基づいて適切な精度で運用することができる。 MP-OTA-FLフレームワークの可能性をさらに探求する鍵は、クライアントの精度レベルを最適化することである。 ハードウェア能力、潜在的なクライアントコントリビューション、ユーザの満足度など、多面的な要素に基づいて、精度の高いレベルのヒンジを選択する。 本稿では,検索拡張LDMと動的クライアントプロファイリングを統合し,満足度と貢献度を最適化するRAGベースの高精度計画フレームワークを提案する。 これには、デバイス/ユーザインサイトを収集するハイブリッドインターフェースと、履歴量子化決定をフィードバックで格納するRAGデータベースが含まれる。 実験の結果,MP-OTA-FLシステムにおける満足度,省エネルギー,グローバルモデル精度が向上することがわかった。

関連論文リスト

• Client-Centric Federated Adaptive Optimization [78.30827455292827]
  Federated Learning(FL)は、クライアントが独自のデータをプライベートに保ちながら、協調的にモデルをトレーニングする分散学習パラダイムである。 本稿では,新しいフェデレーション最適化手法のクラスであるフェデレーション中心適応最適化を提案する。
  論文  参考訳（メタデータ） (2025-01-17T04:00:50Z)
• Over-the-Air Fair Federated Learning via Multi-Objective Optimization [52.295563400314094]
  本稿では,公平なFLモデルを訓練するためのOTA-FFL(Over-the-air Fair Federated Learning Algorithm)を提案する。 OTA-FFLの公正性とロバストな性能に対する優位性を示す実験を行った。
  論文  参考訳（メタデータ） (2025-01-06T21:16:51Z)
• Incentive-Compatible Federated Learning with Stackelberg Game Modeling [11.863770989724959]
  適応ガンマベースのStackelbergゲームに基づく新しいフェデレートラーニングフレームワークであるFLammaを紹介する。 当社のアプローチでは、サーバがリーダとして機能し、動的に崩壊要因を調整し、クライアントはフォロワーとして、その効用を最大化するローカルエポックの数を最適に選択します。 時間が経つにつれて、サーバはクライアントの影響を徐々にバランスさせ、最初は高いコントリビューションのクライアントに報酬を与え、その影響を徐々にレベルアップさせ、システムをStackelberg Equilibriumに誘導する。
  論文  参考訳（メタデータ） (2025-01-05T21:04:41Z)
• Personalizing Low-Rank Bayesian Neural Networks Via Federated Learning [43.10083248484161]
  パーソナライズド・フェデレーション・ラーニング(PFL)における不確かさの定量化 本稿では,グローバルな決定論的モデルとパーソナライズされた低ランクベイズ補正を学習する新しいBPFL法であるLR-BPFLを提案する。 我々は、LR-BPFLを様々なデータセットで評価し、キャリブレーション、精度、計算およびメモリ要求の観点からその利点を実証した。
  論文  参考訳（メタデータ） (2024-10-18T11:50:54Z)
• Mixed-Precision Federated Learning via Multi-Precision Over-The-Air Aggregation [9.066232763629513]
  複数のビット精度を持つクライアントの混合精度OTA-FLフレームワークを提案する。 32ビットと16ビットの同種標準精度と比較して、4ビット超低精度クライアントの性能は10%以上である。 これは、異種エッジコンピューティング環境における混合精度OTA-FLアプローチの大きな可能性を示している。
  論文  参考訳（メタデータ） (2024-06-04T09:07:45Z)
• GPFL: A Gradient Projection-Based Client Selection Framework for Efficient Federated Learning [6.717563725609496]
  フェデレートラーニングクライアントの選択は、参加者のクライアントを決定するために重要です。 本稿では,局所的およびグローバルな降下方向を比較することで,クライアントの値を測定するGPFLを提案する。 GPFLは、フェデレート学習における事前選択とパラメータ再利用により、より短い計算時間を示す。
  論文  参考訳（メタデータ） (2024-03-26T16:14:43Z)
• On-Chip Hardware-Aware Quantization for Mixed Precision Neural Networks [52.97107229149988]
  エッジデバイス上でハードウェア対応の混合精度量子化を行うOn-Chipハードウェア・アウェア量子化フレームワークを提案する。 このパイプラインは、量子化プロセスが量子化演算子の実際のハードウェア効率を知覚することを可能にする。 精度測定のために,マルチチップシナリオにおける演算子の精度への影響を効果的に推定するMask-Guided Quantization Estimation技術を提案する。
  論文  参考訳（メタデータ） (2023-09-05T04:39:34Z)
• Personalized Federated Learning under Mixture of Distributions [98.25444470990107]
  本稿では,ガウス混合モデル(GMM)を用いたPFL(Personalized Federated Learning)を提案する。 FedGMMはオーバーヘッドを最小限に抑え、新しいクライアントに適応する付加的なアドバンテージを持ち、不確実な定量化を可能にします。 PFL分類と新しいサンプル検出の両方において, 合成データセットとベンチマークデータセットの実証評価により, 提案手法の優れた性能を示した。
  論文  参考訳（メタデータ） (2023-05-01T20:04:46Z)
• Task-Oriented Over-the-Air Computation for Multi-Device Edge AI [57.50247872182593]
  エッジAIをサポートするための6Gネットワークは、AIタスクの効率的かつ効率的な実行に焦点を当てたタスク指向のテクニックを備えている。 本稿では,マルチデバイススプリット推論システムにおけるタスク指向オーバー・ザ・エア計算(AirComp)方式を提案する。
  論文  参考訳（メタデータ） (2022-11-02T16:35:14Z)
• Contextual Squeeze-and-Excitation for Efficient Few-Shot Image Classification [57.36281142038042]
  本稿では,事前学習したニューラルネットワークを新しいタスクで調整し,性能を大幅に向上させる,Contextual Squeeze-and-Excitation (CaSE) という適応ブロックを提案する。 また、メタトレーニングされたCaSEブロックと微調整ルーチンを利用して効率よく適応する、アッパーCaSEと呼ばれるコーディネートダイスに基づく新しいトレーニングプロトコルを提案する。
  論文  参考訳（メタデータ） (2022-06-20T15:25:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。