論文の概要: Momentum-Guided Federated Split Distillation for Personalized Temporal Edge Intelligence
- arxiv url: http://arxiv.org/abs/2609.31159v1
- Date: Fri, 25 Sep 2026 11:52:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 18:27:51.369444
- Title: Momentum-Guided Federated Split Distillation for Personalized Temporal Edge Intelligence
- Title(参考訳): パーソナライズされた一時エッジインテリジェンスのためのMomentum-Guided Federated Split Distillation
- Abstract要約: 我々は,新しい時間的貯水池学生の注意設計であるTeRR-SAttを紹介した。
また,予測運動量誘導核融合機構であるAMGFも提示した。
- 参考スコア(独自算出の注目度): 0.6999740786886536
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose a momentum-guided federated split distillation framework for personalized, efficient, and autonomous temporal edge intelligence. We introduce TeRR-SAtt, our novel temporal reservoir student attention design that combines fixed reservoir representations, a lightweight temporal student, and personalized output modules. We also present AMGF, our anticipatory momentum-guided fusion mechanism that clusters clients through learning momentum and derives specialized teacher updates. On real-world smart-building data, TeRR-SAtt reduces edge training latency by 65.50%, inference latency by 44.70%, training memory usage by 18.40%, and inference CPU usage by 33.10% over the considered baselines. At the same time, AMGF improves local learning by up to 35.31% in RMSE compared to global updates.
- Abstract(参考訳): 本稿では, パーソナライズ, 効率的, 自律的な時間的エッジインテリジェンスのための, 運動量誘導型分割蒸留フレームワークを提案する。
我々は,固定型貯水池表現,軽量な時間的学習者,個人化された出力モジュールを組み合わせた新しい時間的貯水池学生注意設計であるTeRR-SAttを紹介した。
また,予測運動量誘導型融合機構であるAMGFについて,学習運動量を通じてクライアントをクラスタリングし,教師の専門的更新を導出する。
現実のスマートビルディングデータでは、TeRR-SAttはエッジトレーニングのレイテンシを65.50%、推論のレイテンシを44.70%、メモリ使用を18.40%、CPU使用量を33.10%削減する。
同時に、AMGFは、グローバルアップデートと比較して、RMSEのローカル学習を35.31%改善している。
関連論文リスト
- STEAM: Self-Supervised Temporal Ensemble Advantage Modeling for Real-World Robot Learning [76.76959348575764]
政策学習には、信頼できる局所的な進歩と失敗と回帰を区別するフレームレベルのアドバンテージが必要です。
本稿では,専門家による実証からこのような利点を学習するラベルフリー手法であるSTEAM(Self-supervised Temporal Ensemble Advantage Modeling)を提案する。
論文 参考訳(メタデータ) (2026-06-29T06:19:35Z) - Hardware-Aware Federated Learning for Speech Emotion Recognition [0.0]
本稿では,セッション分割IEMOCAP上での感情認識のためのハードウェア対応フェデレーション学習フレームワークを提案する。
提案手法は,50ラウンドおよび5回の独立試験において,競争検証精度(0.352)を達成し,FedAvgと比較してトレーニング時間を約36.5%削減し,累積通信コストを40%削減することを示した。
論文 参考訳(メタデータ) (2026-05-23T19:52:38Z) - Learning-Zone Energy: Online Data Selection for Efficient RL Post-Training [28.00739954235118]
そこで本研究では,モデルにおけるアクティブな学習フロンティアに焦点をあてた,理論的基盤を持つ完全オンラインデータ選択フレームワークを提案する。
リプレイ付きフォワードプルーナーは、永続的に解決されたプロンプトのロールアウト生成をスキップすることで、ウォールクロック時間コストをさらに低減する。
我々の方法は1ステップあたりのトレーニングデータの40%しか保持しないが、完全なデータベースラインにマッチまたは超えている。
論文 参考訳(メタデータ) (2026-05-16T14:01:12Z) - Research on Low-Latency Inference and Training Efficiency Optimization for Graph Neural Network and Large Language Model-Based Recommendation Systems [4.633338944734091]
本研究では、ハイブリッドグラフニューラルネットワーク(GNN)とLarge Language Model(LLM)ベースのレコメンデータシステム(ReS)における計算ボトルネックについて考察する。
FPGAとLoRAをリアルタイムデプロイメントに使用することを推奨している。
論文 参考訳(メタデータ) (2025-06-21T03:10:50Z) - PaSTe: Improving the Efficiency of Visual Anomaly Detection at the Edge [6.643376250301589]
視覚異常検出(VAD)は、異常画像を識別し、異常の原因となる特定の領域を特定できることから、重要な研究の注目を集めている。
現実世界のアプリケーションの可能性にもかかわらず、文献はリソース効率の高いVAD、特にエッジデバイスへのデプロイに限定して焦点を当てている。
この作業は、軽量ニューラルネットワークを活用してメモリと要求を削減し、リソース制約のあるエッジデバイスへのVADデプロイメントを可能にすることで、このギャップに対処する。
論文 参考訳(メタデータ) (2024-10-15T13:25:43Z) - End-to-End Temporal Action Detection with 1B Parameters Across 1000 Frames [55.72994484532856]
時間的行動検出(TAD)は、エンドツーエンドのトレーニングで大幅に改善された。
メモリボトルネックのため、限られたスケールと限られたデータ量を持つモデルだけがエンドツーエンドのトレーニングを受けることができる。
エンド・ツー・エンドトレーニングのメモリ消費を削減し,10億のパラメータと入力映像を1,536フレームにスケールアップする。
論文 参考訳(メタデータ) (2023-11-28T21:31:04Z) - Augmenting Unsupervised Reinforcement Learning with Self-Reference [63.68018737038331]
人間は、新しいタスクを学ぶ際に、過去の経験を明確に表現する能力を持っている。
本稿では,歴史情報を活用するためのアドオンモジュールとして,自己参照(SR)アプローチを提案する。
提案手法は,非教師付き強化学習ベンチマークにおけるIQM(Interquartile Mean)性能と最適ギャップ削減の両面から,最先端の成果を実現する。
論文 参考訳(メタデータ) (2023-11-16T09:07:34Z) - Acceleration of Federated Learning with Alleviated Forgetting in Local
Training [61.231021417674235]
フェデレートラーニング(FL)は、プライバシを保護しながら機械学習モデルの分散最適化を可能にする。
我々は,FedRegを提案する。FedRegは,局所的な訓練段階において,知識を忘れることなくFLを加速するアルゴリズムである。
我々の実験は、FedRegはFLの収束率を著しく改善するだけでなく、特にニューラルネットワークアーキテクチャが深い場合にも改善することを示した。
論文 参考訳(メタデータ) (2022-03-05T02:31:32Z) - Exploring Deep Reinforcement Learning-Assisted Federated Learning for
Online Resource Allocation in EdgeIoT [53.68792408315411]
フェデレートラーニング(FL)は、モバイルエッジコンピューティングベースのInternet of Thing(EdgeIoT)における盗聴攻撃からデータトレーニングプライバシを保護するために、ますます検討されている。
本研究では,連続領域における最適精度とエネルギー収支を達成するために,FLDLT3フレームワークを提案する。
その結果、FL-DLT3は100回未満の高速収束を実現し、FLの精度-エネルギー消費比は既存の最先端ベンチマークと比較して51.8%向上した。
論文 参考訳(メタデータ) (2022-02-15T13:36:15Z) - Chasing Sparsity in Vision Transformers: An End-to-End Exploration [127.10054032751714]
ビジョン・トランスフォーマー(ViT)は最近爆発的な人気を博したが、その巨大なモデルサイズとトレーニングコストは依然として大きなものだ。
本稿では、達成可能な精度を犠牲にすることなく、トレーニングメモリのオーバーヘッドと推論の複雑さの両方を削減することを目的とする。
具体的には、完全なViTをトレーニングする代わりに、固定された小さなパラメータ予算に固執しながら、スパースワークを動的に抽出し、訓練する。
論文 参考訳(メタデータ) (2021-06-08T17:18:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。