論文の概要: SwarmUpdate: Hierarchical Software Updates and Deep Learning Model Patching for Heterogeneous UAV Swarms
- arxiv url: http://arxiv.org/abs/2503.13784v1
- Date: Tue, 18 Mar 2025 00:23:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-19 14:17:16.748881
- Title: SwarmUpdate: Hierarchical Software Updates and Deep Learning Model Patching for Heterogeneous UAV Swarms
- Title(参考訳): SwarmUpdate: 階層的ソフトウェアアップデートと不均一なUAVSwarmのためのディープラーニングモデルパッチ
- Authors: Lin Geng, Hao Li, Sidney Givigi, Bram Adams,
- Abstract要約: 不均一無人航空機(UAV)群は、異なる役割とソフトウェア要件を持つ数十から数百のドローンで構成され、共有ミッションに向けて協力する。
我々は,SwarmSyncとSwarmModelPatchという2つの重要なコンポーネントで構成された,異種UAVスワムにおけるソフトウェア更新のためのSwarmUpdateフレームワークを紹介する。
SwarmSyncは、ソフトウェアアップデートをSwarm内の適切なサブセットに配布する階層的なソフトウェアアップデート同期戦略であり、SwarmModelPatchは、いくつかのレイヤを更新するだけで、(ディープラーニングモデル)更新のサイズを小さくするディープラーニングモデルパッチ方法である。
- 参考スコア(独自算出の注目度): 12.367292588284835
- License:
- Abstract: Heterogeneous unmanned aerial vehicle (UAV) swarms consist of dozens to hundreds of drones with different roles and varying hardware and software requirements collaborating towards a shared mission. While traditional approaches for synchronized software updates assume swarms to be unstructured and homogeneous, the heterogeneous nature of modern swarms and the emerging need of drones to update their deep learning (perception) models with new objectives or data as a mission unfolds, has made efficient software update methods crucial for swarms to adapt to dynamic environments. To address these challenges, we introduce the SwarmUpdate framework for software updates in heterogeneous UAV swarms, composed of two key components: SwarmSync and SwarmModelPatch. SwarmSync is a hierarchical software update synchronization strategy to distribute a software update to the right subset of drones within a swarm, while SwarmModelPatch is a deep learning model patching method that reduces the size of a (deep learning model) update by only allowing some layers of the model to be updated (freezing the other layers). In this paper, we systematically evaluate the performance of SwarmSync through large-scale simulations in the ARGoS swarm simulator, comparing SwarmSync to auction-based (SOUL) and gossip-based rebroadcasting (Gossip) baselines, and SwarmModelPatch to a non-incremental model patching strategy.
- Abstract(参考訳): 不均一無人航空機(UAV)群は、異なる役割を持つ数十から数百のドローンと、共有ミッションに向けて協力する様々なハードウェアおよびソフトウェア要件から構成される。
ソフトウェア更新を同期させる従来のアプローチでは、Swarmは非構造的で均質であると想定されているが、現代のSwarmの異質な性質と、ミッションが展開する新たな目的やデータによるディープラーニング(知覚)モデルを更新するドローンの必要性は、Swarmが動的環境に適応するために不可欠な効率的なソフトウェア更新方法となった。
これらの課題に対処するために,SwarmSyncとSwarmModelPatchという2つの主要なコンポーネントで構成される,異種UAVスワムにおけるソフトウェア更新のためのSwarmUpdateフレームワークを紹介した。
SwarmSyncは、ソフトウェアアップデートをSwarm内の適切なサブセットに配布する階層的なソフトウェアアップデート同期戦略であり、SwarmModelPatchは、(ディープラーニングモデル)更新のサイズを減らすためのディープラーニングモデルパッチ手法である。
本稿では,SwarmSyncをオークションベース(SOUL),ゴシップベース(Gossip)ベースライン,SwarmModelPatchを非インクリメンタルモデルパッチ戦略と比較し,大規模シミュレーションによりSwarmSyncの性能を体系的に評価する。
関連論文リスト
- Merging Models on the Fly Without Retraining: A Sequential Approach to Scalable Continual Model Merging [75.93960998357812]
ディープモデルマージ(Deep Modelmerging)は、複数の微調整モデルを組み合わせて、さまざまなタスクやドメインにまたがる能力を活用する、新たな研究方向を示すものだ。
現在のモデルマージ技術は、全ての利用可能なモデルを同時にマージすることに集中しており、重量行列に基づく手法が主要なアプローチである。
本稿では,モデルを逐次処理するトレーニングフリーなプロジェクションベース連続マージ手法を提案する。
論文 参考訳(メタデータ) (2025-01-16T13:17:24Z) - STAR: Synthesis of Tailored Architectures [61.080157488857516]
本稿では, 適合型アーキテクチャ (STAR) の新規な合成手法を提案する。
提案手法は線形入力可変系の理論に基づく新しい探索空間を結合し,階層的な数値エンコーディングをアーキテクチャゲノムに支持する。STARゲノムは,複数のモデル品質と効率の指標に最適化するために,勾配のない進化的アルゴリズムで自動的に精製・組換えされる。
STARを用いて、多種多様な計算単位と相互接続パターンを活用し、品質、パラメータサイズ、および自動回帰言語モデリングのための推論キャッシュのフロンティアにおける高度に最適化されたトランスフォーマーとストライプハイブリッドモデルを改善する。
論文 参考訳(メタデータ) (2024-11-26T18:42:42Z) - Make Some Noise: Unlocking Language Model Parallel Inference Capability through Noisy Training [54.581599828392854]
大規模言語モデルの教師付き微調整段階の代替として,Make Some Noise (MSN) トレーニングフレームワークを提案する。
トレーニング方法は、単にモデルの入力にいくつかのノイズを導入して、認知タスクを学習する。
一般領域とコード領域の両方の実験では、MSNはモデル性能を損なうことなく2.3-2.7倍の速度で推論できることを示した。
論文 参考訳(メタデータ) (2024-06-25T09:25:39Z) - Stragglers-Aware Low-Latency Synchronous Federated Learning via Layer-Wise Model Updates [71.81037644563217]
同期フェデレーションラーニング(FL)は、協調エッジラーニングの一般的なパラダイムである。
一部のデバイスは計算資源が限られており、様々な可用性があるため、FLレイテンシはストラグラーに非常に敏感である。
本稿では,NNの最適化手法をバックプロパゲーションにより活用し,グローバルモデルを階層的に更新するストラグラー対応層対応学習(SALF)を提案する。
論文 参考訳(メタデータ) (2024-03-27T09:14:36Z) - Nonlinear System Identification of Swarm of UAVs Using Deep Learning
Methods [0.0]
目的は,Swarmモデルの非線形ダイナミクスを正確に近似することにより,将来のSwarm軌道を予測することである。
その結果,ニューラルODEと過渡的データを用いたよく訓練されたモデルの組み合わせは,初期条件の変化に対して堅牢であることがわかった。
論文 参考訳(メタデータ) (2023-11-21T13:13:12Z) - SWARM Parallelism: Training Large Models Can Be Surprisingly
Communication-Efficient [69.61083127540776]
ディープラーニングアプリケーションは、数十億のパラメータを持つ大きなモデルを使用することの恩恵を受ける。
これらのモデルのトレーニングは、特殊なHPCクラスタを必要とするため、非常に高価である。
安価な"プリエンプティブル"インスタンスを使用するか、あるいは複数のリージョンから既存のリソースをプールする。
論文 参考訳(メタデータ) (2023-01-27T18:55:19Z) - Does compressing activations help model parallel training? [64.59298055364336]
モデル並列性に対する圧縮法の有効性に関する実験的検討を行った。
圧縮アルゴリズムの3つの共通クラスを実装し,評価する。
我々は160以上の設定と8つの一般的なデータセットでこれらの手法を評価した。
論文 参考訳(メタデータ) (2023-01-06T18:58:09Z) - Stochastic Coded Federated Learning: Theoretical Analysis and Incentive
Mechanism Design [18.675244280002428]
我々は、コード化されたコンピューティング技術を活用する新しいFLフレームワーク、コード付きフェデレーションラーニング(SCFL)を提案する。
SCFLでは、各エッジデバイスがプライバシを保存するコード化されたデータセットをサーバにアップロードする。
SCFLは、与えられた時間内でより良いモデルを学び、ベースライン方式よりも優れたプライバシーとパフォーマンスのトレードオフを実現する。
論文 参考訳(メタデータ) (2022-11-08T09:58:36Z) - AGIC: Approximate Gradient Inversion Attack on Federated Learning [7.289310150187218]
フェデレートラーニング(Federated Learning)は、クライアントがグローバルモデルを計算するためにローカルアップデートを集約する前に、自身のデータ上でローカルモデルをトレーニングする、プライベート・バイ・デザインの分散ラーニングパラダイムである。
最近のリコンストラクション攻撃では、訓練中にクライアントが使用するプライベートデータを再構築するために、単一のミニバッチの勾配更新に勾配インバージョン最適化を適用している。
本稿では,モデル更新と勾配更新の両方から効率的に画像を再構成する新しい近似勾配反転攻撃法AGICを提案する。
論文 参考訳(メタデータ) (2022-04-28T21:15:59Z) - Swarm Modelling with Dynamic Mode Decomposition [1.9459588807364006]
観測データを用いて,同種群群間の局所的相互作用を学習するために,純粋にデータ駆動方式を適用した。
目標は、SwarmDMDを使用して観察されたSwarm動作を引き起こすエージェント間相互作用を学習することである。
提案手法は, 生物学, 物理学, 工学におけるマルチエージェントシステムの研究に有用であると考えられる。
論文 参考訳(メタデータ) (2022-04-08T23:39:09Z) - Separation of Powers in Federated Learning [5.966064140042439]
フェデレーテッド・ラーニング(FL)は、相互不信者間の協調的なトレーニングを可能にする。
最近の攻撃は、明らかに"衛生化"されたモデル更新から大量のトレーニングデータを再構築した。
我々は,信頼性の高い分散集約アーキテクチャを用いた新しいクロスサイロFLシステムであるTRUDAを紹介する。
論文 参考訳(メタデータ) (2021-05-19T21:00:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。