論文の概要: A State Alignment-Centric Approach to Federated System Identification: The FedAlign Framework

• arxiv url: http://arxiv.org/abs/2503.12137v1
• Date: Sat, 15 Mar 2025 13:43:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-18 15:58:43.461198
• Title: A State Alignment-Centric Approach to Federated System Identification: The FedAlign Framework
• Title（参考訳）: フェデレーションシステム同定のための状態アライメント中心アプローチ:FedAlignフレームワーク
• Authors: Ertuğrul Keçeci, Müjde Güzelkaya, Tufan Kumbasar,
• Abstract要約: ローカルワーカーはステートスペースモデル(SSM)を等価表現で学習できるが、動的には異なる。 FedAlignは、局所的なSSMの状態表現を調整するために類似性変換行列を利用することで、この問題を克服する。 我々は、FedAlignがFedAvgより優れ、より高速に収束し、グローバルSSMの安定性を改善していることを示す。
• 参考スコア（独自算出の注目度）: 2.526146573337397
• License:
• Abstract: This paper presents FedAlign, a Federated Learning (FL) framework particularly designed for System Identification (SYSID) tasks by aligning state representations. Local workers can learn State-Space Models (SSMs) with equivalent representations but different dynamics. We demonstrate that directly aggregating these local SSMs via FedAvg results in a global model with altered system dynamics. FedAlign overcomes this problem by employing similarity transformation matrices to align state representations of local SSMs, thereby establishing a common parameter basin that retains the dynamics of local SSMs. FedAlign computes similarity transformation matrices via two distinct approaches: FedAlign-A and FedAlign-O. In FedAlign-A, we represent the global SSM in controllable canonical form (CCF). We apply control theory to analytically derive similarity transformation matrices that convert each local SSM into this form. Yet, establishing global SSM in CCF brings additional alignment challenges in multi input - multi output SYSID as CCF representation is not unique, unlike in single input - single output SYSID. In FedAlign-O, we address these alignment challenges by reformulating the local parameter basin alignment problem as an optimization task. We determine the parameter basin of a local worker as the common parameter basin and solve least square problems to obtain similarity transformation matrices needed to align the remaining local SSMs. Through the experiments conducted on synthetic and real-world datasets, we show that FedAlign outperforms FedAvg, converges faster, and provides improved stability of the global SSM thanks to the efficient alignment of local parameter basins.
• Abstract（参考訳）: 本稿では,FedAlignについて述べる。FedAlignは,状態表現の整合化によるシステム同定(SYSID)タスクに特化して設計された,連邦学習(FL)フレームワークである。 ローカルワーカーはステートスペースモデル(SSM)を等価表現で学習できるが、動的には異なる。 我々は、これらのローカルSSMを直接FedAvg経由で集約すると、システムダイナミクスが変化するグローバルモデルが得られることを示した。 FedAlignは、類似度変換行列を用いて局所SSMの状態表現を整列し、局所SSMのダイナミクスを保持する共通パラメータ階層を確立することで、この問題を克服する。 FedAlignはFedAlign-AとFedAlign-Oという2つの異なるアプローチによって類似性変換行列を計算する。 FedAlign-Aでは、制御可能な標準形(CCF)のグローバルSSMを表す。 制御理論を適用して、各局所SSMをこの形式に変換する類似度変換行列を解析的に導出する。 しかし、CCFにおけるグローバルSSMの確立は、単一出力SYSIDとは異なり、CCF表現としてのマルチ出力SYSIDがユニークではないため、マルチ入力においてさらなるアライメントの課題をもたらす。 FedAlign-Oでは、最適化タスクとして局所パラメータ境界アライメント問題を再構成することで、これらのアライメントの課題に対処する。 局所作業者のパラメータ盆地を共通パラメータ盆地とし、最小二乗問題を解き、残りの局所SSMを整列させるのに必要な類似性変換行列を得る。 合成および実世界のデータセットを用いて、FedAlignはFedAvgより優れ、より高速に収束し、局所パラメータ盆地の効率的なアライメントにより、グローバルSSMの安定性が向上することを示した。

関連論文リスト

• Enhanced Structured State Space Models via Grouped FIR Filtering and Attention Sink Mechanisms [0.6718184400443239]
  本稿では,A-乗算を複数のグループに分解することで課題を軽減する高度なアーキテクチャを提案する。 ストリーミング言語モデルで特定される「アテンションシンク」現象にインスパイアされ、モデルの安定性と性能を高めるための同様のメカニズムを組み込んだ。
  論文  参考訳（メタデータ） (2024-08-01T02:49:58Z)
• MetaOpenFOAM: an LLM-based multi-agent framework for CFD [11.508919041921942]
  MetaOpenFOAMは、新しいマルチエージェントコラボレーションフレームワークである。 入力として自然言語のみを用いてCFDシミュレーションタスクを完了することを目的としている。 MetaGPTのアセンブリラインパラダイムのパワーを利用する。
  論文  参考訳（メタデータ） (2024-07-31T04:01:08Z)
• Distributed Global Structure-from-Motion with a Deep Front-End [11.2064188838227]
  我々は,グローバルSfMがSOTAインクリメンタルSfMアプローチ(COLMAP)と同等に機能するかどうかを検討する。 我々のSfMシステムは、分散計算を活用するためにゼロから設計されており、複数のマシン上で計算を並列化し、大規模なシーンにスケールすることができる。
  論文  参考訳（メタデータ） (2023-11-30T18:47:18Z)
• AdaSfM: From Coarse Global to Fine Incremental Adaptive Structure from Motion [48.835456049755166]
  AdaSfMは粗粒度適応型SfMアプローチであり、大規模かつ挑戦的なデータセットにスケーラブルである。 当社のアプローチはまず,低コストセンサによる計測を利用して,ビューグラフの信頼性を向上させる,粗大なグローバルSfMを実現する。 本手法では,全局所再構成をグローバルSfMの座標フレームに整合させるため,しきい値適応戦略を用いる。
  論文  参考訳（メタデータ） (2023-01-28T09:06:50Z)
• Disentangled Federated Learning for Tackling Attributes Skew via Invariant Aggregation and Diversity Transferring [104.19414150171472]
  属性は、クライアント間の一貫した最適化方向から、現在の連邦学習(FL)フレームワークを歪めます。 本稿では,ドメイン固有属性とクロス不変属性を2つの補足枝に分離するために,非絡み付きフェデレーション学習(DFL)を提案する。 実験により、DFLはSOTA FL法と比較して高い性能、より良い解釈可能性、より高速な収束率でFLを促進することが確認された。
  論文  参考訳（メタデータ） (2022-06-14T13:12:12Z)
• FedDC: Federated Learning with Non-IID Data via Local Drift Decoupling and Correction [48.85303253333453]
  フェデレートラーニング(FL)は、複数のクライアントがプライベートデータを共有せずに、高性能なグローバルモデルを集合的にトレーニングすることを可能にする。 局所的ドリフトデカップリングと補正(FedDC)を用いた新しいフェデレーション学習アルゴリズムを提案する。 私たちのFedDCでは、ローカルモデルパラメータとグローバルモデルパラメータのギャップを追跡するために、各クライアントが補助的なローカルドリフト変数を使用するような、ローカルトレーニングフェーズにおける軽量な修正のみを導入しています。 実験結果と解析結果から,FedDCは様々な画像分類タスクにおいて,収差の迅速化と性能の向上を図っている。
  論文  参考訳（メタデータ） (2022-03-22T14:06:26Z)
• Robust Convergence in Federated Learning through Label-wise Clustering [6.693651193181458]
  非IIDデータセットとローカルクライアントの不均一環境は、フェデレートラーニング(FL)における主要な課題であると見なされる 地理的に異質なローカルクライアント間のトレーサビリティを保証する新しいラベルワイドクラスタリングアルゴリズムを提案する。 提案手法は,他のFLアルゴリズムと比較して,高速でロバストな収束を示す。
  論文  参考訳（メタデータ） (2021-12-28T18:13:09Z)
• Semi-supervised Domain Adaptive Structure Learning [72.01544419893628]
  半教師付きドメイン適応 (SSDA) は,1) アノテーションの低いデータに過度に適合する手法と,2) ドメイン間の分散シフトの両方を克服しなければならない課題である。 SSLとDAの協調を正規化するための適応型構造学習手法を提案する。
  論文  参考訳（メタデータ） (2021-12-12T06:11:16Z)
• Multi-Agent MDP Homomorphic Networks [100.74260120972863]
  協調型マルチエージェントシステムでは、エージェントの異なる構成とそれらの局所的な観察の間に複雑な対称性が生じる。 単エージェント強化学習における既存の対称性の研究は、完全に集中した環境にのみ一般化できる。 本稿では,ローカル情報のみを用いた分散実行が可能なネットワークのクラスであるマルチエージェントMDPホモモルフィックネットワークを提案する。
  論文  参考訳（メタデータ） (2021-10-09T07:46:25Z)
• A Unified Theory of Decentralized SGD with Changing Topology and Local Updates [70.9701218475002]
  分散通信方式の統一収束解析を導入する。 いくつかの応用に対して普遍収束率を導出する。 私たちの証明は弱い仮定に依存している。
  論文  参考訳（メタデータ） (2020-03-23T17:49:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。