論文の概要: FSAR: Federated Skeleton-based Action Recognition with Adaptive Topology
Structure and Knowledge Distillation
- arxiv url: http://arxiv.org/abs/2306.11046v1
- Date: Mon, 19 Jun 2023 16:18:14 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-21 17:00:06.645651
- Title: FSAR: Federated Skeleton-based Action Recognition with Adaptive Topology
Structure and Knowledge Distillation
- Title(参考訳): FSAR:適応的トポロジ構造と知識蒸留を用いた統合骨格型行動認識
- Authors: Jingwen Guo, Hong Liu, Shitong Sun, Tianyu Guo, Min Zhang, Chenyang Si
- Abstract要約: 既存の骨格に基づく行動認識手法は、典型的には集中学習パラダイムに従っており、人間関連のビデオを公開する際にプライバシー上の懸念を生じさせる。
我々は,局所的な機密データにアクセスせずにグローバルに一般化されたモデルを構築することのできる,新しいフェデレート・骨格に基づく行動認識(FSAR)パラダイムを導入する。
- 参考スコア(独自算出の注目度): 23.0771949978506
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Existing skeleton-based action recognition methods typically follow a
centralized learning paradigm, which can pose privacy concerns when exposing
human-related videos. Federated Learning (FL) has attracted much attention due
to its outstanding advantages in privacy-preserving. However, directly applying
FL approaches to skeleton videos suffers from unstable training. In this paper,
we investigate and discover that the heterogeneous human topology graph
structure is the crucial factor hindering training stability. To address this
limitation, we pioneer a novel Federated Skeleton-based Action Recognition
(FSAR) paradigm, which enables the construction of a globally generalized model
without accessing local sensitive data. Specifically, we introduce an Adaptive
Topology Structure (ATS), separating generalization and personalization by
learning a domain-invariant topology shared across clients and a
domain-specific topology decoupled from global model aggregation.Furthermore,
we explore Multi-grain Knowledge Distillation (MKD) to mitigate the discrepancy
between clients and server caused by distinct updating patterns through
aligning shallow block-wise motion features. Extensive experiments on multiple
datasets demonstrate that FSAR outperforms state-of-the-art FL-based methods
while inherently protecting privacy.
- Abstract(参考訳): 既存の骨格に基づく行動認識手法は、典型的には集中学習パラダイムに従っており、人間関連のビデオを公開する際にプライバシー上の懸念を生じさせる。
federated learning (fl) は,プライバシ保護の優れたメリットから,多くの注目を集めている。
しかし、骨格ビデオに直接FLアプローチを適用することは不安定な訓練に悩まされる。
本稿では,不均質なヒトトポロジーグラフ構造がトレーニング安定性を阻害する重要な要因であることを示す。
この制限に対処するために,我々は,局所的なセンシティブなデータにアクセスせずにグローバルに一般化されたモデルを構築することを可能にする,fsar(federated skeleton-based action recognition)パラダイムを開拓した。
具体的には、クライアント間で共有されるドメイン不変トポロジと、グローバルモデルアグリゲーションから分離されたドメイン固有トポロジを学習することで、一般化とパーソナライズを分離するアダプティブトポロジ構造(ATS)を導入する。
複数のデータセットに対する大規模な実験は、FSARが本質的にプライバシを保護する一方で、最先端のFLベースのメソッドより優れていることを示している。
関連論文リスト
- TopoFR: A Closer Look at Topology Alignment on Face Recognition [42.936929062768826]
PTSAと呼ばれるトポロジカル構造アライメント戦略とSDEという硬質試料マイニング戦略を利用する新しいFRモデルであるTopoFRを提案する。
PTSAは永続ホモロジーを用いて入力空間と潜在空間の位相構造を整列し、構造情報を効果的に保存し、FRモデルの一般化性能を向上させる。
一般的な顔のベンチマーク実験の結果は、最先端の手法よりもTopoFRの方が優れていることを示している。
論文 参考訳(メタデータ) (2024-10-14T14:58:30Z) - Beyond the Federation: Topology-aware Federated Learning for Generalization to Unseen Clients [10.397502254316645]
フェデレートラーニングは、分散センシティブなデータに取り組むために広く利用されている。
Topology-Aware Federated Learning (TFL)は、オフ・オブ・フェデレーション(OOF)データに対して堅牢なモデルをトレーニングする。
クライアントトポロジ学習(Client Topology Learning)とクライアントトポロジ学習(Learning on Client Topology)という2つの重要なモジュールからなるTFLの新しい最適化問題を定式化する。
様々な実世界のデータセットに対する実証的な評価は、TFLの優れたOOF堅牢性とスケーラビリティを検証する。
論文 参考訳(メタデータ) (2024-07-06T03:57:05Z) - Enhancing Federated Learning with Adaptive Differential Privacy and Priority-Based Aggregation [0.0]
フェデレートラーニング(FL)は、ローカルデータセットに直接アクセスせずにグローバルモデルを開発する。
クライアントとサーバ間で転送されるモデル更新にアクセスすることが可能で、敵に機密性の高いローカル情報を公開する可能性がある。
微分プライバシー(DP)は、パラメータにノイズを加えることでこの問題に対処するための有望なアプローチを提供する。
本稿では、クライアントの相対的影響要因に基づいてノイズを注入し、パラメータを集約するパーソナライズされたDPフレームワークを提案する。
論文 参考訳(メタデータ) (2024-06-26T16:55:07Z) - Fake It Till Make It: Federated Learning with Consensus-Oriented
Generation [52.82176415223988]
コンセンサス指向生成による連合学習(FedCOG)を提案する。
FedCOGは、補完的なデータ生成と知識蒸留に基づくモデルトレーニングという、クライアント側の2つの重要なコンポーネントで構成されています。
古典的および実世界のFLデータセットの実験は、FedCOGが一貫して最先端の手法より優れていることを示している。
論文 参考訳(メタデータ) (2023-12-10T18:49:59Z) - Unifying and Personalizing Weakly-supervised Federated Medical Image
Segmentation via Adaptive Representation and Aggregation [1.121358474059223]
フェデレートラーニング(FL)は、データプライバシとセキュリティを損なうことなく、複数のサイトが協力して強力なディープモデルをトレーニングすることを可能にする。
微粒な監督を施した弱く監督されたセグメンテーションは、アノテーションコストを下げる大きな可能性を秘めているため、ますます注目されている。
医用画像セグメンテーションのための新しいFLフレームワークであるFedICRAを提案する。
論文 参考訳(メタデータ) (2023-04-12T06:32:08Z) - Selective Knowledge Sharing for Privacy-Preserving Federated
Distillation without A Good Teacher [52.2926020848095]
フェデレーション学習は、ホワイトボックス攻撃に脆弱で、異種クライアントへの適応に苦慮している。
本稿では,選択的FD(Selective-FD)と呼ばれるFDのための選択的知識共有機構を提案する。
論文 参考訳(メタデータ) (2023-04-04T12:04:19Z) - Feature Correlation-guided Knowledge Transfer for Federated
Self-supervised Learning [19.505644178449046]
特徴相関に基づくアグリゲーション(FedFoA)を用いたフェデレーション型自己教師型学習法を提案する。
私たちの洞察は、機能相関を利用して、特徴マッピングを整列し、ローカルトレーニングプロセス中にクライアント間でローカルモデルの更新を校正することにあります。
我々はFedFoAがモデルに依存しないトレーニングフレームワークであることを証明する。
論文 参考訳(メタデータ) (2022-11-14T13:59:50Z) - SpatioTemporal Focus for Skeleton-based Action Recognition [66.8571926307011]
グラフ畳み込みネットワーク(GCN)は骨格に基づく行動認識において広く採用されている。
近年提案されている骨格に基づく行動認識法の性能は以下の要因によって制限されていると論じる。
近年の注目機構に着想を得て,アクション関連関係情報を取得するためのマルチグラインド・コンテキスト集中モジュール MCF を提案する。
論文 参考訳(メタデータ) (2022-03-31T02:45:24Z) - Fine-tuning Global Model via Data-Free Knowledge Distillation for
Non-IID Federated Learning [86.59588262014456]
フェデレートラーニング(Federated Learning, FL)は、プライバシ制約下での分散学習パラダイムである。
サーバ内のグローバルモデル(FedFTG)を微調整するデータフリー知識蒸留法を提案する。
私たちのFedFTGは最先端(SOTA)のFLアルゴリズムよりも優れており、FedAvg、FedProx、FedDyn、SCAFFOLDの強化のための強力なプラグインとして機能します。
論文 参考訳(メタデータ) (2022-03-17T11:18:17Z) - Local Learning Matters: Rethinking Data Heterogeneity in Federated
Learning [61.488646649045215]
フェデレートラーニング(FL)は、クライアントのネットワーク(エッジデバイス)でプライバシ保護、分散ラーニングを行うための有望な戦略である。
論文 参考訳(メタデータ) (2021-11-28T19:03:39Z) - Confounder Identification-free Causal Visual Feature Learning [84.28462256571822]
本稿では,創始者を特定する必要性を排除した,創始者同定自由因果視覚特徴学習(CICF)手法を提案する。
CICFは、フロントドア基準に基づいて異なるサンプル間の介入をモデル化し、インスタンスレベルの介入に対するグローバルスコープ干渉効果を近似する。
我々は,CICFと一般的なメタラーニング戦略MAMLの関係を明らかにするとともに,MAMLが理論的観点から機能する理由を解釈する。
論文 参考訳(メタデータ) (2021-11-26T10:57:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。