論文の概要: Mitigating Resolution-Drift in Federated Learning: Case of Keypoint Detection
- arxiv url: http://arxiv.org/abs/2507.23461v1
- Date: Thu, 31 Jul 2025 11:38:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-01 17:19:09.710383
- Title: Mitigating Resolution-Drift in Federated Learning: Case of Keypoint Detection
- Title（参考訳）: フェデレーション学習における分解能低下の軽減--キーポイント検出の場合
- Authors: Taeheon Lim, Joohyung Lee, Kyungjae Lee, Jungchan Cho,
- Abstract要約: フェデレートラーニング(FL)アプローチは、ユーザデータのプライバシを保護しながら、分散システム間で効果的な学習を可能にする。
本稿では、クライアント間の解像度変動により性能が著しく低下する「分解能ドリフト」と呼ばれる重要な問題を特定し、検討する。
本稿では,熱マップに基づく知識蒸留手法であるRAFについて述べる。
- 参考スコア（独自算出の注目度）: 8.505738204471136
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The Federated Learning (FL) approach enables effective learning across distributed systems, while preserving user data privacy. To date, research has primarily focused on addressing statistical heterogeneity and communication efficiency, through which FL has achieved success in classification tasks. However, its application to non-classification tasks, such as human pose estimation, remains underexplored. This paper identifies and investigates a critical issue termed ``resolution-drift,'' where performance degrades significantly due to resolution variability across clients. Unlike class-level heterogeneity, resolution drift highlights the importance of resolution as another axis of not independent or identically distributed (non-IID) data. To address this issue, we present resolution-adaptive federated learning (RAF), a method that leverages heatmap-based knowledge distillation. Through multi-resolution knowledge distillation between higher-resolution outputs (teachers) and lower-resolution outputs (students), our approach enhances resolution robustness without overfitting. Extensive experiments and theoretical analysis demonstrate that RAF not only effectively mitigates resolution drift and achieves significant performance improvements, but also can be integrated seamlessly into existing FL frameworks. Furthermore, although this paper focuses on human pose estimation, our t-SNE analysis reveals distinct characteristics between classification and high-resolution representation tasks, supporting the generalizability of RAF to other tasks that rely on preserving spatial detail.
- Abstract（参考訳）: フェデレートラーニング(FL)アプローチは、ユーザデータのプライバシを保護しながら、分散システム間で効果的な学習を可能にする。
これまで、FLは統計的不均一性と通信効率に主に焦点を合わせており、FLは分類タスクで成功している。
しかし、人間のポーズ推定のような非分類タスクへの応用は、まだ未検討である。
本稿では,クライアント間の解像度変動により性能が著しく低下する「解像度ドリフト」と呼ばれる重要な問題を特定し,検討する。
クラスレベルの不均一性とは異なり、分解能ドリフトは独立あるいは同一に分散された(非IID)データの別の軸として分解能の重要性を強調している。
この問題に対処するために,熱マップに基づく知識蒸留を利用した解像適応型フェデレーション学習(RAF)を提案する。
高分解能出力(教師)と低分解能出力(学生)の多分解能知識蒸留により,本手法は過度に適合することなく高分解能性を向上させる。
大規模な実験と理論解析により、RAFは解像度のドリフトを効果的に軽減し、大幅な性能向上を達成するだけでなく、既存のFLフレームワークにシームレスに統合できることが示されている。
さらに,本研究では,人間のポーズ推定に焦点が当てられているが,このt-SNE分析により,分類と高分解能表現タスクの相違が明らかとなり,空間的詳細を保存することに依存する他のタスクに対するRAFの一般化可能性も裏付ける。
関連論文リスト
- Small-Scale-Fading-Aware Resource Allocation in Wireless Federated Learning [27.931985523249352]
本稿では,マルチエージェント強化学習(MARL)フレームワークを用いた小規模フェイディング対応リソース割り当て戦略を提案する。
我々は、FLアルゴリズムの一段階収束境界を確立し、リソース割り当て問題を分散化された部分的に観測可能なマルコフ決定プロセスとして定式化する。
我々のフレームワークでは、各クライアントは、各コヒーレンス時間スロット内のスペクトルと電力割り当てを動的に決定するエージェントとして機能する。
論文 参考訳（メタデータ） (2025-05-06T13:41:59Z) - Knowledge Distillation and Enhanced Subdomain Adaptation Using Graph Convolutional Network for Resource-Constrained Bearing Fault Diagnosis [0.0]
複雑な教師モデルからコンパクトで効率的な学生モデルに知識を伝達する進歩的知識蒸留フレームワークを提案する。
再生ケルネルヒルベルト空間(RKHS)における平均および分散統計を利用してラベル間の事前確率分布を組み込むELMMSD(Enhanced Local Maximum Mean Squared Discrepancy)を導入する。
論文 参考訳（メタデータ） (2025-01-13T10:05:47Z) - FNP: Fourier Neural Processes for Arbitrary-Resolution Data Assimilation [58.149902193341816]
本稿では, テクティット・テキストbfFourier Neural Processs (FNP) を用いて, テクティット・arbitrary- resolution データ同化法を提案する。
固定解像度でトレーニングしたFNPは, 微調整を伴わずに, 分布外分解能と観測情報再構成タスクとの同化を直接処理できる。
論文 参考訳（メタデータ） (2024-06-03T12:24:24Z) - UNIDEAL: Curriculum Knowledge Distillation Federated Learning [17.817181326740698]
フェデレートラーニング(FL)は、複数のクライアント間で協調学習を可能にする、有望なアプローチとして登場した。
本稿では,ドメイン横断シナリオの課題に対処するための新しいFLアルゴリズムであるUNIを提案する。
この結果から,UNIはモデル精度と通信効率の両面において優れた性能を発揮することが示された。
論文 参考訳（メタデータ） (2023-09-16T11:30:29Z) - Uncertainty Estimation by Fisher Information-based Evidential Deep
Learning [61.94125052118442]
不確実性推定は、ディープラーニングを実用アプリケーションで信頼できるものにする鍵となる要素である。
漁業情報に基づくエビデンシャルディープラーニング(mathcalI$-EDL)を提案する。
特に,各サンプルが有する証拠の情報量を測定するためにFisher Information Matrix (FIM)を導入し,目的的損失項を動的に重み付けし,不確実なクラスの表現学習に集中させる。
論文 参考訳（メタデータ） (2023-03-03T16:12:59Z) - Offline Reinforcement Learning with Instrumental Variables in Confounded
Markov Decision Processes [93.61202366677526]
未測定の共同設立者を対象にオフライン強化学習(RL)について検討した。
そこで本稿では, 最適クラスポリシーを見つけるための, 有限サンプルの準最適性を保証した多種多様なポリシー学習手法を提案する。
論文 参考訳（メタデータ） (2022-09-18T22:03:55Z) - On Exploring Pose Estimation as an Auxiliary Learning Task for
Visible-Infrared Person Re-identification [66.58450185833479]
本稿では,Pose Estimationを補助学習タスクとして活用して,エンドツーエンドフレームワークにおけるVI-ReIDタスクを支援する。
これら2つのタスクを相互に有利な方法で共同でトレーニングすることにより、高品質なモダリティ共有とID関連の特徴を学習する。
2つのベンチマークVI-ReIDデータセットの実験結果から,提案手法は一定のマージンで最先端の手法を継続的に改善することが示された。
論文 参考訳（メタデータ） (2022-01-11T09:44:00Z) - Holistic Deep Learning [3.718942345103135]
本稿では、入力摂動、過度なパラメータ化、性能不安定といった脆弱性の課題に対処する、新しい総合的なディープラーニングフレームワークを提案する。
提案したフレームワークは、標準的なディープラーニングモデルよりも正確性、堅牢性、疎性、安定性を全面的に改善する。
論文 参考訳（メタデータ） (2021-10-29T14:46:32Z) - Hierarchical Deep CNN Feature Set-Based Representation Learning for
Robust Cross-Resolution Face Recognition [59.29808528182607]
クロスリゾリューション顔認識(CRFR)は、インテリジェントな監視およびバイオメトリックフォレンジックにおいて重要である。
既存の浅層学習と深層学習に基づく手法は、HR-LR対を共同特徴空間にマッピングすることに焦点を当てている。
本研究では,多レベル深層畳み込みニューラルネットワーク(CNN)の機能を完全に活用し,堅牢なCRFRを実現することを目的とする。
論文 参考訳（メタデータ） (2021-03-25T14:03:42Z) - When Relation Networks meet GANs: Relation GANs with Triplet Loss [110.7572918636599]
GAN(Generative Adversarial Network)の学習安定性はいまだに悩みの種である
本稿では,判別器のための関係ネットワークアーキテクチャについて検討し,より優れた一般化と安定性を実現する三重項損失を設計する。
ベンチマークデータセットの実験により、提案された関係判別器と新たな損失は、可変視覚タスクに大幅な改善をもたらすことが示された。
論文 参考訳（メタデータ） (2020-02-24T11:35:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。