論文の概要: Client-Aware Security Adaptive Early Exit Vision Transformers for Heterogeneous Federated Learning
- arxiv url: http://arxiv.org/abs/2610.24036v1
- Date: Fri, 16 Oct 2026 11:55:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-26 11:30:29.739458
- Title: Client-Aware Security Adaptive Early Exit Vision Transformers for Heterogeneous Federated Learning
- Title(参考訳): 不均一フェデレーション学習のためのクライアント・アウェア・セキュリティ適応早期退避視覚変換器
- Abstract要約: フェデレーション学習は、生データを集中することなく、データ所有のクライアント間で共有モデルをトレーニングする。
局所的な早期視覚変換器(ViT)の推論について検討する。
- 参考スコア(独自算出の注目度): 2.4280312804495403
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Federated learning (FL) trains a shared model across data-owning clients without centralizing raw data, but client data difficulty and compute budgets can differ. We study local early-exit Vision Transformer (ViT) inference, where an intermediate classifier may return a prediction before the final Transformer stage. The proposed method replaces one global acceptance threshold with a client-specific base threshold from label entropy and shallow-exit confidence, then adjusts each input using predictive entropy, confidence, top-two class margin, and exit depth. Aggregation uses only clients that updated a parameter. Security-aware routing reaches 88.70% CIFAR-10 accuracy with 32.0% depth saving and 73.7% ImageNet-1K top-1 accuracy with 30\% saving. On matched six-client non-IID CIFAR-100, full-depth accuracy is 72.28% versus 68.20--71.80% for four heterogeneous-FL baselines; robustness-aware routing reaches 70.01% with 32.55% saving.
- Abstract(参考訳): フェデレートラーニング(FL)は、生データを集中化せずにデータ所有クライアント間で共有モデルをトレーニングするが、クライアントデータの困難さと計算予算が異なる可能性がある。
そこでは, 中間分類器が最終変換器の段前に予測を返却できる局所初期外視変換器 (ViT) の推論について検討する。
提案手法は,1つのグローバル受信閾値をラベルエントロピーと浅出出力信頼からクライアント固有のベースしきい値に置き換え,予測エントロピー,信頼度,トップ2クラスマージン,出口深さを用いて各入力を調整する。
集約はパラメータを更新するクライアントのみを使用する。
セキュリティを意識したルーティングは、深さ32.0%のCIFAR-10の精度88.70%、画像Net-1Kのトップ-1の精度73.7%、保存30.7%に達する。
一致した6サイクルのCIFAR-100では、全深度精度は72.28%、不均一な4つのFLベースラインでは68.20--71.80%である。
関連論文リスト
- Federated Art Chase: Privacy Leakage and Data Poisoning in Federated Fine-Tuning [0.0]
フェデレートラーニング(FL)は、ユーザーデバイスに残るデータに、事前訓練された、集中的に微調整されたモデルを適用するために、ますます使われています。
再現可能なパイプラインを用いて,このアプローチのプライバシと完全性について検討する。
レポートは、参加者がIndigmaのFedMaestroオーケストレータを通じてモデルを描画、微調整、毒殺するライブセッションで終了する。
論文 参考訳(メタデータ) (2026-10-15T09:11:39Z) - ORDERS: An Empirical Study of Norm-Rank Aggregation for Personalized Federated Learning [0.0]
本稿では,共有バックボーン,プライベートな残差アダプタと分類器,および更新ノルムによって割り当てられた幾何重みを組み合わせた構成について検討する。
8つの設定、2つのデータセット、データセット毎に1つの固定パーティションに5つのトレーニングシード。
2クラス毎のCIFAR-10では、ORDERS 80.51 pm 0.79%$ネイティブ平均クライアント精度が79.02 pm 1.42%$のFedPer-R1と80.27 pm 0.73%$の一致した一様ウェイト制御が達成されている。
論文 参考訳(メタデータ) (2026-10-07T16:31:44Z) - RIPPLE in Still Water: Zero-Shot Clustering in Federated Learning with Wavelet Scattering Transform [51.56484100374058]
クラスタ化されたフェデレートラーニング(FL)は、クライアントを同じローカル分布のグループに分割し、クラスタ毎に1つの特別なモデルを訓練する。
本稿では、各クライアントのローカルデータのスペクトル特性からクラスタ割り当てを完全にオフラインで計算するクラスタリングFLフレームワークであるRIPPLEを提案する。
論文 参考訳(メタデータ) (2026-10-02T09:35:39Z) - DG-FedReuse: Proxy-Gradient-Gated Cached-Update Reuse with Matched Sparse Uplink Accounting [0.0]
DG-FedReuseは、選択したクライアントがキャッシュされた更新にコントリビュートできるようにするシミュレータレベルのメカニズムである。
実験には、6つのイメージ分類データセット、50の仮想クライアント、Dirichletラベルクライアント、3つのシードが含まれている。
DG-FedReuseは83.36-85.42%のモデルで更新データフィールドのアップリンクを節約したが、Top-K FedAvgは76.88%だった。
論文 参考訳(メタデータ) (2026-08-05T19:30:04Z) - Efficient Visual Pointing for Embodied AI:Agent-Driven Data Synthesis, Cross-Block Attention, and Iterative Correction [55.11480729304395]
PointArena 2026は77.2%の精度でベンチマークで2位である。
ap proachは3つの障害モードをターゲットにしている。第一に、エージェント駆動のシンセシスは大きなセマンティクスとアンカー相対的な候補プールを構築する。
次に、determinis tic steerable-dataパイプラインは、認証された10,000サンプルのメインセットと、マスク、テンプレート、パス検証を使用するリザーブサンプルを生成する。
論文 参考訳(メタデータ) (2026-06-29T06:39:03Z) - FedAttr: Towards Privacy-preserving Client-Level Attribution in Federated LLM Fine-tuning [58.80511162314259]
我々はフェデレート学習のための新しいクライアントレベルの属性プロトコルであるFedAttrを提案する。
FedAttrは、ペア化されたサブセット差分メカニズムを通じて、ウォーターマークされたデータでトレーニングされたクライアントを特定する。
100%のTPRと0%のFPRを達成し、TPRでは少なくとも44.4%、FPRでは19.1%を上回り、FLトレーニング時間に比べて6.3%のオーバーヘッドしか残っていない。
論文 参考訳(メタデータ) (2026-05-07T17:21:02Z) - FedEMA-Distill: Exponential Moving Average Guided Knowledge Distillation for Robust Federated Learning [1.1393603788068776]
フェデレーテッド・ラーニング(FL)は、クライアントが不均一な非独立性(non-Independent)およびIdentically Distributed(non-IID)データを保持すると、しばしば劣化する。
本稿では,グローバルモデルの指数移動平均(EMA)とクライアント負荷予測ロジットからのアンサンブル知識蒸留を組み合わせたサーバサイドプロシージャであるFedEMA-Distillを提案する。
論文 参考訳(メタデータ) (2026-02-15T01:40:45Z) - Hybrid Quantum-Classical Ensemble Learning for S\&P 500 Directional Prediction [0.2538209532048867]
本稿では,量子感情分析,決定変換アーキテクチャ,戦略的モデル選択を組み合わせたハイブリッドアンサンブルフレームワークを提案する。
S&P500予測の方向精度は60.14%で、個々のモデルよりも3.10%向上している。
論文 参考訳(メタデータ) (2025-12-06T22:22:09Z) - Uncertainty-aware Long-tailed Weights Model the Utility of Pseudo-labels for Semi-supervised Learning [50.868594148443215]
本研究では,不確かさを意識したアンサンブル構造(UES)を提案する。
UESは軽量でアーキテクチャに依存しないため、分類や回帰を含む様々なコンピュータビジョンタスクに容易に拡張できる。
論文 参考訳(メタデータ) (2025-03-13T02:21:04Z) - Decorrelating Structure via Adapters Makes Ensemble Learning Practical for Semi-supervised Learning [50.868594148443215]
コンピュータビジョンでは、従来のアンサンブル学習法は訓練効率が低いか、限られた性能を示す。
本稿では,視覚的タスクに適応器を用いたDecorrelating Structure(DSA)による軽量,損失関数なし,アーキテクチャに依存しないアンサンブル学習を提案する。
論文 参考訳(メタデータ) (2024-08-08T01:31:38Z) - Acceleration of Federated Learning with Alleviated Forgetting in Local
Training [61.231021417674235]
フェデレートラーニング(FL)は、プライバシを保護しながら機械学習モデルの分散最適化を可能にする。
我々は,FedRegを提案する。FedRegは,局所的な訓練段階において,知識を忘れることなくFLを加速するアルゴリズムである。
我々の実験は、FedRegはFLの収束率を著しく改善するだけでなく、特にニューラルネットワークアーキテクチャが深い場合にも改善することを示した。
論文 参考訳(メタデータ) (2022-03-05T02:31:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。