論文の概要: Federated Zero-Shot Learning for Visual Recognition
- arxiv url: http://arxiv.org/abs/2209.01994v1
- Date: Mon, 5 Sep 2022 14:49:34 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-07 14:08:40.831525
- Title: Federated Zero-Shot Learning for Visual Recognition
- Title（参考訳）: 視覚認識のためのフェデレーションゼロショット学習
- Authors: Zhi Chen, Yadan Luo, Sen Wang, Jingjing Li, Zi Huang
- Abstract要約: 本稿では,Federated Zero-Shot Learning FedZSLフレームワークを提案する。
FedZSLは、エッジデバイス上の分散データから中心的なモデルを学ぶ。
FedZSLの有効性と堅牢性は、3つのゼロショットベンチマークデータセットで実施された広範な実験によって実証された。
- 参考スコア（独自算出の注目度）: 55.65879596326147
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Zero-shot learning is a learning regime that recognizes unseen classes by
generalizing the visual-semantic relationship learned from the seen classes. To
obtain an effective ZSL model, one may resort to curating training samples from
multiple sources, which may inevitably raise the privacy concerns about data
sharing across different organizations. In this paper, we propose a novel
Federated Zero-Shot Learning FedZSL framework, which learns a central model
from the decentralized data residing on edge devices. To better generalize to
previously unseen classes, FedZSL allows the training data on each device
sampled from the non-overlapping classes, which are far from the i.i.d. that
traditional federated learning commonly assumes. We identify two key challenges
in our FedZSL protocol: 1) the trained models are prone to be biased to the
locally observed classes, thus failing to generalize to the unseen classes
and/or seen classes appeared on other devices; 2) as each category in the
training data comes from a single source, the central model is highly
vulnerable to model replacement (backdoor) attacks. To address these issues, we
propose three local objectives for visual-semantic alignment and cross-device
alignment through relation distillation, which leverages the normalized
class-wise covariance to regularize the consistency of the prediction logits
across devices. To defend against the backdoor attacks, a feature magnitude
defending technique is proposed. As malicious samples are less correlated to
the given semantic attributes, the visual features of low magnitude will be
discarded to stabilize model updates. The effectiveness and robustness of
FedZSL are demonstrated by extensive experiments conducted on three zero-shot
benchmark datasets.
- Abstract（参考訳）: ゼロショット・ラーニング(ゼロショット・ラーニング、zero-shot learning)は、視覚的・意味的な関係を視覚的に一般化することにより、目に見えないクラスを認識する学習システムである。
効果的なZSLモデルを得るためには、複数のソースからのトレーニングサンプルをキュレートして、異なる組織間でのデータ共有に関するプライバシー上の懸念を必然的に高めることができる。
本稿では,エッジデバイス上に存在する分散データから中央モデルを学ぶ新しいフェデレート型ゼロショット学習fezslフレームワークを提案する。
以前は見つからなかったクラスをより一般化するために、FedZSLは、従来のフェデレーション学習が一般的に想定するi.d.から遠く離れた、重複しないクラスからサンプリングされた各デバイスのトレーニングデータを許可する。
fedzslプロトコルの重要な課題は2つあります。
1) 訓練されたモデルは,局所的に観測されたクラスに偏りやすいため,他のデバイスに現れる未発見のクラス及び/又は見慣れたクラスに一般化できない。
2) トレーニングデータの各カテゴリは単一のソースから来るため、中央モデルはモデル置換(バックドア)攻撃に対して非常に脆弱である。
これらの課題に対処するため, デバイス間の予測ロジットの整合性を調整するために, 正規化クラスワイド共分散を利用した関係蒸留による視覚的セマンティックアライメントとデバイス間アライメントの3つの局所目的を提案する。
バックドア攻撃を防御するため,特徴量防御技術が提案されている。
悪意のあるサンプルは与えられたセマンティック属性と相関が低いため、低等級の視覚的特徴は破棄され、モデルの更新が安定する。
FedZSLの有効性と堅牢性は、3つのゼロショットベンチマークデータセットで実施された広範な実験によって実証された。
関連論文リスト
- Zero-Shot Learning by Harnessing Adversarial Samples [52.09717785644816]
本稿では,HAS(Harnessing Adversarial Samples)によるZSL(Zero-Shot Learning)アプローチを提案する。
HASは3つの重要な側面を考慮に入れた敵の訓練を通じてZSLを前進させる。
本稿では,ZSLと一般化ゼロショット学習(GZSL)の両シナリオにおいて,敵対的サンプルアプローチの有効性を実証する。
論文 参考訳（メタデータ） (2023-08-01T06:19:13Z) - Addressing Class Variable Imbalance in Federated Semi-supervised
Learning [10.542178602467885]
我々は,クラス変数の不均衡を解決するために,FCVI(Federated Semi-supervised Learning for Class Variable Im Balance)を提案する。
FCVIは、クラス数の変化によるデータの不均衡を軽減するために使用される。
クライアントのプライバシを維持しながら,ベースライン方式よりもはるかに優れた手法であることが実証された。
論文 参考訳（メタデータ） (2023-03-21T12:50:17Z) - Benchmark for Uncertainty & Robustness in Self-Supervised Learning [0.0]
セルフ・スーパーバイザード・ラーニングは現実世界のアプリケーション、特に医療や自動運転車のようなデータ・ハングリーな分野に不可欠である。
本稿では Jigsaw Puzzles, Context, Rotation, Geometric Transformations Prediction for vision や BERT や GPT for Language Task など,SSL メソッドの変種について検討する。
我々のゴールは、実験から出力されたベンチマークを作成し、信頼性のある機械学習で新しいSSLメソッドの出発点を提供することです。
論文 参考訳（メタデータ） (2022-12-23T15:46:23Z) - FL-Defender: Combating Targeted Attacks in Federated Learning [7.152674461313707]
フェデレートラーニング(FL)は、グローバル機械学習モデルを、参加する労働者のセット間で分散されたローカルデータから学習することを可能にする。
FLは、学習モデルの完全性に悪影響を及ぼす標的の毒殺攻撃に対して脆弱である。
FL標的攻撃に対抗する手段として,textitFL-Defenderを提案する。
論文 参考訳（メタデータ） (2022-07-02T16:04:46Z) - A Gating Model for Bias Calibration in Generalized Zero-shot Learning [18.32369721322249]
汎用ゼロショット学習(GZSL)は,補助情報のみを用いることで,見つからないクラスデータに一般化できるモデルを訓練することを目的とする。
GZSLの主な課題の1つは、トレーニング中に利用可能なクラスデータのみに過度に適合することに起因する、見かけたクラスに対するバイアス付きモデル予測である。
GZSLのための2ストリームオートエンコーダに基づくゲーティングモデルを提案する。
論文 参考訳（メタデータ） (2022-03-08T16:41:06Z) - Task Aligned Generative Meta-learning for Zero-shot Learning [64.16125851588437]
ゼロショット学習のためのタスク整合型ジェネラティブメタラーニングモデル(TGMZ)の提案
TGMZはバイアスのあるトレーニングを緩和し、メタZSLが多様な分布を含む現実世界のデータセットに対応できるようにする。
最先端アルゴリズムとの比較により,awa1,awa2,cub,apyデータセット上でtgmzが達成した2.1%,3.0%,2.5%,7.6%の改善が示された。
論文 参考訳（メタデータ） (2021-03-03T05:18:36Z) - Meta-Learned Attribute Self-Gating for Continual Generalized Zero-Shot
Learning [82.07273754143547]
トレーニング中に見られないカテゴリにモデルを一般化するためのメタ連続ゼロショット学習(MCZSL)アプローチを提案する。
属性の自己決定とスケールしたクラス正規化をメタラーニングベースのトレーニングと組み合わせることで、最先端の成果を上回ることができるのです。
論文 参考訳（メタデータ） (2021-02-23T18:36:14Z) - Information Bottleneck Constrained Latent Bidirectional Embedding for
Zero-Shot Learning [59.58381904522967]
本稿では,密な視覚-意味的結合制約を持つ埋め込み型生成モデルを提案する。
視覚空間と意味空間の両方の埋め込みパラメトリック分布を校正する統合潜在空間を学習する。
本手法は, 画像のラベルを生成することにより, トランスダクティブZSL設定に容易に拡張できる。
論文 参考訳（メタデータ） (2020-09-16T03:54:12Z) - WAFFLe: Weight Anonymized Factorization for Federated Learning [88.44939168851721]
データが機密性やプライベート性を持つドメインでは、ローカルデバイスを離れることなく、分散的に学習できるメソッドには大きな価値があります。
本稿では,フェデレートラーニングのためのウェイト匿名化因子化(WAFFLe)を提案する。これは,インド・バフェット・プロセスとニューラルネットワークの重み要因の共有辞書を組み合わせたアプローチである。
論文 参考訳（メタデータ） (2020-08-13T04:26:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。