論文の概要: Zero-Shot Federated Learning with New Classes for Audio Classification
- arxiv url: http://arxiv.org/abs/2106.10019v1
- Date: Fri, 18 Jun 2021 09:32:19 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-21 22:03:51.319033
- Title: Zero-Shot Federated Learning with New Classes for Audio Classification
- Title(参考訳): 音声分類のための新しいクラスによるゼロショットフェデレーション学習
- Authors: Gautham Krishna Gudur, Satheesh K. Perepu
- Abstract要約: フェデレーション学習は、異なるユーザデバイスから洞察を抽出する効果的な方法である。
完全に見えないデータ分布を持つ新しいクラスは、フェデレートされた学習環境で任意のデバイスにストリームすることができる。
フェデレート学習におけるこれらの課題に対処する統合ゼロショットフレームワークを提案する。
- 参考スコア(独自算出の注目度): 0.7106986689736827
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Federated learning is an effective way of extracting insights from different
user devices while preserving the privacy of users. However, new classes with
completely unseen data distributions can stream across any device in a
federated learning setting, whose data cannot be accessed by the global server
or other users. To this end, we propose a unified zero-shot framework to handle
these aforementioned challenges during federated learning. We simulate two
scenarios here -- 1) when the new class labels are not reported by the user,
the traditional FL setting is used; 2) when new class labels are reported by
the user, we synthesize Anonymized Data Impressions by calculating class
similarity matrices corresponding to each device's new classes followed by
unsupervised clustering to distinguish between new classes across different
users. Moreover, our proposed framework can also handle statistical
heterogeneities in both labels and models across the participating users. We
empirically evaluate our framework on-device across different communication
rounds (FL iterations) with new classes in both local and global updates, along
with heterogeneous labels and models, on two widely used audio classification
applications -- keyword spotting and urban sound classification, and observe an
average deterministic accuracy increase of ~4.041% and ~4.258% respectively.
- Abstract(参考訳): 連合学習は、ユーザーのプライバシーを保ちながら、異なるユーザーデバイスから洞察を抽出する効果的な方法である。
しかし、完全に見えないデータ分散を持つ新しいクラスは、グローバルサーバや他のユーザによってアクセスできないフェデレートされた学習環境で、任意のデバイスにストリームすることができる。
そこで本研究では,これらの課題に対処するための統合ゼロショットフレームワークを提案する。
1)新しいクラスラベルがユーザによって報告されない場合、従来のFL設定が使用される。2)新しいクラスラベルがユーザによって報告されると、各デバイスの新しいクラスに対応するクラス類似度行列を計算し、匿名化されたデータ印象を合成し、次に教師なしクラスタリングを行い、異なるユーザ間で新しいクラスを区別する。
さらに,提案フレームワークは,参加ユーザ間のラベルおよびモデル間の統計的不均一性も扱える。
我々は、異なる通信ラウンド(flイテレーション)にまたがる我々のフレームワークを実験的に評価し、ローカルとグローバルの両方のアップデートと異種ラベルとモデルの両方で新しいクラスと、広く使われている2つのオーディオ分類アプリケーション(キーワードスポッティングと都市音の分類)で評価し、平均決定論的精度が ~4.041% と ~4.258% の上昇を観測した。
関連論文リスト
- Federated Learning with Only Positive Labels by Exploring Label Correlations [78.59613150221597]
フェデレートラーニングは、プライバシー上の制約の下で複数のユーザのデータを使用することで、モデルを協調的に学習することを目的としている。
本稿では,フェデレート学習環境下でのマルチラベル分類問題について検討する。
ラベル相関(FedALC)を探索してフェデレート平均化(Federated Averaging)と呼ばれる新しい,汎用的な手法を提案する。
論文 参考訳(メタデータ) (2024-04-24T02:22:50Z) - Robust Semi-Supervised Learning for Self-learning Open-World Classes [5.714673612282175]
実世界のアプリケーションでは、ラベル付きデータは常にラベル付き集合に存在しないクラスを含んでいる。
本稿では,自己学習型オープンワールドクラス(SSOC)のためのオープンワールドSSL手法を提案する。
SSOCは、複数の人気のある分類ベンチマークで最先端のベースラインを上回っている。
論文 参考訳(メタデータ) (2024-01-15T09:27:46Z) - SegPrompt: Boosting Open-world Segmentation via Category-level Prompt
Learning [49.17344010035996]
オープンワールドインスタンスセグメンテーション(OWIS)モデルは、クラスに依存しない方法で未知のオブジェクトを検出する。
以前のOWISは、未知のオブジェクトに一般化するモデルの能力を維持するために、トレーニング中のカテゴリ情報を完全に消去するアプローチだった。
そこで本研究では,モデルのクラスに依存しないセグメンテーション能力を改善するためにカテゴリ情報を利用するSegPromptと呼ばれる新しいトレーニング機構を提案する。
論文 参考訳(メタデータ) (2023-08-12T11:25:39Z) - Towards Open-Domain Topic Classification [69.21234350688098]
ユーザが定義した分類をリアルタイムで受け入れるオープンドメイントピック分類システムを導入する。
ユーザは、任意の候補ラベルに対してテキストスニペットを分類し、Webインターフェースから即座にレスポンスを受け取ることができます。
論文 参考訳(メタデータ) (2023-06-29T20:25:28Z) - Federated Semi-Supervised Learning with Annotation Heterogeneity [57.12560313403097]
Heterogenely Annotated Semi-Supervised LEarning (HASSLE) という新しいフレームワークを提案する。
ラベル付きデータとラベルなしデータで個別にトレーニングされた2つのモデルを持つデュアルモデルフレームワークである。
デュアルモデルは、異なるクライアントにわたる両方のタイプのデータから暗黙的に学習することができるが、各デュアルモデルは、単一のタイプのデータに対してのみローカルにトレーニングされる。
論文 参考訳(メタデータ) (2023-03-04T16:04:49Z) - Navigating Alignment for Non-identical Client Class Sets: A Label
Name-Anchored Federated Learning Framework [26.902679793955972]
FedAlignはラベルとデータの観点からクライアント間の遅延スペースを調整する新しいフレームワークである。
ラベルの観点からは、表現力のある自然言語クラス名をラベルエンコーダの共通基盤として活用し、クラス表現をアンカーする。
データの観点からは、グローバルクラス表現をアンカーとみなし、局所的に知らないクラスのアンカーに十分近い、あるいは遠くにあるデータポイントを活用して、クライアント間でデータエンコーダを整列させる。
論文 参考訳(メタデータ) (2023-01-01T23:17:30Z) - Instance-based Label Smoothing For Better Calibrated Classification
Networks [3.388509725285237]
ラベルの平滑化はディープニューラルネットワークで多クラス分類に広く利用されている。
ラベルのスムース化と自己蒸留の両方からインスピレーションを得ます。
本稿では2つの新しいインスタンスベースのラベル平滑化手法を提案する。
論文 参考訳(メタデータ) (2021-10-11T15:33:23Z) - SemiFed: Semi-supervised Federated Learning with Consistency and
Pseudo-Labeling [14.737638416823772]
フェデレートラーニングは、携帯電話や組織などの複数のクライアントが共同で、予測のための共有モデルを学ぶことを可能にする。
本研究では、各クライアントのデータサンプルを部分的にラベル付けするクロスサイロ・フェデレーション学習の新しいシナリオに焦点を当てる。
そこで我々は,半教師付き学習において,一貫性の正規化と擬似ラベル付けという2つの主要なアプローチを統一する,SemiFedと呼ばれる新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2021-08-21T01:14:27Z) - Open-World Semi-Supervised Learning [66.90703597468377]
本稿では,従来のクラスを認識するためにモデルを必要とする,新しいオープンワールド半教師付き学習環境を提案する。
データの分類とクラスタ化を同時に行うアプローチであるORCAを提案する。
我々は,ORCAが新しいクラスを正確に発見し,ベンチマーク画像分類データセット上で以前に見られたクラスにサンプルを割り当てることを示した。
論文 参考訳(メタデータ) (2021-02-06T07:11:07Z) - Federated Learning with Only Positive Labels [71.63836379169315]
FedAwS(Federated Averaging with Spreadout)という,正のラベルのみを用いたトレーニングのための汎用フレームワークを提案する。
理論的にも経験的にも、FedAwSは、ユーザが負のラベルにアクセス可能な従来の学習のパフォーマンスとほぼ一致していることを示す。
論文 参考訳(メタデータ) (2020-04-21T23:35:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。