論文の概要: Meta Clustering for Collaborative Learning
- arxiv url: http://arxiv.org/abs/2006.00082v3
- Date: Tue, 27 Sep 2022 20:54:49 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-26 22:55:10.183777
- Title: Meta Clustering for Collaborative Learning
- Title(参考訳): 協調学習のためのメタクラスタリング
- Authors: Chenglong Ye, Reza Ghanadan, Jie Ding
- Abstract要約: 協調学習では、学習者はそれぞれの学習性能を高めるために協調する。
学習者の視点から見れば、重要な課題は、資格のない協力者をフィルタリングすることである。
この課題に対処するため,メタクラスタリングというフレームワークを提案する。
- 参考スコア(独自算出の注目度): 13.003650251457193
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In collaborative learning, learners coordinate to enhance each of their
learning performances. From the perspective of any learner, a critical
challenge is to filter out unqualified collaborators. We propose a framework
named meta clustering to address the challenge. Unlike the classical problem of
clustering data points, meta clustering categorizes learners. Assuming each
learner performs a supervised regression on a standalone local dataset, we
propose a Select-Exchange-Cluster (SEC) method to classify the learners by
their underlying supervised functions. We theoretically show that the SEC can
cluster learners into accurate collaboration sets. Empirical studies
corroborate the theoretical analysis and demonstrate that SEC can be
computationally efficient, robust against learner heterogeneity, and effective
in enhancing single-learner performance. Also, we show how the proposed
approach may be used to enhance data fairness. Supplementary materials for this
article are available online.
- Abstract(参考訳): 協調学習では、学習者はそれぞれの学習性能を高めるために協調する。
学習者の視点から見れば、重要な課題は、資格のない協力者をフィルタリングすることである。
この課題に対処するため,メタクラスタリングというフレームワークを提案する。
データポイントをクラスタリングする従来の問題とは異なり、メタクラスタリングは学習者を分類する。
各学習者が独立したローカルデータセット上で教師付き回帰を行うと仮定し、教師付き関数によって学習者を分類するsec(select-exchange-cluster)法を提案する。
理論的には、SECは学習者を正確なコラボレーションセットにまとめることができる。
実証的研究は、理論解析を裏付け、SECが計算的に効率的であり、学習者の不均一性に対して堅牢であり、シングルラーナーのパフォーマンス向上に有効であることを示す。
また,提案手法がデータの公平性向上にどのように役立つかを示す。
この記事の補足資料はオンラインで入手できる。
関連論文リスト
- End-to-end Learnable Clustering for Intent Learning in Recommendation [61.29127008174193]
我々は、アンダーラインELCRecと呼ばれる新しい意図学習手法を提案する。
振る舞い表現学習をUnderlineEnd-to-end UnderlineLearnable UnderlineClusteringフレームワークに統合する。
1億3000万ページビューの産業レコメンデーションシステムに本手法をデプロイし,有望な結果を得る。
論文 参考訳(メタデータ) (2024-01-11T15:22:55Z) - Hard Regularization to Prevent Deep Online Clustering Collapse without
Data Augmentation [65.268245109828]
オンラインディープクラスタリング(オンラインディープクラスタリング)とは、機能抽出ネットワークとクラスタリングモデルを組み合わせて、クラスタラベルを処理された各新しいデータポイントまたはバッチに割り当てることである。
オフラインメソッドよりも高速で汎用性が高いが、オンラインクラスタリングは、エンコーダがすべての入力を同じポイントにマッピングし、すべてを単一のクラスタに配置する、崩壊したソリューションに容易に到達することができる。
本稿では,データ拡張を必要としない手法を提案する。
論文 参考訳(メタデータ) (2023-03-29T08:23:26Z) - Using Representation Expressiveness and Learnability to Evaluate
Self-Supervised Learning Methods [61.49061000562676]
本稿では,学習可能性を評価するためにCluster Learnability (CL)を導入する。
CLは、K-meansで表現をクラスタリングすることによって得られたラベルを予測するために訓練されたKNNのパフォーマンスで測定される。
CLは、他の競合する評価手法よりも分布内モデルの性能と相関することがわかった。
論文 参考訳(メタデータ) (2022-06-02T19:05:13Z) - Personalized Federated Learning with Multiple Known Clusters [20.585114235701603]
我々は,ユーザの中に既知のクラスタ構造が存在する場合,個人化フェデレーション学習の問題点を考察する。
直感的なアプローチは、パラメータを規則化し、同じクラスタのユーザが同様のモデルの重みを共有することである。
我々は,各クラスタが独立して通信し,収束結果を導出するアルゴリズムを開発した。
論文 参考訳(メタデータ) (2022-04-28T16:32:29Z) - Integrating Auxiliary Information in Self-supervised Learning [94.11964997622435]
まず、補助情報がデータ構造に関する有用な情報をもたらす可能性があることを観察する。
補助情報に基づいてデータクラスタを構築する。
我々はCl-InfoNCEがデータクラスタリング情報を活用するためのより良いアプローチであることを示した。
論文 参考訳(メタデータ) (2021-06-05T11:01:15Z) - You Never Cluster Alone [150.94921340034688]
我々は、主流のコントラスト学習パラダイムをクラスタレベルのスキームに拡張し、同じクラスタに属するすべてのデータが統一された表現に寄与する。
分類変数の集合をクラスタ化代入信頼度として定義し、インスタンスレベルの学習トラックとクラスタレベルの学習トラックを関連付ける。
代入変数を再パラメータ化することで、TCCはエンドツーエンドでトレーニングされる。
論文 参考訳(メタデータ) (2021-06-03T14:59:59Z) - Deep Fair Discriminative Clustering [24.237000220172906]
2値および多状態保護状態変数(PSV)に対するグループレベルの公正性の一般概念について検討する。
本稿では,クラスタリング目標とフェアネス目標とを組み合わせて,フェアクラスタを適応的に学習する改良学習アルゴリズムを提案する。
本フレームワークは, フレキシブルフェアネス制約, マルチステートPSV, 予測クラスタリングなど, 新規なクラスタリングタスクに対して有望な結果を示す。
論文 参考訳(メタデータ) (2021-05-28T23:50:48Z) - Unsupervised Visual Representation Learning by Online Constrained
K-Means [44.38989920488318]
クラスタ識別は、教師なし表現学習の効果的な前提課題である。
オンラインtextbfConstrained textbfK-mtextbfeans (textbfCoKe) を用いたクラスタリングに基づく新しいプリテキストタスクを提案する。
当社のオンライン割当て方式は,グローバルな最適化に近づくための理論的保証を持っている。
論文 参考訳(メタデータ) (2021-05-24T20:38:32Z) - Clustering based Contrastive Learning for Improving Face Representations [34.75646290505793]
本稿では,クラスタリングに基づく新しい表現学習手法であるContrastive Learning (CCL)を提案する。
CCLは、ビデオ制約とともにクラスタリングから得られたラベルを使用して、非ネイティブな顔の特徴を学習する。
論文 参考訳(メタデータ) (2020-04-05T13:11:44Z) - Mining Implicit Entity Preference from User-Item Interaction Data for
Knowledge Graph Completion via Adversarial Learning [82.46332224556257]
本稿では,知識グラフ補完タスクにおけるユーザインタラクションデータを活用することで,新たな逆学習手法を提案する。
我々のジェネレータはユーザインタラクションデータから分離されており、識別器の性能を向上させるのに役立ちます。
利用者の暗黙の実体的嗜好を発見するために,グラフニューラルネットワークに基づく精巧な協調学習アルゴリズムを設計する。
論文 参考訳(メタデータ) (2020-03-28T05:47:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。