論文の概要: Learning Group Importance using the Differentiable Hypergeometric Distribution

• arxiv url: http://arxiv.org/abs/2203.01629v5
• Date: Mon, 8 May 2023 07:56:13 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-10 01:13:33.304357
• Title: Learning Group Importance using the Differentiable Hypergeometric Distribution
• Title（参考訳）: 微分可能超幾何分布を用いた学習グループの重要性
• Authors: Thomas M. Sutter, Laura Manduchi, Alain Ryser, Julia E. Vogt
• Abstract要約: 要素を未知のサイズのサブセットに分割することは、多くのアプリケーションで必須である。 本研究では,微分可能超幾何分布を提案する。 弱教師付き学習とクラスタリングという2つの典型的なアプリケーションで,サブセットのサイズを学習できることが示される。
• 参考スコア（独自算出の注目度）: 16.30064635746202
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Partitioning a set of elements into subsets of a priori unknown sizes is essential in many applications. These subset sizes are rarely explicitly learned - be it the cluster sizes in clustering applications or the number of shared versus independent generative latent factors in weakly-supervised learning. Probability distributions over correct combinations of subset sizes are non-differentiable due to hard constraints, which prohibit gradient-based optimization. In this work, we propose the differentiable hypergeometric distribution. The hypergeometric distribution models the probability of different group sizes based on their relative importance. We introduce reparameterizable gradients to learn the importance between groups and highlight the advantage of explicitly learning the size of subsets in two typical applications: weakly-supervised learning and clustering. In both applications, we outperform previous approaches, which rely on suboptimal heuristics to model the unknown size of groups.
• Abstract（参考訳）: 要素の集合を事前の未知サイズの部分集合に分割することは、多くのアプリケーションにおいて必須である。 これらのサブセットサイズは、クラスタリングアプリケーションにおけるクラスタサイズや、弱い教師付き学習における共有および独立生成潜在因子の数など、明示的に学習されることは滅多にない。 部分集合サイズの正しい組み合わせに対する確率分布は、勾配に基づく最適化を禁止するハード制約のため微分不可能である。 本研究では,微分可能超幾何分布を提案する。 超幾何分布はその相対的重要性に基づいて異なる群の大きさの確率をモデル化する。 評価可能な勾配を導入し,グループ間の重要性を学習し,弱い教師付き学習とクラスタリングの2つの典型的なアプリケーションにおいて,サブセットのサイズを明示的に学習する利点を強調する。 どちらのアプリケーションでも、未知のサイズをモデル化するサブオプティカルヒューリスティックに依存する従来のアプローチよりも優れています。

関連論文リスト

• Self-Supervised Graph Embedding Clustering [70.36328717683297]
  K-means 1-step dimensionality reduction clustering method は,クラスタリングタスクにおける次元性の呪いに対処する上で,いくつかの進歩をもたらした。 本稿では,K-meansに多様体学習を統合する統一フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-09-24T08:59:51Z)
• Causal K-Means Clustering [5.087519744951637]
  Causal k-Means Clusteringは、広く使われているk-means Clusteringアルゴリズムを利用して、未知の部分群構造を明らかにする。 既成のアルゴリズムを用いて簡易かつ容易に実装可能なプラグイン推定器を提案する。 提案手法は,複数の治療レベルを有する近代的な結果研究に特に有用である。
  論文  参考訳（メタデータ） (2024-05-05T23:59:51Z)
• Outlier-Robust Group Inference via Gradient Space Clustering [50.87474101594732]
  既存のメソッドは、最悪のグループのパフォーマンスを改善することができるが、それらは、しばしば高価で入手できないグループアノテーションを必要とする。 モデルパラメータの勾配の空間にデータをクラスタリングすることで,アウトレーヤの存在下でグループアノテーションを学習する問題に対処する。 そこで我々は,DBSCANのような標準クラスタリング手法に適合するように,マイノリティグループや外れ値に関する情報を保存しながら,勾配空間内のデータがより単純な構造を持つことを示す。
  論文  参考訳（メタデータ） (2022-10-13T06:04:43Z)
• A One-shot Framework for Distributed Clustered Learning in Heterogeneous Environments [54.172993875654015]
  異種環境における分散学習のためのコミュニケーション効率化手法のファミリーを提案する。 ユーザによるローカル計算に基づくワンショットアプローチと、サーバにおけるクラスタリングベースのアグリゲーションステップは、強力な学習保証を提供する。 厳密な凸問題に対しては,ユーザ毎のデータ点数がしきい値を超える限り,提案手法はサンプルサイズの観点から順序最適平均二乗誤差率を達成する。
  論文  参考訳（メタデータ） (2022-09-22T09:04:10Z)
• Supervised Multivariate Learning with Simultaneous Feature Auto-grouping and Dimension Reduction [7.093830786026851]
  本稿では,クラスタ化低ランク学習フレームワークを提案する。 2つの合同行列正則化を課し、予測因子を構成する特徴を自動的にグループ化する。 低ランクなモデリングよりも解釈可能であり、変数選択における厳密な空間性仮定を緩和する。
  論文  参考訳（メタデータ） (2021-12-17T20:11:20Z)
• Lattice-Based Methods Surpass Sum-of-Squares in Clustering [98.46302040220395]
  クラスタリングは教師なし学習における基本的なプリミティブである。 最近の研究は、低次手法のクラスに対する低い境界を確立している。 意外なことに、この特定のクラスタリングモデルのtextitdoesは、統計的-計算的ギャップを示さない。
  論文  参考訳（メタデータ） (2021-12-07T18:50:17Z)
• Learning Debiased and Disentangled Representations for Semantic Segmentation [52.35766945827972]
  セマンティックセグメンテーションのためのモデルに依存しない訓練手法を提案する。 各トレーニングイテレーションで特定のクラス情報をランダムに除去することにより、クラス間の機能依存を効果的に削減する。 提案手法で訓練したモデルは,複数のセマンティックセグメンテーションベンチマークにおいて強い結果を示す。
  論文  参考訳（メタデータ） (2021-10-31T16:15:09Z)
• Learning Statistical Representation with Joint Deep Embedded Clustering [2.1267423178232407]
  StatDECは、共同統計表現学習とクラスタリングのための教師なしのフレームワークである。 実験により,これらの表現を用いることで,様々な画像データセットにまたがる不均衡な画像クラスタリングの結果を大幅に改善できることが示された。
  論文  参考訳（メタデータ） (2021-09-11T09:26:52Z)
• Examining and Combating Spurious Features under Distribution Shift [94.31956965507085]
  我々は、最小限の統計量という情報理論の概念を用いて、ロバストで刺激的な表現を定義し、分析する。 入力分布のバイアスしか持たない場合でも、モデルはトレーニングデータから急激な特徴を拾い上げることができることを証明しています。 分析から着想を得た結果,グループDROは,グループ同士の相関関係を直接考慮しない場合に失敗する可能性が示唆された。
  論文  参考訳（メタデータ） (2021-06-14T05:39:09Z)
• Clustering-friendly Representation Learning via Instance Discrimination and Feature Decorrelation [0.0]
  本稿では,インスタンス識別と特徴デコレーションを用いたクラスタリングに親しみやすい表現学習手法を提案する。 CIFAR-10とImageNet-10を用いた画像クラスタリングの評価では,それぞれ81.5%,95.4%の精度が得られた。
  論文  参考訳（メタデータ） (2021-05-31T22:59:31Z)
• Statistical power for cluster analysis [0.0]
  クラスターアルゴリズムは、生物医学研究でますます人気がある。 シミュレーションにより,共通解析におけるパワーと精度を推定する。 我々は,大規模なサブグループ分離が期待される場合にのみ,クラスタ分析を適用することを推奨する。
  論文  参考訳（メタデータ） (2020-03-01T02:43:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。