論文の概要: Simplex Clustering via sBeta with Applications to Online Adjustment of Black-Box Predictions

• arxiv url: http://arxiv.org/abs/2208.00287v4
• Date: Sun, 30 Jun 2024 22:46:54 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-02 18:41:09.847184
• Title: Simplex Clustering via sBeta with Applications to Online Adjustment of Black-Box Predictions
• Title（参考訳）: sBetaによる単純なクラスタリングとブラックボックス予測のオンライン調整への応用
• Authors: Florent Chiaroni, Malik Boudiaf, Amar Mitiche, Ismail Ben Ayed,
• Abstract要約: 我々はk-sBetasと呼ばれる新しい確率的クラスタリング手法を提案する。 クラスタリング分布の総括的最大アプリート(MAP)視点を提供する。 我々のコードと既存の単純なクラスタリング手法との比較および導入したソフトマックス予測ベンチマークが公開されている。
• 参考スコア（独自算出の注目度）: 16.876111500144667
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We explore clustering the softmax predictions of deep neural networks and introduce a novel probabilistic clustering method, referred to as k-sBetas. In the general context of clustering discrete distributions, the existing methods focused on exploring distortion measures tailored to simplex data, such as the KL divergence, as alternatives to the standard Euclidean distance. We provide a general maximum a posteriori (MAP) perspective of clustering distributions, emphasizing that the statistical models underlying the existing distortion-based methods may not be descriptive enough. Instead, we optimize a mixed-variable objective measuring data conformity within each cluster to the introduced sBeta density function, whose parameters are constrained and estimated jointly with binary assignment variables. Our versatile formulation approximates various parametric densities for modeling simplex data and enables the control of the cluster-balance bias. This yields highly competitive performances for the unsupervised adjustment of black-box model predictions in various scenarios. Our code and comparisons with the existing simplex-clustering approaches and our introduced softmax-prediction benchmarks are publicly available: https://github.com/fchiaroni/Clustering_Softmax_Predictions.
• Abstract（参考訳）: 我々は、深層ニューラルネットワークのソフトマックス予測をクラスタリングし、k-sBetasと呼ばれる新しい確率的クラスタリング手法を導入する。 離散分布のクラスタリングの一般的な文脈において、既存の手法は、標準ユークリッド距離の代替として、KL分散のような単純データに適した歪み測度を探索することに焦点を当てている。 クラスタリング分布の最大値(MAP)パースペクティブを提供し、既存の歪みに基づく手法の基盤となる統計モデルが十分に記述できないことを強調した。 その代わりに、各クラスタ内のデータ整合性を測定する混合変数を、パラメータが2進代入変数と共役して制約され推定されるsBeta密度関数に最適化する。 汎用的な定式化は, 単純なデータモデリングのための様々なパラメトリック密度を近似し, クラスタバランスバイアスの制御を可能にする。 これにより、様々なシナリオにおけるブラックボックスモデル予測の教師なし調整に対する高い競争性能が得られる。 我々のコードと既存のSimplexクラスタリングアプローチおよび導入したSoftmax-predictionベンチマークとの比較は、https://github.com/fchiaroni/Clustering_Softmax_Predictions.comで公開されている。

関連論文リスト

• Time Series Clustering with General State Space Models via Stochastic Variational Inference [0.0]
  一般状態空間モデル(MSSM)の混合を用いたモデルベース時系列クラスタリングの新しい手法を提案する。 提案手法の利点は,特定の時系列に適した時系列モデルの利用を可能にすることである。 シミュレーションデータセットの実験から,提案手法はクラスタリング,パラメータ推定,クラスタ数推定に有効であることが示された。
  論文  参考訳（メタデータ） (2024-06-29T12:48:53Z)
• Fast Semi-supervised Unmixing using Non-convex Optimization [85.95119207126292]
  半/ライブラリベースのアンミックスのための新しい凸凸モデルを提案する。 スパース・アンミキシングの代替手法の有効性を実証する。
  論文  参考訳（メタデータ） (2024-01-23T10:07:41Z)
• Variational Classification [51.2541371924591]
  我々は,変分オートエンコーダの訓練に用いるエビデンスローバウンド(ELBO)に類似した,モデルの訓練を目的とした変分目的を導出する。 軟質マックス層への入力を潜伏変数のサンプルとして扱うことで, 抽象化された視点から, 潜在的な矛盾が明らかとなった。 我々は、標準ソフトマックス層に見られる暗黙の仮定の代わりに、選択された潜在分布を誘導する。
  論文  参考訳（メタデータ） (2023-05-17T17:47:19Z)
• Personalized Federated Learning under Mixture of Distributions [98.25444470990107]
  本稿では,ガウス混合モデル(GMM)を用いたPFL(Personalized Federated Learning)を提案する。 FedGMMはオーバーヘッドを最小限に抑え、新しいクライアントに適応する付加的なアドバンテージを持ち、不確実な定量化を可能にします。 PFL分類と新しいサンプル検出の両方において, 合成データセットとベンチマークデータセットの実証評価により, 提案手法の優れた性能を示した。
  論文  参考訳（メタデータ） (2023-05-01T20:04:46Z)
• Bayesian Quantification with Black-Box Estimators [1.599072005190786]
  調整された分類と数、ブラックボックスシフト推定器、不変比推定器などのアプローチでは、クラス分布を推定し、弱い仮定の下で保証を得る補助的(および潜在的に偏りのある)ブラックボックス分類器を用いる。 これら全てのアルゴリズムが特定のベイズ連鎖モデルにおける推論と密接に関連していることを示し、仮定された基底構造生成過程を近似する。 次に,導入モデルに対する効率的なマルコフ・モンテカルロサンプリング手法について検討し,大容量データ限界における一貫性の保証を示す。
  論文  参考訳（メタデータ） (2023-02-17T22:10:04Z)
• A parallelizable model-based approach for marginal and multivariate clustering [0.0]
  本稿では,モデルに基づくクラスタリングの頑健さを生かしたクラスタリング手法を提案する。 我々は、各マージンごとに異なる数のクラスタを持つことができる有限混合モデルを指定することで、この問題に対処する。 提案手法は、完全な(結合した)モデルベースのクラスタリング手法よりも、中程度から高次元の処理に適するだけでなく、計算的にも魅力的である。
  論文  参考訳（メタデータ） (2022-12-07T23:54:41Z)
• A One-shot Framework for Distributed Clustered Learning in Heterogeneous Environments [54.172993875654015]
  異種環境における分散学習のためのコミュニケーション効率化手法のファミリーを提案する。 ユーザによるローカル計算に基づくワンショットアプローチと、サーバにおけるクラスタリングベースのアグリゲーションステップは、強力な学習保証を提供する。 厳密な凸問題に対しては,ユーザ毎のデータ点数がしきい値を超える限り,提案手法はサンプルサイズの観点から順序最適平均二乗誤差率を達成する。
  論文  参考訳（メタデータ） (2022-09-22T09:04:10Z)
• Personalized Federated Learning via Convex Clustering [72.15857783681658]
  本稿では,局所凸型ユーザコストを用いた個人化フェデレーション学習のためのアルゴリズム群を提案する。 提案するフレームワークは,異なるユーザのモデルの違いをペナル化する凸クラスタリングの一般化に基づいている。
  論文  参考訳（メタデータ） (2022-02-01T19:25:31Z)
• Deep Conditional Gaussian Mixture Model for Constrained Clustering [7.070883800886882]
  制約付きクラスタリングは、部分的にラベル付けされたデータの増加量に関する事前情報を利用することができる。 本稿では、直感的で解釈可能で、勾配変動推論の枠組みで効率的に訓練できる制約付きクラスタリングのための新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-06-11T13:38:09Z)
• Robust M-Estimation Based Bayesian Cluster Enumeration for Real Elliptically Symmetric Distributions [5.137336092866906]
  データセットにおける最適なクラスタ数のロバストな決定は、広範囲のアプリケーションにおいて必須の要素である。 本稿では任意のReally Symmetric(RES)分散混合モデルで使用できるように一般化する。 サンプルサイズが有限であるデータセットに対して,ロバストな基準を導出するとともに,大規模なサンプルサイズでの計算コスト削減のための近似を提供する。
  論文  参考訳（メタデータ） (2020-05-04T11:44:49Z)
• Semi-Supervised Learning with Normalizing Flows [54.376602201489995]
  FlowGMMは、フローの正規化を伴う生成半教師付き学習におけるエンドツーエンドのアプローチである。 我々は AG-News や Yahoo Answers のテキストデータなど,幅広いアプリケーションに対して有望な結果を示す。
  論文  参考訳（メタデータ） (2019-12-30T17:36:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。