論文の概要: Regularized Wasserstein Distance for Discrete Generative Modeling and Clustering Analysis

• arxiv url: http://arxiv.org/abs/2611.00653v1
• Date: Sat, 31 Oct 2026 05:30:18 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-11-03 19:21:03.98076
• Title: Regularized Wasserstein Distance for Discrete Generative Modeling and Clustering Analysis
• Title（参考訳）: 離散生成モデルとクラスタリング解析のための正規化ワッサースタイン距離
• Abstract要約: クラスタリング解析を離散生成モデルとして定式化する。 このような離散的候補空間をモデル化するために、離散分布ネットワーク(DDN)を用いる。 トレーニングを安定させ,幾何整合性を促進するため,画像間のDDNのl2損失を正規化ワッサーシュタイン距離に置き換える。
• 参考スコア（独自算出の注目度）: 13.88366021082385
• License:
• Abstract: In this paper, we formulate clustering analysis as discrete generative modeling. Specifically, when the generator is restricted to a finite candidate space, the generated samples naturally emerge as the most representative prototypes of the underlying data distribution. To model such a discrete candidate space, we employ a Discrete Distribution Network (DDN). However, DDN suffers from unstable training due to its hard nearest-neighbor selection. To stabilize training and encourage geometric consistency, we replace DDN's l2 loss between images with regularized Wasserstein distance between the empirical distributions of real and generated images. The resulting framework, termed Discrete Generative Clustering (DGC), offers four notable advantages: 1) the learned cluster centers are directly interpretable, as they are realistic synthetic samples; 2) the inference cost scales logarithmically with the number of clusters, i.e., O(log K), making the method scalable to extremely large K; 3) the regularized Wasserstein distance provides a smooth and well-behaved optimization objective that facilitates stable convergence, whereas DDN's l2 loss tends to converge to poor local optima; and 4) DGC replaces DDN's nearest-neighbor selection with random-neighbor selection, which avoids the density shift problem during multi-step forward. Extensive experiments on several benchmarks demonstrate the effectiveness and desirable properties of DGC. The code is publicly available at GitHub.
• Abstract（参考訳）: 本稿では,クラスタリング解析を離散生成モデルとして定式化する。 具体的には、生成元が有限候補空間に制限されると、生成されたサンプルは、基盤となるデータ分布の最も代表的なプロトタイプとして自然に現れる。 このような離散的な候補空間をモデル化するために、離散分布ネットワーク(DDN)を用いる。 しかし、DDNは近くの選択が難しいため、不安定な訓練に苦しむ。 トレーニングを安定させ,幾何整合性を促進するため,実画像と生成画像の経験的分布間の正規化ワッサーシュタイン距離にDDNのl2損失を置き換える。 結果として生まれたフレームワークは、DGC(Disdisrete Generative Clustering)と呼ばれ、以下の4つの大きな利点がある。 1)学習したクラスタセンターは,現実的な合成サンプルであるため,直接解釈可能である。 2) 推論コストはクラスタ数,すなわちO(log K)と対数的にスケールし,メソッドを極めて大きなKにスケーラブルにする。 3) 正規化ワッサーシュタイン距離は、安定収束を促進する滑らかで良好な最適化目標を与える一方、DDNのl2損失は局所最適値に収束する傾向にある。 4) DGCはDDNの最も近い隣の選別をランダム隣の選別に置き換える。 いくつかのベンチマークでの大規模な実験は、DGCの有効性と望ましい性質を示している。 コードはGitHubで公開されている。

関連論文リスト

• Adaptive $k$ Nearest Neighbors Classifier via Granular Ball Computing [60.23863579199315]
  k$-Nearest Neighbor(KNN)アルゴリズムは様々なタスクで広く使われている。 本稿では,粒度計算による適応的かつ効率的なKNN手法を提案する。
  論文  参考訳（メタデータ） (2026-08-13T07:39:46Z)
• Towards Federated Long-Tailed Graph Learning: An Energy-Guided Dual Decoupling Approach [10.914852410153921]
  我々は、トポロジ的浄化とセマンティックリカバリを分離した二重疎結合パラダイムに基づくフレームワークであるFedEPDを提案する。 FedEPDは様々な長い尾のベンチマークで最先端のパフォーマンスを達成し、精度は4.97%、マクロF1は5.48%まで向上した。
  論文  参考訳（メタデータ） (2026-06-23T07:25:40Z)
• Expanding SPHERE-JEPA: A Family of Statistical Regularizers for the Hypersphere [11.087393998848254]
  SSL(Self-Supervised Learning)では,単位超球面上の一様分布を明示的に強制することにより,表現の崩壊を防止することが実証された。 現在のフレームワークは通常、SIGReg(LeJEPAで使用される)やSUSReg(SPHEREJEPAで使用される)のようなスライスされた統計正規化器に依存している。 これにより、トレーニング勾配にプロジェクションのばらつきを注入し、最適化を安定化させ、収束を妨げる。 本研究では,これらのランダムな射影を解析的に統合することにより,決定論的最大平均離散性(MMD)が得られ,スライスされた手法のばらつきを回避できることを示す。
  論文  参考訳（メタデータ） (2026-06-16T07:10:05Z)
• SEED: Targeted Data Selection by Weighted Independent Set [76.68391670109433]
  我々はSEEDと呼ばれる堅牢でスケーラブルなデータ選択パイプラインを開発した。 SEEDは、命令チューニング、視覚的命令チューニング、セマンティックセグメンテーションにおける最先端の手法を一貫して上回っている。
  論文  参考訳（メタデータ） (2026-05-15T07:26:54Z)
• Distributionally Robust K-Means Clustering [18.037323759791658]
  K平均のクラスタリングは、異常値、分布シフト、サンプルサイズに制限があることで知られている。 我々はそのような病態から保護する分布的に堅牢な変種を開発する。 トラクタブル双対は、ハード割り当てを滑らかに重み付けされたものに置き換えるソフトクラスタリングスキームを得る。
  論文  参考訳（メタデータ） (2026-04-13T07:32:36Z)
• Stochastic Approximation Approaches to Group Distributionally Robust Optimization and Beyond [89.72693227960274]
  本稿では,グループ分散ロバスト最適化 (GDRO) を,$m$以上の異なる分布をうまく処理するモデルを学習する目的で検討する。 各ラウンドのサンプル数を$m$から1に抑えるため、GDROを2人でプレイするゲームとして、一方のプレイヤーが実行し、他方のプレイヤーが非公開のマルチアームバンディットのオンラインアルゴリズムを実行する。 第2のシナリオでは、最大リスクではなく、平均的最上位k$リスクを最適化し、分散の影響を軽減することを提案する。
  論文  参考訳（メタデータ） (2023-02-18T09:24:15Z)
• Instability and Local Minima in GAN Training with Kernel Discriminators [20.362912591032636]
  GAN(Generative Adversarial Networks)は、複雑なデータの生成モデリングに広く使われているツールである。 実験的な成功にもかかわらず、ジェネレータと判別器のmin-max最適化のため、GANの訓練は十分には理解されていない。 本稿では、真のサンプルと生成されたサンプルが離散有限集合であり、判別器がカーネルベースである場合に、これらの関節力学を解析する。
  論文  参考訳（メタデータ） (2022-08-21T18:03:06Z)
• Semi-supervised Domain Adaptive Structure Learning [72.01544419893628]
  半教師付きドメイン適応 (SSDA) は,1) アノテーションの低いデータに過度に適合する手法と,2) ドメイン間の分散シフトの両方を克服しなければならない課題である。 SSLとDAの協調を正規化するための適応型構造学習手法を提案する。
  論文  参考訳（メタデータ） (2021-12-12T06:11:16Z)
• Understanding Entropic Regularization in GANs [5.448283690603358]
  We study the influence of regularization on the learned solution of Wasserstein distance。 エントロピー正則化は解のスパース化を促進するが、ワッサーシュタイン距離をシンクホルン発散に置き換えると、非正規化解が回復する。 これらの正則化手法は,大規模な分布に対して経験的データから学習したジェネレータの品質を向上させることができると結論付けている。
  論文  参考訳（メタデータ） (2021-11-02T06:08:16Z)
• Improving Generative Adversarial Networks with Local Coordinate Coding [150.24880482480455]
  GAN(Generative Adversarial Network)は、事前定義された事前分布から現実的なデータを生成することに成功している。 実際には、意味情報はデータから学んだ潜在的な分布によって表現される。 ローカル座標符号化(LCC)を用いたLCCGANモデルを提案する。
  論文  参考訳（メタデータ） (2020-07-28T09:17:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。