論文の概要: Towards Scalable Topological Regularizers
- arxiv url: http://arxiv.org/abs/2501.14641v2
- Date: Tue, 04 Mar 2025 00:07:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-05 19:09:20.214049
- Title: Towards Scalable Topological Regularizers
- Title(参考訳): スケーラブルなトポロジカルレギュラライザを目指して
- Authors: Hiu-Tung Wong, Darrick Lee, Hong Yan,
- Abstract要約: ワッサーシュタインや最大平均誤差といった確率測度のための計量は、そのような分布の違いを定量化するために一般的に用いられる。
永続ホモロジー(Persistent homology)は、点雲の多スケールな位相構造を定量化するトポロジカルデータ解析のツールである。
本稿では, 多数の小サブサンプルの永続的ホモロジーをトポロジカル・レギュレータとして計算した上で, 主永続性尺度の利用を提案する。
- 参考スコア(独自算出の注目度): 6.922812026345242
- License:
- Abstract: Latent space matching, which consists of matching distributions of features in latent space, is a crucial component for tasks such as adversarial attacks and defenses, domain adaptation, and generative modelling. Metrics for probability measures, such as Wasserstein and maximum mean discrepancy, are commonly used to quantify the differences between such distributions. However, these are often costly to compute, or do not appropriately take the geometric and topological features of the distributions into consideration. Persistent homology is a tool from topological data analysis which quantifies the multi-scale topological structure of point clouds, and has recently been used as a topological regularizer in learning tasks. However, computation costs preclude larger scale computations, and discontinuities in the gradient lead to unstable training behavior such as in adversarial tasks. We propose the use of principal persistence measures, based on computing the persistent homology of a large number of small subsamples, as a topological regularizer. We provide a parallelized GPU implementation of this regularizer, and prove that gradients are continuous for smooth densities. Furthermore, we demonstrate the efficacy of this regularizer on shape matching, image generation, and semi-supervised learning tasks, opening the door towards a scalable regularizer for topological features.
- Abstract(参考訳): ラテント空間マッチングは、ラテント空間における特徴の分布の一致から成り、敵の攻撃や防御、ドメイン適応、生成モデリングといったタスクにとって重要な要素である。
ワッサーシュタインや最大平均誤差といった確率測度のための計量は、そのような分布の違いを定量化するために一般的に用いられる。
しかし、これらはしばしば計算に費用がかかるか、あるいは分布の幾何学的特徴と位相的特徴を適切に考慮しない。
永続ホモロジー(Persistent homology)は、点雲のマルチスケールトポロジ的構造を定量化するトポロジ的データ解析のツールであり、最近は学習タスクにおけるトポロジ的正規化器として使われている。
しかし、計算コストは大規模計算を妨げ、勾配の不連続は敵タスクのような不安定な訓練行動を引き起こす。
本稿では, 多数の小サブサンプルの永続的ホモロジーをトポロジカル・レギュレータとして計算した上で, 主永続性尺度の利用を提案する。
我々は、この正規化器の並列GPU実装を提供し、勾配が滑らかな密度に対して連続であることを証明する。
さらに、この正規化器が形状マッチング、画像生成、半教師付き学習タスクに有効であることを示し、トポロジカル特徴のためのスケーラブルな正規化器への扉を開く。
関連論文リスト
- Topograph: An efficient Graph-Based Framework for Strictly Topology Preserving Image Segmentation [78.54656076915565]
位相的正しさは多くの画像分割タスクにおいて重要な役割を果たす。
ほとんどのネットワークは、Diceのようなピクセル単位の損失関数を使って、トポロジカルな精度を無視して訓練されている。
トポロジ的に正確な画像セグメンテーションのための新しいグラフベースのフレームワークを提案する。
論文 参考訳(メタデータ) (2024-11-05T16:20:14Z) - Topological Generalization Bounds for Discrete-Time Stochastic Optimization Algorithms [15.473123662393169]
ディープニューラルネットワーク(DNN)は、顕著な一般化特性を示す。
これらの能力の源泉は依然として解明され、確立された統計的学習理論を否定している。
近年の研究では、訓練軌跡の性質が一般化の指標であることが示されている。
論文 参考訳(メタデータ) (2024-07-11T17:56:03Z) - Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳(メタデータ) (2024-01-29T02:08:40Z) - Learning Linear Causal Representations from Interventions under General
Nonlinear Mixing [52.66151568785088]
介入対象にアクセスできることなく、未知の単一ノード介入を考慮し、強い識別可能性を示す。
これは、ディープニューラルネットワークの埋め込みに対する非ペアの介入による因果識別性の最初の例である。
論文 参考訳(メタデータ) (2023-06-04T02:32:12Z) - $k$-Means Clustering for Persistent Homology [0.0]
永続図空間上の$k$-meansクラスタリングアルゴリズムの収束性を証明する。
また、Karush--Kuhn--Tucker フレームワークにおける最適化問題の解の理論的性質も確立する。
論文 参考訳(メタデータ) (2022-10-18T17:18:51Z) - Robust Topological Inference in the Presence of Outliers [18.6112824677157]
コンパクト集合への距離関数は、位相データ解析のパラダイムにおいて重要な役割を果たす。
ハウスドルフ距離における摂動に対する安定性にもかかわらず、永続ホモロジーは外れ値に対して非常に敏感である。
距離関数(textsfMoM Dist$)の$textitmedian-of-means$変種を提案し、その統計特性を確立する。
論文 参考訳(メタデータ) (2022-06-03T19:45:43Z) - Quantum Persistent Homology [0.9023847175654603]
永続ホモロジー(Persistent homology)は、データの形状に関する有用な情報を要約する強力な数学的ツールである。
我々は、様々なスケールにわたるデータのトポロジ的特徴を追跡する、永続ベッチ数の効率的な量子計算を開発する。
我々のアプローチでは、永続的なディラック作用素を使用し、その二乗は持続的なラプラシアンを生成し、従って基礎となる持続的なベッチ数を生成する。
論文 参考訳(メタデータ) (2022-02-25T20:52:03Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z) - Topological Regularization for Dense Prediction [5.71097144710995]
我々は、トポロジ的記述を伴う密集予測タスクに使用できる永続的ホモロジーに基づくトポロジ的正規化の形式を開発する。
内部アクティベーションのトポロジカルな正規化は、いくつかの問題やアーキテクチャにおける収束とテストベンチマークの改善につながることを実証する。
論文 参考訳(メタデータ) (2021-11-22T04:44:45Z) - Making Affine Correspondences Work in Camera Geometry Computation [62.7633180470428]
局所的な特徴は、ポイント・ツー・ポイント対応ではなく、リージョン・ツー・リージョンを提供する。
本稿では,全モデル推定パイプラインにおいて,地域間マッチングを効果的に活用するためのガイドラインを提案する。
実験により、アフィンソルバはより高速な実行時にポイントベースソルバに匹敵する精度を達成できることが示された。
論文 参考訳(メタデータ) (2020-07-20T12:07:48Z) - Asymptotic Analysis of an Ensemble of Randomly Projected Linear
Discriminants [94.46276668068327]
[1]では、ランダムに投影された線形判別式のアンサンブルを用いてデータセットを分類する。
我々は,計算コストのかかるクロスバリデーション推定器の代替として,誤分類確率の一貫した推定器を開発する。
また、実データと合成データの両方で投影次元を調整するための推定器の使用を実証する。
論文 参考訳(メタデータ) (2020-04-17T12:47:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。