論文の概要: Scalable Sobolev IPM for Probability Measures on a Graph
- arxiv url: http://arxiv.org/abs/2502.00737v1
- Date: Sun, 02 Feb 2025 10:14:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-05 15:04:08.140721
- Title: Scalable Sobolev IPM for Probability Measures on a Graph
- Title(参考訳): グラフ上の確率測定のためのスケーラブルソボレフIPM
- Authors: Tam Le, Truyen Nguyen, Hideitsu Hino, Kenji Fukumizu,
- Abstract要約: グラフ距離空間上での確率測度に対するソボレフIPM問題について検討する。
グラフ構造を利用して、正規化されたソボレフIPMが高速な計算のためにエンフローズドフォーム表現を提供することを示した。
- 参考スコア(独自算出の注目度): 26.28795508071077
- License:
- Abstract: We investigate the Sobolev IPM problem for probability measures supported on a graph metric space. Sobolev IPM is an important instance of integral probability metrics (IPM), and is obtained by constraining a critic function within a unit ball defined by the Sobolev norm. In particular, it has been used to compare probability measures and is crucial for several theoretical works in machine learning. However, to our knowledge, there are no efficient algorithmic approaches to compute Sobolev IPM effectively, which hinders its practical applications. In this work, we establish a relation between Sobolev norm and weighted $L^p$-norm, and leverage it to propose a \emph{novel regularization} for Sobolev IPM. By exploiting the graph structure, we demonstrate that the regularized Sobolev IPM provides a \emph{closed-form} expression for fast computation. This advancement addresses long-standing computational challenges, and paves the way to apply Sobolev IPM for practical applications, even in large-scale settings. Additionally, the regularized Sobolev IPM is negative definite. Utilizing this property, we design positive-definite kernels upon the regularized Sobolev IPM, and provide preliminary evidences of their advantages on document classification and topological data analysis for measures on a graph.
- Abstract(参考訳): グラフ距離空間上での確率測度に対するソボレフIPM問題について検討する。
ソボレフIPMは積分確率測度(IPM)の重要な例であり、ソボレフノルムで定義される単位球内の批判関数を制約することによって得られる。
特に、確率測度を比較するために用いられており、機械学習におけるいくつかの理論的研究に不可欠である。
しかし、我々の知る限り、Sobolev IPMを効果的に計算するための効率的なアルゴリズムアプローチは存在しない。
本研究では、ソボレフノルムと重み付き$L^p$-ノルムの関係を確立し、それを利用してソボレフ IPM に対する 'emph{novel regularization} を提案する。
グラフ構造を利用して、正規化されたソボレフ IPM が高速な計算のために \emph{closed-form} 式を提供することを示した。
この進歩は、長期間にわたる計算課題に対処し、大規模な設定でも、実用用途にSobolev IPMを適用するための道を開く。
さらに、正則化されたソボレフIPMは負定値である。
この特性を利用して、正定値カーネルを正規化されたソボレフIPM上に設計し、グラフ上の測度に対する文書分類とトポロジカルデータ解析におけるそれらの利点の予備的証拠を提供する。
関連論文リスト
- Tempered Calculus for ML: Application to Hyperbolic Model Embedding [70.61101116794549]
MLで使用されるほとんどの数学的歪みは、本質的に自然界において積分的である。
本稿では,これらの歪みを改善するための基礎的理論とツールを公表し,機械学習の要件に対処する。
我々は、最近MLで注目を集めた問題、すなわち、ハイパーボリック埋め込みを「チープ」で正確なエンコーディングで適用する方法を示す。
論文 参考訳(メタデータ) (2024-02-06T17:21:06Z) - Training normalizing flows with computationally intensive target
probability distributions [0.018416014644193065]
本稿では,REINFORCEアルゴリズムに基づく流れの正規化のための推定器を提案する。
ウォールタイムでは最大10倍高速で、最大30%のメモリを必要とする。
論文 参考訳(メタデータ) (2023-08-25T10:40:46Z) - Tolerating Annotation Displacement in Dense Object Counting via Point
Annotation Probability Map [25.203803417049528]
混雑したシーンでオブジェクトをカウントすることは、コンピュータビジョンにとって依然として難しい課題だ。
学習目標点アノテーション確率マップ(PAPM)を提案する。
また,適応学習型PAPM法(AL-PAPM)を提案する。
論文 参考訳(メタデータ) (2023-07-29T04:46:21Z) - Statistical Efficiency of Score Matching: The View from Isoperimetry [96.65637602827942]
本研究では, スコアマッチングの統計的効率と推定される分布の等尺性との間に, 密接な関係を示す。
これらの結果はサンプル状態と有限状態の両方で定式化する。
論文 参考訳(メタデータ) (2022-10-03T06:09:01Z) - Sobolev Transport: A Scalable Metric for Probability Measures with Graph
Metrics [25.591913014859184]
グラフ計量空間上で支持される確率測度を考察し,新しいソボレフ輸送測度を提案する。
ソボレフ輸送距離は高速計算のための閉形式式であり、負の定値であることを示す。
この輸送距離で与えられる確率測度の空間は、重み付き$ell_p$距離を持つユークリッド空間の有界凸集合に等尺的であることを示す。
論文 参考訳(メタデータ) (2022-02-22T08:27:58Z) - GFlowNet Foundations [66.69854262276391]
Generative Flow Networks (GFlowNets) は、多様な候補をアクティブな学習コンテキストでサンプリングする方法として導入された。
GFlowNetのさらなる理論的性質について述べる。
論文 参考訳(メタデータ) (2021-11-17T17:59:54Z) - Learning to Estimate Without Bias [57.82628598276623]
ガウスの定理は、重み付き最小二乗推定器は線形モデルにおける線形最小分散アンバイアスド推定(MVUE)であると述べている。
本稿では、バイアス制約のあるディープラーニングを用いて、この結果を非線形設定に拡張する第一歩を踏み出す。
BCEの第二の動機は、同じ未知の複数の推定値が平均化されてパフォーマンスが向上するアプリケーションにおいてである。
論文 参考訳(メタデータ) (2021-10-24T10:23:51Z) - Unsupervised Ground Metric Learning using Wasserstein Eigenvectors [0.0]
主なボトルネックは、研究対象のタスクに適応すべき「基礎」コストの設計である。
本論文では,コストを入力間のペアワイズOT距離にマッピングする関数の正の固有ベクトルとして,接地コストを計算することで,正の正の答えを初めて提案する。
また,主成分分析次元の低減を行うエントロピー正則化を用いたスケーラブルな計算手法を提案する。
論文 参考訳(メタデータ) (2021-02-11T21:32:59Z) - Making Affine Correspondences Work in Camera Geometry Computation [62.7633180470428]
局所的な特徴は、ポイント・ツー・ポイント対応ではなく、リージョン・ツー・リージョンを提供する。
本稿では,全モデル推定パイプラインにおいて,地域間マッチングを効果的に活用するためのガイドラインを提案する。
実験により、アフィンソルバはより高速な実行時にポイントベースソルバに匹敵する精度を達成できることが示された。
論文 参考訳(メタデータ) (2020-07-20T12:07:48Z) - The Boomerang Sampler [4.588028371034406]
本稿では, 連続時間非可逆マルコフ連鎖モンテカルロアルゴリズムの新たなクラスとして, ブーメラン・サンプラーを導入する。
提案手法は実装が容易であることを実証し,既存のベンチマークを断片的決定論的マルコフプロセスより優れていることを示す。
論文 参考訳(メタデータ) (2020-06-24T14:52:22Z) - Block-Approximated Exponential Random Graphs [77.4792558024487]
指数乱グラフ(ERG)の分野における重要な課題は、大きなグラフ上の非自明なERGの適合である。
本稿では,非自明なERGに対する近似フレームワークを提案する。
我々の手法は、数百万のノードからなるスパースグラフにスケーラブルである。
論文 参考訳(メタデータ) (2020-02-14T11:42:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。