論文の概要: The information geometry of product-reference discrete diffusion: Interaction growth complexity and optimal scheduling
- arxiv url: http://arxiv.org/abs/2608.28949v1
- Date: Fri, 28 Aug 2026 23:38:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-01 18:31:30.793307
- Title: The information geometry of product-reference discrete diffusion: Interaction growth complexity and optimal scheduling
- Title（参考訳）: 製品参照離散拡散の情報幾何学:相互作用成長複雑性と最適スケジューリング
- Abstract要約: 離散分布から抽出する製品参照拡散アルゴリズムのクラスについて検討する。
データジオメトリのパスベース尺度を用いて, サンプリング性能を評価できることを示す。
- 参考スコア（独自算出の注目度）: 14.877292137182422
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study a class of product-reference diffusion algorithms for sampling from a discrete distribution. We show that their sampling performance can be characterized using a path-based measure of data geometry that we call the interaction growth complexity (IGC). We show that a bivariate IGC kernel gives an exact representation of both the KL discretization error and a simple one-step upper bound. The simpler univariate IGC density can be used to study the effect of stepsize choices on the iteration complexity required to obtain $ε$-accurate samples in KL divergence. Samplers that traverse the path with equi-spaced steps in log-squared-reliability-odds have performance that depends on the aggregate IGC mass, whereas refined choices of stepsizes have a lower complexity depending on a square-root functional. In the fine-grid limit, both of these characterizations become sharp. We also allow general product reference distributions and show that the reference law can substantially reshape the IGC profile and the resulting sampling complexity; in particular, references far from both the uniform and the data marginals can yield dimension-dependent improvements. Finally, the aggregate IGC mass admits bounds in terms of total correlation and dual total correlation, thereby connecting the pathwise geometry to classical measures of multivariate dependence.
- Abstract（参考訳）: 離散分布から抽出する製品参照拡散アルゴリズムのクラスについて検討する。
本稿では, 相互作用成長複雑性 (IGC) と呼ばれるデータジオメトリのパスベース尺度を用いて, そのサンプリング性能を評価できることを示す。
両変数IGCカーネルは、KL離散化誤差と単純な1ステップ上界の両方の正確な表現を与えることを示す。
より単純な単変量IGC密度は、KL分散における$ε$-正確なサンプルを得るのに必要なイテレーションの複雑さに対する段階的な選択の影響を研究するために用いられる。
対数二乗信頼性オードの等間隔ステップで経路を横切るサンプリングは、集約IGC質量に依存する性能を持つが、ステップサイズの洗練された選択は平方根関数に依存する複雑さが低い。
細粒度限界では、これらの特徴はどちらも鋭くなっている。
また、一般製品参照分布を許容し、参照法則がIGCプロファイルと結果のサンプリング複雑性を実質的に再構成できることを示し、特に、均一性とデータ辺縁の両方から遠く離れた参照は次元依存的な改善をもたらす。
最後に、集合 IGC 質量は総相関と双対総相関の点で境界を認め、経路幾何学と古典的多変量依存の測度を接続する。
関連論文リスト
- The data geometry of masking diffusion: Certified-optimal schedules via unmasking growth complexity [14.877292137182422]
離散サンプリングのためのマスキング拡散について検討し、インフンマスキング成長複雑性(textsfUGCxspace)と呼ばれるデータ幾何学の経路分解尺度を導入する。
局所的なインクリメントは、KL(Kullback--Leibler)の離散化誤差を直接制御し、ベルヌーイ部分集合と固定値アンマスキングスキームを統一的に解析する。
論文 参考訳（メタデータ） (2026-08-13T17:40:17Z) - Multi-kernel spectral clustering: Entrywise eigenvector perturbation bounds and exact recovery [5.506184984859199]
単一帯域幅のカーネルスペクトルクラスタリングは、複数の特性対距離スケールを示すデータには不十分である。
我々は、異なる帯域幅のカーネルを集約するマルチカーネルの定式化によってこの問題に対処する。
一般の高次元多スケール混合モデルに基づく厳密な理論解析法を開発した。
論文 参考訳（メタデータ） (2026-08-09T13:34:27Z) - Denoising growth complexity: Data geometry and certified schedules for diffusion sampling [14.877292137182422]
我々は、$mathsfDGC$インクリメントが、革新表現に適用されたオイラースキームのKL誤差に単純で明示的な境界をもたらすことを示す。
我々は、より単純なシングルブロック設定とより洗練された$K$ブロック設定の両方において、最適化されたステップサイズスケジュールに対するKLサンプリング保証を導出する。
論文 参考訳（メタデータ） (2026-07-28T21:26:16Z) - Rethinking Heterogeneous LLM Merging: A Weighted Model Averaging Perspective [41.30735431552607]
異種融合法は通常、アダプタ、学習された潜在空間、ルーティング、機能アライメントを導入する。
学習自由次元適応と比制御比による反直感的質問を再考する。
その結果, 簡易パラメータ平均化は, 軽量次元適応と慎重に制御された比とを組み合わせれば, 不均一なマージに対する驚くほど強力なベースラインであることが示唆された。
論文 参考訳（メタデータ） (2026-07-20T14:58:53Z) - Influence-Guided Symbolic Regression: Scientific Discovery via LLM-Driven Equation Search with Granular Feedback [56.69850045068714]
逐次的2段階プロセスとして方程式発見をフレーム化する方法である textitInfluence-Guided Regression (IGSR) を導入する。
LLM-SRBench, 薬理学的PKPDモデル, 疫学シミュレーション, 実世界のゲノムデータなど, IGSRの有効性を示す。
論文 参考訳（メタデータ） (2026-05-27T23:48:01Z) - SEED: Targeted Data Selection by Weighted Independent Set [76.68391670109433]
我々はSEEDと呼ばれる堅牢でスケーラブルなデータ選択パイプラインを開発した。
SEEDは、命令チューニング、視覚的命令チューニング、セマンティックセグメンテーションにおける最先端の手法を一貫して上回っている。
論文 参考訳（メタデータ） (2026-05-15T07:26:54Z) - Gradient-Based Feature Learning under Structured Data [57.76552698981579]
異方性設定では、一般的に使用される球面勾配力学は真の方向を回復できないことがある。
バッチ正規化を連想させる適切な重み正規化は、この問題を軽減することができることを示す。
特に、スパイクモデルの下では、勾配に基づくトレーニングのサンプルの複雑さは情報指数とは独立にできる。
論文 参考訳（メタデータ） (2023-09-07T16:55:50Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳（メタデータ） (2023-06-27T08:15:28Z) - Spatially relaxed inference on high-dimensional linear models [48.989769153211995]
本研究では,空間的に制約されたクラスタリング,統計的推論,アンサンブルを組み合わせ,複数のクラスタリング推論解を集約するアンサンブルクラスタリング推論アルゴリズムの特性について検討する。
アンサンブルクラスタ推論アルゴリズムは,最大クラスター径に等しい$delta$-FWERの標準仮定で$delta$-FWERを制御することを示す。
論文 参考訳（メタデータ） (2021-06-04T16:37:19Z) - EiGLasso for Scalable Sparse Kronecker-Sum Inverse Covariance Estimation [1.370633147306388]
我々はKronecker-sum逆共分散推定のための高度にスケーラブルなKronecker-sum逆共分散推定法であるEeiGLassoを紹介する。
EiGLassoは既存の手法に比べて2～3桁の速度アップを実現していることを示す。
論文 参考訳（メタデータ） (2021-05-20T16:22:50Z) - GANs with Variational Entropy Regularizers: Applications in Mitigating
the Mode-Collapse Issue [95.23775347605923]
深層学習の成功に基づいて、GAN(Generative Adversarial Networks)は、観測されたサンプルから確率分布を学習するための現代的なアプローチを提供する。
GANはしばしば、ジェネレータが入力分布の既存のすべてのモードをキャプチャできないモード崩壊問題に悩まされる。
情報理論のアプローチを採り、生成したサンプルのエントロピーの変動的下限を最大化し、それらの多様性を増大させる。
論文 参考訳（メタデータ） (2020-09-24T19:34:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。