Fugu-MT 論文翻訳(概要): Fast-Mixing Markov Chains without Gradients

論文の概要: Fast-Mixing Markov Chains without Gradients

arxiv url: http://arxiv.org/abs/2606.27564v1
Date: Thu, 25 Jun 2026 21:43:50 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-28 05:09:55.122259
Title: Fast-Mixing Markov Chains without Gradients
Title（参考訳）: 高速ミキシング型マルコフ鎖
Abstract要約: 本稿では,目標密度の勾配レベルの幾何情報を活用するために,サロゲートに基づくメトロポリス・ハスティングの提案を提案する。建設は、提案項目の規則化とテンパリングに依存している。予測された提案変位は,制御誤差までLangevinのドリフトと一致することを示す。
参考スコア（独自算出の注目度）: 0.3867363075280543
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Most approaches for accelerating Markov chain mixing either rely on incorporating expensive geometric information in the proposals, or reduce the per-step cost of sampling via surrogate densities. We propose a localisation principle that allows a surrogate-based Metropolis-Hastings proposal to exploit gradient-level geometric information of the target density, without evaluating either the target gradient or the surrogate gradient. The construction relies on regularisation and tempering of the proposal measure. We show that the expected proposal displacement coincides with the Langevin drift up to controlled error. The resulting framework, Delayed Acceptance with Regularisation and Tempering (DART), achieves an $O(κ\max\{κ, d\})$ mixing time from warm start for strongly log-concave targets with condition number $κ$ in $d$ dimensions. This matches the known $O(κd)$ rate for MALA when $d \ge κ$, and scales as $O(κ^2)$, independent of dimension, otherwise. This is, to our knowledge, the first mixing time guarantee for a surrogate-transition-based MCMC method. We demonstrate DART on a hierarchical spatial generalised linear mixed model. In this setting, the Dirichlet-Neumann averaging parametrisation, originally introduced for the efficient simulation of Gaussian processes, is repurposed to supply the surrogate, and its linear memory and log-linear arithmetic scaling in the number of observation sites carry over to inference.
Abstract（参考訳）: マルコフ連鎖の混合を加速するためのほとんどのアプローチは、提案書に高価な幾何学的情報を導入するか、あるいは代理密度によるサンプリングのステップあたりのコストを削減するかに依存する。本稿では,サロゲートをベースとしたメトロポリス・ハスティングスの提案で,ターゲットの勾配やサロゲートの勾配を評価することなく,目標密度の勾配レベルの幾何的情報を利用するローカライゼーション原理を提案する。建設は、提案項目の規則化とテンパリングに依存している。予測された提案変位は,制御誤差までLangevinのドリフトと一致することを示す。結果として得られるフレームワークであるDelayed Acceptance with Regularisation and Tempering (DART)は、$O(κ\max\{κ, d\})$ mixed time from warm start for strong log-concave target with condition number $κ$ in $d$ dimensionsを達成する。これは、$d \ge κ$のときのMALAの既知の$O(κd)$レートと一致し、次元に依存しない$O(κ^2)$としてスケールする。これは、我々の知る限り、Surrogate-transition-based MCMC法に対する最初の混合時間保証である。階層型空間一般化線形混合モデル上でDARTを実証する。この設定では、当初ガウス過程の効率的なシミュレーションのために導入されたディリクレ・ノイマン平均化パラメトリションがサロゲートの供給に再利用され、その線形メモリと対数線形の計算スケーリングが推測に受け継がれる。

関連論文リスト

Scalable Lindblad Noise Learning via Stochastic Tensor-Network Simulation [48.887627688666974]
大規模オープン量子システムにおける学習散逸率は、短期量子技術の大きな障害である。本稿では,シミュレーション手法であるJump Method(TJM)を組み合わせたLindblad散逸率のスケーラブルなノイズ学習フレームワークを提案する。我々は,Isingモデルにおける2つのノイズモデルに対するアプローチを実証し,各サイトについて,N_mathrmsite=16$まで独立散逸率を学習した。スケーラブルな数値と厳密な理論的保証の組み合わせは、TJMベースのノイズ学習を大きな量子デバイスにおける散逸を特徴づける実用的な基礎として位置づけている。
論文参考訳（メタデータ） (2026-08-25T15:07:11Z)
Robust stochastic first order methods in heavy-tailed noise via medoid mini-batch gradient sampling [1.439518478021091]
1次最適化フレームワークを考えると、各イテレーションで$K$独立分散データポイントサンプル(すなわち、d.d.)が描画される。本稿では,ロバストDescent GradientMiniという新しい一階勾配アルゴリズムを提案する。実験結果から, R-SGD-Mini とそのクリッピング変異体は, Median-of-Means 法と比較して一貫した性能を示した。
論文参考訳（メタデータ） (2026-05-08T12:01:25Z)
Minimax Optimality and Spectral Routing for Majority-Vote Ensembles under Markov Dependence [6.908972852063454]
主要声楽アンサンブルは、多種多様なほぼ独立した基礎学習者に対して平均化することにより、ばらつきの低減を実現する。固定次元マルコフ集合における離散的な分類のために、この現象のミニマックス的特徴付けを行う。合成マルコフ連鎖、2次元空間格子、128データセットのUCRアーカイブ、アタリDQNアンサンブルに関する実験は、理論的な予測を検証している。
論文参考訳（メタデータ） (2026-04-15T02:32:30Z)
Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
論文参考訳（メタデータ） (2026-02-24T05:32:03Z)
Generalized Gradient Norm Clipping & Non-Euclidean $(L_0,L_1)$-Smoothness [51.302674884611335]
本研究は、急勾配と条件勾配のアプローチを組み合わせることでノルムクリッピングを一般化するハイブリッド非ユークリッド最適化手法を提案する。本稿では、ディープラーニングのためのアルゴリズムのインスタンス化について論じ、画像分類と言語モデリングにおけるそれらの特性を実証する。
論文参考訳（メタデータ） (2025-06-02T17:34:29Z)
High-accuracy sampling from constrained spaces with the Metropolis-adjusted Preconditioned Langevin Algorithm [12.405427902037971]
本稿では,$mathbbRd$の適切な凸部分集合である対象分布から近似サンプリングを行う1次サンプリング法を提案する。提案手法は,事前条件付きLangevinアルゴリズムの単一ステップで生成したマルコフ連鎖にメトロポリス・ハスティングスフィルタを適用した結果である。
論文参考訳（メタデータ） (2024-12-24T23:21:23Z)
Fast Margin Maximization via Dual Acceleration [52.62944011696364]
指数関数的尾の損失を持つ線形分類器を訓練するための運動量に基づく手法を提案し,解析する。この運動量に基づく法は、最大マルジン問題の凸双対、特にこの双対にネステロフ加速度を適用することによって導出される。
論文参考訳（メタデータ） (2021-07-01T16:36:39Z)
On the Convergence of Stochastic Extragradient for Bilinear Games with Restarted Iteration Averaging [96.13485146617322]
本稿では, ステップサイズが一定であるSEG法の解析を行い, 良好な収束をもたらす手法のバリエーションを示す。平均化で拡張した場合、SEGはナッシュ平衡に確実に収束し、スケジュールされた再起動手順を組み込むことで、その速度が確実に加速されることを証明した。
論文参考訳（メタデータ） (2021-06-30T17:51:36Z)
A New Framework for Variance-Reduced Hamiltonian Monte Carlo [88.84622104944503]
分散還元型ハミルトン・モンテカルロ法 (HMC) の新たなフレームワークを提案し,$L$-smooth および $m$-strongly log-concave 分布からサンプリングする。本研究では,SAGA法やSVRG法をベースとした非バイアス勾配推定器を用いて,バッチサイズを小さくすることで,高い勾配効率が得られることを示す。総合的および実世界のベンチマークデータによる実験結果から、我々の新しいフレームワークは、完全な勾配と勾配HMCアプローチを著しく上回っていることが示された。
論文参考訳（メタデータ） (2021-02-09T02:44:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。