論文の概要: When Metropolis and Hastings Meet Bradley and Terry: Exact MCMC From Preference Voting
- arxiv url: http://arxiv.org/abs/2609.00905v1
- Date: Tue, 01 Sep 2026 08:36:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-02 16:31:36.48185
- Title: When Metropolis and Hastings Meet Bradley and Terry: Exact MCMC From Preference Voting
- Title(参考訳): メトロポリスとヘイスティングスがブラッドリーとテリーに会った時: 選好投票からMCMCを排除
- Authors: Ariel Smogorghevski, Nir Rosenfeld, Yaniv Romano,
- Abstract要約: 本稿では,判断誘導条件分布のための一般的な正確なMHサンプリングであるPref-MHを紹介する。
我々は、マルコフ連鎖が目標分布に確実に収束する有効なアクセプション/リジェクト則を開発する。
LLM審査員によるテキスト生成と分子設計の実験、およびVLM審査員による画像生成は、Pref-MHが条件付きサンプリングに対して実用的で柔軟なアプローチを提供することを示した。
- 参考スコア(独自算出の注目度): 33.49897937017761
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Sampling from distributions conditioned on desired semantic properties is an emerging challenge in modern generative modeling. Metropolis-Hastings (MH) provides a principled route to conditional sampling, but requires access to exact pointwise target-density evaluations, which are not available in generative settings. Meanwhile, pairwise comparisons by humans or model "judge" are highly accessible and have proved valuable across diverse applications. We introduce Pref-MH, a general exact MH sampler for judge-induced conditional distributions using only stochastic binary pairwise comparisons. Our key observation is that the MH unnormalized density ratio matches the preference odds of the Bradley-Terry (BT) choice model. The central challenge is that while MH requires precise ratio computation, BT judges provide only sampled binary feedback. To this end, we develop a valid accept/reject rule whose resulting Markov chain provably converges to the target distribution. We further show that, for a fixed proposal kernel and budget, Pref-MH is optimal in the Peskun-Tierney sense among this class of exact reversible acceptance rules. Experiments on text generation and molecular design with LLM judges, as well as image generation with VLM judges, demonstrate that Pref-MH provides a practical and flexible approach to conditional sampling when comparative feedback is relatively easy to obtain.
- Abstract(参考訳): 所望のセマンティックな性質を前提とした分布からのサンプリングは、現代の生成モデリングにおいて新たな課題である。
MH(Metropolis-Hastings)は、条件付きサンプリングへの原則的なルートを提供するが、生成的設定では利用できない正確なポイントワイドターゲット密度評価へのアクセスを必要とする。
一方、人間によるペアワイズ比較やモデル"ジャッジ"は、非常にアクセスしやすく、多様なアプリケーションで価値が証明されている。
確率的二元対比較のみを用いた判断誘導条件分布のための一般正確なMHサンプリングであるPref-MHを紹介する。
我々のキーとなる観察は、MH非正規化密度比がブラッドリー・テリー選択モデル(BT)の選好確率と一致することである。
MHは精度の高い比計算を必要とするが、BTの審査員はサンプル化されたバイナリフィードバックのみを提供する。
この目的のために、マルコフ連鎖が目標分布に確実に収束する有効なアクセプション/リジェクト則を開発する。
さらに、固定された提案カーネルと予算に対して、Pref-MHは、このクラスにおける正確な可逆的受容規則の中で、ペスクン=ティアーニーの意味で最適であることを示す。
LLM審査員によるテキスト生成と分子設計、およびVLM審査員による画像生成の実験は、Pref-MHが比較的容易に得られる条件付きサンプリングに実用的で柔軟なアプローチを提供することを示した。
関連論文リスト
- Proximal-IMH: Proximal Posterior Proposals for Independent Metropolis-Hastings with Approximate Operators [4.887201041798969]
本稿では,近似後部からのサンプルを補助最適化問題により補正する手法であるProximal-IMHを紹介する。
最適設定のために、近似補正が近似後部と正確な後部とのマッチングを締め付け、受容率と混合率を向上させることを証明した。
この方法は線形および非線形入力出力演算子の両方に適用され、特に正確な後方サンプリングが高価すぎる逆問題に向いている。
論文 参考訳(メタデータ) (2026-02-24T22:58:50Z) - Learnable Chernoff Baselines for Inference-Time Alignment [64.81256817158851]
本稿では,指数関数的に傾いたカーネルから効率よく,およそサンプリングする方法として,Learnerable Chernoff Baselinesを紹介した。
理想的なモデルに対する全変量保証を確立し、LCBサンプリングが理想的拒絶サンプリングと密接に一致するような連続的および離散的な拡散設定を実証する。
論文 参考訳(メタデータ) (2026-02-08T00:09:40Z) - Efficient MAP Estimation of LLM Judgment Performance with Prior Transfer [36.046397576509584]
LLMアンサンブル判定の性能を経済的かつ高精度に評価するための,原則的最大アンサンブル(MAP)フレームワークを提案する。
また、我々の分布仮定、適応停止、および理論的に保証された分布推定を提供する事前転送メカニズムを統合するフレームワークであるBetaConformも提示する。
論文 参考訳(メタデータ) (2025-04-17T02:08:51Z) - Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。
その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。
この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
論文 参考訳(メタデータ) (2024-10-17T16:42:12Z) - A Block Metropolis-Hastings Sampler for Controllable Energy-based Text
Generation [78.81021361497311]
我々は,大規模言語モデルの反復的プロンプトを通じて,各ステップにおけるシーケンス全体の書き直しを提案する新しいメトロポリス・ハスティングス(MH)サンプリング器を開発した。
対象分布からより効率的かつ正確なサンプリングが可能となり, (b) 事前に固定するのではなく, サンプリング手順により生成長を決定することが可能となった。
論文 参考訳(メタデータ) (2023-12-07T18:30:15Z) - Distributionally Robust Models with Parametric Likelihood Ratios [123.05074253513935]
3つの単純なアイデアにより、より広いパラメトリックな確率比のクラスを用いてDROでモデルを訓練することができる。
パラメトリック逆数を用いてトレーニングしたモデルは、他のDROアプローチと比較して、サブポピュレーションシフトに対して一貫して頑健であることがわかった。
論文 参考訳(メタデータ) (2022-04-13T12:43:12Z) - Sampling from Discrete Energy-Based Models with Quality/Efficiency
Trade-offs [3.491202838583993]
エネルギーベースモデル(EBM)は、確率分布の非常に柔軟な仕様を可能にする。
これらの分布から正確なサンプルを得るためのメカニズムは提供されていない。
そこで本研究では,サンプリング効率とサンプリング品質のトレードオフを可能にする,新しい近似サンプリング手法であるQuasi Rejection Smpling (QRS)を提案する。
論文 参考訳(メタデータ) (2021-12-10T17:51:37Z) - Approximate Bayesian inference from noisy likelihoods with Gaussian
process emulated MCMC [0.24275655667345403]
ガウス過程(GP)を用いた対数様関数をモデル化する。
主な方法論的革新は、正確なメトロポリス・ハスティングス(MH)サンプリングが行う進歩をエミュレートするためにこのモデルを適用することである。
得られた近似サンプリング器は概念的には単純で、試料効率が高い。
論文 参考訳(メタデータ) (2021-04-08T17:38:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。