論文の概要: Adaptive Self-Consistency: From Black-Box Sampling to Distribution-Valued Feedback

• arxiv url: http://arxiv.org/abs/2609.38931v1
• Date: Wed, 30 Sep 2026 04:10:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:27.162116
• Title: Adaptive Self-Consistency: From Black-Box Sampling to Distribution-Valued Feedback
• Title（参考訳）: 適応的自己整合性:ブラックボックスサンプリングから分散価値フィードバックへ
• Abstract要約: 自己整合性は多くの推論軌道をサンプリングし、最終的な答えを集約する。 各軌道の最終回答は、モデルの対数確率から得られるソフトマックスベクトルからサンプリングされる。 この設定では、分布値観測による逐次モード同定として効率的な推論を定式化する。 MMLU-Reduxでは、ASC-Dが46.4$-95.6%$のトラジェクトリを使用する。
• 参考スコア（独自算出の注目度）: 22.518656754331747
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Self-consistency samples many reasoning trajectories and aggregates their final answers, treating the LLM as a black box that returns one answer per trajectory. Yet the final answer of each trajectory is sampled from a softmax vector that is available from the model's log-probabilities. We refer to this as the grey-box setting in which each trajectory reveals this answer distribution rather than a single draw from it. We formulate efficient inference in this setting as sequential mode identification with distribution-valued observations: sample trajectories one at a time and stop as soon as the LLM's modal answer is identified at a prescribed confidence level. We characterize the asymptotic stopping rate of mode identification with distribution-valued observations exactly and show that it is never worse than the black-box rate. We then propose the ASC-D algorithm, a betting stopping rule that attains this asymptotic stopping rate. On MMLU-Redux, ASC-D uses $46.4$--$95.6\%$ fewer trajectories than answer-only adaptive self-consistency baselines and achieves the highest fixed-budget correct-certification rate across three open-source models.
• Abstract（参考訳）: 自己整合性は、多くの推論軌道をサンプリングし、最後の答えを集約し、LSMを1軌道当たりの1つの答えを返すブラックボックスとして扱う。 しかし、各軌道の最終解はモデルの対数確率から得られるソフトマックスベクトルからサンプリングされる。 これをグレーボックスの設定と呼び、各軌道がこの解の分布を1つではなく1つの引き数で表す。 我々は、この設定における効率的な推論を、分布評価観測によるシーケンシャルモード同定として定式化し、LLMのモーダル応答が所定の信頼度で特定されると、サンプル軌道は一度に1つずつ停止する。 分布評価観測によるモード識別の漸近的停止率を正確に評価し,ブラックボックスレートよりも決して悪いものではないことを示す。 次に、この漸近的な停止率を達成するベッティング停止規則であるASC-Dアルゴリズムを提案する。 MMLU-Reduxでは、ASC-Dは回答のみの適応的自己整合性ベースラインよりも4,6.4$--95.6\%$少ないトラジェクトリを使用し、3つのオープンソースモデルで最高の固定予算の正認証率を達成する。

関連論文リスト

• Sample-Adaptive Latent Rewards for Uncertainty-Guided Diffusion Post-Training [51.18425726646089]
  我々は、画像とビデオの拡散モデルのための統合潜在空間フレームワークであるtextscSUREを提案する。 報酬分布を学習し、信頼性を直接利用して、密集したポストトレーニングをガイドする。 textscSURE-REFLは評価手法の中で最も高いVBench品質、セマンティック、総得点を達成する。
  論文  参考訳（メタデータ） (2026-08-06T14:55:42Z)
• Optimizing Visual Generative Models via Distribution-wise Rewards [57.46109819595665]
  本稿では,実世界のデータ分布との整合性を確保するために,分布ワイド報酬を用いた生成モデルを微調整する新しいフレームワークを提案する。 提案手法は,SiTでは5.77,EDM2では3.74から3.52まで,様々なベースモデルでFID-50Kを大幅に改善する。
  論文  参考訳（メタデータ） (2026-07-02T15:08:56Z)
• MARBLE: Multi-Aspect Reward Balance for Diffusion RL [71.6241143519038]
  強化学習は、拡散モデルと人間の嗜好を整合させる主要なアプローチとなっている。 既存のプラクティスは、報酬ごとに1つのスペシャリストモデルをトレーニングすることで、複数の報酬を処理します。 我々は,各報酬に対する独立な優位推定器を維持する勾配空間最適化フレームワークMARBLEを提案する。
  論文  参考訳（メタデータ） (2026-05-07T16:20:42Z)
• Test-Time Scaling with Diffusion Language Models via Reward-Guided Stitching [66.39914384073145]
  本稿では,安価な拡散サンプリング推論をステップレベル候補の再利用プールに変換する自己整合性フレームワークを提案する。 ステップレベルの再結合は、難しい問題に対して最も有益であることがわかった。 トレーニング不要のフレームワークは、6つの数学およびコーディングタスクの平均精度を最大2倍改善します。
  論文  参考訳（メタデータ） (2026-02-26T11:08:39Z)
• Score-based sampling without diffusions: Guidance from a simple and modular scheme [0.0]
  本稿では, (a) 端末分布, (b) それぞれが強対数凹凸(SLC)分布で定義される前方軌道を設計する方法を示す。 このモジュラーリダクションは,後方進路を横切るために,空想的なSLCサンプリングアルゴリズムを利用することができる。 高精度ルーチンを使用すると、KL または Wasserstein 距離において $varepsilon$-accurate の答えが得られる。
  論文  参考訳（メタデータ） (2025-12-30T11:34:59Z)
• Tilt Matching for Scalable Sampling and Fine-Tuning [4.14348726233299]
  本研究では,非正規化密度のサンプルや微調整生成モデルに補間剤を用いるスケーラブルなアルゴリズムを提案する。 ティルトマッチング(Tilt Matching)という手法は、流れのマッチング速度と、報酬によって傾いた同じ分布をターゲットにした力学方程式から生じる。 我々は,この手法が効率的かつ高度に拡張可能であることを実証的に検証し,レナード・ジョーンズポテンシャルの下でのサンプリングにおける最先端の結果を提供し,微調整安定拡散に競争力を持つことを示した。
  論文  参考訳（メタデータ） (2025-12-26T02:12:10Z)
• Continuous K-Max Bandits [54.21533414838677]
  我々は、連続的な結果分布と弱い値-インデックスフィードバックを持つ、$K$-Maxのマルチアームバンディット問題について検討する。 この設定は、レコメンデーションシステム、分散コンピューティング、サーバスケジューリングなどにおいて重要なアプリケーションをキャプチャします。 我々の重要な貢献は、適応的な離散化とバイアス補正された信頼境界を組み合わせた計算効率の良いアルゴリズムDCK-UCBである。
  論文  参考訳（メタデータ） (2025-02-19T06:37:37Z)
• Soft-constrained Schrodinger Bridge: a Stochastic Control Approach [4.922305511803267]
  シュル「オーディンガー橋」は、最適に制御された拡散過程を見つけることを目標とする連続時間制御問題と見なすことができる。 本稿では,両分布間のKulback-Leiblerの相違を罰し,端末分布を目標と異なるものにすることで,この問題を一般化することを提案する。 1つの応用は、堅牢な生成拡散モデルの開発である。
  論文  参考訳（メタデータ） (2024-03-04T04:10:24Z)
• Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
  Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。 本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
  論文  参考訳（メタデータ） (2023-06-27T08:15:28Z)
• Model-based Validation as Probabilistic Inference [37.61747231296097]
  障害に対する分散を推定することは、自律システムを検証するための重要なステップである。 逐次システムの故障軌道上の分布をベイズ推定として推定する。 本手法は, 逆振子制御システム, 自律走行シナリオ, 部分的に観測可能な月面着陸機で実証された。
  論文  参考訳（メタデータ） (2023-05-17T03:27:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。