論文の概要: Intrinsic Selection and Particle Resampling for Inference-Time Scaling Beyond Domain Verifiability

• arxiv url: http://arxiv.org/abs/2606.08850v1
• Date: Sun, 07 Jun 2026 21:43:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-09 14:42:06.485232
• Title: Intrinsic Selection and Particle Resampling for Inference-Time Scaling Beyond Domain Verifiability
• Title（参考訳）: ドメイン検証性を超えた推論時間スケーリングのための固有選択と粒子再サンプリング
• Authors: Giorgio Giannone, Mustafa Eyceoz, Shabana Baig, Shivchander Sudalairaj, Anna C. Doris, Faez Ahmed, Akash Srivastava, Kai Xu,
• Abstract要約: 推論時間スケーリング(ITS)は、数学やコーディングといった検証可能な領域で大きく成功している。 しかし、ITSを系統的な失敗に陥るタスクに拡張することは、通常、コストのかかる外部解決器や不安定なモデルベースの検証器に依存する。 私たちのパイプラインは、広義、ドメイン特化、マルチモーダルアーキテクチャにシームレスに適用します。
• 参考スコア（独自算出の注目度）: 15.77992479706947
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Inference-Time Scaling (ITS) has largely succeeded in verifiable domains like math and coding, where cheap verification enables scalable output selection. However, extending ITS to tasks prone to systematic failure - driven by faulty initial assumptions or unmet multidimensional constraints - typically relies on costly external solvers or brittle, model-based verifiers. Our key insight is that the intrinsic statistics of parallel sample sets, specifically length-adjusted tail entropy, provide a robust discriminative signal for solution quality without access to ground truth. Crucially, these statistics serve as a difficulty gate for adaptive compute allocation, dynamically routing problems across scaling regimes. First, Intrinsic Selection (iS) ranks candidates post-hoc, matching consensus-based algorithms across three domains and improving engineering design selection by 20% over pass@1 baselines. Second, Intrinsic Particle Filtering (iPF) generalizes this to step-level resampling, guiding generation toward high-confidence reasoning trajectories to improve pass@1 by 6.1 points on average on hard math problems. Finally, Particle Distillation (dPF) injects privileged guidance via early logit blending and KL-guided resampling, steering generation past systematic reasoning errors to satisfy expert rubrics, yielding up to 26.5% gains on complex clinical responses. Our pipeline applies seamlessly across broad-purpose, domain-specialized, and multimodal architectures, successfully extending ITS to open-ended domains without requiring trained reward models or exact ground-truth verification.
• Abstract（参考訳）: 推論時間スケーリング(ITS)は数学やコーディングといった検証可能な領域で大きく成功している。 しかしながら、ITSを体系的な失敗に拡張することは、最初の仮定の欠陥や多次元の制約によって引き起こされる、系統的な失敗を招きやすい。 我々の重要な洞察は、特に長さ調整された尾のエントロピーの並列サンプル集合の固有統計が、基底真理にアクセスできることなく、解品質の堅牢な識別信号を提供するということである。 重要な点として、これらの統計は適応的な計算割り当ての難易度ゲートとして機能し、スケーリングレシスタンスにまたがる動的ルーティング問題として機能する。 第一に、Intrinsic Selection (iS)は、ポストホック、コンセンサスベースのアルゴリズムを3つのドメインで一致させ、pass@1ベースラインを越え、エンジニアリング設計の選択を20%改善する。 第二に、固有粒子フィルタリング(iPF)は、これをステップレベルの再サンプリングに一般化し、高信頼推論軌道への生成を誘導し、ハード数学の問題を平均6.1ポイント改善する。 最後に、dPF(Particle Distillation)は、初期のロジットブレンディングとKL誘導再サンプリングを通じて特権的なガイダンスを注入し、複雑な臨床反応に対して最大26.5%の利益をもたらす。 我々のパイプラインは、広義、ドメイン特化、マルチモーダルアーキテクチャをシームレスに適用し、訓練された報酬モデルや正確な地道検証を必要とせずに、ITSをオープンなドメインに拡張することに成功しました。

関連論文リスト

• DISA: Offline Importance Sampling for Distribution-Matching LLM-RL [56.9445657766829]
  本稿では、このキャリブレーション問題をRLループの外に移動させるdisAを紹介する。 DISAは提案トラジェクトリをオフラインに描画し、重要サンプリングによってパーティション関数を推定し、結果として発生するパーティション関数の推定を凍結する。 6つの数学と3つのコードベンチマークにまたがる2つのオープンウェイトなバックボーンでは、DisdisAはオンラインに結合した分散マッチングベースラインフローにマッチするか、超えている。
  論文  参考訳（メタデータ） (2026-05-17T07:14:44Z)
• Too Correct to Learn: Reinforcement Learning on Saturated Reasoning Data [55.84428098924793]
  構造保存探索を行うためのパラメータ自由復号法である Constrained Uniform Top-K Smpling (CUTS) を提案する。 グループ内の利点分散を増幅するために、エクスプロイトと探索的なロールアウトを相乗化するためのトレーニングフレームワークであるMixed-CUTSに統合する。 特にMixed-CUTSは、AIME25ベンチマークのPass@1の精度を標準のGRPOよりも15.1%向上している。
  論文  参考訳（メタデータ） (2026-04-20T16:43:28Z)
• Think Twice Before You Write -- an Entropy-based Decoding Strategy to Enhance LLM Reasoning [32.332197731504046]
  デコード戦略は、大きな言語モデルの推論能力を形成する上で、中心的な役割を果たす。 グレディ復号やビームサーチといった従来の手法は、しばしばエラーの伝播に悩まされる。 本稿では,トークンレベルの適応性を世代に導入するエントロピー誘導復号化フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-03-10T23:08:26Z)
• ODAR: Principled Adaptive Routing for LLM Reasoning via Active Inference [60.958331943869126]
  ODAR-Expertは、原則化されたリソース割り当てによる精度と効率のトレードオフを最適化する適応的なルーティングフレームワークである。 我々は、MATHの98.2%の精度、HumanityのLast Examの54.8%を含む、強く一貫した利得を示している。
  論文  参考訳（メタデータ） (2026-02-27T05:22:01Z)
• Overconfident Errors Need Stronger Correction: Asymmetric Confidence Penalties for Reinforcement Learning [17.384089089363382]
  既存の手法が見落としている根本原因を同定する。 現在のアプローチでは、グループ内のすべての誤ったロールアウトを同一に扱う。 非対称信頼度を考慮した誤り罰(ACE)を提案する。
  論文  参考訳（メタデータ） (2026-02-24T22:46:43Z)
• R^2-HGP: A Double-Regularized Gaussian Process for Heterogeneous Transfer Learning [15.278249213859844]
  多出力ガウス過程(MGP)モデルは、その柔軟性と不確実性量子化能力に大きな注目を集めている。 マルチソース・トランスファー・ラーニングのシナリオでは、タスク間の相関を捉える能力から広く採用されている。 本稿では、転送学習におけるいくつかの課題を克服するために、二重規則化ヘテロジニアスガウスプロセスフレームワーク(R2-HGP)を提案する。
  論文  参考訳（メタデータ） (2025-12-11T03:38:20Z)
• Mitigating Premature Exploitation in Particle-based Monte Carlo for Inference-Time Scaling [15.828750560145751]
  推論時間スケーリング(ITS)は、世代毎により多くの計算を割り当てることで、言語モデルを改善する。 PFは複雑な数学的推論タスクのための強力なITS手法として登場した。 プロセス報酬モデルによって導かれると脆弱性があり、しばしば推論プロセスの早い段階で過信のスコアを割り当てる。 この障害モードは、特に制約された計算予算の下では、パーティクル・インバディション(Particle Impoverishment)として知られている。 本稿では,この問題を解決するために2つの新しい手法を統合するアルゴリズムであるEntropic Particle Filtering (ePF)を紹介する。
  論文  参考訳（メタデータ） (2025-10-07T11:48:32Z)
• Automatic Failure Attribution and Critical Step Prediction Method for Multi-Agent Systems Based on Causal Inference [8.823529310904162]
  マルチエージェントシステム(MAS)は複雑なタスクの自動化に不可欠であるが、その実践的展開は障害帰属の課題によって妨げられている。 マルチグラニュラリティ因果推論に基づくMASのための最初の失敗帰属フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-09-10T15:22:00Z)
• Efficiently Training Deep-Learning Parametric Policies using Lagrangian Duality [55.06411438416805]
  制約付きマルコフ決定プロセス(CMDP)は、多くの高度な応用において重要である。 本稿では,パラメトリックアクターポリシーを効率的に訓練するための2段階深度決定規則(TS-DDR)を提案する。 現状の手法と比較して, 解の質を高め, 数桁の計算時間を削減できることが示されている。
  論文  参考訳（メタデータ） (2024-05-23T18:19:47Z)
• Task-Oriented Sensing, Computation, and Communication Integration for Multi-Device Edge AI [108.08079323459822]
  本稿では,AIモデルの分割推論と統合センシング通信(ISAC)を併用した,新しいマルチインテリジェントエッジ人工レイテンシ(AI)システムについて検討する。 推定精度は近似的だが抽出可能な計量、すなわち判別利得を用いて測定する。
  論文  参考訳（メタデータ） (2022-07-03T06:57:07Z)
• Coarse to Fine: Domain Adaptive Crowd Counting via Adversarial Scoring Network [58.05473757538834]
  本稿では,ドメイン間のギャップを粗い粒度から細かな粒度に埋める新しい逆スコアリングネットワーク (ASNet) を提案する。 3組のマイグレーション実験により,提案手法が最先端のカウント性能を実現することを示す。
  論文  参考訳（メタデータ） (2021-07-27T14:47:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。