論文の概要: Stepwise Reasoning Verification: Don't Generate, Classify!
- arxiv url: http://arxiv.org/abs/2610.25441v1
- Date: Sun, 18 Oct 2026 18:02:34 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 22:37:25.902012
- Title: Stepwise Reasoning Verification: Don't Generate, Classify!
- Title(参考訳): ステップワイズ推論検証: 生成するな,分類せよ!
- Abstract要約: 我々は、自然言語推論タスクとして段階的に検証を行った。
0.15Bエンコーダ分類は、最大4Bパラメータを持つほとんどの生成検証器より優れている。
本研究は,段階的検証のためのパラメータとデータ効率のアプローチとして分類を確立した。
- 参考スコア(独自算出の注目度): 17.39203660682514
- License:
- Abstract: Verifying the reasoning of large language models is increasingly important as they are applied to complex mathematical and scientific problems. Existing work focuses on large decoder models and reports mixed results for generative and discriminative verifiers, leaving unclear which paradigm is more effective and whether large models are necessary. In this work, we cast stepwise verification as a natural language inference task: the problem and partial solution prefix form the premise, while the next reasoning step serves as the hypothesis to be classified as entailed or non-entailed. This formulation enables error localisation at individual reasoning steps and direct comparison of encoder classification, decoder classification, and decoder verdict generation across model scales and annotation budgets. Across five reasoning datasets, a 0.15B encoder classifier outperforms most generative verifiers with up to 4B parameters. On identical decoder backbones, classification outperforms generation from 0.5B to 4B parameters and matches it on the strongest 7B backbone---reaching comparable performance with roughly one tenth as many annotated problems. Our findings establish classification as a parameter- and data-efficient approach to stepwise verification and show that strong verification does not require large generative decoders.
- Abstract(参考訳): 大規模言語モデルの推論を検証することは、複雑な数学的および科学的な問題に適用されるため、ますます重要である。
既存の研究は、大きなデコーダモデルに焦点をあて、生成的および識別的検証のための混合結果を報告し、どのパラダイムがより効果的か、大きなモデルが必要かは明らかでない。
本研究では,問題と部分解の接頭辞が前提となる自然言語推論タスクとして段階的に検証を行う一方で,次の推論ステップは,関連する仮説や非関連する仮説として機能する。
この定式化により、個々の推論ステップでのエラーローカライゼーションと、エンコーダ分類、デコーダ分類、モデルスケールおよびアノテーション予算間でのデコーダ検証生成の直接比較が可能になる。
5つの推論データセットで、0.15Bエンコーダ分類器は最大4Bパラメータでほとんどの生成検証器より優れている。
同一のデコーダのバックボーンでは、分類は0.5Bから4Bパラメータに上回り、最も強力な7Bバックボーンと一致します。
本研究は、段階的検証のためのパラメータとデータ効率のアプローチとして分類を確立し、高い検証が大きな生成デコーダを必要としないことを示す。
関連論文リスト
- Fine-Grained Emotion Classification from Mobile App Reviews: An Empirical Study with Large Language Models [0.30586855806896046]
モバイルアプリレビューのきめ細かい感情分類は、要求エンジニアリング活動を可能にする。
本稿では,大規模言語モデルを用いたマルチラベル感情の自動分類について検討する。
論文 参考訳(メタデータ) (2026-10-01T07:50:50Z) - Forethought: Verifiable Reasoning from Neurosymbolic Primitive Programming [0.764671395172401]
Forethoughtは、推論を明示的で検証可能なプログラムとして扱う神経象徴的推論システムである。
ベースモデルの精度を約30%向上し、バニラのプロンプト、強化学習足場、即時進化法に勝る。
論文 参考訳(メタデータ) (2026-07-05T03:20:23Z) - Scaling Agentic Verifier for Competitive Coding [66.11758166379092]
大規模言語モデル(LLM)は強力なコーディング能力を示しているが、1回の試行で競合するプログラミング問題を正しく解くのに苦戦している。
実行ベースの再ランク付けは、有望なテスト時間スケーリング戦略を提供するが、既存のメソッドは、難しいテストケースの生成または非効率的なランダム入力サンプリングによって制約される。
本稿では,プログラムの動作を積極的に推論し,高い差別性のあるテスト入力を検索するエージェント検証手法を提案する。
論文 参考訳(メタデータ) (2026-02-04T06:30:40Z) - Generative Classifiers Avoid Shortcut Solutions [84.23247217037134]
分類に対する差別的なアプローチは、しばしば、分配されるが、小さな分布シフトの下で失敗するショートカットを学習する。
生成型分類器は、主にスパイラルな特徴ではなく、コアとスパイラルの両方の全ての特徴をモデル化することでこの問題を回避することができることを示す。
拡散型および自己回帰型生成型分類器は,5つの標準画像およびテキスト分散シフトベンチマークにおいて最先端の性能を実現する。
論文 参考訳(メタデータ) (2025-12-31T18:31:46Z) - BRIDGE: Building Representations In Domain Guided Program Verification [67.36686119518441]
BRIDGEは、検証をコード、仕様、証明の3つの相互接続ドメインに分解する。
提案手法は, 標準誤差フィードバック法よりも精度と効率を著しく向上することを示す。
論文 参考訳(メタデータ) (2025-11-26T06:39:19Z) - What Does It Take to Build a Performant Selective Classifier? [30.90225954725644]
ベイズノイズ,近似誤差,ランキング誤差,統計的ノイズ,実装またはシフト誘起スラックについて検討した。
我々は,合成2モードデータと実世界のビジョンと言語ベンチマークを用いて,その分解を検証した。
その結果, (i)ベイズノイズとモデル容量の制限は, 実質的なギャップを考慮し, (ii) よりリッチで特徴を考慮したキャリブレータのみを有意義に改善し, (iii) データシフトは, 分散的に堅牢なトレーニングを必要とするスラックを別々に導入することを確認した。
論文 参考訳(メタデータ) (2025-10-23T05:48:40Z) - Every Step Counts: Decoding Trajectories as Authorship Fingerprints of dLLMs [63.82840470917859]
本稿では,dLLMの復号化機構をモデル属性の強力なツールとして利用できることを示す。
本稿では、デコードステップ間の構造的関係を捉え、モデル固有の振る舞いをよりよく明らかにする、DDM(Directed Decoding Map)と呼ばれる新しい情報抽出手法を提案する。
論文 参考訳(メタデータ) (2025-10-02T06:25:10Z) - Large Language Models Are Better Logical Fallacy Reasoners with Counterargument, Explanation, and Goal-Aware Prompt Formulation [2.4073494101588273]
本研究は,論理的誤り検出のための新規かつ効果的な高速な定式化手法を提案する。
提案手法は暗黙の文脈情報を含む入力テキストを豊かにすることで,議論の文脈内での妥当性を問う。
5つのドメインから複数のデータセットにまたがるアプローチを評価する。
論文 参考訳(メタデータ) (2025-03-30T08:41:09Z) - Generative Multi-modal Models are Good Class-Incremental Learners [51.5648732517187]
クラス増分学習のための新しい生成型マルチモーダルモデル(GMM)フレームワークを提案する。
提案手法は適応生成モデルを用いて画像のラベルを直接生成する。
Few-shot CIL設定では、現在の最先端のすべてのメソッドに対して少なくとも14%精度が向上し、忘れてはならない。
論文 参考訳(メタデータ) (2024-03-27T09:21:07Z) - Masked Thought: Simply Masking Partial Reasoning Steps Can Improve Mathematical Reasoning Learning of Language Models [102.72940700598055]
推論タスクでは、小さなエラーでも不正確な結果にカスケードすることができる。
入力の摂動に頼らず、外部リソースの導入を避ける手法を開発した。
私たちのトレーニングアプローチでは、思考の連鎖の中で特定のトークンをランダムにマスクします。
論文 参考訳(メタデータ) (2024-03-04T16:21:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。