論文の概要: When Can LLM Reasoning Reliably Reuse Intermediate Results?
- arxiv url: http://arxiv.org/abs/2610.27662v1
- Date: Tue, 20 Oct 2026 05:24:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.661855
- Title: When Can LLM Reasoning Reliably Reuse Intermediate Results?
- Title(参考訳): LLM推論は中間結果の信頼性を高めることができるか?
- Abstract要約: いくつかのサブプロブレムを持つタスクの場合、すべての必要な答えは同じ試みで正しい必要がある。
この再利用の信頼性と必要な計算量について検討する。
- 参考スコア(独自算出の注目度): 13.266277243655189
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Sampling complete solutions gives large language models more chances to solve a problem, but each attempt starts again. For tasks with several subproblems, all required answers must be correct in the same attempt. Retaining intermediate results can avoid repeating correct work, but errors in those results may affect later attempts. We study when this reuse is reliable and how much computation it requires. For local retries that stop when no candidate passes within the retry budget, we give conditions for correct completion and bound the average number of attempts. We also show how checking cost and the chance of passing a check affect total computation. Experiments across eight reasoning models examine composite mathematics and arithmetic. Across four DeepSeek models, average success on the second subproblem is 36.2 percent without first-subproblem context, 57.2 percent with its answer, and 58.3 percent with its reasoning and answer. These scores measure second-subproblem coverage and include continuations made when selection fails. Arithmetic experiments show that similar first-attempt accuracies can lead to very different coverage after repeated attempts. Code is available at https://github.com/SempraETY/Intermediate-State-Reuse.
- Abstract(参考訳): 完全なソリューションのサンプリングは、大きな言語モデルに問題解決の機会を与えるが、それぞれの試みは再び開始される。
いくつかのサブプロブレムを持つタスクの場合、すべての必要な答えは同じ試みで正しい必要がある。
中間結果の保持は、正しい作業の繰り返しを避けることができるが、これらの結果のエラーは後続の試行に影響を与える可能性がある。
この再利用の信頼性と必要な計算量について検討する。
再試行予算内で候補者が通過しない場合に停止する局所再試行では、正しい完了条件を与え、平均的な試行回数を制限します。
また、チェックコストとチェックをパスする確率が全体の計算にどのように影響するかを示す。
8つの推論モデルに対する実験は、合成数学と算術を調査する。
4つのDeepSeekモデル全体で、第2サブプロブレムの平均的な成功は、第1サブプロブレムコンテキストなしで36.2%、回答で57.2%、推論と回答で58.3%である。
これらのスコアは、第2サブプロブレムのカバレッジを測定し、選択が失敗したときの継続を含む。
算術的な実験では、同様のファースト・アタプティブ・アキュラシーが繰り返し試みた後に全く異なるカバレッジをもたらすことが示されている。
コードはhttps://github.com/SempraETY/Intermediate-State-Reuseで入手できる。
関連論文リスト
- Don't Repeat Yourself: Self-Supervised Fine-Tuning for Coverage [0.764671395172401]
Don't Repeat Yourself Supervised Fine-Tuning (DRY-SFT)は、出力の多様性とカバレッジを高めるポストトレーニング手法である。
HumanEval+、MBPP+、DS-1000では、DRY-SFTはそれぞれ10.8ポイント、12.5ポイント、12.4ポイントのパス@100を上昇させる。
また、ベースモデルが同じ200回の試行で解決しなかった600の問題の244も解決した。
論文 参考訳(メタデータ) (2026-09-16T19:06:25Z) - Regression Accumulation in Multi-Turn LLM Programming Conversations [25.94870617800846]
回帰累積は6つのモデルにまたがる
後続のコードが以前の要件と競合するクロスTurn Conflictは、主要な障害クラスである。
検証ゲートは、すべてのモデルを一貫して改善する唯一の戦略である。
論文 参考訳(メタデータ) (2026-07-02T08:15:40Z) - Reaching Beyond the Mode: RL for Distributional Reasoning in Language Models [78.68818219506313]
本稿では,複数解に対する分布推論を行うための多解補足学習手法について述べる。
質問応答, 診断, コーディングベンチマークを通じて, 単一回答学習ベースラインと比較して, 多様性, カバレッジ, 設定レベルの校正スコアが向上した。
論文 参考訳(メタデータ) (2026-03-25T22:20:25Z) - Test-Time Scaling with Diffusion Language Models via Reward-Guided Stitching [66.39914384073145]
本稿では,安価な拡散サンプリング推論をステップレベル候補の再利用プールに変換する自己整合性フレームワークを提案する。
ステップレベルの再結合は、難しい問題に対して最も有益であることがわかった。
トレーニング不要のフレームワークは、6つの数学およびコーディングタスクの平均精度を最大2倍改善します。
論文 参考訳(メタデータ) (2026-02-26T11:08:39Z) - Beyond the Last Answer: Your Reasoning Trace Uncovers More than You Think [51.0691253204425]
我々は2つの質問に答えるために中間的推論ステップを解析する: 最終的な答えはモデルの最適結論を確実に表すか?
我々のアプローチは、推論トレースを言語的手がかりに基づくシーケンシャルなサブソートに分割することである。
これらの解答を最も頻繁な解(モード)を選択して集約すると、元の完全トレースから得られる解のみに依存するよりも、はるかに高い精度が得られることが判明した。
論文 参考訳(メタデータ) (2025-04-29T12:39:07Z) - Not All Votes Count! Programs as Verifiers Improve Self-Consistency of Language Models for Math Reasoning [24.386388107656334]
本稿では,自然言語から派生した翻訳プログラムを検証メカニズムとして活用するフレームワークであるProveを紹介する。
バニラ多数決とは異なり、我々の手法は、対応するプログラム出力が生成した解と矛盾する解をフィルタリングし、検証に合格する解のみを集約する。
以上の結果から,すべてのモデルサイズとデータセットにまたがる数学的推論タスクの解決において,Proveはバニラ多数投票を一貫して上回る結果となった。
論文 参考訳(メタデータ) (2024-10-16T14:24:55Z) - Large Language Monkeys: Scaling Inference Compute with Repeated Sampling [81.34900892130929]
モデルから候補解を繰り返しサンプリングする簡単な手法を用いて、推論計算をスケーリングのための別の軸として検討する。
複数のタスクやモデルにまたがって、カバレッジは4桁以上のサンプル数でスケールする。
コードや形式的証明のようなドメインでは、回答が自動的に検証されるので、カバレッジの増加は直接的にパフォーマンスの向上につながります。
論文 参考訳(メタデータ) (2024-07-31T17:57:25Z) - Clustering MOOC Programming Solutions to Diversify Their Presentation to Students [6.219350126324697]
多くのMOOCは、単に最新のソリューションを示し、その多様性や品質を無視し、生徒の学習機会を妨げる。
JPlagを人気のあるMOOCプラットフォームであるHyperskill上のPythonのサブミッションに適用した。
我々はRhubarbという独自のツールを開発し、アルゴリズム的に同じ解を標準化し、それらの間の構造認識編集距離を計算し、クラスタリングを適用した。
論文 参考訳(メタデータ) (2024-03-28T13:18:49Z) - DCR: Divide-and-Conquer Reasoning for Multi-choice Question Answering with LLMs [9.561022942046279]
大規模言語モデル(LLM)の推論能力を高めるため,DCR(Divide and Conquer Reasoning)を提案する。
まず、信頼性スコア(mathcalCS$)に基づいて質問を2つのサブセットに分類する。
特に,質問を信頼性スコア(mathcalCS$)に基づいて2つのサブセットに分類する。
論文 参考訳(メタデータ) (2024-01-10T14:38:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。