論文の概要: A Stitch in Time Saves Nine: Proactive Self-Refinement for Language Models

• arxiv url: http://arxiv.org/abs/2508.12903v1
• Date: Mon, 18 Aug 2025 13:07:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-19 14:49:11.350231
• Title: A Stitch in Time Saves Nine: Proactive Self-Refinement for Language Models
• Title（参考訳）: 9つの時間的制約: 言語モデルに対する積極的な自己抑制
• Authors: Jinyi Han, Xinyi Wang, Haiquan Zhao, Tingyun li, Zishang Jiang, Sihang Jiang, Jiaqing Liang, Xin Lin, Weikang Zhou, Zeye Sun, Fei Yu, Yanghua Xiao,
• Abstract要約: ProActive Self-Refinement (PASR) は、大規模言語モデルが生成プロセス中に出力を洗練できるようにする新しい手法である。 PASRの有効性を評価するために,多種多様な10のタスクについて広範囲に実験を行った。 Qwen3-8Bでは、PASRは標準的な世代に比べて平均トークン消費量を41.6%削減し、精度は8.2%向上した。
• 参考スコア（独自算出の注目度）: 60.59215206182471
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent advances in self-refinement have demonstrated significant potential for improving the outputs of large language models (LLMs) through iterative refinement. However, most existing self-refinement methods rely on a reactive process with a fixed number of iterations, making it difficult to determine the optimal timing and content of refinement based on the evolving generation context. Inspired by the way humans dynamically refine their thoughts during execution, we propose ProActive Self-Refinement (PASR), a novel method that enables LLMs to refine their outputs during the generation process. Unlike methods that regenerate entire responses, PASR proactively decides whether, when, and how to refine based on the model's internal state and evolving context. We conduct extensive experiments on a diverse set of 10 tasks to evaluate the effectiveness of PASR. Experimental results show that PASR significantly enhances problem-solving performance. In particular, on Qwen3-8B, PASR reduces average token consumption by 41.6 percent compared to standard generation, while also achieving an 8.2 percent improvement in accuracy. Our code and all baselines used in the paper are available in the GitHub.
• Abstract（参考訳）: 近年,大規模言語モデル (LLM) の出力を反復的に改善する可能性が高まっている。 しかし、既存の自己複製手法の多くは、一定回数の反復を伴う反応性プロセスに依存しており、進化する生成コンテキストに基づいて改善の最適なタイミングと内容を決定することは困難である。 実行中に人間が動的に思考を洗練させる方法に着想を得て, LLMが生成過程において出力を洗練できる新しい手法である, ProActive Self-Refinement (PASR)を提案する。 反応全体を再生する手法とは異なり、PASRはモデルの内部状態と進化コンテキストに基づいて、いつ、どのように精製するかを積極的に決定する。 PASRの有効性を評価するために,多種多様な10のタスクについて広範囲に実験を行った。 実験の結果,PASRは問題解決性能を著しく向上させることがわかった。 特にQwen3-8Bでは、PASRは標準的な世代に比べて平均トークン消費量を41.6%削減し、精度は8.2%向上した。 論文で使用されたコードとすべてのベースラインはGitHubで公開されている。

関連論文リスト

• Scalable Best-of-N Selection for Large Language Models via Self-Certainty [65.31658824274894]
  Best-of-N選択は、大規模言語モデルの推論性能を改善するための重要なテクニックである。 本稿では,外部報酬モデルを必要とすることなく,応答品質を推定する新規かつ効率的な指標である自己確実性を提案する。 本研究は, LLM推論能力を向上させるための実用的で効率的な方法として, 自己確実性を確立した。
  論文  参考訳（メタデータ） (2025-02-25T19:08:07Z)
• CERET: Cost-Effective Extrinsic Refinement for Text Generation [14.43795791836198]
  本研究では,意味的安定性,包含性,サンプル間不確実性を考慮したテキスト生成手法であるCERETを提案する。 実験結果から, CERETは, 各種タスク設定下での自己整合性, 自己整合性, 自走性ベースラインを一貫して上回っていることがわかった。
  論文  参考訳（メタデータ） (2024-06-08T22:17:52Z)
• Re-ReST: Reflection-Reinforced Self-Training for Language Agents [101.22559705696885]
  言語エージェントにおける自己学習は、エージェント自体から監督を生成することができる。 リフレクション強化自己学習(Reflection-Reinforced Self-Training, Re-ReST)は, テキストレフレクタを用いて低品質な試料を精製する。
  論文  参考訳（メタデータ） (2024-06-03T16:21:38Z)
• Self-Evaluation Improves Selective Generation in Large Language Models [54.003992911447696]
  オープンエンド生成タスクをトークンレベルの予測タスクに再構成する。 我々はLSMに答えを自己評価するように指示する。 自己評価に基づくスコアリング手法をベンチマークする。
  論文  参考訳（メタデータ） (2023-12-14T19:09:22Z)
• LLMRefine: Pinpointing and Refining Large Language Models via Fine-Grained Actionable Feedback [65.84061725174269]
  最近の大規模言語モデル(LLM)は、世代品質を改善するために人間のフィードバックを活用している。 LLMの出力を最適化する推論時間最適化手法であるLLMRefineを提案する。 機械翻訳、長文質問応答(QA)、話題要約を含む3つのテキスト生成タスクについて実験を行った。 LLMRefineは、すべてのベースラインアプローチを一貫して上回り、翻訳タスクの1.7 MetricXポイント、ASQAの8.1 ROUGE-L、トピックの要約の2.2 ROUGE-Lの改善を実現している。
  論文  参考訳（メタデータ） (2023-11-15T19:52:11Z)
• Lightweight reranking for language model generations [26.942659041383596]
  本稿では,Large Language Models (LLM) 世代を再評価するための新しいアプローチを提案する。 追加の推論や特殊リランカの訓練を含む他の手法とは異なり、我々の手法はペアワイズ統計の計算が容易である。 コード生成タスクで最高のk世代を選択するための強力な改善と、オートフォーマライズ、要約、翻訳のタスクで最高の世代で堅牢な改善を示す。
  論文  参考訳（メタデータ） (2023-07-11T17:51:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。