論文の概要: J-Zero: Unified Challenger--Solver--Judge Co-Evolution from Zero Data
- arxiv url: http://arxiv.org/abs/2608.26582v1
- Date: Thu, 27 Aug 2026 03:48:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-28 16:30:58.236585
- Title: J-Zero: Unified Challenger--Solver--Judge Co-Evolution from Zero Data
- Title(参考訳): J-Zero:Unified Challenger--Solver--Judge Co-Evolution from Zero Data
- Abstract要約: 自己進化型言語モデルは、最近スーパーインテリジェンスへの有望な道として現れた。
本稿では,両ドメイン間の自己改善を支援する統合型Challenger-r-Judge共進化フレームワークを提案する。
J-ゼロは検証不能領域では平均4.2ポイント、検証不能領域では8.0ポイントでベースラインを上回っている。
- 参考スコア(独自算出の注目度): 40.47138666541269
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Self-evolving language models have recently emerged as a promising path toward superintelligence, with the advantage of reducing the cost of human supervision. While considerable progress has been made in verifiable domains, self-evolution in unverifiable domains remains substantially less explored. We propose Judge co-adaptation from Zero data (J-Zero), a unified Challenger--Solver--Judge co-evolution framework that supports self-improvement across both domains. The Challenger and Solver co-evolve through an adversarial interaction: the Challenger generates increasingly difficult tasks, while the Solver learns to produce higher-quality responses to them. In parallel, the Judge co-adapts using preference pairs whose ordering is known in advance from how each response was produced, i.e., the Solver's answer over the Challenger's, and its decomposed-and-recombined answer over its one-shot answer, rather than from the Judge's own scores. J-Zero outperforms the baselines by an average of 4.2 points on verifiable and 8.0 points on unverifiable domains, and continues to improve through at least ten iterations, whereas the baselines degrade after two.
- Abstract(参考訳): 自己進化型言語モデルは、人間の監督コストを削減できるという利点を生かして、超知性への有望な道として最近登場した。
検証可能な領域ではかなりの進歩があったが、検証不可能な領域における自己進化は、いまだにほとんど調査されていない。
両領域の自己改善を支援する統合型チャレンジャー・ソルバー・ジャッジ共進化フレームワークであるZero Data (J-Zero) からのジャッジ共適応を提案する。
ChallengerとSolverは、敵対的な相互作用を通じて共同で進化する: Challengerはますます難しいタスクを生成し、Solverはそれらに対する高品質な応答を生成することを学ぶ。
並行して、裁判官は、それぞれの反応の作り方、すなわち、ソルバーのチャレンジャーに対する答えと、裁判官自身のスコアからではなく、その一発の答えに対する分解された答えから、事前に順序付けされた選好ペアを併用する。
J-Zeroは検証不可能な領域では平均4.2ポイント、検証不可能な領域では8.0ポイントでベースラインを上回り、少なくとも10イテレーションで改善を続けている。
関連論文リスト
- Beyond Uncertainty: Multi-Solver Disagreement Rewards for Self-Evolving Reasoning Curricula [0.0]
自己進化的推論フレームワークは、チャレンジャーに、解決者の弱点を明らかにする質問を生成するように訓練する。
既存のアプローチでは、チャレンジャーの報酬として1つのソルバのサンプリングの不確実性を用いる。
モデル容量とサンプリング温度に異なる異種アンサンブルを用いたマルチソルバ不一致報酬を提案する。
論文 参考訳(メタデータ) (2026-08-30T20:49:16Z) - R-Diverse: Mitigating Diversity Illusion in Self-Play LLM Training [65.13759782915164]
反復的なチャレンジャーブートストラップループによる自己再生LDM推論。
R-Diverseは、より多くのイテレーション以上のゲインを持続し、常に以前のセルフプレイメソッドより優れています。
論文 参考訳(メタデータ) (2026-02-13T17:07:42Z) - Conversation for Non-verifiable Learning: Self-Evolving LLMs through Meta-Evaluation [56.84819098277464]
CoNLは、マルチエージェントのセルフプレイを通じて生成、評価、メタ評価を統合するフレームワークである。
CoNLは、安定したトレーニングを維持しながら、自己回帰ベースラインよりも一貫した改善を実現している。
論文 参考訳(メタデータ) (2026-01-29T09:41:14Z) - V-Zero: Self-Improving Multimodal Reasoning with Zero Annotation [12.164262183956156]
V-Zeroは、ラベルなしの画像による自己改善を容易にする一般的なポストトレーニングフレームワークである。
質問者は、直感的な推測と推論結果を対比する2トラック推論報酬を活用することで、高品質で挑戦的な質問を合成することを学ぶ。
V-ZeroはQwen2.5-VL-7B-Instructで一貫した性能向上を実現し、+1.7の視覚数学的推論と+2.6の一般ビジョン中心を改善した。
論文 参考訳(メタデータ) (2026-01-15T05:47:43Z) - Guided Self-Evolving LLMs with Minimal Human Supervision [53.111086364268566]
無誘導の自己進化システムは、しばしば訓練として素早く、または劣化する。
R-Fewはガイド付きセルフプレイチャレンジャー(Self-Play Challenger)買収フレームワークで、コンテキスト内接地と混合トレーニングを通じて、軽量な人間の監視を取り入れている。
R-Fewは、数学と一般的な推論ベンチマークで一貫した反復的な改善を実現している。
論文 参考訳(メタデータ) (2025-12-02T07:06:11Z) - R-Zero: Self-Evolving Reasoning LLM from Zero Data [47.8125954446991]
自己進化型大規模言語モデル(LLM)は、自身の経験から自律的に生成、精製、学習することで、超知性へのスケーラブルなパスを提供する。
このようなモデルを訓練するための既存の方法は、いまだに膨大な人為的なタスクやラベルに大きく依存している。
R-Zeroは、完全に自律的なフレームワークで、スクラッチから独自のトレーニングデータを生成する。
論文 参考訳(メタデータ) (2025-08-07T03:38:16Z) - Absolute Zero: Reinforced Self-play Reasoning with Zero Data [57.30662797376754]
検証可能な報奨付き強化学習(RLVR)は,大規模言語モデルの推論能力を高めることを約束している。
本稿では,AZR(Absolute Zero Reasoner)について紹介する。
AZRは、コーディングおよび数学的推論タスクにおける全体的なSOTA性能を達成し、既存のゼロセットモデルより優れている。
論文 参考訳(メタデータ) (2025-05-06T09:08:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。