論文の概要: Selection Is Not Learning: Choosing Model Futures
- arxiv url: http://arxiv.org/abs/2610.22029v1
- Date: Thu, 15 Oct 2026 15:07:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-17 06:09:33.140185
- Title: Selection Is Not Learning: Choosing Model Futures
- Title(参考訳): 選択は学習ではない:モデルの未来を選ぶ
- Abstract要約: R-Zero、Agent0、Skill Self-Playといった現在のループは、学習可能なように見え、結果の更新を継承するタスクを認めている。
これらのループにおける選択から更新までのギャップを特定し、学習可能なタスクが有用な更新を発生させないようにする。
EvoHeirは、パラメータ継承と経験継承を分離し、現在のおよびアーカイブされたエクスペリエンスを使用して障害を修復する。
- 参考スコア(独自算出の注目度): 13.824317120259957
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Self-evolving language models train on tasks they generate, so every round must decide which updated model the next round inherits. Current loops such as R-Zero, Agent0, and Skill Self-Play make this decision through the task, admitting tasks that look learnable and inheriting every resulting update. We identify a selection-to-update gap in these loops, where a task that looks learnable need not produce a useful update. Most updates on verified tasks fail to make correct answers more likely, yet these loops inherit them all. HeirCommit freezes the updated model and uses fresh evaluation questions to decide whether to inherit it or retain the current model. EvoHeir separates parameter inheritance from experience inheritance, using current and archived experience to repair failures and preserve successes before final confirmation. Our analysis characterizes selection-induced optimism and decomposes regret into selection, absorption, and confirmation errors. HeirCommit cuts the harmful share of accepted updates by 68-83% relative to random inheritance at the same acceptance rate. Across four backbones, EvoHeir achieves the best mathematics and general-reasoning averages, raising the math average by 5.3% relative to the strongest baseline, Agent0. The framework lets useful experience persist even when the model that produced it is not inherited.
- Abstract(参考訳): 自己進化型言語モデルは、生成するタスクをトレーニングするので、各ラウンドは、次のラウンドが継承する更新モデルを決定する必要があります。
R-Zero、Agent0、Skill Self-Playといった現在のループは、タスクを通じてこの決定を行い、学習可能なタスクを認め、結果の更新を継承する。
これらのループにおける選択から更新までのギャップを特定し、学習可能なタスクが有用な更新を発生させないようにする。
検証されたタスクのほとんどの更新は、正しい回答をもっとありそうにないが、これらのループはそれらを全て継承する。
HeirCommitは更新されたモデルを凍結し、新しい評価質問を使用して、それを継承するか、現在のモデルを保持するかを決定する。
EvoHeirは、パラメータ継承と経験継承を分離し、現在のおよびアーカイブされたエクスペリエンスを使用して障害を修復し、最終的な確認前に成功を保存する。
本分析では,選択による楽観性を特徴づけ,後悔を選択,吸収,確認の誤りに分解する。
HeirCommitは、同じ受け入れ率でランダムな継承に対して、受け入れた更新の有害なシェアを68~83%削減する。
4つのバックボーンの中で、エボハイアは最高の数学と一般推論平均を達成し、最強のベースラインであるエージェント0と比較して数学平均を5.3%上げている。
このフレームワークは、生成したモデルが継承されていない場合でも、有用なエクスペリエンスを持続できる。
関連論文リスト
- V-Gym: Enhancing Agentic Visual Reasoning via Skill-Data Co-Evolution [68.43599428916389]
V-Gymは、手続き的なスキルと実行軌跡からのマルチモーダルな実践データを反復的に進化させる、自律的なフレームワークである。
スキル進化の過程で、V-Gymは軌道を分析して階層的なスキルを蒸留し、洗練し、手続き的なガイダンスと適用性条件を更新する。
結果として得られた実践結果は、その後のスキル更新にフィードバックされ、継続的なスキル改善のループを閉じます。
論文 参考訳(メタデータ) (2026-09-28T09:09:24Z) - A Wrong Turn Does Not Ruin the Journey: Deviation-Guided Skill Self-Evolution for LLM Agents [3.7821992021286306]
スキルの自己進化は、生産的な問題解決が崩壊し始める場所を特定するべきだ、と私たちは主張する。
本稿では,スキル自己進化のための逸脱点誘導フレームワークであるSkillPivotを提案する。
ToolQA、LogicBench、WildClawBenchの実験は、SkillPivotが競合するスキル進化メソッドよりも一貫して優れていることを示している。
論文 参考訳(メタデータ) (2026-09-24T07:31:00Z) - The Tasteful Agent: Measuring and Improving Taste in Long-Horizon Tasks [54.378597734485744]
Taste-Benchは、エンジニアリングタスクのエージェントが生成する軌跡から自動的に構築される味覚質問のベンチマークである。
我々は、Taste-Benchのフロンティアモデルを評価し、最良のモデルが質問の59.7%しか正しく答えていないことを発見した。
結果を見た教師の判断を学生モデルに精査し、学生は見当たらない課題についてより良い判断を下す。
論文 参考訳(メタデータ) (2026-09-22T07:36:04Z) - HarnessEvolve: Learning from Reference Trajectories for Reliable Agent Self-Evolution [11.431479238875712]
我々は、信頼できるエージェントの自己進化を実現するために、参照軌道から学習する自己進化フレームワークであるHarnessEvolveを紹介する。
私たちは、さまざまなモデルとエージェントフレームワークを使用して、オープンドメインとエンタープライズシナリオにまたがるいくつかのベンチマークで広範な実験を行います。
結果は、HarnessEvolveがすべてのベンチマークと設定で、最先端のベースラインを一貫して上回っていることを示している。
論文 参考訳(メタデータ) (2026-09-01T07:31:18Z) - ClawArena: Benchmarking AI Agents in Evolving Information Environments [61.664633997138004]
ClawArenaは、進化する情報環境におけるAIエージェントの評価のためのベンチマークである。
それぞれのシナリオは、エージェントをノイズ、部分的、時には矛盾するトレースだけに露呈しながら、完全に隠された地上の真実を維持します。
評価は、マルチソースコンフリクト推論、動的信念修正、暗黙のパーソナライゼーションという3つの複合的な課題に基づいて構成される。
論文 参考訳(メタデータ) (2026-04-05T17:55:23Z) - Parallel Unlearning in Inherited Model Networks [15.903867702680325]
本稿では、継承を示すモデル間で完全に並列なアンラーニングを可能にする新しいアンラーニングフレームワークを提案する。
時系列指向の非循環グラフ(DAG)を用いて、モデル継承ネットワークで発生する様々な未学習シナリオをキャプチャする。
私たちのフレームワークの中心にあるのは、効率的な並列アンラーニングを実現するために設計されたFisher Inheritance Unlearning(FIUn)メソッドです。
論文 参考訳(メタデータ) (2024-08-16T02:29:38Z) - R-Tuning: Instructing Large Language Models to Say `I Don't Know' [66.11375475253007]
大きな言語モデル(LLM)は、優れたパフォーマンスで多くのドメインに革命をもたらしたが、それでもその課題に直面している。
事前の指導チューニング方法は、モデルが知識を知っているかどうかに関わらず、モデルに文章を完成させるよう強制する。
我々はRefusal-Aware Instruction Tuning (R-Tuning)と呼ばれる新しいアプローチを提案する。
実験の結果、R-Tuningは、既知の質問に答えたり、未知の質問に答えるのを控えるモデルの能力を効果的に改善することを示した。
論文 参考訳(メタデータ) (2023-11-16T08:45:44Z) - Plex: Towards Reliability using Pretrained Large Model Extensions [69.13326436826227]
我々は,視覚と言語モダリティのための事前訓練された大規模モデル拡張であるViT-PlexとT5-Plexを開発した。
Plexは信頼性タスク間の最先端性を大幅に改善し、従来のプロトコルを単純化する。
最大1Bパラメータまでのモデルサイズに対するスケーリング効果と,最大4B例までのデータセットサイズを事前トレーニングした。
論文 参考訳(メタデータ) (2022-07-15T11:39:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。