論文の概要: What Will Post-Training Fix? Per-Problem Gains Are Shared Across Independent RL Runs, and Existing Checkpoints Predict Them Better Than A Priori Signals

• arxiv url: http://arxiv.org/abs/2610.04978v1
• Date: Sun, 04 Oct 2026 05:45:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-11 07:22:37.653587
• Title: What Will Post-Training Fix? Per-Problem Gains Are Shared Across Independent RL Runs, and Existing Checkpoints Predict Them Better Than A Priori Signals
• Title（参考訳）: トレーニング後の修正は? プロブレム当たりの利回りは独立したRLラン全体で共有され、既存のチェックポイントはプリミティブシグナルよりも予測が優れている
• Abstract要約: 我々は,最大1532の競合問題に対して18回のポストトレーニングを実行し,各問題に多くのサンプルを投入した。 インディペンデント・ランニング(Independent run)は、ほとんど解決されない問題を改善し、ノイズ・天井は約0.9である。 既存のチェックポイントはより良い予測器であり、単一のチェックポイントのプロブレム当たりのゲインは、すべてのプリオリ信号よりも新しい実行を予測します。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Data selection, curricula and the evaluation of post-training recipes all assume that we can tell, before training, which problems a model will improve on. We test this assumption directly. For two base models, DeepSeek-R1-Distill-Qwen-1.5B and Qwen2.5-Math-1.5B, we evaluate eighteen post-training runs on up to 1532 competition math problems with many samples per problem, and compare signals available before training against a noise ceiling derived from the agreement between disjoint subsets of runs. Three findings hold on both base models. What post-training fixes is shared: independent runs agree on which rarely solved problems improve, with a noise ceiling of about 0.9, yet the two base models agree with each other only at rho=0.25 - the shared component belongs to the base model, not to the problem. A priori signals capture a minority of it: base pass rate, the likelihood of a correct solution, a larger model's pass rate and their combinations explain only 0.30 and 0.24 of the explainable variance in gains. Existing checkpoints are the better predictor: the per-problem gains of a single checkpoint from another family predict a new run better than every a priori signal, alone or combined (0.52 vs. 0.33 and 0.34 vs. 0.17 against the combined signals). The conclusions hold on problems from 2025-2026 competitions and when the baselines on the two sides of every comparison are estimated independently. We propose the noise ceiling as a standard companion to per-problem signals.
• Abstract（参考訳）: データ選択、カリキュラム、およびポストトレーニングレシピの評価は、トレーニング前に、どのモデルが改善するかを判断できるとみなす。 私たちはこの仮定を直接テストします。 本稿では,DeepSeek-R1-Distill-Qwen-1.5B と Qwen2.5-Math-1.5B の2つのベースモデルについて,最大1532個の競合数学問題に対する18個のポストトレーニング動作の評価を行い,不随伴部分集合間の合意から得られるノイズ天井に対するトレーニング前の信号の比較を行った。 どちらのモデルにも3つの発見がある。 インディペンデント・ランは、ノイズ天井が約0.9であるが、2つのベースモデルはrho=0.25でのみ一致し、共有コンポーネントは、問題ではなくベースモデルに属している。 ベースパスレート、正しい解の確率、より大きなモデルのパスレートとそれらの組み合わせは、利得の説明可能なばらつきの0.30と0.24だけを説明する。 既存のチェックポイントは、より良い予測器である: 他の家族からの1つのチェックポイント当たりのゲインは、前の全ての信号よりも、単独または組み合わせで新しいランを予測する(組合せされた信号に対して0.52対0.33、0.34対0.17)。 結論は、2025-2026の競技における問題と、各比較の両面の基準線が独立して推定される場合に当てはまる。 本稿では,プロブレム間信号の標準コンパニオンとしてノイズ天井を提案する。

関連論文リスト

• Does Graph Structure Earn Its Place in Microservice Root-Cause Analysis? A Controlled Study on RCAEval, and What the Benchmark Was Really Measuring [0.0]
  グラフニューラルネットワークは、マイクロサービスの根本原因分析に関する最近の研究を支配しているが、最近の結果は、グラフが寄与するかどうかを疑問視している。 RCAEvalでは、同じ特徴を持つ3つの学習アーム、オプティマイザ、バリデーション分割、アーリーストッピングルール、スコアリングヘッドの3つを比較した。 2つのRCAEvalベンチマーク、2つのトポロジーソース、4つのレギュレーションで、信頼できるグラフ固有の効果は見つからない。
  論文  参考訳（メタデータ） (2026-09-22T21:05:08Z)
• Look Where It Counts: A Free, Label-Free Visual Evidence Signal for Fine-Grained Vision-Language Reasoning [0.0]
  我々は,モデルが出力に割り当てる対向的エビデンスギャップ,対数的対数的比を形式化する。 単一ビューでラベルなしの基準を用いて、バウンディングボックス、トレーニング、ラベルのない応答を持つ領域を見つける。 目標の4.4から5.1倍の精度でローカライズし、精度を70%から85%に引き上げる。
  論文  参考訳（メタデータ） (2026-09-21T08:09:18Z)
• Not All Relations Are Equal: Relation-Balanced and Calibrated Graph Learning for Provenance-Based Intrusion Detection [69.06648810271712]
  本稿では,関係バランスの取れたグラフ学習を用いた教師なしフレームワークRECALについて述べる。 3つのDARPA E3データセットにおいて、RECALはF1スコアの99.99%、99.93%、99.99%を達成し、各データセットでそれぞれ0.88、0.82、0.42で最高のベースラインを上回っている。
  論文  参考訳（メタデータ） (2026-09-15T00:31:01Z)
• Measuring Reward Hacking and Reasoning-Answer Decoupling Under Position-Confounded Optimization [1.1316247605466565]
  正解が常にオプションAである数学問題に対してGRPOを用いて言語モデルを訓練し、不偏解位置を持つ未知のテストセットで評価する。 Qwen2.5、Llama 3.x、Gemma-3のモデルでは、より小さなモデルではオプションAレートが0.90を超えている。 有能なモデルは、Aを選択しながら正しい数値解に到達した推論を生成する。
  論文  参考訳（メタデータ） (2026-08-15T23:13:57Z)
• Accurate Ensembles, Fragile Narratives: Multi-Scale Stacking and a Fidelity Audit of LLM-Generated Explanations for Credit Risk [0.0]
  クレジットスコアリングは、決定ロジックをパラメータから読み取ることができないモデルに依存している。 共通する提案は、言語モデルとのギャップを埋める: 特徴属性を計算し、それらを LLM に渡し、合理的に記述させる。 このようなシステムをエンド・ツー・エンドに構築し、約束の後半が成立するかどうかをテストします。
  論文  参考訳（メタデータ） (2026-08-08T13:22:14Z)
• Disagreement-Based Cross-Model Routing for Implicit Video Question Answering [0.0]
  我々はImplicitQAベンチマークを用いて,複数選択のビデオ質問応答について検討した。 このベンチマークでは、単一のフロンティアビデオLLMが、その精度の天井付近ですでに動作している。 ラベルやトレーニングを必要とせず、純粋な推論時間である、不一致に基づくクロスモデルルーティングを提案する。
  論文  参考訳（メタデータ） (2026-05-31T05:56:27Z)
• Reasoning Path Divergence: A New Metric and Curation Strategy to Unlock LLM Diverse Thinking [49.8843966537226]
  テスト時間スケーリング(TTS)は,大規模言語モデル(LLM)の推論能力向上に有効であることが証明された。 提案手法は「一問題・複数解」(1PNS)の学習パラダイムであり,モデルから妥当な推論軌跡を抽出する手法である。 Reasoning Path Divergence (RPD) を用いて、問題ごとの最大多様な解集合と微調整Qwen3-4B-Baseをキュレートする。
  論文  参考訳（メタデータ） (2025-10-30T04:08:53Z)
• Intersection of Parallels as an Early Stopping Criterion [64.8387564654474]
  そこで本研究では,検証セットを必要とせずに,トレーニングイテレーションの早期停止点を見つける手法を提案する。 幅広い学習率において,コサイン距離基準 (CDC) と呼ばれる手法は,比較したすべての手法よりも平均的な一般化に寄与する。
  論文  参考訳（メタデータ） (2022-08-19T19:42:41Z)
• You Only Need End-to-End Training for Long-Tailed Recognition [8.789819609485225]
  クロスエントロピー損失は、不均衡なデータに非常に相関した特徴をもたらす傾向にある。 ブロックベース相対平衡バッチサンプリング(B3RS)とバッチ埋め込みトレーニング(BET)の2つの新しいモジュールを提案する。 CIFAR-LT と ImageNet-LT の長期分類ベンチマークによる実験結果から,本手法の有効性が示された。
  論文  参考訳（メタデータ） (2021-12-11T11:44:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。