論文の概要: Moving the Mean Toward the Known Good, Not Beyond It: What Inference-Time Interventions and Weight Consolidation Buy in Open-Ended Generation

• arxiv url: http://arxiv.org/abs/2608.28886v1
• Date: Fri, 28 Aug 2026 21:41:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-01 18:31:30.77667
• Title: Moving the Mean Toward the Known Good, Not Beyond It: What Inference-Time Interventions and Weight Consolidation Buy in Open-Ended Generation
• Title（参考訳）: 未知の善への道のり - オープンエンド世代における推論時間介入とウェイトコンソリデーション-
• Abstract要約: オンラインのビンパッキングで生成、セレクト、LoRAの統合のサイクルでは、候補に対するトレーニングは、保持された変種で書かれたものを価値にシフトする。 確認バッテリーは、すべての手順を3回複製し、新鮮な種と、正確に1回だけ読み取られた未解決の保留セットを格納する。 最もよく観察された候補は、正確には古典的なアウトのレベル(全3系統で0.021028)に移行し、ランダムな制御のために移動した。 The tails cut both way: the per-candidate rate of better-than-classic candidate (10% to 3)
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: What does a generation loop gain from learning on its own verified successes? In cycles of generate, verify, select and LoRA-consolidate on online bin packing, training on value-filtered candidates shifts what the model writes on held-out variants toward value (-1.7 points of excess, p=0.008; -3.1 against a random-consolidation control, p=0.004) while the best observed candidate converges to the classic heuristic's level and no further. A confirmation battery replicates the whole procedure three times, with fresh seeds and a never-consulted held-out set read exactly once: the mean was nearly identical in all three lineages (-2.0, -1.8, -1.9), and after aggregating within held-out variant all seven evaluable variants favored consolidation (p=0.008). The best observed candidate moved to the classic heuristic's level, exactly (0.021028 in all three lineages, for attract and for the random control alike), and never beyond it. A matched SFT-only control shows the supervised anchor, not repulsion from bad candidates, does the concentrating (96% of candidates land exactly at the classic heuristic's level). The tails cut both ways: consolidation lowers the per-candidate rate of better-than-classic candidates (10% to 3.9%) while its larger production yields more such candidates absolutely (5 against 1, on few events). As motivation we report the inference-time ledger that led here: a model-written schematic recap buys judged document integration and nothing buys development; a verifier written into the stream is imitated, 16.4 fabricated verdict lines per notebook. Mean quality among valid candidates can be bought and replicated; the observed best goes to the classic and, so far, never beyond it.
• Abstract（参考訳）: ジェネレーションループは、自身の証明された成功について学ぶことによって得られるものは何だろうか? オンラインビンパッキングにおける生成、検証、選択、LoRA統合のサイクルにおいて、値フィルターされた候補に関するトレーニングは、保持された不変量(p=0.008; -3.1、ランダムな統合制御、p=0.004)に対してモデルが書くものを値にシフトする一方で、最もよく観察される候補は古典的ヒューリスティックのレベルに収束し、それ以上は行わない。 確認バッテリは手順全体を3回複製し、新しい種と未解決のホールトアウトセットを正確に1回読み取る:平均は3つの系統(-2.0, -1.8, -1.9)でほぼ同一であり、ホールトアウト変種内で集約された後、7つの評価可能な変種は統合を好んだ(p=0.008)。 最もよく観察された候補者は古典的ヒューリスティックのレベル(正確には3つの系統の0.021028)に移行した。 一致したSFTのみの制御は、監督されたアンカーが悪候補からの反発ではなく集中していることを示している(候補者の96%が古典的ヒューリスティックのレベルで正確に着陸している)。 コンソリデーションは、候補者ごとの候補数(10%から3.9%)を下げる一方、生産量が大きいほど候補数が多い(5対1)。 モデル記述のスキーマ・リキャップは、判断された文書の統合を買い、何も開発を買わない; ストリームに書かれた検証器は、ノートブックごとに16.4の検証行で模倣される。 有効な候補のうち、平均的な品質は購入して複製することができる。

関連論文リスト

• Sampling headroom is not selection gain: a compute-value audit of test-time scaling for video world models [34.20907662027954]
  テストタイムスケーリングは、より多くの計算がより良い候補を生成する場合にのみ生成を改善することができ、システムはそれらを確実に識別できる。 我々は,余分なサンプリングが機会を生み出すかどうかを問う連続的なフレームワークであるCompute-Value Audit(CVA)を紹介する。 192の物理IQのシーンでは、プールを4から16の候補に拡張すると、オラクルの品質は+9.23 IQ向上する。 12のアダプティブ・ディープス・ポリシーは、均一な計算よりも優れておらず、測定されたエントリー料金の42-69%しか回復しない。
  論文  参考訳（メタデータ） (2026-09-06T06:11:15Z)
• Codebook Agent: Amortized Topology Design for LLM Multi-Agent Systems [67.04448659688579]
  クエリ非依存の16エントリのコードブックを開発し、上位のデコード候補を1回のバッチフォワードパスでランク付けする。 反復検索がなく、テスト時にメッセージパッシングがないため、Codebook Agentは6つのベンチマークでもっとも正確な方法である。
  論文  参考訳（メタデータ） (2026-09-02T08:10:22Z)
• Benchmarking Quantum Machine Learning for Power-System Attack Detection: Evaluation Choices Decide the Outcome Before the Models Do [0.0]
  我々は、チューニングされた古典モデルに対する電力システムサイバーアタックのための機械学習検出器をベンチマークする。 ベンチマークの回答は、モデルの前に評価者の選択によって設定される。 正の制御では、正確さはnullである: ラベルはパイプラインではなくパイプラインである。
  論文  参考訳（メタデータ） (2026-08-16T08:32:39Z)
• When AI Writes, Who Gets Cited? Evidence of Citation Monoculture Across Language Models [45.91367912142692]
  異なるモデルがいまだに同じ狭い部分集合を選択している可能性を示し、単一の引用が誤りを犯さずに、引用モノカルチャーを生成する。 3つのベンダーの11のモデルが、30のランダムなパネルから少なくとも10の論文を選択しており、実際のタイトルと抽象物があるが、作者が作り直され、再割り当て年、隠れた会場と引用数がある。
  論文  参考訳（メタデータ） (2026-08-03T14:27:46Z)
• OptimismBench: Forecasting Bias and the Alignment Effect in Language Model Judgment [0.9821874476902969]
  逆ペアによる方向バイアスを検出するOptimismBenchを導入する。 ポストトレーニングではバイアスの兆候が示され、異なる家族の反対のシフトが示される。 モデル毎の指向性監査のために,10言語で3,870項目をリリースしています。
  論文  参考訳（メタデータ） (2026-07-29T14:38:55Z)
• The Verifier is the Curriculum: Execution-Gated Self-Distillation for Cross-Family Game Generation [5.864346468963738]
  学習した判断に対してコードジェネレータをトレーニングした後、アーティファクトを改善することなくスコアを上げるプロキシ機能を最適化することができる。 逆の信号:決定論的、判断自由、ゲーム不可能なフィルタについて検討する。
  論文  参考訳（メタデータ） (2026-06-23T13:47:41Z)
• OpenDeepThink: Parallel Reasoning via Bradley-Terry Aggregation [53.88666485159289]
  OpenDeepThinkは、集団ベースのテスト時間計算フレームワークで、ペアワイズBradley-Terryの比較によって選択する。 OpenDeepThinkはGemini 3.1 ProのCodeforces Eloを8回のLCMコールラウンドで+405ポイント引き上げる。 CF-73は、国際グランドマスターアノテーションによる73の専門家評価コードフォース問題と、公式判決に対する99%の地域評価合意のキュレートされたセットである。
  論文  参考訳（メタデータ） (2026-05-14T17:57:40Z)
• $V_1$: Unifying Generation and Self-Verification for Parallel Reasoners [69.66089681814013]
  $V_$は、効率的なペアワイドランキングを通じて生成と検証を統合するフレームワークである。 V_$-Inferはポイントワイド検証でPass@1を最大10%改善する。 V_$-PairRLは、標準のRLとポイントワイドのジョイントトレーニングよりも、テストタイムのスケーリングが7ドル--9%で向上する。
  論文  参考訳（メタデータ） (2026-03-04T17:22:16Z)
• Multi-Step Alignment as Markov Games: An Optimistic Online Gradient Descent Approach with Convergence Guarantees [91.88803125231189]
  Reinforcement Learning from Human Feedback (RLHF) は、大きな言語モデルと人間の好みを合わせることに成功している。 DPOのような一般的な手法は高い性能を示してきたが、彼らは言語モデルとの相互作用を帯域幅の問題として捉えている。 本稿では,アライメント問題を2プレイヤー定数マルコフゲームとしてモデル化することで,これらの課題に対処する。
  論文  参考訳（メタデータ） (2025-02-18T09:33:48Z)
• Large Language Models are not Fair Evaluators [60.27164804083752]
  候補回答の品質ランキングは,文脈の出現順序を変えることで容易にハックできることがわかった。 この操作により、評価結果をスキューし、一方のモデルを他方よりもかなり優れているようにすることができる。 この問題を緩和するための3つのシンプルかつ効果的な戦略を持つフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-05-29T07:41:03Z)
• News Summarization and Evaluation in the Era of GPT-3 [73.48220043216087]
  GPT-3は,大規模な要約データセット上で訓練された微調整モデルと比較する。 我々は,GPT-3サマリーが圧倒的に好まれるだけでなく,タスク記述のみを用いることで,現実性に乏しいようなデータセット固有の問題に悩まされることも示している。
  論文  参考訳（メタデータ） (2022-09-26T01:04:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。