論文の概要: Test-Time Scaling for Open-Ended Reasoning at Small Model Scale

• arxiv url: http://arxiv.org/abs/2611.02208v1
• Date: Sun, 01 Nov 2026 21:06:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-04 23:36:30.537511
• Title: Test-Time Scaling for Open-Ended Reasoning at Small Model Scale
• Title（参考訳）: 小型モデルにおけるオープンエンディング推論のためのテスト時間スケーリング
• Abstract要約: モデルのサンプルに対する投票は、サンプルが一致しない場合にのみ有効である。 モデルのサンプルに対する投票は、サンプルが一致しない場合にのみ有効である。 セマンティッククラスタ投票を用いて小規模で研究する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: A vote over a model's samples can only help when the samples disagree. For open-ended generation the binding question is therefore not how to combine samples but whether a model produces samples worth combining, a question test-time scaling has answered for math but not for free-form text. We study it at small scale with semantic cluster voting, a judge-free aggregator that groups a small instruct model's samples by meaning and returns the largest cluster's representative, with no reward model or self-judging. On a 250-prompt benchmark with three tiers of answer checkability, the same pattern holds across three model families (Qwen2.5-3B, Llama-3.2-3B, Gemma-2-2B) and two generation seeds: voting raises accuracy on the math control, where samples vary but stay checkable (a gain of +10 to +29 points across the three models), yet adds at most +0.30 judge points on open-ended text. On a larger 200-problem MATH-500 run with the primary model, the math gain is +8.5 points (95% CI [+4.0, +13.0]). Almost every open-ended sample falls into one meaning cluster, so there is little to select over. The collapse is consistent with instruction-tuning rather than model size, and raising decoding temperature does not recover usable diversity, because it costs more quality than it adds (net -0.64 judge points, 95% CI [-0.93, -0.37]).
• Abstract（参考訳）: モデルのサンプルに対する投票は、サンプルが一致しない場合にのみ有効である。 したがって、オープンエンド生成では、結合問題はサンプルをどのように組み合わせるかではなく、モデルが組み合わせる価値のあるサンプルを生成するかどうかという問題であり、テスト時間スケーリングは数学では解けるが、自由形式のテキストでは解けない。 判断自由なアグリゲータであるセマンティッククラスタ投票を用いて,小さなインストラクションモデルのサンプルを意味によってグループ化し,報酬モデルや自己判断を伴わずに最大のクラスタの代表を返却する。 3段階の回答チェック能力を持つ250プロンプトのベンチマークでは、同じパターンが3つのモデルファミリー(Qwen2.5-3B、Llama-3.2-3B、Gemma-2-2B)と2つの世代シードにまたがっている。 一次モデルで200プロブレムのMATH-500を走らせると、算数は+8.5ポイント(95% CI [+4.0, +13.0])となる。 ほぼすべてのオープンエンドサンプルは1つの意味クラスタに該当するので、選択する余地はほとんどない。 崩壊はモデルサイズではなく命令チューニングと一致しており、デコード温度の上昇は使用可能な多様性を回復しない(ネット-0.64判断点、95%CI [-0.93, -0.37])。

関連論文リスト

• DISCO: Diversifying Sample Condensation for Efficient Model Evaluation [59.01400190971061]
  コスト評価は傾向を低下させ、イノベーションのサイクルを遅くし、環境への影響を悪化させる。 モデル応答の多様性を最大化するサンプルを選択することが重要となる。 我々のメソッドである$textbfDiversifying Sample Condensation (DISCO)$は、最も大きなモデル不一致を持つトップkサンプルを選択します。
  論文  参考訳（メタデータ） (2025-10-09T08:53:59Z)
• s1: Simple test-time scaling [148.4204982041058]
  テスト時間スケーリングは、パフォーマンスを改善するために余分なテスト時間計算を使用する言語モデリングに対する、有望な新しいアプローチである。 テストタイムのスケーリングと強力な推論性能を実現するための最もシンプルなアプローチを探します。
  論文  参考訳（メタデータ） (2025-01-31T18:48:08Z)
• Large Language Monkeys: Scaling Inference Compute with Repeated Sampling [81.34900892130929]
  モデルから候補解を繰り返しサンプリングする簡単な手法を用いて、推論計算をスケーリングのための別の軸として検討する。 複数のタスクやモデルにまたがって、カバレッジは4桁以上のサンプル数でスケールする。 コードや形式的証明のようなドメインでは、回答が自動的に検証されるので、カバレッジの増加は直接的にパフォーマンスの向上につながります。
  論文  参考訳（メタデータ） (2024-07-31T17:57:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。