論文の概要: Hermes: Learning Contextual Reasoning Unlocks Test-Time Scaling

• arxiv url: http://arxiv.org/abs/2609.38332v1
• Date: Tue, 29 Sep 2026 18:01:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:26.556152
• Title: Hermes: Learning Contextual Reasoning Unlocks Test-Time Scaling
• Title（参考訳）: Hermes氏: テスト時間スケーリングをアンロックするコンテキスト推論の学習
• Abstract要約: テストタイムスケーリングは、推論中に追加の計算を割り当てることで、モデルパフォーマンスを改善する。 私たちは、これらの決定を文脈的推論(contextual reasoning)と呼ぶモデルの能力を呼びます。 本稿では,1) コンテキスト割り当てと再利用のモデル制御を段階的に変化させる,シンプルで構成可能なハーネスのファミリーであるHermesと,2) それらの能力を学ぶための2段階のフレームワークであるHermes-Learnを紹介する。
• 参考スコア（独自算出の注目度）: 21.455414043712434
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Test-time scaling improves model performance by allocating additional compute during inference. Using this compute effectively across multiple context windows requires deciding how to allocate fresh contexts and what information to carry between them. We call a model's ability to make these decisions contextual reasoning. Existing approaches largely prescribe these decisions through their harness; we instead shift them to the model. We introduce 1) Hermes, a family of simple, configurable harnesses that progressively varies model control over context allocation and reuse, and 2) Hermes-Learn, a two-stage framework for learning these capabilities. We find that capable models can exploit this flexibility to scale with additional inference-time compute, while smaller open-source models initially struggle to do so. Training with Hermes-Learn closes this gap, inducing adaptive contextual reasoning strategies that vary with both the problem and the progress of reasoning. These gains generalize across benchmarks and models, extrapolate beyond the inference-time compute seen during training, and transfer to complementary test-time scaling methods beyond Hermes.
• Abstract（参考訳）: テストタイムスケーリングは、推論中に追加の計算を割り当てることで、モデルパフォーマンスを改善する。 この計算を複数のコンテキストウインドウで効果的に使用するには、新しいコンテキストの割り当て方法と、それらの間にどの情報を運ぶかを決定する必要がある。 私たちは、これらの決定を文脈的推論(contextual reasoning)と呼ぶモデルの能力を呼びます。 既存のアプローチは、主にこれらの決定をハーネスを通じて規定します。 紹介 1)ヘルメス(Hermes)は、コンテキスト割り当てと再利用のモデル制御を段階的に変更する、シンプルで構成可能なハーネスのファミリーである。 2) Hermes-Learnは、これらの能力を学ぶための2段階のフレームワークである。 有能なモデルでは、この柔軟性を活用して、推論タイムの計算を追加で拡張できることに気付きました。 Hermes-Learnによるトレーニングはこのギャップを埋め、問題と推論の進捗の両方で異なる適応的な文脈推論戦略を誘導する。 これらのゲインは、ベンチマークやモデルにまたがって一般化され、トレーニング中に見られる推論時間計算を超えて外挿され、Hermes以外の補完的なテスト時間スケーリングメソッドに転送される。

関連論文リスト

• A Survey on Self-Improving Test-Time Intelligence: Feedback-Driven Adapting, Learning, and Scaling at Inference [72.19201465132619]
  このようなデプロイメント時間の改善を理解するための統一的な視点として,フィードバック駆動型テスト時間インテリジェンス(TTI)を提案する。 この視点は、テスト時適応、テスト時学習、テスト時スケーリングに関連するもので、ハイブリッドシステムにおけるそれらの相違点と相違点の両方を強調します。 私たちの目標は、テスト時に自己改善型AIシステムを研究するための、一貫性のある基礎と研究ロードマップを提供することです。
  論文  参考訳（メタデータ） (2026-09-01T11:41:39Z)
• Deriving Scaling Laws for OpenEuroLLM Models: Learning Rate, Batch Size and Loss [7.969401498219657]
  本研究では,英語対応コーパス上での高密度大言語モデルの学習速度とバッチサイズのスケーリング挙動について検討した。 我々はこれらの関係を捉えたモデルを開発する。 本研究は,OpenEuroLLMモデル開発のための第1のベースラインとスケーリング手順を確立する。
  論文  参考訳（メタデータ） (2026-08-28T13:16:56Z)
• Iterative Amortized Inference: Unifying In-Context Learning and Learned Optimizers [22.72866404096086]
  償却学習は、新しい問題への迅速な一般化を可能にするために、タスク間で共有される計算や帰納的バイアスを再利用する考え方である。 現在のアプローチでは、推論でタスクデータを処理する能力が制限されることが多いため、大規模なデータセットへのスケールアップに苦労している。 ミニバッチよりも解を段階的に洗練するモデルである反復的償却推論を提案する。
  論文  参考訳（メタデータ） (2025-10-13T14:40:47Z)
• Inference-Time Alignment in Diffusion Models with Reward-Guided Generation: Tutorial and Review [59.856222854472605]
  このチュートリアルは、拡散モデルにおける下流の報酬関数を最適化するための推論時ガイダンスとアライメント方法に関する詳細なガイドを提供する。 生物学のような分野における実践的な応用は、しばしば特定の指標を最大化するサンプル生成を必要とする。 本稿では,(1)推論時と組み合わせた微調整手法,(2)モンテカルロ木探索などの探索アルゴリズムに基づく推論時アルゴリズム,(3)言語モデルと拡散モデルにおける推論時アルゴリズムの接続について論じる。
  論文  参考訳（メタデータ） (2025-01-16T17:37:35Z)
• The Cost of Down-Scaling Language Models: Fact Recall Deteriorates before In-Context Learning [34.76303922401322]
  重み付けと、より小型または大型のモデルのトレーニングという、2つの自然なスケーリング手法について検討する。 スケーリングによってこの2つの能力がどのように進化するかには、大きな違いがあります。 密度の高いスケーリングとウェイトプルーニングの両方が、この振る舞いを示しているという事実は、スケーリングモデルのサイズが、事実のリコールと文脈内学習に本質的に異なる影響を持っていることを示唆している。
  論文  参考訳（メタデータ） (2023-10-07T03:36:39Z)
• The Languini Kitchen: Enabling Language Modelling Research at Different Scales of Compute [66.84421705029624]
  本稿では,アクセル時間で測定された等価計算に基づくモデル比較を可能にする実験的プロトコルを提案する。 私たちは、既存の学術的ベンチマークを上回り、品質、多様性、文書の長さで上回る、大規模で多様で高品質な書籍データセットを前処理します。 この研究は、GPT-2アーキテクチャから派生したフィードフォワードモデルと、10倍のスループットを持つ新しいLSTMの形式でのリカレントモデルという2つのベースラインモデルも提供する。
  論文  参考訳（メタデータ） (2023-09-20T10:31:17Z)
• Characterizing and overcoming the greedy nature of learning in multi-modal deep neural networks [62.48782506095565]
  深層ニューラルネットワークにおける学習の欲張った性質から、モデルは一つのモダリティにのみ依存する傾向にあり、他のモダリティには不適合であることを示す。 本稿では,学習中のモーダル間の条件付き学習速度のバランスをとるアルゴリズムを提案し,グリージー学習の問題に対処できることを実証する。
  論文  参考訳（メタデータ） (2022-02-10T20:11:21Z)
• Sufficiently Accurate Model Learning for Planning [119.80502738709937]
  本稿では,制約付きSufficiently Accurateモデル学習手法を提案する。 これはそのような問題の例を示し、いくつかの近似解がいかに近いかという定理を提示する。 近似解の質は、関数のパラメータ化、損失と制約関数の滑らかさ、モデル学習におけるサンプルの数に依存する。
  論文  参考訳（メタデータ） (2021-02-11T16:27:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。