論文の概要: Long-Horizon Scaling: How Model Capabilities Shape the Returns to Computation

• arxiv url: http://arxiv.org/abs/2609.35236v1
• Date: Mon, 28 Sep 2026 14:11:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-02 15:52:33.097397
• Title: Long-Horizon Scaling: How Model Capabilities Shape the Returns to Computation
• Title（参考訳）: ロングホライゾンスケーリング - モデル能力が計算への回帰をいかに形作るか
• Abstract要約: 2つの長期ベンチマークであるAutoLabとEdgeBenchを分析します。 パフォーマンスの開始とその後の成長は、さまざまな能力に結びついていることに気付きました。 時間を節約し、限られたスコア損失で計算するための継続ポリシーを導出します。
• 参考スコア（独自算出の注目度）: 42.16005716542271
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Long-horizon agents improve solutions through sustained interaction, execution, and task feedback. Scaling studies relate performance to resources and capabilities, yet how existing capabilities shape returns to extended interaction remains less understood. To address this gap, we analyze AutoLab and EdgeBench, two long-horizon benchmarks. We find that starting performance and subsequent growth are associated with different capabilities: within a task category, similar early scores can precede different later gains. To formalize this finding, we model capability-time scaling with category-specific logistic power laws shared across models. Fitted to early trajectories, these curves extrapolate the observed models' category-average scores to later computation. However, rising average scores mask narrowing improvement opportunities: later gains concentrate among fewer improving models. High final scores and continued improvement also have distinct capability profiles. Predicted mean gains estimate each model's fraction of improving tasks; averaging these estimates forecasts the average share of improving models. These uneven returns motivate deciding whether a specific run should continue. We therefore derive a continuation policy to save time and compute with limited score loss. The policy conditions growth predictions on the run's observed progress and weighs immediate and delayed gains against computation costs. In replay with training and price calibration based on other models' histories, the policy saves roughly one-third of full-run time, with relative score losses of 2.4% on AutoLab individual runs and 3.3% on EdgeBench published mean curves. Our repository is available at https://github.com/Chihaya-Anon-chan/long-horizon-scaling.
• Abstract（参考訳）: ロングホライゾンエージェントは、持続的なインタラクション、実行、タスクフィードバックを通じてソリューションを改善する。 スケールスタディは、リソースと能力のパフォーマンスに関連しているが、既存の機能がどのようにして拡張されたインタラクションに返されるかは、まだ理解されていない。 このギャップに対処するため、2つの長期ベンチマークであるAutoLabとEdgeBenchを分析します。 タスクカテゴリでは、同様の早期スコアが後続の利得に先行する可能性がある。 この発見を形式化するために、モデル間で共有されるカテゴリ固有のロジスティックパワー則を用いて、能力時間スケーリングをモデル化する。 初期の軌道に合わせると、これらの曲線は観測されたモデルのカテゴリー平均スコアを後続の計算に外挿する。 しかし、平均的なスコアの上昇は改善の機会を狭めることを隠している。 高い最終的なスコアと継続的な改善は、異なる能力プロファイルを持つ。 予測平均ゲインは、各モデルの改善タスクの割合を見積もる。 これらの不均一なリターンは、特定の実行を継続するかどうかを決定する動機となります。 したがって、時間を節約し、限られたスコア損失で計算する継続ポリシーを導出する。 政策条件は、実行中の進捗を予測し、計算コストに対する即時および遅延利得を重み付けする。 他のモデルの履歴に基づくトレーニングと価格調整のリプレイでは、このポリシーはフルランタイムのおよそ3分の1を節約し、AutoLabの個人走行では2.4%、EdgeBenchでは3.3%のスコアが損失した。 私たちのリポジトリはhttps://github.com/Chihaya-Anon-chan/long-horizon-scaling.comで公開しています。

関連論文リスト

• When Does Learning Beat Heuristics? A Case Study in Kubernetes Scheduler Score Plugins [0.0]
  我々は,スケジューラシミュレータ用の外部HTTPベースのスコアリングプラグインを実装した。 大規模クラスタトレースに基づいて学習した2つのモデルを評価する。
  論文  参考訳（メタデータ） (2026-08-25T21:02:34Z)
• Forecasting Downstream Performance of LLMs With Proxy Metrics [37.61408486519996]
  本稿では,トークンレベルの統計値(エントロピー,トップk精度,エキスパートトークンランクなど)を集約することで,プロキシメトリクスを構築することを提案する。 3つの設定で、我々のプロキシは損失ベースのベースラインと計算ベースのベースラインを一貫して上回ります。
  論文  参考訳（メタデータ） (2026-05-18T16:17:15Z)
• Scaling Laws of Global Weather Models [57.27583619011988]
  本稿では,モデル性能(検証損失)とモデルサイズ,データセットサイズ,計算予算の3つの主要な要因について検討する。 様々なモデルにおいて、Auroraは最も強力なデータスケーリングの挙動を示す。 我々の計算-最適分析は、固定された計算予算の下で、長いトレーニング期間にリソースを割り当てると、モデルサイズの増加よりもパフォーマンスが向上することを示している。
  論文  参考訳（メタデータ） (2026-02-26T12:57:38Z)
• Prescriptive Scaling Reveals the Evolution of Language Model Capabilities [22.14002750185524]
  我々は、ログ事前学習FLOPの関数として、機能境界、ベンチマークスコアの高条件量子化を推定する。 我々は、初期のモデル世代に適合し、後のリリースを評価することで、時間的信頼性を検証する。 本稿では,評価予算の約20%を用いて,全データフロンティア付近を復元する効率的なアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2026-02-17T03:13:51Z)
• An Optimization Method for Autoregressive Time Series Forecasting [4.467218412104476]
  現在の時系列予測モデルは、主にトランスフォーマースタイルのニューラルネットワークに基づいている。 本稿では,2つの重要な特性を強制する時系列予測のための新しいトレーニング手法を提案する。 提案手法はiTransformerと比較してMSEを10%以上削減する。
  論文  参考訳（メタデータ） (2026-02-02T16:28:00Z)
• Forecasting the Maintained Score from the OpenSSF Scorecard for GitHub Repositories linked to PyPI libraries [78.48200143057376]
  今後,OpenSSFが保持するスコアをどの程度予測できるかを検討する。 PageRankによって、最も中央のPyPIライブラリのトップ1%に関連付けられた3,220のGitHubリポジトリを分析します。 以上の結果から,今後の保守活動は有意義な精度で予測できることが示唆された。
  論文  参考訳（メタデータ） (2026-01-26T10:32:54Z)
• Context-Aware Inference via Performance Forecasting in Decentralized Learning Networks [0.0]
  分散学習ネットワークでは、多くの参加者からの予測が組み合わされ、ネットワーク推論が生成される。 我々は,機械学習を用いて時系列の各エポックにおけるモデルによる予測性能を予測するモデルを開発した。
  論文  参考訳（メタデータ） (2025-10-07T20:30:21Z)
• Loss Shaping Constraints for Long-Term Time Series Forecasting [79.3533114027664]
  本稿では,長期時系列予測のための制約付き学習手法を提案する。 提案手法は, 予測ウィンドウ上でエラーを発生させながら, 時系列ベンチマークにおける競合平均性能を示すことを示すための, 実用的なプリマル・デュアルアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-02-14T18:20:44Z)
• Back2Future: Leveraging Backfill Dynamics for Improving Real-time Predictions in Future [73.03458424369657]
  公衆衛生におけるリアルタイム予測では、データ収集は簡単で要求の多いタスクである。 過去の文献では「バックフィル」現象とそのモデル性能への影響についてはほとんど研究されていない。 我々は、与えられたモデルの予測をリアルタイムで洗練することを目的とした、新しい問題とニューラルネットワークフレームワークBack2Futureを定式化する。
  論文  参考訳（メタデータ） (2021-06-08T14:48:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。