論文の概要: Scaling Video Generation for Reasoning: At What Cost?

• arxiv url: http://arxiv.org/abs/2609.36599v1
• Date: Tue, 29 Sep 2026 03:17:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.145587
• Title: Scaling Video Generation for Reasoning: At What Cost?
• Title（参考訳）: 推論のためのビデオ生成のスケーリング: コストはどうか?
• Abstract要約: ビデオ生成のスケーリングにより,過去のフレームから隠れた情報をモデルが推論できるかどうかを検討する。 我々のベンチマークでは、最初に解決された2x2x2ルービックキューブの9つの所定の動きを3つの面の固定ビューから予測する必要がある。
• 参考スコア（独自算出の注目度）: 35.387404597278035
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study whether scaling video generation enables models to reason about hidden information from the past frames, and at what computational cost. Our controlled benchmark requires predicting nine prescribed moves of an initially solved 2x2x2 Rubik's Cube from a fixed view of three faces. Correct predictions require inferring how actions change hidden states, and the simulator provides exact ground truth for evaluation. Models learn plausible cube geometry early, while correct sticker configurations require substantially more training. Although validation MSE follows approximate power-law scaling, lower MSE loss does not reliably indicate downstream reasoning capabilities. Smaller autoregressive models achieve higher state accuracy with limited compute, while larger models reach higher accuracy after more training. At roughly 0.1 PF-days, the 70M-parameter model correctly predicts the visible sticker configuration in 44.6% of post-action frames, compared with 0.3% for the 1B model, which reaches 83.7% at 3.14 PF-days. Symbolic state supervision raises the 20M model's frame accuracy from 31.1% to 67.3% at the same training-data budget, suggesting that learning representations of state changes can complement scaling.
• Abstract（参考訳）: ビデオ生成のスケーリングにより,過去のフレームから隠れた情報をモデルが推論できるかどうか,計算コストについて検討する。 制御されたベンチマークでは、最初に解決された2x2x2ルービックキューブの9つの所定の動きを3つの面の固定ビューから予測する必要がある。 正しい予測には、動作がどのように隠れた状態を変えるかを推測する必要がある。 モデルは可塑性立方体幾何を早期に学習するが、正確なステッカー構成は、かなり多くの訓練を必要とする。 バリデーションMSEは、およそのパワーロースケーリングに従っているが、低いMSE損失は、下流の推論能力を確実に示すものではない。 より小さな自己回帰モデルは、限られた計算量でより高い状態精度を達成する一方、より大きなモデルはより多くの訓練後により高い状態精度に達する。 約0.1 PF-daysでは、70M-parameterモデルは44.6%のポストアクションフレームで目に見えるステッカー構成を正確に予測し、1Bモデルの0.3%は3.14 PF-daysで83.7%に達する。 シンボル状態監視は、20Mモデルのフレーム精度を同じトレーニングデータ予算で31.1%から67.3%に引き上げ、状態変化の学習表現がスケーリングを補完する可能性があることを示唆している。

関連論文リスト

• How Far Can 5,500 Hours of Driving Take You? A Scaling Law Analysis of Video Diffusion Models [57.34034448977433]
  自動運転のためのビデオ生成は、プライバシ要件に縛られ、収集に費用がかかるため、自由にスクラップすることはできません。 本稿では,スクラッチから学習した映像拡散モデルのスケーリング法則について述べる。 我々は、スクラッチからトレーニングされた最大のビデオ拡散モデルをトレーニングし、ビデオ生成を駆動するための新たなオープンソース状態を設定する。
  論文  参考訳（メタデータ） (2026-08-28T14:56:01Z)
• Cross-Architecture Knowledge Distillation from a Vision Foundation Model to a Lightweight Visual State Space Model for Tea Leaf Disease Classification [10.122947222129108]
  DINOv2のような自己監督型ビジョンファウンデーションモデルは強力な機能を提供するが、フィールド展開には大きすぎる。 微調整DINOv2教師からコンパクトな双方向視覚空間モデルへのクロスアーキテクチャ知識の蒸留について検討した。 我々は,SSM学生が限られたデータで学習することを防ぐ2つのトレーニング安定問題を同定し,修正する。
  論文  参考訳（メタデータ） (2026-08-27T08:02:05Z)
• The Few Govern the Many:Unveiling Few-Layer Dominance for Time Series Models [14.479996384788445]
  我々は,より大きなモデルではより優れた性能が得られない,ファズリング現象を観察する。 本稿では,これらの支配層のみを自動的に識別し,保持する実用的な手法を提案する。
  論文  参考訳（メタデータ） (2025-11-10T15:53:29Z)
• CAST: Continuous and Differentiable Semi-Structured Sparsity-Aware Training for Large Language Models [27.682531424487564]
  スパシティアウェアトレーニングは、大きな言語モデルをハードウェアフレンドリーなスパースパターンに変換するための効果的なアプローチである。 スパースモデルのための連続的かつ微分可能なスパース対応トレーニングフレームワークであるContinuous Adaptive Sparse Trainer (CAST)を提案する。 以上の結果から,従来の最先端手法に比べて,トレーニングリソースの最小化による難易度とゼロショット精度の両面で有意な改善が見られた。
  論文  参考訳（メタデータ） (2025-09-30T09:28:47Z)
• DataDecide: How to Predict Best Pretraining Data with Small Experiments [67.95896457895404]
  私たちはDataDecideのモデル、データ、評価を公開しています。 最大100Bトークン,最大1Bパラメータのモデルサイズ,および3つのランダムシードを用いて,25コーパスにわたる事前学習実験を行った。
  論文  参考訳（メタデータ） (2025-04-15T17:02:15Z)
• Scaling Inference-Efficient Language Models [3.271571137474847]
  モデルアーキテクチャは推論レイテンシに影響を与えており、同じサイズのモデルでは最大3.5倍のレイテンシの差が生じる可能性がある。 我々は、モデルパラメータ数、トレーニングトークンの数、モデルアーキテクチャを共最適化するために、Chinchillaスケーリングの法則を変更します。 下流タスクの精度を維持しつつ、推論遅延を1.8倍改善するMorph-1Bモデルをリリースする。
  論文  参考訳（メタデータ） (2025-01-30T03:16:44Z)
• Language models scale reliably with over-training and on downstream tasks [121.69867718185125]
  スケーリング法則は、高価なトレーニング実行を引き出すための有用なガイドである。 しかし、現在の研究と言語モデルがどのように訓練されているかには差がある。 対照的に、スケーリング法則は主に推論における損失を予測するが、モデルは通常下流のタスクのパフォーマンスで比較される。
  論文  参考訳（メタデータ） (2024-03-13T13:54:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。