論文の概要: Sol-H3: Recursive Self-Improvement for MiniMax-H3 Inference Acceleration on Sol-Engine across Cloud and Edge
- arxiv url: http://arxiv.org/abs/2609.35110v1
- Date: Mon, 28 Sep 2026 13:15:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-02 16:54:18.745514
- Title: Sol-H3: Recursive Self-Improvement for MiniMax-H3 Inference Acceleration on Sol-Engine across Cloud and Edge
- Title(参考訳): Sol-H3: MiniMax-H3推論高速化のための再帰的な自己改善
- Abstract要約: MiniMax-H3は、高機能で実運用レベルのオープンソースモデルである。
本稿では,効率的なアルゴリズム設計と最適化された演算子実装を統合したフルスタック推論パイプラインを提案する。
オーディオ付き5秒のビデオは、8xGB200ノードでリアルタイムより3.5倍高速に生成され、1つのDGX Sparkで1分以内のメモリ常駐が可能である。
- 参考スコア(独自算出の注目度): 49.97870278439677
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Video diffusion models are rapidly scaling and exhibiting enhanced generation capabilities. Among these recent advancements, MiniMax-H3 stands out as a highly capable, production-level open-source model. However, its 33-billion parameters and multi-step iterative denoising process introduce substantial computational overhead. Consequently, their practical production is hindered by generation latency in the cloud deployment like NVIDIA-GB200, alongside strict memory limits that pose further challenges at the edge device like DGX-Spark. To address these diverse hardware bottlenecks from cloud to edge device, we present a full-stack inference pipeline that integrates efficient algorithmic design with optimized operator implementations. Algorithmically, we introduce a cross-resolution two-stage generation scheduler that exploits the step-wise nature of diffusion: early low-resolution steps rapidly establish the global layout, while later high-resolution steps focus refinements of local and perceptual details. These stages are connected by a learned latent-to-latent mapping module, completely eliminating the computationally expensive VAE decode-reencode cycle for resolution transferring cross different resolutions. For operator implementation, we deploy a Recursive Self-Improvement (RSI) loop that searches kernel fusions and memory layouts, evaluating latency together with numerical agreement. Together, these optimizations deliver up to 30x end-to-end speedup and 20% lower memory: a 5-second 1344x768 video with audio is generated 3.5x faster than real time on an 8xGB200 node, and in under a minute fully memory-resident on a single DGX Spark.
- Abstract(参考訳): ビデオ拡散モデルは急速に拡張され、生成能力が向上している。
最近の進歩の中で、MiniMax-H3は高機能で実運用レベルのオープンソースモデルとして注目されている。
しかし、33ビリオンのパラメータと多段階反復デノゲーションプロセスは、かなりの計算オーバーヘッドをもたらす。
その結果、NVIDIA-GB200のようなクラウドデプロイメントにおける生成遅延と、DGX-Sparkのようなエッジデバイスでさらなる課題を引き起こす厳格なメモリ制限によって、現実的な運用が妨げられます。
クラウドからエッジデバイスまでの様々なハードウェアボトルネックに対処するため、最適化された演算子実装と効率的なアルゴリズム設計を統合するフルスタック推論パイプラインを提案する。
アルゴリズム的に、我々は拡散の段階的な性質を生かしたクロスレゾリューション2段階生成スケジューラを導入し、初期の低レゾリューションステップはグローバルなレイアウトを迅速に確立する一方、後の高レゾリューションステップは局所的および知覚的詳細の洗練に焦点を当てる。
これらのステージは学習された潜時-潜時マッピングモジュールによって接続され、異なる解像度の解像度を転送するための計算コストのかかるVAE復号-復号回路を完全に排除する。
演算子の実装には、カーネルの融合とメモリレイアウトを探索する再帰自己改善(Recursive Self-Improvement:RSI)ループをデプロイし、数値的な一致とともにレイテンシを評価する。
オーディオ付き5秒1344x768ビデオは、8xGB200ノードでリアルタイムよりも3.5倍高速に生成され、1つのDGX Sparkで1分以内の完全なメモリレジデントで生成される。
関連論文リスト
- RoofGS: Roofline-Guided End-to-End Acceleration of 3D Gaussian Splatting [20.838595758539498]
RoofGSは、一般的なカーネルアクセラレーションではなく、ボトルネック固有の最適化を適用するレンダリングフレームワークである。
実験の結果、RoofGSは指数指数指数4090よりも10.1ドルのエンドツーエンドのスピードアップを達成した。
論文 参考訳(メタデータ) (2026-08-16T15:06:39Z) - GS-STVSR: Ultra-Efficient Continuous Spatio-Temporal Video Super-Resolution via 2D Gaussian Splatting [71.12303582606019]
Continuous Video Super-Resolution (C-STVSR) は、任意のスケールファクタによる動画の空間的・フレーム的レートの同時向上を目的としている。
2次元ガウシアンティング(2D-GS)に基づく超効率的なC-STVSRフレームワークであるGS-STVSRを提案する。
GS-STVSRは,すべてのベンチマークにおいて最先端の品質を実現していることを示す。
論文 参考訳(メタデータ) (2026-04-20T10:11:05Z) - Accelerating Video Generation Inference with Sequential-Parallel 3D Positional Encoding Using a Global Time Index [11.944339418621693]
因果自己回帰ビデオ生成パイプラインに対するシステムレベルの推論最適化を実装した。
5秒の480Pビデオでは、1.58倍のスピードアップが達成され、リアルタイムインタラクティブアプリケーションに対する効果的なサポートを提供する。
論文 参考訳(メタデータ) (2026-03-02T10:18:18Z) - Scalable Generative Game Engine: Breaking the Resolution Wall via Hardware-Algorithm Co-Design [17.941176878609337]
我々は、スケーラブルなTextitHardware-Algorithm共設計フレームワークを導入することにより、生成モデルと高分解能ニューラルネットワークのギャップを埋める。
このシステムは, それぞれ26.4 FPSと48.3 FPSの流体を供給し, 有効遅延は2.7msである。
論文 参考訳(メタデータ) (2026-01-31T08:52:51Z) - PipeDiT: Accelerating Diffusion Transformers in Video Generation with Task Pipelining and Model Decoupling [18.079843329153412]
拡散トランス (DiT) ベースのモデルでは、マーク可能な能力が実証されている。
しかし、彼らの実践的なデプロイメントは、推論速度の遅いことと、メモリ消費の増大によって妨げられている。
ビデオ生成を高速化するために,PipeDiTという新しいパイプラインフレームワークを提案する。
論文 参考訳(メタデータ) (2025-11-15T06:46:40Z) - Fast and Memory-Efficient Video Diffusion Using Streamlined Inference [41.505829393818274]
現在のビデオ拡散モデルは、計算要求と高いピークメモリ使用量を示す。
本稿では,映像拡散モデルの時間的・空間的特性を利用したストリーム線形推論を提案する。
我々のアプローチはピークメモリと計算オーバーヘッドを大幅に削減し、単一のコンシューマGPU上で高品質なビデオを生成することができる。
論文 参考訳(メタデータ) (2024-11-02T07:52:18Z) - SqueezeLLM: Dense-and-Sparse Quantization [80.32162537942138]
LLMにおける生成推論の主なボトルネックは、単一のバッチ推論のための計算ではなく、メモリ帯域幅である。
学習後量子化フレームワークであるSqueezeLLMを導入し、最大3ビットの超低精度でのロスレス圧縮を実現する。
本フレームワークは,2次情報に基づく最適ビット精度割当を探索する感度ベース非一様量子化法と,2次情報に基づくDense-and-Sparse分解法と,2次情報量割当値と感度重み値を効率的にスパース形式で格納するDense-and-Sparse分解法である。
論文 参考訳(メタデータ) (2023-06-13T08:57:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。