論文の概要: WarpMPC: Large-Batch MPC on GPU via ADMM with Unrolled $LDL^\top$ Factorization

• arxiv url: http://arxiv.org/abs/2607.11603v1
• Date: Mon, 13 Jul 2026 14:27:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-14 17:47:21.50319
• Title: WarpMPC: Large-Batch MPC on GPU via ADMM with Unrolled $LDL^\top$ Factorization
• Title（参考訳）: WarpMPC:$LDL^\top$ FactorizationをアンロールしたADMMによるGPU上の大バッチMPC
• Abstract要約: 本稿では、逐次2次プログラミング(SQP)の繰り返しの大規模なバッチを解く際に、GPU上でのスループットを最大化する数値最適化を提案する。 この最適化は、JAX と Warp のモデル予測制御 (MPC) のためのツールボックス WarpMPC で実装されている。 非線形カートポール,四極子,ヒューマノイドロボットベンチマークを用いて,毎秒8,000～25万SQPのスループットを実現した。
• 参考スコア（独自算出の注目度）: 19.701591585846014
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper introduces numerical optimizations for maximizing throughput on GPU when solving large batches (10,000 to over 100,000) of sequential quadratic programming (SQP) iterations, where all problems have the same structure. The optimizations are implemented in a toolbox WarpMPC for model-predictive control (MPC) in JAX and Warp. Based on the insight that all MPC problem instances in a batch share the same sparsity in time, cost, and constraints, we propose unrolling sparse linear factorizations and solves, which dominate alternating direction method of multipliers (ADMM) solver runtime. We avoid memory access bottlenecks and wasting computations via optimized memory layout, padding-reducing segmentation of the unrolled factorization, and dependency level scheduled backsolves, additionally accelerating sensitivity computation. We achieve throughputs of 8,000 to 250,000 SQP iterations per second on nonlinear cartpole, quadrotor, and humanoid robot benchmarks, outperforming baselines by 3$\times$ to 25$\times$. We illustrate practical usefulness by synthesizing a dataset and training a neural network approximation of an MPC in under 4 minutes that stabilizes a nano quadrotor in hardware experiments.
• Abstract（参考訳）: 本稿では, 逐次2次プログラミング(SQP)の繰り返しの大規模なバッチ(10,000から10000以上)を解く際に, GPU上でのスループットを最大化するための数値最適化を提案する。 この最適化は、JAX と Warp のモデル予測制御 (MPC) のためのツールボックス WarpMPC で実装されている。 バッチ内のすべてのMPC問題インスタンスは、時間、コスト、制約において同じ間隔を共有しているという知見に基づいて、マルチプライヤ(ADMM)ソルバランタイムの交互方向法を支配する疎線型分解と解の展開を提案する。 メモリアクセスのボトルネックを回避し、メモリレイアウトを最適化し、非ローリング因数分解のパディング還元セグメンテーションと、依存性レベルのスケジュールされたリゾリューションにより計算を無駄にし、さらに感度計算を高速化する。 非線形カートポール,四極子,ヒューマノイドロボットのベンチマークで毎秒8,000～2550,000SQPのスループットを達成し,ベースラインを3$\times$から25$\times$に上回った。 ハードウェア実験において,MPCのニューラルネットワーク近似を4分以内で学習し,ナノクオータを安定化させることにより,データセットを合成し,実用的有用性を示す。

関連論文リスト

• Stress-Relief Annealing: Polynomial-Time Simulation-Free Layout Optimization for Automated Warehouses [27.365277885865407]
  自動倉庫における物理的レイアウトの問題について検討し,数千から数千のロボットがパッケージを輸送するために調整されている。 本稿では,時間シミュレーションのないレイアウト最適化アルゴリズムであるSRAを提案する。
  論文  参考訳（メタデータ） (2026-08-02T05:59:24Z)
• TurboMPC: Fast, Scalable, and Differentiable Model Predictive Control on the GPU [7.225671751980973]
  TurboMPCは、GPUで完全に動作する差別化可能なMPCソルバである。 TurboMPCは、状態と制御の制約、暗黙的、クロスタイムの結合コスト、スラック変数をサポートする。 我々は、制約付き計画、ヒューマノイド模倣学習、ニューラルネットワークコスト関数タスクによる強化学習についてTurboMPCを検証する。
  論文  参考訳（メタデータ） (2026-06-23T00:42:33Z)
• POET-X: Memory-efficient LLM Training by Scaling Orthogonal Transformation [57.57816409869894]
  大規模言語モデルをトレーニングするためのスケーラブルでメモリ効率のよい変種であるPOET-Xを紹介する。 PoET-Xは、スループットとメモリ効率を大幅に改善しながら、PoETの一般化と安定性の利点を維持している。
  論文  参考訳（メタデータ） (2026-03-05T18:59:23Z)
• Orthogonal Finetuning Made Scalable [92.34573849209238]
  OFT(Orthogonal Finetuning)は、壊滅的な忘れ込みを防止しつつ、パラメータ効率の高い適応を提供するが、実行時とメモリの要求が高いため、実際のデプロイメントが制限される。 ここでは,OFTの計算ボトルネックを重み中心の実装とみなす。 本稿では,行列ベクトル乗法(行列フリー計算)を用いて,計算コストを2次に削減する入力中心の変換法OFTv2を提案する。 これらの変更により、OFTv2は最大10倍の高速トレーニングと3倍のGPUメモリ使用率を達成することができる。
  論文  参考訳（メタデータ） (2025-06-24T17:59:49Z)
• FFT-based Dynamic Subspace Selection for Low-Rank Adaptive Optimization of Large Language Models [49.397861654088636]
  低次元空間へのSVD/QRベースの勾配射影を近似する2段階の手順を提案する。 当社の戦略はランタイムの高速化とメモリ使用量の削減を,さまざまなモデルサイズで最大25%削減できることが示されています。
  論文  参考訳（メタデータ） (2025-05-23T14:37:00Z)
• Sublinear Variational Optimization of Gaussian Mixture Models with Millions to Billions of Parameters [5.429282997550318]
  約1億の画像に対して100億以上のパラメータを持つGMMをトレーニングし、1つの最先端CPU上で約9時間のトレーニング時間を観察する。 提案アルゴリズムは,繰り返し毎のランタイムの複雑性を$mathcalO(NCD2)$から$D$で線形にスケーリングし,定数w.r.tを継続する複雑性に著しく低減する。 概念実証として、約1億の画像に対して100億以上のパラメータを持つGMMをトレーニングし、1つの最先端CPU上で約9時間のトレーニング時間を観察する。
  論文  参考訳（メタデータ） (2025-01-21T17:11:25Z)
• Progressive Mixed-Precision Decoding for Efficient LLM Inference [49.05448842542558]
  我々は,デコーディングのメモリバウンドネスに対処するために,プログレッシブ・ミックス・プレシジョン・デコーディング(PMPD)を導入する。 PMPDはfp16モデルの行列ベクトル乗算において1.4$-$12.2$times$ Speedupを達成する。 我々の手法は、fp16モデルよりも3.8$-$8.0$times$、均一量子化アプローチよりも1.54$times$のスループット向上をもたらす。
  論文  参考訳（メタデータ） (2024-10-17T11:46:33Z)
• EPS-MoE: Expert Pipeline Scheduler for Cost-Efficient MoE Inference [49.94169109038806]
  本稿では,既存の並列処理方式を超越したMoE用パイプラインスケジューラであるEPS-MoEを紹介する。 その結果,既存の並列推論手法と比較して,プリフィルスループットは52.4%向上した。
  論文  参考訳（メタデータ） (2024-10-16T05:17:49Z)
• Suboptimality bounds for trace-bounded SDPs enable a faster and scalable low-rank SDP solver SDPLR+ [3.7507283158673212]
  半定プログラム(SDP)は、機械学習とデータサイエンスに多くの応用がある強力なツールである。 SDPソルバは、正の半定値決定変数がn×n$密度行列であるため、困難である。 20年前、Burer氏とMonteiro氏は、完全な行列の代わりに低ランクの分解を最適化したSDPソルバを開発した。
  論文  参考訳（メタデータ） (2024-06-14T20:31:22Z)
• A Multi-Head Ensemble Multi-Task Learning Approach for Dynamical Computation Offloading [62.34538208323411]
  共有バックボーンと複数の予測ヘッド(PH)を組み合わせたマルチヘッドマルチタスク学習(MEMTL)手法を提案する。 MEMTLは、追加のトレーニングデータを必要とせず、推測精度と平均平方誤差の両方でベンチマーク手法より優れている。
  論文  参考訳（メタデータ） (2023-09-02T11:01:16Z)
• Reward-Free RL is No Harder Than Reward-Aware RL in Linear Markov Decision Processes [61.11090361892306]
  Reward-free reinforcement learning (RL) は、エージェントが探索中に報酬関数にアクセスできないような環境を考える。 この分離は線形MDPの設定には存在しないことを示す。 我々は$d$次元線形 MDP における報酬のない RL に対する計算効率の良いアルゴリズムを開発した。
  論文  参考訳（メタデータ） (2022-01-26T22:09:59Z)
• A Transferable Approach for Partitioning Machine Learning Models on Multi-Chip-Modules [8.224904698490626]
  マルチチップモジュール(MCM)は、機械学習アクセラレータの設計と製造コストを削減する。 本稿では, 深い強化学習フレームワークを用いて, 潜在的に無効な候補分割を出力し, 制約解法によって補正する戦略を提案する。 実ハードウェア上でのプロダクションスケールモデルBERTの評価により,RLポリシを用いて生成したパーティショニングのスループットが6.11%,5.85%向上したことが明らかとなった。
  論文  参考訳（メタデータ） (2021-12-07T23:40:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。