論文の概要: vla.simd: Efficient CPU Inference for Language-Conditioned Manipulation
- arxiv url: http://arxiv.org/abs/2609.24274v1
- Date: Mon, 21 Sep 2026 08:39:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-23 18:04:03.976203
- Title: vla.simd: Efficient CPU Inference for Language-Conditioned Manipulation
- Title（参考訳）: vla.simd: 言語定義操作のための効率的なCPU推論
- Abstract要約: vla.simdは、共有SIMDマイクロカーネル、再利用可能な計算、ターゲット固有の最適化を組み合わせたCPU推論エンジンである。
IMPACTは、評価セットの中で唯一、Raspberry Pi 5上で少なくとも30アクション/秒を供給している言語条件のポリシーです。
- 参考スコア（独自算出の注目度）: 2.02413016369165
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deploying language-conditioned manipulation without a dedicated GPU requires efficient inference and action chunks that cover the delay between policy queries. We present vla.simd, a CPU inference engine that combines shared SIMD micro-kernels, reusable computation, and target-specific optimization. We relate query latency and execution horizon to action availability under lagged and time-aligned execution, distinguishing action supply from feedback frequency. Across six policies and four CPUs, vla.simd achieves approximately $1.4\times$ median speedup over compiled PyTorch references while preserving fp32 numerical fidelity. We also introduce IMPACT, an ACT-based policy with cached text representations and language-modulated visual features. IMPACT is the only language-conditioned policy in our evaluated set that supplies at least 30 actions/s on the Raspberry Pi 5: after a 90 s thermal soak, it supplies 33.5 actions/s in fp32 and 81.2 with int8. Separate GPU evaluations yield $76.4\%$ mean success across four LIBERO suites without robot pretraining; instruction-shuffling tests demonstrate selection among familiar goals. Trials with IMPACT on an SO-101 arm and SmolVLA on a UR10e with a Robotiq gripper demonstrate CPU deployment on two robot embodiments.
- Abstract（参考訳）: 専用GPUなしで言語条件の操作をデプロイするには、ポリシークエリ間の遅延をカバーする効率的な推論とアクションチャンクが必要である。
本稿では,共有SIMDマイクロカーネル,再利用可能な計算,ターゲット固有最適化を組み合わせたCPU推論エンジンvla.simdを提案する。
我々は、クエリ待ち時間と実行地平線を、ラグとタイムアラインな実行下でのアクション可用性と関連付け、フィードバック周波数とアクションサプライを区別する。
vla.simdは6つのポリシーと4つのCPUで、コンパイルされたPyTorch参照の中央値のスピードアップを約1.4\times$達成し、fp32数値フィデリティを保存する。
また、ACTベースのポリシーであるIMPACTを導入し、キャッシュされたテキスト表現と言語による視覚的特徴を表現した。
IMPACTは、Raspberry Pi 5上で少なくとも30のアクション/sを供給し、90秒のサーマルソークの後、fp32で33.5のアクション/s、int8で81.2のアクション/sを提供する、評価セットの中で唯一の言語条件のポリシーです。
個別のGPU評価は、ロボットの事前訓練なしに4つのLIBEROスイートで平均して76.4 %$の成功をもたらす。
SO-101アームのIMPACTとUR10eのSmolVLAを使った試験では、Robotiqグリップが2つのロボット体にCPUを配置している。
関連論文リスト
- VibeVoice-ASR-BitNet Technical Report [86.93881874028209]
VibeVoice-ASR-BitNetは、エッジCPU上のリアルタイム推論に最適化されたVibeVoice-ASRの圧縮版である。
攻撃的圧縮下での精度を維持するために,プログレッシブ量子化対応トレーニング戦略を実装した。
VibeVoice-ASR-BitNetはWhisperより1.6-2.3倍速い。
論文 参考訳（メタデータ） (2026-07-23T09:08:04Z) - Benchmarking Zero-Setup Quantum Circuit Simulators [0.0]
行列積状態 (MPS) とパウリパスシミュレーション (PPS) の2つの広く使われている手法におけるGPU加速近似量子シミュレーションの比較を行った。
MPSの場合、GPUランタイムは結合次元のサブクアドラティックスケーリングをもたらし、スケールが大きくなるにつれてCPUよりも有利になる。
また、これらのシミュレーターの再現可能な特徴付けとして、分離された評価が示さないトレードオフを含むレギュレータを網羅する。
論文 参考訳（メタデータ） (2026-07-10T18:15:12Z) - KernelBench-Verified: Do LLM-Generated Kernels Actually Beat PyTorch? [13.026983194416168]
大きな言語モデル(LLM)は、KernelBenchのようなベンチマークでPyTorchを上回っているように見えるカスタムカーネルを生成することができる。
We demonstrate that frontier models often involved in reward hacking to artificially inflate performance。
論文 参考訳（メタデータ） (2026-06-26T03:22:50Z) - Spike-Aware C++ INT8 Inference for Sparse Spiking Language Models on Commodity CPUs [8.419155861590548]
スパイク言語モデルは、高密度のTransformerランタイムが直接利用しないアクティベーション空間を公開します。
スパースバイナリスパイク状態を実行プリミティブとして扱うC++ CPU推論ランタイムを実装した。
スパイク対応の実行は、スパース言語モデルのCPUスループットとメモリ動作を改善することができる。
論文 参考訳（メタデータ） (2026-06-02T02:03:37Z) - UniLab: A Heterogeneous Architecture for Robot RL Beyond GPU-Dominant Paradigms [68.40808444348735]
シミュレーション支配型ロボット制御では、どのプロセッサが物理を実行するかではなく、シミュレーションスループット、ポリシー学習、実行時同期が効率的なエンドツーエンドループを形成するかどうかが重要な問題である。
データ移動、バッファリング、同期のための統一ランタイムを通じて、GPUポリシー更新からCPU並列シミュレーションを分離する、異種CPU常駐/GPU学習アーキテクチャであるUniLabを提案する。
論文 参考訳（メタデータ） (2026-05-28T17:53:50Z) - A High-Throughput Compute-Efficient POMDP Hide-And-Seek-Engine (HASE) for Multi-Agent Operations [0.0]
我々はC++で構築された計算効率の高いDec-POMDPエンジン、Hide-And-Seek-Engineを紹介した。
我々のエンジンは、AMD 9950X (16コア)上の1エージェント1024環境の分散観測において、毎秒最大33,000,000ステップのスループットを維持できる。
エンジンは、ベースラインのシングルスレッドベクトル化NumPy実装よりも約3,500$times$のスループット向上を実現している。
論文 参考訳（メタデータ） (2026-04-29T20:09:13Z) - vla-eval: A Unified Evaluation Harness for Vision-Language-Action Models [58.633451339058986]
VLAモデルは一般的に、各モデルリポジトリによって独立して維持されるベンチマークスクリプト毎に評価される。
本稿では、ベンチマーク実行からモデル推論を分離するオープンソースの評価ハーネスであるvla evalを紹介する。
完全な評価では、vla eval serveとvla eval runの2つのコマンドしか必要としない。
論文 参考訳（メタデータ） (2026-03-14T14:38:53Z) - Architecture-Aware LLM Inference Optimization on AMD Instinct GPUs: A Comprehensive Benchmark and Deployment Study [0.0]
AMD Instinct MI325X GPUにおけるLCM推定のクロスアーキテクチャ評価
3つのアーキテクチャファミリにまたがる235Bから1兆のパラメータにまたがる4つのモデルのベンチマーク。
論文 参考訳（メタデータ） (2026-02-27T13:21:48Z) - Learning Adaptive Parallel Reasoning with Language Models [70.1745752819628]
本稿では,適応並列推論(Adaptive Parallel Reasoning, APR)を提案する。
APRは、spawn()とjoin()操作を使用して適応的なマルチスレッド推論を可能にすることで、既存の推論メソッドを一般化する。
鍵となる革新は、親と子の両方の推論スレッドを最適化して、事前に定義された推論構造を必要とせずにタスクの成功率を高める、エンドツーエンドの強化学習戦略である。
論文 参考訳（メタデータ） (2025-04-21T22:29:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。