論文の概要: Minions: A Dynamic and Distributed Virtual GPU Cloud Built on Idle Apple Silicon Devices
- arxiv url: http://arxiv.org/abs/2610.12970v1
- Date: Fri, 09 Oct 2026 04:11:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-13 04:06:29.384167
- Title: Minions: A Dynamic and Distributed Virtual GPU Cloud Built on Idle Apple Silicon Devices
- Title(参考訳): Minions: Appleのアイドルシリコンデバイス上に構築された動的で分散的な仮想GPUクラウド
- Abstract要約: 本稿では、デバイス間でアイドル状態のApple Silicon GPUを集約し、機械学習推論ワークロードを実行する、動的で分散された仮想GPUクラウドであるMinionsを紹介する。
我々の経験から、集中型GPUリソースが制約された環境で、アイドルデバイスを実用的な分散GPU推論プラットフォームに変換することが可能である。
- 参考スコア(独自算出の注目度): 8.063527823268489
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The increasing demand for GPU-accelerated machine learning inference has exposed limitations in centralized GPU infrastructures, including high cost, limited elasticity, and long wait times under resource constraints. At the same time, modern Apple Silicon-based macOS devices are equipped with powerful GPUs that remain largely idle during normal usage. This paper presents Minions, a dynamic and distributed virtual GPU cloud that aggregates idle Apple Silicon GPUs across macOS devices to execute large-scale machine learning inference workloads. Minions enables teams to leverage existing hardware without requiring additional GPU procurement. The system provides flexible GPU inference task execution, fault tolerance, and efficient resource utilization. Our experience shows that idle macOS devices can be transformed into a practical distributed GPU inference platform in environments where centralized GPU resources are constrained.
- Abstract(参考訳): GPUが加速する機械学習推論の需要の増加により、コスト、柔軟性の制限、リソース制約下での待ち時間など、中央集権的なGPUインフラストラクチャの制限が明らかになった。
同時に、現代のAppleのシリコンベースのmacOSデバイスには、通常の使用時にほとんどアイドル状態のままの強力なGPUが備わっている。
本稿では、macOSデバイス全体でアイドル状態のApple Silicon GPUを集約し、大規模な機械学習推論ワークロードを実行する、動的で分散された仮想GPUクラウドであるMinionsについて述べる。
Minionを使えば、GPUの調達を必要とせずに、既存のハードウェアを活用できる。
このシステムは、柔軟なGPU推論タスクの実行、フォールトトレランス、効率的なリソース利用を提供する。
我々の経験によると、アイドルmacOSデバイスは、集中型GPUリソースが制約された環境で、実用的な分散GPU推論プラットフォームに変換できる。
関連論文リスト
- UniLab: A Heterogeneous Architecture for Robot RL Beyond GPU-Dominant Paradigms [68.40808444348735]
シミュレーション支配型ロボット制御では、どのプロセッサが物理を実行するかではなく、シミュレーションスループット、ポリシー学習、実行時同期が効率的なエンドツーエンドループを形成するかどうかが重要な問題である。
データ移動、バッファリング、同期のための統一ランタイムを通じて、GPUポリシー更新からCPU並列シミュレーションを分離する、異種CPU常駐/GPU学習アーキテクチャであるUniLabを提案する。
論文 参考訳(メタデータ) (2026-05-28T17:53:50Z) - iOS as Acceleration [51.56484100374058]
本稿では,iOSデバイスを分散パイプライン並列性により活用するための新しい手法を実証する概念実証システムを提案する。
本研究は,機械学習により大きな貢献をするために,一般的なモバイル機器の改良の可能性を明らかにするものである。
論文 参考訳(メタデータ) (2025-12-19T13:30:44Z) - Power- and Fragmentation-aware Online Scheduling for GPU Datacenters [9.29180785233729]
我々はGPUのフラグメンテーションの最小化と消費電力の削減という2つの目標に焦点を当てている。
そこで本稿では,電力効率のよいGPUとCPUの組み合わせを選択することで,電力使用量を最小限に抑える新しいスケジューリングポリシーであるPWRを提案する。
本稿では,PWRがFGDと組み合わせることで,消費電力削減とGPUフラグメンテーションの最小化のトレードオフを実現することを示す。
論文 参考訳(メタデータ) (2024-12-23T11:27:17Z) - FusionAI: Decentralized Training and Deploying LLMs with Massive
Consumer-Level GPUs [57.12856172329322]
我々は、巨大な未使用のコンシューマレベルのGPUをアンロックする分散システムを構想する。
このシステムは、CPUとGPUメモリの制限、ネットワーク帯域幅の低さ、ピアとデバイスの多様性など、重要な課題に直面している。
論文 参考訳(メタデータ) (2023-09-03T13:27:56Z) - An Analysis of Collocation on GPUs for Deep Learning Training [0.0]
マルチインスタンスGPU(MIG)はNVIDIAが導入した新しい技術で、GPUをより良いワークロードに分割することができる。
本稿では,MIG対応A100 GPUの各種サイズとモデルの組み合わせを含むディープラーニングワークロードにおける性能について検討する。
論文 参考訳(メタデータ) (2022-09-13T14:13:06Z) - PARIS and ELSA: An Elastic Scheduling Algorithm for Reconfigurable
Multi-GPU Inference Servers [0.9854614058492648]
NVIDIAのAmpere GPUアーキテクチャは、1つの大きなモノリシックGPUを複数の小さな"GPUパーティション"に"再構成"する機能を提供する。
本稿では,この新しいGPUアーキテクチャを再構成性で検討し,高性能なマルチGPUML推論サーバを開発する。
論文 参考訳(メタデータ) (2022-02-27T23:30:55Z) - PLSSVM: A (multi-)GPGPU-accelerated Least Squares Support Vector Machine [68.8204255655161]
Support Vector Machines (SVM) は機械学習で広く使われている。
しかし、現代的で最適化された実装でさえ、最先端ハードウェア上の大きな非自明な高密度データセットにはうまくスケールしない。
PLSSVMはLVMのドロップイン代替として使用できる。
論文 参考訳(メタデータ) (2022-02-25T13:24:23Z) - RTGPU: Real-Time GPU Scheduling of Hard Deadline Parallel Tasks with
Fine-Grain Utilization [5.02836935036198]
本論文では,複数のGPUアプリケーションの実行をリアルタイムにスケジュール可能なRTGPUを提案する。
提案手法は,従来の作業に比べてスケジューリング性に優れ,複数のGPUアプリケーションに厳しい期限をリアルタイムに保証する。
論文 参考訳(メタデータ) (2021-01-25T22:34:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。