論文の概要: Estudio de la eficiencia en la escalabilidad de GPUs para el entrenamiento de Inteligencia Artificial

• arxiv url: http://arxiv.org/abs/2509.03263v1
• Date: Wed, 03 Sep 2025 12:24:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-04 21:40:46.513571
• Title: Estudio de la eficiencia en la escalabilidad de GPUs para el entrenamiento de Inteligencia Artificial
• Title（参考訳）: Inteligencia人工心臓におけるGPUの研究
• Authors: David Cortes, Carlos Juiz, Belen Bermejo,
• Abstract要約: 大規模ディープラーニングモデルのトレーニングは、科学コミュニティや業界にとって重要な課題となっている。 GPUの大量使用はトレーニング時間を著しく短縮するが、このアプローチは効率に悪影響を及ぼす。 本稿では,4つのワークロード上でのトレーニングv4.1で報告された時間について,詳細な分析を行う。
• 参考スコア（独自算出の注目度）: 1.1278903078792915
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Training large-scale deep learning models has become a key challenge for the scientific community and industry. While the massive use of GPUs can significantly speed up training times, this approach has a negative impact on efficiency. In this article, we present a detailed analysis of the times reported by MLPerf Training v4.1 on four workloads: BERT, Llama2 LoRA, RetinaNet, and Stable Diffusion, showing that there are configurations that optimise the relationship between performance, GPU usage, and efficiency. The results point to a break-even point that allows training times to be reduced while maximising efficiency.
• Abstract（参考訳）: 大規模ディープラーニングモデルのトレーニングは、科学コミュニティや業界にとって重要な課題となっている。 GPUの大量使用はトレーニング時間を著しく短縮するが、このアプローチは効率に悪影響を及ぼす。 本稿では、BERT、Llama2 LoRA、RetinaNet、Stable Diffusionの4つのワークロードでMLPerf Training v4.1が報告した時間に関する詳細な分析を行い、パフォーマンス、GPU使用量、効率の関係を最適化する構成があることを示します。 結果は、効率を最大化しながらトレーニング時間を短縮できるブレークフェアポイントを示している。

関連論文リスト

• Efficient Machine Unlearning via Influence Approximation [75.31015485113993]
  インフルエンサーベースのアンラーニングは、個別のトレーニングサンプルがモデルパラメータに与える影響を再トレーニングせずに推定する顕著なアプローチとして現れてきた。 本稿では,暗記(増分学習)と忘れ(未学習)の理論的関連性を確立する。 本稿では、インフルエンス近似アンラーニングアルゴリズムを導入し、インクリメンタルな視点から効率的なマシンアンラーニングを行う。
  論文  参考訳（メタデータ） (2025-07-31T05:34:27Z)
• AmorLIP: Efficient Language-Image Pretraining via Amortization [47.4350993430346]
  Contrastive Language-Image Pretraining (CLIP) は、様々な下流のテキストイメージタスクにまたがる強力なゼロショット性能を示している。 軽量ニューラルネットワークによるコントラスト学習に関わる高価な計算を記憶する,効率的なCLIP事前学習フレームワークであるAmorLIPを提案する。
  論文  参考訳（メタデータ） (2025-05-25T05:30:37Z)
• Accurate GPU Memory Prediction for Deep Learning Jobs through Dynamic Analysis [0.3867363075280544]
  メモリ外エラーは、モデルトレーニングと効率的なリソース利用にとって主要な障害となる。 VeritasEstは完全にCPUベースの分析ツールで、ディープラーニングのトレーニングタスクに必要なピークGPUメモリを正確に予測することができる。 その性能は、畳み込みニューラルネットワーク(CNN)モデルにわたる数千の実験的な実行を通じて検証された。
  論文  参考訳（メタデータ） (2025-04-04T19:20:03Z)
• QuartDepth: Post-Training Quantization for Real-Time Depth Estimation on the Edge [55.75103034526652]
  ASIC のハードウェアアクセラレーションによる MDE モデルの定量化を後学習量子化に応用した QuartDepth を提案する。 提案手法では,重みとアクティベーションの両方を4ビット精度で定量化し,モデルサイズと計算コストを削減する。 我々は、カーネル融合とカスタマイズされた命令プログラム性をサポートすることにより、フレキシブルでプログラム可能なハードウェアアクセラレータを設計する。
  論文  参考訳（メタデータ） (2025-03-20T21:03:10Z)
• Adaptive Data Exploitation in Deep Reinforcement Learning [50.53705050673944]
  深層強化学習(RL)における**データ効率**と**一般化**を強化する強力なフレームワークであるADEPTを紹介する。 具体的には、ADEPTはマルチアーム・バンディット(MAB)アルゴリズムを用いて、異なる学習段階にわたるサンプルデータの使用を適応的に管理する。 Procgen、MiniGrid、PyBulletなどのベンチマークでADEPTをテストする。
  論文  参考訳（メタデータ） (2025-01-22T04:01:17Z)
• SPAM: Spike-Aware Adam with Momentum Reset for Stable LLM Training [60.9776082805359]
  大規模言語モデル(LLM)は、様々なタスクにまたがる例外的なパフォーマンスを示しているが、そのトレーニングは、非常にリソース集約的で、トレーニングの不安定性に影響を受けやすいままである。 本稿では,LLMトレーニング中に観測された勾配スパイクを包括的に調査し,複数のアーキテクチャやデータセットにまたがる傾向を明らかにする。 本稿では,モーメントムリセットを用いたスパイク・アウェア・アダムを提案し,モーメントムリセットとスパイク・アウェア・クリッピングによる勾配スパイク対策について述べる。
  論文  参考訳（メタデータ） (2025-01-12T15:21:22Z)
• Deep Learning Models on CPUs: A Methodology for Efficient Training [1.7150798380270715]
  本稿では,CPUを用いた深層学習モデルの学習にいくつかの貢献をする。 これは、Intel CPU上でディープラーニングモデルのトレーニングを最適化する手法と、ProfileDNNと呼ばれるツールキットを提供する。
  論文  参考訳（メタデータ） (2022-06-20T22:42:14Z)
• Understanding Training Efficiency of Deep Learning Recommendation Models at Scale [8.731263641794897]
  本稿では,リコメンデーションモデルのトレーニングにGPUを使うことの難しさについて説明する。 スケールにおけるハードウェア効率に影響を与える要因と、新しいスケールアップGPUサーバ設計であるZionから学んだこと。
  論文  参考訳（メタデータ） (2020-11-11T01:21:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。