論文の概要: Mixed-Precision SEM-Based CFD Simulations on GPUs: A Taylor-Green Vortex case
- arxiv url: http://arxiv.org/abs/2608.24348v1
- Date: Tue, 25 Aug 2026 10:06:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-26 14:09:34.930895
- Title: Mixed-Precision SEM-Based CFD Simulations on GPUs: A Taylor-Green Vortex case
- Title（参考訳）: GPU上の混合精度SEMに基づくCFDシミュレーション:Taylor-Green Vortexの場合
- Abstract要約: スペクトル要素法(SEM)に基づくマトリックスフリーCFDソルバNekoを用いたTaylor-Green vortexケースについて検討した。
プロファイリングは流体時間のステップがクリロフ収束のみに支配されないことを示している。
本稿では,3階層型混合精度制御モデルを提案する。
- 参考スコア（独自算出の注目度）: 2.599882743586164
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Mixed precision is a promising approach for reducing the computational cost and energy consumption of Computation Fluid Dynamics (CFD) simulations, but its effectiveness depends strongly on where precision is reduced within the full simulation pipeline. In this work, we study Taylor-Green vortex case using Neko, a matrix-free CFD solver based on the spectral element method (SEM). Profiling shows that the fluid time step is not dominated by Krylov convergence alone: the velocity and pressure solvers require only a small number of iterations per step, while a substantial fraction of runtime is spent in other SEM operators and solver components. Motivated by this structure, we propose a three-level hierarchical mixed-precision control model. Two groups of configurations are evaluated in environments bounded by 64-bit floating-point (fp64) and 32-bit floating-point (fp32) precision, respectively. The fp64-bounded group identifies accuracy sensitive components and shows that SEM-focused fp32 computation is a promising direction for future optimization. The fp32-bounded group provides the main practical benefit. For the high Reynolds number case studied, selected configurations reduce both time- and energy-to-solution by about 34% relative to the fp64 baseline, while improving robustness compared with global fp32. Targeted fp16 kernel overrides are also explored, showing potential for selected operations but increased sensitivity in gradient-based quantities such as enstrophy. Overall, these results indicate that mixed-precision for matrix-free SEM-based CFD should be treated as a simulation-level control problem rather than solely as a Krylov-solver optimization.
- Abstract（参考訳）: 混合精度は計算コストと計算流体力学(CFD)シミュレーションのエネルギー消費を削減するための有望な手法であるが、その効果は完全なシミュレーションパイプライン内での精度の低下に強く依存する。
本研究では,スペクトル要素法(SEM)に基づく行列フリーCFDソルバであるNekoを用いたTaylor-Green vortexケースについて検討する。
速度と圧力の解法はステップ毎に少数のイテレーションしか必要とせず、ランタイムのかなりの部分は他のSEM演算子や解法コンポーネントに費やされている。
この構造を動機として,3階層型混合精度制御モデルを提案する。
64ビット浮動小数点 (fp64) と32ビット浮動小数点 (fp32) の精度で2つの構成群を評価する。
fp64-bounded groupは精度の高いコンポーネントを特定し、将来の最適化に向けてSEMにフォーカスしたfp32計算が有望な方向であることを示している。
fp32-bounded groupは、主要な実用的利益を提供する。
高レイノルズ数の場合、選択された構成はfp64ベースラインと比較して時間とエネルギーの双方を約34%削減し、グローバルfp32に比べて堅牢性は向上した。
ターゲットfp16カーネルオーバライドも探索され、選択された操作の可能性を示したが、エンストロフィーのような勾配に基づく量では感度が向上した。
これらの結果から,行列のないSEMベースのCFDの混合精度は,Krylov-solver最適化のみではなく,シミュレーションレベルの制御問題として扱うべきであることが示唆された。
関連論文リスト
- Precision-Aware Variable Bit Processing Elements for Hardware-Efficient Systolic Array Designs [0.7359962178534359]
シストリックアレイ (Systolic arrays, SA) は、ディープラーニングにおける行列演算のハードウェアアクセラレータとして注目されている。
本研究では,静止重みアレーにおける浮動小数点乗算器の近似計算手法について検討する。
論文 参考訳（メタデータ） (2026-08-23T12:00:17Z) - Towards Robust Training in NNGPT AutoML Pipeline: A Loss-Optimizer Pairing Selection Study [48.83701310501069]
本稿では, 一つのレシピがヘテロジニアスなアーキテクチャプールに十分であるか, 最適ペアリングが構造的に多様なモデルによって異なるかを検討する。
我々は,CEL(Cross-Entropy),NLL(Negative Log-Likelihood),および最近導入された遺伝学的に進化したNGL損失を,LEMURヘテロジニアス・アーキテクチャー・プールの6つの画像分類データセット上に提示したベースモデル間で比較検討した。
我々の結果は、単一のペアリングが普遍的に最適でないことを確認した。AdamやAdamWとのクロスエントロピーは、最も堅牢な選択である。
論文 参考訳（メタデータ） (2026-06-18T20:51:42Z) - ChunkFT: Byte-Streamed Optimization for Memory-Efficient Full Fine-Tuning [58.54940026861599]
textscChunkFTはメモリ効率の良い微調整フレームワークである。
textscChunkFTは、ネットワークアーキテクチャを変更することなく任意のサブテンソルの勾配計算を可能にする。
textscChunkFTは、既存のメモリ効率のベースラインを一貫して上回る。
論文 参考訳（メタデータ） (2026-05-20T13:44:44Z) - BWTA: Accurate and Efficient Binarized Transformer by Algorithm-Hardware Co-design [71.97035034203275]
バイナライゼーションにおけるゼロ点歪みを解析し,BWTA量子化方式を提案する。
本稿では,Smooth Multi-Stage Quantizationを提案し,レベルワイド・デグラデーション・ストラテジーとMagnitude Alignment Projection Factorを組み合わせた。
実験の結果、BWTAはTransformerベースのモデルに対して、GLUEでは平均3.5%、タスクでは2%未満の精度でフル精度のパフォーマンスにアプローチしていることがわかった。
論文 参考訳（メタデータ） (2026-04-05T04:25:07Z) - GPU-Accelerated Optimization of Transformer-Based Neural Networks for Real-Time Inference [0.0]
本稿では,混合精度最適化を用いたNVIDIARTを用いた変圧器モデルのためのGPU加速型推論パイプラインの設計と評価を行う。
このシステムはCPUベースラインの64.4倍のスピードアップ、シングルサンプル推論の10ms以下のレイテンシ、メモリ使用量の63%削減を実現している。
論文 参考訳（メタデータ） (2026-03-30T17:27:33Z) - HQP: Sensitivity-Aware Hybrid Quantization and Pruning for Ultra-Low-Latency Edge AI Inference [0.0]
相乗的モデル加速を実現するために設計されたHybrid Quantization and Pruning (HQP)フレームワーク。
HQPフレームワークは3.12倍の推論速度向上と55%のモデルサイズ縮小を実現している。
論文 参考訳（メタデータ） (2026-02-02T18:17:45Z) - Speeding Up MACE: Low-Precision Tricks for Equivarient Force Fields [51.95157731126864]
機械学習力場は高い計算コストで正確な分子動力学(MD)を提供することができる。
この論文は、計算ボトルネックを特定し、低精度の実行ポリシーを評価することで、MACEを安価かつ高速にすることを目的としている。
論文 参考訳（メタデータ） (2025-10-23T14:02:34Z) - Understanding and Mitigating Numerical Sources of Nondeterminism in LLM Inference [31.2331188304598]
評価バッチサイズ、GPUカウント、GPUバージョンなどのシステム構成の変更は、生成されたレスポンスに大きな違いをもたらす可能性がある。
この変数の根本原因は、限定的な数値精度で浮動小数点算術の非連想性に遡る。
そこで我々は16ビットの精度で重みを格納するが、FP32では全ての計算を実行する軽量な推論パイプラインLayerCastを開発した。
論文 参考訳（メタデータ） (2025-06-11T08:23:53Z) - SliM-LLM: Salience-Driven Mixed-Precision Quantization for Large Language Models [63.118592279833656]
後学習量子化(PTQ)は,大規模言語モデル(LLM)の圧縮に有効な手法である
本稿では,SliM-LLMを提案する。SliM-LLMは,グループ単位でビット幅を割り当てるサリエンス駆動の混合精度量子化フレームワークである。
実験により、SliM-LLMは低ビット幅の様々なLLMにおいて優れた性能を発揮することが示された。
論文 参考訳（メタデータ） (2024-05-23T16:21:48Z) - Rethinking Floating Point Overheads for Mixed Precision DNN Accelerators [2.6487352458568507]
異なる整数および浮動小数点(FP)精度をサポートする混合精度畳み込みユニットアーキテクチャを提案する。
FP計算を整数ベースのアーキテクチャに統合し、FP演算サポートによるオーバーヘッドを評価する方法を紹介します。
論文 参考訳（メタデータ） (2021-01-27T23:57:43Z) - Self Normalizing Flows [65.73510214694987]
本稿では,各層における学習された近似逆数により,勾配の高価な項を置き換えることで,フローの正規化を訓練するための柔軟なフレームワークを提案する。
これにより、各レイヤの正確な更新の計算複雑性が$mathcalO(D3)$から$mathcalO(D2)$に削減される。
実験により,これらのモデルは非常に安定であり,正確な勾配値と類似したデータ可能性値に最適化可能であることが示された。
論文 参考訳（メタデータ） (2020-11-14T09:51:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。