論文の概要: Detecting Soft Errors in Parallel Software with LLM-tuned Instruction Duplication
- arxiv url: http://arxiv.org/abs/2609.19531v1
- Date: Thu, 17 Sep 2026 00:54:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-20 08:55:54.053679
- Title: Detecting Soft Errors in Parallel Software with LLM-tuned Instruction Duplication
- Title(参考訳): LLM調整命令重複を用いた並列ソフトウェアにおけるソフトエラーの検出
- Abstract要約: PaRID (PaRallel Instruction Duplication) はソフトウェア指向のソフトエラー検出フレームワークである。
PaRIDは2つの主要な課題に対処する: 並列プログラムをシリアルと並列の混合領域でサポートし、コストのかかる動的プロファイリングに頼ることなくパフォーマンスのオーバーヘッドを最小限にする。
- 参考スコア(独自算出の注目度): 0.6588840794922407
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose PaRID (PaRallel Instruction Duplication), a software-directed soft error detection framework that requires only compile-time effort for multithreading parallel programs. PaRID addresses two key challenges: supporting parallel programs with mixed serial and parallel regions and minimizing performance overhead without relying on costly dynamic profiling. It combines parallel-aware code transformation with LLM-tuned performance modeling, guided by eight generalizable findings from an offline characterization study, to enable fast soft error detection in parallel applications. Evaluation on NPB benchmarks shows that PaRID reduces protection overhead from 162.79% to 59.84% on average and achieves up to 5x speedup while maintaining full error detection effectiveness.
- Abstract(参考訳): ソフトウェア指向のソフトエラー検出フレームワークであるPaRID(PaRallel Instruction Duplication)を提案する。
PaRIDは2つの主要な課題に対処する: 並列プログラムをシリアルと並列の混合領域でサポートし、コストのかかる動的プロファイリングに頼ることなくパフォーマンスのオーバーヘッドを最小限にする。
並列認識型コード変換とLLMで調整されたパフォーマンスモデリングを組み合わせることで、オフラインのキャラクタリゼーションによる8つの一般化可能な結果によって導かれ、並列アプリケーションにおける高速なソフトエラー検出を実現する。
NPBベンチマークの評価によると、PaRIDは保護オーバーヘッドを平均162.79%から59.84%に削減し、完全なエラー検出効率を維持しながら最大5倍のスピードアップを達成する。
関連論文リスト
- ThreadWeaver: Adaptive Threading for Efficient Parallel Reasoning in Language Models [99.6720868215076]
適応並列推論のためのフレームワークThreadWeaverを紹介します。
ThreadWeaverは、同等サイズの一般的なシーケンシャル推論モデルと同等の精度を達成する。
ThreadWeaverはトークンのレイテンシの平均速度を最大1.53倍にします。
論文 参考訳(メタデータ) (2025-11-24T18:55:59Z) - ParallelBench: Understanding the Trade-offs of Parallel Decoding in Diffusion LLMs [31.387806058620683]
拡散LDMは、並列復号による推論を劇的に加速する可能性への関心が高まっている。
既存の作業は、これらの固有の課題を概ね見落としており、標準ベンチマークによる評価は、並列復号による品質劣化を捉えるのに十分ではない。
そこで我々は,DLLMに特化して設計された最初のベンチマークであるParallelBenchを提案する。
我々の発見は、現在のスピード品質のトレードオフを克服できる革新的な復号法の必要性を強調している。
論文 参考訳(メタデータ) (2025-10-06T12:41:31Z) - dParallel: Learnable Parallel Decoding for dLLMs [77.24184219948337]
拡散大言語モデル(dLLM)は並列トークン予測と低推論遅延を提供する。
既存のオープンソースモデルは、パフォーマンスを確保するためにトークン長のデコードステップをほとんど必要としています。
高速サンプリングのためにdLLMs固有の並列性を解き放つシンプルで効果的な方法であるdParallelを導入する。
論文 参考訳(メタデータ) (2025-09-30T16:32:52Z) - ASPD: Unlocking Adaptive Serial-Parallel Decoding by Exploring Intrinsic Parallelism in LLMs [34.477777651648914]
大規模言語モデル(LLM)は、自動回帰デコードパラダイムのため、推論遅延の大きな問題を生じさせる。
本稿では、並列化可能なデータの自動構築と効率的な並列化機構の2つの課題に対処する適応シリアル-パラレルデコーディング(ASPD)を提案する。
我々のフレームワークは、効率的なLCM並列推論のための基盤となるベンチマークを設定し、AIによるカスタマーサービスボットや回答検索エンジンのようなレイテンシに敏感なアプリケーションへのデプロイの道を開く。
論文 参考訳(メタデータ) (2025-08-12T12:35:55Z) - Pangu Embedded: An Efficient Dual-system LLM Reasoner with Metacognition [95.54406667705999]
Pangu Embeddedは、Ascend Neural Processing Units (NPU) 上で開発された効率的なLarge Language Model (LLM) 推論器である。
既存の推論最適化 LLM でよく見られる計算コストと推論遅延の問題に対処する。
単一の統一モデルアーキテクチャ内で、迅速な応答と最先端の推論品質を提供する。
論文 参考訳(メタデータ) (2025-05-28T14:03:02Z) - APB: Accelerating Distributed Long-Context Inference by Passing Compressed Context Blocks across GPUs [81.5049387116454]
我々は、効率的な長文推論フレームワークであるAPBを紹介する。
APBはプリフィル速度を高めるためにマルチホスト近似アテンションを使用する。
APBはFlashAttn、RingAttn、StarAttnと比較して最大9.2x、4.2x、1.6xの速度を実現している。
論文 参考訳(メタデータ) (2025-02-17T17:59:56Z) - AutoParLLM: GNN-guided Context Generation for Zero-Shot Code Parallelization using LLMs [10.648304988994369]
我々の研究は、グラフニューラルネットワーク(GNN)からのガイダンスを用いて、効率的な並列コードを生成する新しい方法である ourtool を提案する。
ourtool xspace は最先端の LLM を NAS で19.9%、Rodinia ベンチマークで6.48% 改善し、並列コード生成のタスクに CodeBERTScore を使用する。
論文 参考訳(メタデータ) (2023-10-06T06:51:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。