論文の概要: AutoVecCoder: Teaching LLMs to Generate Explicitly Vectorized Code
- arxiv url: http://arxiv.org/abs/2605.17978v1
- Date: Mon, 18 May 2026 07:33:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-19 17:57:48.997741
- Title: AutoVecCoder: Teaching LLMs to Generate Explicitly Vectorized Code
- Title(参考訳): AutoVecCoder: 明示的なベクトルコードを生成するためにLLMを教える
- Authors: Shangzhan Li, Xinyu Yin, Xuanyu Jin, Ye He, Yuxin Zhou, Yuxuan Li, Xu Han, Wanxiang Che, Qi Shi, Ting Liu, Maosong Sun,
- Abstract要約: AutoVecCoderは、大規模言語モデルに自動明示的ベクトル化機能を持たせるために設計された新しいフレームワークである。
自動データ合成パイプラインであるVecPromptは、ドメイン固有の固有の知識を注入する。
強化学習フレームワークであるVecRLは、コード生成と実行効率を一致させる。
このフレームワークでトレーニングされたAutoVecCoder-8Bは、SimdBenchのSSEおよびAVXサブセット上で最先端のパフォーマンスを達成する。
- 参考スコア(独自算出の注目度): 69.84692701646769
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Vectorization via Single Instruction, Multiple Data (SIMD) architectures is a cornerstone of high-performance computing. To fully exploit hardware potential, developers often resort to explicit vectorization using intrinsics, as compiler-based auto-vectorization frequently yields suboptimal results due to conservative static analysis. While Large Language Models (LLMs) have demonstrated remarkable proficiency in general code generation, they struggle with explicit vectorization due to the scarcity of high-quality corpora and the strict semantic constraints of low-level hardware instructions. In this paper, we propose AutoVecCoder, a novel framework designed to empower LLMs with the capability of automated explicit vectorization. AutoVecCoder integrates two core components: VecPrompt, an automated data synthesis pipeline to inject domain-specific intrinsic knowledge; and VecRL, a reinforcement learning framework that aligns code generation with execution efficiency. AutoVecCoder-8B trained by this framework achieves state-of-the-art performance on the SSE and AVX subsets of SimdBench and, in some cases, generates implementations surpassing standard -O3 optimizations, effectively overcoming the inherent bottlenecks of traditional automated vectorization.
- Abstract(参考訳): 単一命令、多重データ(SIMD)アーキテクチャによるベクトル化は、高性能コンピューティングの基盤となる。
ハードウェアの可能性を完全に活用するために、コンパイラベースのオートベクター化は、保守的な静的解析のため、しばしば準最適結果をもたらすため、開発者は内在的を用いた明示的なベクトル化に頼ることが多い。
LLM(Large Language Models)は、一般的なコード生成において顕著な習熟性を示しているが、高品質なコーパスの不足と低レベルのハードウェア命令の厳密な意味的制約のため、明示的なベクトル化に苦慮している。
本稿では,自動明示ベクトル化機能を備えた LLM の強化を目的とした新しいフレームワークである AutoVecCoder を提案する。
AutoVecCoderは、ドメイン固有の固有の知識を注入する自動データ合成パイプラインであるVecPromptと、コード生成と実行効率を調整する強化学習フレームワークであるVecRLの2つのコアコンポーネントを統合している。
このフレームワークによって訓練されたAutoVecCoder-8Bは、SimdBenchのSSEおよびAVXサブセットにおける最先端のパフォーマンスを実現し、場合によっては標準の-O3最適化を超える実装を生成し、従来の自動ベクトル化の固有のボトルネックを効果的に克服する。
関連論文リスト
- OneDrive: Unified Multi-Paradigm Driving with Vision-Language-Action Models [69.2503510410147]
予め訓練されたVLM上に構築した統合自動運転フレームワークを提案する。
トレーニング済みのVLMアテンションは、純粋言語モデリング以上の強い伝達性を示すことを示す。
エンドツーエンドの自動運転ベンチマークの実験は、最先端のパフォーマンスを示している。
論文 参考訳(メタデータ) (2026-04-20T07:50:00Z) - IntrinTrans: LLM-based Intrinsic Code Translator for RISC-V Vector [9.678932711610244]
既存のベクトル化された内在的コードをRVV内在的に変換することは、実用的で効果的なアプローチである。
現在のクロスアーキテクチャの翻訳は手書きの書き換えに大きく依存している。
IntrinTransは、コンパイルとテストのフィードバックを利用して、アーキテクチャ間で固有のコードを自動的に翻訳するマルチエージェントアプローチである。
論文 参考訳(メタデータ) (2025-10-11T08:52:01Z) - VecTrans: Enhancing Compiler Auto-Vectorization through LLM-Assisted Code Transformations [17.974013479973774]
VecTransは、コンパイラベースのコードベクトル化を強化するために、大きな言語モデルを活用するフレームワークである。
VecTransは1.77倍のGeomeanスピードアップを実現し、51のテストケースのうち24をベクトル化することに成功した。
論文 参考訳(メタデータ) (2025-03-25T08:39:35Z) - HiVeGen -- Hierarchical LLM-based Verilog Generation for Scalable Chip Design [24.46771930751068]
HiVeGenは階層的なVerilog生成フレームワークで、生成タスクを階層的なサブモジュールに分解する。
自動設計空間探索(DSE)を階層対応のプロンプト生成に変換し、コードの再利用を強化するために重みに基づく検索を導入する。
エラー補正コストを低減し、生成した設計の質を大幅に向上させる。
論文 参考訳(メタデータ) (2024-12-06T19:37:53Z) - A Walsh Hadamard Derived Linear Vector Symbolic Architecture [83.27945465029167]
シンボリックベクトルアーキテクチャ(VSAs)は、ニューロシンボリックAIを開発するためのアプローチである。
HLBは計算効率が良く、従来のVSAタスクで有効であるように設計されている。
論文 参考訳(メタデータ) (2024-10-30T03:42:59Z) - LLM-Vectorizer: LLM-based Verified Loop Vectorizer [12.048697450464935]
大規模言語モデル(LLM)は、個々の配列要素を処理するスカラープログラムからベクトル化されたコードを生成することができる。
LLMは1.1xから9.4xまでのランタイムスピードアップで高性能なベクトルコードを生成することができる。
我々のアプローチでは、TSVCベンチマークデータセットで正しいベクター化の38.2%を検証できる。
論文 参考訳(メタデータ) (2024-06-07T07:04:26Z) - Adapting Language Models to Compress Contexts [71.98287002918941]
トランスフォーマーベースの言語モデル(LM)は強力で広く適用可能なツールであるが、その有用性は有限コンテキストウィンドウによって制限される。
本稿では,事前学習したLMを,長いコンテキストをコンパクトな要約ベクトルに圧縮可能なAutoCompressorに適応させることを提案する。
最大30,720個のトークンのシーケンスでOPTとLlama-2モデルを微調整し、AutoCompressorが長いコンテキストを使ってパープレキシティを向上できることを示す。
論文 参考訳(メタデータ) (2023-05-24T06:42:44Z) - PolyDL: Polyhedral Optimizations for Creation of High Performance DL
primitives [55.79741270235602]
本稿では,Deep Learningプリミティブの高性能実装を自動的に生成するコンパイラアルゴリズムを提案する。
我々は多面体モデルを用いた新しいデータ再利用分析アルゴリズムを開発した。
また、このようなハイブリッドコンパイラとライブラリ使用の最小限のアプローチが、最先端のパフォーマンスをもたらすことを示す。
論文 参考訳(メタデータ) (2020-06-02T06:44:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。