論文の概要: PERFOGRAPH: A Numerical Aware Program Graph Representation for
Performance Optimization and Program Analysis
- arxiv url: http://arxiv.org/abs/2306.00210v1
- Date: Wed, 31 May 2023 21:59:50 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-02 19:07:59.493338
- Title: PERFOGRAPH: A Numerical Aware Program Graph Representation for
Performance Optimization and Program Analysis
- Title(参考訳): PERFOGRAPH:パフォーマンス最適化とプログラム解析のための数値認識プログラムグラフ表現
- Authors: Ali TehraniJamsaz, Quazi Ishtiaque Mahmud, Le Chen, Nasreen K. Ahmed,
Ali Jannesari
- Abstract要約: 最新の機械学習メソッドを採用する上で重要な課題は、プログラミング言語の表現である。
PERFOGRAPHと呼ばれる新しいグラフベースのプログラム表現を提案する。
PerFOGRAPHは、新しいノードとエッジを導入することで、数値情報と複合データ構造をキャプチャすることができる。
- 参考スコア(独自算出の注目度): 1.189955933770711
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The remarkable growth and significant success of machine learning have
expanded its applications into programming languages and program analysis.
However, a key challenge in adopting the latest machine learning methods is the
representation of programming languages, which directly impacts the ability of
machine learning methods to reason about programs. The absence of numerical
awareness, composite data structure information, and improper way of presenting
variables in previous representation works have limited their performances. To
overcome the limitations and challenges of current program representations, we
propose a novel graph-based program representation called PERFOGRAPH.
PERFOGRAPH can capture numerical information and the composite data structure
by introducing new nodes and edges. Furthermore, we propose an adapted
embedding method to incorporate numerical awareness. These enhancements make
PERFOGRAPH a highly flexible and scalable representation that can effectively
capture program intricate dependencies and semantics. Consequently, it serves
as a powerful tool for various applications such as program analysis,
performance optimization, and parallelism discovery. Our experimental results
demonstrate that PERFOGRAPH outperforms existing representations and sets new
state-of-the-art results by reducing the error rate by 7.4% (AMD dataset) and
10% (NVIDIA dataset) in the well-known Device Mapping challenge. It also sets
new state-of-the-art results in various performance optimization tasks like
Parallelism Discovery and Numa and Prefetchers Configuration prediction.
- Abstract(参考訳): 機械学習の顕著な成長と大きな成功は、その応用をプログラミング言語やプログラム分析に拡張した。
しかし、最新の機械学習メソッドを採用する上で重要な課題はプログラミング言語の表現であり、プログラムを推論する機械学習メソッドの能力に直接影響を及ぼす。
数値認識の欠如、複合データ構造情報、以前の表現作業における変数の提示方法の不適切さは、その性能を制限している。
現行のプログラム表現の限界と課題を克服するために,新しいグラフベースのプログラム表現であるperfographを提案する。
perfographは、新しいノードとエッジを導入することで、数値情報と複合データ構造をキャプチャできる。
さらに,数値認識を組み込んだ組込み手法を提案する。
これらの拡張によりPERFOGRAPHは、プログラムの複雑な依存関係とセマンティクスを効果的にキャプチャできる、柔軟でスケーラブルな表現になる。
その結果、プログラム分析、性能最適化、並列性発見といった様々なアプリケーションのための強力なツールとして機能する。
実験の結果,よく知られたデバイスマッピングチャレンジでは,エラーレートを7.4% (amdデータセット) と10% (nvidiaデータセット) 削減することで,既存の表現を上回り,新たな最先端結果を設定することができた。
また、並列性の発見やnuma、prefetchersの設定予測など、さまざまなパフォーマンス最適化タスクに最先端の結果を新たに設定する。
関連論文リスト
- Instance-Aware Graph Prompt Learning [71.26108600288308]
本稿では,インスタンス対応グラフプロンプト学習(IA-GPL)について紹介する。
このプロセスでは、軽量アーキテクチャを使用して各インスタンスの中間プロンプトを生成する。
複数のデータセットと設定で実施された実験は、最先端のベースラインと比較して、IA-GPLの優れたパフォーマンスを示している。
論文 参考訳(メタデータ) (2024-11-26T18:38:38Z) - Efficient End-to-end Language Model Fine-tuning on Graphs [21.23522552579571]
Text-Attributed Graphs (TAGs) からの学習は、その幅広い現実世界のアプリケーションのために大きな注目を集めている。
我々は,TAG上での言語モデルのエンドツーエンドな微調整のための,新規かつ効率的なアプローチであるLEAdingを紹介する。
提案手法は,Ogbn-arxiv のリーダーボード上で,最先端のSOTA(State-of-the-art)を達成し,優れた性能を示す。
論文 参考訳(メタデータ) (2023-12-07T22:35:16Z) - Learning Generalizable Program and Architecture Representations for Performance Modeling [0.3277163122167434]
PerfVecは、新しいディープラーニングベースのパフォーマンスモデリングフレームワークである。
高次元および独立/直交プログラムとマイクロアーキテクチャ表現を学習する。
PerfVecは、命令のパフォーマンスの本質をキャプチャする基盤モデルを生成する。
論文 参考訳(メタデータ) (2023-10-25T17:24:01Z) - GIF: A General Graph Unlearning Strategy via Influence Function [63.52038638220563]
Graph Influence Function (GIF)は、削除されたデータにおける$epsilon$-massの摂動に応答してパラメータの変化を効率的に正確に推定できる、モデルに依存しない未学習の手法である。
我々は,4つの代表的GNNモデルと3つのベンチマークデータセットについて広範な実験を行い,未学習の有効性,モデルの有用性,未学習効率の観点からGIFの優位性を正当化する。
論文 参考訳(メタデータ) (2023-04-06T03:02:54Z) - Music Instrument Classification Reprogrammed [79.68916470119743]
プログラム」とは、事前学習されたモデルの入力と出力の両方を修正・マッピングすることで、もともと異なるタスクをターゲットにした、事前学習された深層・複雑なニューラルネットワークを利用する手法である。
本研究では,異なるタスクで学習した表現のパワーを効果的に活用できることを実証し,結果として得られた再プログラムシステムは,訓練パラメータのごく一部で,同等あるいはそれ以上の性能を持つシステムでも実行可能であることを実証する。
論文 参考訳(メタデータ) (2022-11-15T18:26:01Z) - Advancing Reacting Flow Simulations with Data-Driven Models [50.9598607067535]
マルチ物理問題における機械学習ツールの効果的な利用の鍵は、それらを物理モデルとコンピュータモデルに結合することである。
本章では, 燃焼システムにおけるデータ駆動型低次モデリングの適用可能性について概説する。
論文 参考訳(メタデータ) (2022-09-05T16:48:34Z) - Program Enhanced Fact Verification with Verbalization and Graph
Attention Network [25.33739187395408]
本稿では,プログラムと実行をテキスト推論モデルに統合する,プログラム強化型言語化とグラフ注意ネットワーク(ProgVGAT)を提案する。
本研究では,言語化されたプログラムの実行,プログラム構造,原文と表から,さまざまな証拠源を融合するグラフアテンション検証ネットワークを構築した。
実験結果から,提案手法はベンチマークデータセットTABFACTにおいて74.4%の精度で新たな最先端性能を実現することがわかった。
論文 参考訳(メタデータ) (2020-10-06T23:29:08Z) - Graph signal processing for machine learning: A review and new
perspectives [57.285378618394624]
本稿では,GSPの概念とツール,例えばグラフフィルタや変換による新しい機械学習アルゴリズム開発への重要な貢献について概説する。
本稿では,データ構造とリレーショナル事前の活用,データと計算効率の向上,モデル解釈可能性の向上について論じる。
我々は,応用数学と信号処理の橋渡しとなるGSP技術と,他方の機械学習とネットワーク科学の橋渡しとなる新たな視点を提供する。
論文 参考訳(メタデータ) (2020-07-31T13:21:33Z) - Beyond Graph Neural Networks with Lifted Relational Neural Networks [14.63152363481139]
我々は,Lfted Neural Networks の言語に基づく宣言型微分可能プログラミングフレームワークを実演する。
小さなパラメータ化プログラムは学習を符号化するために使用される。
このアイデアは、様々な高度なニューラルネットワークの効率的な符号化にどのように使用できるかを示す。
論文 参考訳(メタデータ) (2020-07-13T10:10:58Z) - Can We Learn Heuristics For Graphical Model Inference Using
Reinforcement Learning? [114.24881214319048]
我々は、強化学習を用いて、高次条件ランダム場(CRF)における推論を解くためのプログラム、すなわち、ポリシーを学習できることを示します。
本手法は,ポテンシャルの形式に制約を加えることなく,推論タスクを効率的に解く。
論文 参考訳(メタデータ) (2020-04-27T19:24:04Z) - ProGraML: Graph-based Deep Learning for Program Optimization and
Analysis [16.520971531754018]
本稿では,機械学習のためのグラフベースのプログラム表現であるProGraMLを紹介する。
ProGraMLは平均94.0F1スコアを獲得し、最先端のアプローチを著しく上回っている。
そして、我々のアプローチを2つのハイレベルなタスク - 不均一なデバイスマッピングとプログラム分類 - に適用し、その両方で新しい最先端のパフォーマンスを設定します。
論文 参考訳(メタデータ) (2020-03-23T20:27:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。