論文の概要: Node-wise Feature Encoding for Neural Performance Prediction

• arxiv url: http://arxiv.org/abs/2608.27794v1
• Date: Fri, 28 Aug 2026 00:20:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-31 17:16:04.169325
• Title: Node-wise Feature Encoding for Neural Performance Prediction
• Title（参考訳）: ニューラルパフォーマンス予測のためのノードワイズ特徴符号化
• Abstract要約: 本稿では,FLOP,パラメータカウント,メモリプロキシのノード単位の明示的な符号化をグラフアテンションアーキテクチャに組み込んだ,ニューラルネットワーク性能予測器であるFeatureFormerを紹介する。 また、レイテンシとエネルギー予測の統一評価を可能にする新しい大規模エネルギー消費データセットであるNNEQを提案する。
• 参考スコア（独自算出の注目度）: 2.6261637357001546
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As neural networks are increasingly deployed on resource constrained edge devices, accurate prediction of latency and energy is critical for efficient neural architecture search. Existing GNN and transformer based predictors achieve strong results but largely ignore node-level computational cost, limiting their ability to model performance critical operations. To address this, we introduce FeatureFormer, a neural performance predictor that incorporates explicit node-wise encodings of FLOPs, parameter counts, and memory proxies within a gated graph attention architecture. We also present NNEQ, a new large-scale energy consumption dataset that enables unified evaluation of latency and energy prediction. Extensive experiments demonstrate that FeatureFormer achieves state-of-the-art performance across both metrics, including challenging out-of-domain settings. Finally, we show that the proposed encoding is broadly applicable and consistently improves existing predictors with negligible overhead.
• Abstract（参考訳）: ニューラルネットワークはリソース制約のあるエッジデバイスにますますデプロイされるため、効率的なニューラルネットワーク探索にはレイテンシとエネルギーの正確な予測が不可欠である。 既存のGNNとトランスフォーマーベースの予測器は強力な結果を得るが、ノードレベルの計算コストをほとんど無視し、性能クリティカルな演算をモデル化する能力を制限する。 そこで我々は,FLOP,パラメータカウント,メモリプロキシのノード単位の明示的な符号化を,グラフアテンションアーキテクチャに組み込んだニューラルネットワーク性能予測器FeatureFormerを紹介する。 また、レイテンシとエネルギー予測の統一評価を可能にする新しい大規模エネルギー消費データセットであるNNEQを提案する。 広範な実験によると、FeatureFormerは両方のメトリクスで最先端のパフォーマンスを実現しており、ドメイン外の設定に挑戦する。 最後に,提案手法は適用範囲が広く,既存の予測器を無視可能なオーバーヘッドで一貫的に改善することを示す。

関連論文リスト

• NN-Former: Rethinking Graph Structure in Neural Architecture Representation [67.3378579108611]
  グラフニューラルネットワーク(GNN)とトランスフォーマーは、ニューラルネットワークを表現する上で有望なパフォーマンスを示している。 これまでの研究で見過ごされている間、兄弟ノードは中心的であることを示す。 我々のアプローチは、精度と遅延予測の両方において、常に有望な性能を達成する。
  論文  参考訳（メタデータ） (2025-07-01T15:46:18Z)
• Nearness of Neighbors Attention for Regression in Supervised Finetuning [0.8192907805418583]
  我々はNearness of Neighbors Attention (NONA)レグレッション層を紹介する。 NONAは、ニューラルネットワークの注意の力学と、k-NN回帰アルゴリズムの微分可能なプロキシを生成するために、新しい学習されたアテンションマスキングスキームを使用する。 複数の非構造化データセットの結果は、回帰のためのSFT埋め込みにおいて、高密度層予測とk-NNの両方よりも性能が向上したことを示している。
  論文  参考訳（メタデータ） (2025-06-09T18:41:48Z)
• Application-oriented automatic hyperparameter optimization for spiking neural network prototyping [0.0076625193420343145]
  この文書は、ニューラルネットワークインテリジェンス(NNI)ツールキットを参照フレームワークとして使用して、そのようなソリューションを1つ提示する。 SNNプロトタイピングのためのアプリケーション指向HPO実験に対する洞察の潜在的源として、提示されたパイプラインを用いた論文の概要が報告されている。
  論文  参考訳（メタデータ） (2025-02-13T14:49:44Z)
• Task-Oriented Real-time Visual Inference for IoVT Systems: A Co-design Framework of Neural Networks and Edge Deployment [61.20689382879937]
  タスク指向エッジコンピューティングは、データ分析をエッジにシフトすることで、この問題に対処する。 既存の手法は、高いモデル性能と低いリソース消費のバランスをとるのに苦労している。 ニューラルネットワークアーキテクチャを最適化する新しい協調設計フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-10-29T19:02:54Z)
• Positional Encoder Graph Quantile Neural Networks for Geographic Data [4.277516034244117]
  本稿では,PE-GNNと量子ニューラルネットワーク,部分的に単調なニューラルブロック,ポストホックリカレーション技術を組み合わせた新しいフレームワークを提案する。 PE-GQNNは、ターゲット分布に関する最小の仮定で柔軟で堅牢な条件密度推定を可能にし、空間データを超えたタスクに自然に拡張する。
  論文  参考訳（メタデータ） (2024-09-27T16:02:12Z)
• ZOBNN: Zero-Overhead Dependable Design of Binary Neural Networks with Deliberately Quantized Parameters [0.0]
  本稿では,低精度ニューラルネットワークの3番目の利点として,耐故障性の改善について紹介する。 本稿では,メモリ障害がBNN(State-of-the-art binary neural network)に与える影響を包括的解析により検討する。 本稿では,新しい均一量子化手法により,フロートパラメータの範囲を制限することにより,BNNの信頼性を向上させる手法を提案する。
  論文  参考訳（メタデータ） (2024-07-06T05:31:11Z)
• Improving Graph Machine Learning Performance Through Feature Augmentation Based on Network Control Theory [3.2505793054002963]
  グラフニューラルネットワーク(GNN)は、様々なネットワークベースの学習タスクにおいて、例外的な有用性を示している。 多くの現実世界のシステムはノードレベルの情報を欠いている可能性があり、GNNにとって課題となっている。 我々は,NCTに基づく拡張機能拡張(NCT-EFA)という新たなアプローチを導入し,GNNの性能向上のための機能拡張パイプラインに,他の集中度指標とともに平均制御性を同化させる。
  論文  参考訳（メタデータ） (2024-05-03T19:11:54Z)
• Power-Enhanced Residual Network for Function Approximation and Physics-Informed Inverse Problems [0.0]
  本稿では、パワーエンハンシング残差ネットワークと呼ばれる新しいニューラルネットワーク構造を提案する。 2Dおよび3D設定におけるスムーズかつ非スムーズな関数近似のネットワーク機能を改善する。 その結果、特に非滑らか関数に対して、提案したパワーエンハンシング残差ネットワークの例外的精度を強調した。
  論文  参考訳（メタデータ） (2023-10-24T10:01:15Z)
• Accelerating Scalable Graph Neural Network Inference with Node-Adaptive Propagation [80.227864832092]
  グラフニューラルネットワーク(GNN)は、様々なアプリケーションで例外的な効果を発揮している。 大規模グラフの重大化は,GNNによるリアルタイム推論において重要な課題となる。 本稿では,オンライン伝搬フレームワークと2つの新しいノード適応伝搬手法を提案する。
  論文  参考訳（メタデータ） (2023-10-17T05:03:00Z)
• Set-based Neural Network Encoding Without Weight Tying [91.37161634310819]
  本稿では,ネットワーク特性予測のためのニューラルネットワーク重み符号化手法を提案する。 我々のアプローチは、混合アーキテクチャのモデル動物園でニューラルネットワークを符号化することができる。 ニューラルネットワークのプロパティ予測には,クロスデータセットとクロスアーキテクチャという,2つの新しいタスクを導入する。
  論文  参考訳（メタデータ） (2023-05-26T04:34:28Z)
• Deep Graph Neural Networks via Posteriori-Sampling-based Node-Adaptive Residual Module [65.81781176362848]
  グラフニューラルネットワーク(GNN)は、近隣情報収集を通じてグラフ構造化データから学習することができる。 レイヤーの数が増えるにつれて、ノード表現は区別不能になり、オーバー・スムーシング(over-smoothing)と呼ばれる。 我々は,textbfPosterior-Sampling-based, Node-distinguish Residual Module (PSNR)を提案する。
  論文  参考訳（メタデータ） (2023-05-09T12:03:42Z)
• Efficient Graph Neural Network Inference at Large Scale [54.89457550773165]
  グラフニューラルネットワーク(GNN)は、幅広いアプリケーションで優れた性能を示している。 既存のスケーラブルなGNNは、線形伝搬を利用して特徴を前処理し、トレーニングと推論の手順を高速化する。 本稿では,そのトポロジ情報に基づいて各ノードに対してパーソナライズされた伝搬順序を生成する適応的伝搬順序法を提案する。
  論文  参考訳（メタデータ） (2022-11-01T14:38:18Z)
• Modeling from Features: a Mean-field Framework for Over-parameterized Deep Neural Networks [54.27962244835622]
  本稿では、オーバーパラメータ化ディープニューラルネットワーク(DNN)のための新しい平均場フレームワークを提案する。 このフレームワークでは、DNNは連続的な極限におけるその特徴に対する確率測度と関数によって表現される。 本稿では、標準DNNとResidual Network(Res-Net)アーキテクチャを通してフレームワークを説明する。
  論文  参考訳（メタデータ） (2020-07-03T01:37:16Z)
• Widening and Squeezing: Towards Accurate and Efficient QNNs [125.172220129257]
  量子化ニューラルネットワーク(QNN)は、非常に安価な計算とストレージオーバーヘッドのため、業界にとって非常に魅力的なものだが、その性能は、完全な精度パラメータを持つネットワークよりも悪い。 既存の手法の多くは、より効果的なトレーニング技術を利用して、特にバイナリニューラルネットワークの性能を高めることを目的としている。 本稿では,従来の完全精度ネットワークで高次元量子化機能に特徴を投影することで,この問題に対処する。
  論文  参考訳（メタデータ） (2020-02-03T04:11:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。