論文の概要: DTA-GT: Direction- and Topology-Aware Graph Transformer for Neural Network Representation Learning
- arxiv url: http://arxiv.org/abs/2610.16822v1
- Date: Mon, 12 Oct 2026 14:04:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.382477
- Title: DTA-GT: Direction- and Topology-Aware Graph Transformer for Neural Network Representation Learning
- Title(参考訳): DTA-GT:ニューラルネットワーク表現学習のための方向対応および位相対応グラフ変換器
- Abstract要約: DTA-GTは、エンコーダ全体の方向整合性に基づく方向対応および位相対応グラフ変換器である。
NAS-Bench-101とNAS-Bench-201の精度と遅延予測により、DTA-GTは、代表シーケンス-、GNN-、Transformer-、ハイブリッド予測器より一貫して優れている。
- 参考スコア(独自算出の注目度): 25.50428317792718
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Architecture attribute predictors reduce the cost of neural architecture search by estimating accuracy or latency from a small set of evaluated candidates. The key difficulty is that neural architectures are operation-labeled DAGs: edge direction defines computational flow, but existing predictors often treat direction as a local structural cue. We propose DTA-GT, a Direction- and Topology-Aware Graph Transformer based on encoder-wide directional consistency, which preserves directed computational semantics across node initialization, global spectral encoding, pairwise interaction, and feature update. DTA-GT realizes this principle with direction- and topology-aware node initialization, Magnetic Laplacian spectral encoding, direction-dual structural attention, and a Direction-Sensitive MoE-FFN. Across accuracy and latency prediction on NAS-Bench-101 and NAS-Bench-201, DTA-GT consistently outperforms representative sequence-, GNN-, Transformer-, and hybrid predictors under limited-budget settings. Ablations and Magnetic spectral controls show that the improvements come from coordinated direction-aware stages and edge-orientation-sensitive spectral information, while mechanistic diagnostics confirm that the modules exhibit the intended directional behavior. These results support encoder-wide directional consistency as an effective design principle for architecture DAG representation.
- Abstract(参考訳): アーキテクチャ属性予測器は、少数の評価された候補から精度またはレイテンシを推定することで、ニューラルネットワーク検索のコストを削減する。
エッジ方向は計算フローを定義するが、既存の予測器は、しばしば方向を局所的な構造的キューとして扱う。
本稿では,ノード初期化,大域的スペクトル符号化,ペアワイズインタラクション,特徴更新を横断的に処理する,エンコーダ全体の方向整合性に基づくDTA-GTを提案する。
DTA-GTはこの原理を、方向対応および位相対応ノード初期化、磁気ラプラシアスペクトル符号化、方向重構造注意、方向感性MoE-FFNで実現している。
NAS-Bench-101とNAS-Bench-201の精度と遅延予測により、DTA-GTは、限定予算設定で、代表シーケンス-、GNN-、Transformer-、ハイブリッド予測器より一貫して優れる。
アブレーションと磁気スペクトル制御は、補正された方向認識段階とエッジ指向性スペクトル情報から改善が得られ、一方機械学的診断はモジュールが意図した方向行動を示すことを確認している。
これらの結果は,アーキテクチャDAG表現の効果的な設計原理として,エンコーダ全体の方向性整合性をサポートする。
関連論文リスト
- Domain-Prior-Regularized Graph Modeling for Anomaly Detection in Cyber-Physical Systems [4.42333974179549]
異常検出は、サイバー物理システムの産業監視に重要である。
最近のグラフベースのアプローチは大きな進歩を遂げているが、小さな物理システムではしばしば苦労している。
本稿では,システム設計知識をグラフ構築に組み込んだ予測ベースのフレームワークであるDPR-GMを提案する。
論文 参考訳(メタデータ) (2026-07-25T13:21:56Z) - Rethinking Feature Alignment in Generalist Graph Anomaly Detection: A Relational Fingerprint-based Approach [60.199985286210904]
Generalist Graph Anomaly Detection (GAD)は、グラフ固有のリトレーニングなしで、見えないグラフ上の異常を検出することを目的としている。
既存のアプローチは主に、異なる機能セマンティクスを無視したドメイン間の異種データの整合性に焦点を当てている。
We propose Fingerprint-based generalist GAD approach (ReFi-GAD)。
ReFi-GADは14のデータセットの実験において,最先端の手法よりも有意に優れていることを示す。
論文 参考訳(メタデータ) (2026-05-25T05:12:26Z) - Implicit Neural Representations: A Signal Processing Perspective [54.57279006229212]
入射神経表現(INR)は、離散的なサンプルデータから連続的な機能的表現へと、信号モデリングの根本的な変化を示す。
本稿では、信号処理の観点からのINRの進化を考察し、スペクトル挙動、サンプリング理論、マルチスケール表現を強調する。
医療・レーダ画像の逆問題,圧縮,3次元シーン表現など,幅広い応用分野におけるINRの有用性を強調した。
論文 参考訳(メタデータ) (2026-04-16T14:12:06Z) - AdvSynGNN: Structure-Adaptive Graph Neural Nets via Adversarial Synthesis and Self-Corrective Propagation [8.765438402697892]
グラフニューラルネットワークは、構造ノイズや非ホモフィル性トポロジーに直面すると、しばしば顕著な性能劣化に遭遇する。
本稿では、耐性のあるノードレベルの表現学習のために設計された包括的アーキテクチャであるAdvSynGNNを提案する。
論文 参考訳(メタデータ) (2026-02-19T04:26:57Z) - Evolutionary Router Feature Generation for Zero-Shot Graph Anomaly Detection with Mixture-of-Experts [60.60414602796664]
ゼロショットGADのための進化的ルータ特徴生成(EvoFG)を備えた新しいMoEフレームワークを提案する。
EvoFGは最先端のベースラインを一貫して上回り、強力で安定したゼロショットGAD性能を実現している。
論文 参考訳(メタデータ) (2026-02-12T06:16:51Z) - Plain Transformers are Surprisingly Powerful Link Predictors [57.01966734467712]
リンク予測はグラフ機械学習における中核的な課題であり、リッチで複雑なトポロジ的依存関係をキャプチャするモデルを必要とする。
グラフニューラルネットワーク(GNN)が標準的なソリューションであるのに対して、最先端のパイプラインは明示的な構造やメモリ集約的なノードの埋め込みに依存していることが多い。
本報告では,手作りのプリミティブに置き換えるエンコーダのみのプレーントランスであるPENCILについて,サンプリングしたローカルサブグラフに注目する。
論文 参考訳(メタデータ) (2026-02-02T02:45:52Z) - SVDformer: Direction-Aware Spectral Graph Embedding Learning via SVD and Transformer [24.552037222044504]
SVDformerは、方向対応グラフ表現学習のためのSVDとTransformerアーキテクチャを相乗化する新しいフレームワークである。
6つの有向グラフベンチマークの実験は、SVDformerがノード分類タスクにおける最先端のGNNと方向対応のベースラインを一貫して上回っていることを示している。
論文 参考訳(メタデータ) (2025-08-19T01:32:18Z) - Directed Acyclic Graph Convolutional Networks [10.282099295800322]
直接非巡回グラフ(DAG)は、因果推論、スケジューリング、ニューラルアーキテクチャ探索を含む科学と工学の応用の中心である。
本稿では,DAGがサポートする信号からの畳み込み学習に特化した,新しいグラフニューラルネットワーク(GNN)アーキテクチャであるDAG Convolutional Network(DCN)を紹介する。
論文 参考訳(メタデータ) (2025-06-13T20:40:50Z) - Graph Neural Networks for Edge Signals: Orientation Equivariance and Invariance [50.277959544420455]
我々は、新しい方向対応エッジレベルグラフシフト演算子からなるアーキテクチャであるEIGNを開発する。
EIGNは、例えばRMSEのフローシミュレーションタスクを最大23.5%改善するなど、エッジレベルのタスクにおける以前の作業より優れていた。
論文 参考訳(メタデータ) (2024-10-22T12:12:43Z) - Predicting Transonic Flowfields in Non-Homogeneous Unstructured Grids Using Autoencoder Graph Convolutional Networks [0.0]
本稿では,計算流体力学(CFD)においてよく用いられる非均一非構造格子による問題に対処することに焦点を当てる。
我々のアプローチの核となるのは幾何学的深層学習、特にグラフ畳み込みネットワーク(GCN)の利用である。
新規なAutoencoder GCNアーキテクチャは、情報を遠隔ノードに伝播し、影響力のある点を強調することにより、予測精度を向上させる。
論文 参考訳(メタデータ) (2024-05-07T15:18:21Z) - Neural Tangent Kernels Motivate Graph Neural Networks with
Cross-Covariance Graphs [94.44374472696272]
グラフニューラルネットワーク(GNN)の文脈におけるNTKとアライメントについて検討する。
その結果、2層GNNのアライメントの最適性に関する理論的保証が確立された。
これらの保証は、入力と出力データの相互共分散の関数であるグラフシフト演算子によって特徴づけられる。
論文 参考訳(メタデータ) (2023-10-16T19:54:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。