論文の概要: Graph Machine: Exploring Edge Mechanisms as an Inductive Bias
- arxiv url: http://arxiv.org/abs/2608.06834v1
- Date: Fri, 07 Aug 2026 05:48:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-10 16:21:25.372487
- Title: Graph Machine: Exploring Edge Mechanisms as an Inductive Bias
- Title(参考訳): Graph Machine: 誘導バイアスとしてのエッジメカニズムの探索
- Abstract要約: 2つの明示的なエッジベースのメカニズムを持つアーキテクチャであるGraph Machineを紹介する。
制御条件下でのスドクを用いた誘導バイアスについて検討する。
驚くべきことに、このモデルにより、スドク幾何学のコンパクトなエッジベース構造が発見された。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Transformers provide a powerful architecture for global content-based matching, but reasoning problems may benefit from a stronger inductive bias toward iterative traversal of latent relations. We introduce Graph Machine, an architecture with two explicit edge-based mechanisms: Edge-augmented attention, in which edges modulate attention between nodes, and edge-centric referral, in which nodes exchange addresses to update their edges. Conceptually, this enables the model to dynamically and differentiably construct and revise relational graphs across layers. We study this inductive bias using Sudoku under controlled settings and find that Graph Machine outperforms Transformer baselines, with ablation studies and mechanistic analysis attributing the gains to the edge mechanisms. Surprisingly, we found that the model discovers a compact edge-based construction for Sudoku geometry. Our results support explicit edge mechanisms as a promising architectural design, motivating broader evaluation.
- Abstract(参考訳): トランスフォーマーは、グローバルなコンテンツベースのマッチングのための強力なアーキテクチャを提供するが、推論問題は、潜伏関係の反復的トラバースに対するより強い帰納的バイアスの恩恵を受ける可能性がある。
エッジがノード間の注意を変調するエッジ拡張されたアテンションと、エッジ中心のレファレンスでノードがアドレスを交換してエッジを更新するエッジ中心のレファレンスという、2つの明示的なエッジベースのメカニズムを持つアーキテクチャであるGraph Machineを紹介した。
概念的には、モデルが動的に異なる方法でレイヤ間の関係グラフを構築し、修正することを可能にする。
この帰納バイアスを制御条件下で研究し、グラフマシンがトランスフォーマーベースラインより優れており、アブレーション研究や力学解析がエッジ機構の利得に寄与していることを示す。
驚いたことに、このモデルにより、スドク幾何学のコンパクトなエッジベース構造が発見された。
この結果は,より広範な評価を動機とする,有望なアーキテクチャ設計として,明示的なエッジ機構をサポートする。
関連論文リスト
- TopoFormer: Topology Meets Attention for Graph Learning [8.679678575739304]
Topoformerは、トポロジ的構造を注意に優しいシーケンスにエンコードするグラフ表現学習のフレームワークである。
提案手法のコアとなるTopo-Scanは,グラフを短い順序付きトポロジカルトークン列に分解する新しいモジュールである。
論文 参考訳(メタデータ) (2026-07-30T14:18:17Z) - GraphUniverse: Enabling Systematic Evaluation of Inductive Generalization [8.95975918626961]
GraphUniverseはグラフの全ファミリーを生成するためのフレームワークである。
これにより、スケールでの帰納的一般化の最初の体系的評価が可能になる。
私たちの中心となるイノベーションは、永続的なセマンティックなコミュニティを持つグラフの生成です。
論文 参考訳(メタデータ) (2025-09-25T12:46:01Z) - Graph-Aware Isomorphic Attention for Adaptive Dynamics in Transformers [0.0]
変換器の注意機構をグラフ演算として再構成する。
スパース GIN-Attention はスパース GIN を用いた微調整手法である。
論文 参考訳(メタデータ) (2025-01-04T22:30:21Z) - What Improves the Generalization of Graph Transformers? A Theoretical Dive into the Self-attention and Positional Encoding [67.59552859593985]
自己アテンションと位置エンコーディングを組み込んだグラフトランスフォーマーは、さまざまなグラフ学習タスクのための強力なアーキテクチャとして登場した。
本稿では,半教師付き分類のための浅いグラフ変換器の理論的検討について紹介する。
論文 参考訳(メタデータ) (2024-06-04T05:30:16Z) - Graph External Attention Enhanced Transformer [20.44782028691701]
本稿では,複数の外部ノード/エッジキー値単位を利用してグラフ間相関を暗黙的にキャプチャする新しい注意機構であるグラフ外部注意機構(GEA)を提案する。
そこで我々は,GeAET (Graph external Attention Enhanced Transformer) と呼ばれる効果的なアーキテクチャを設計した。
ベンチマークデータセットの実験では、GAETが最先端の実証的なパフォーマンスを達成することが示されている。
論文 参考訳(メタデータ) (2024-05-31T17:50:27Z) - Graph Transformer GANs with Graph Masked Modeling for Architectural
Layout Generation [153.92387500677023]
本稿では,グラフノード関係を効果的に学習するために,GTGAN(Graph Transformer Generative Adversarial Network)を提案する。
提案したグラフ変換器エンコーダは、局所的およびグローバルな相互作用をモデル化するために、Transformer内のグラフ畳み込みと自己アテンションを組み合わせる。
また,グラフ表現学習のための自己指導型事前学習手法を提案する。
論文 参考訳(メタデータ) (2024-01-15T14:36:38Z) - Curve Your Attention: Mixed-Curvature Transformers for Graph
Representation Learning [77.1421343649344]
本稿では,一定曲率空間の積を完全に操作するトランスフォーマーの一般化を提案する。
また、非ユークリッド注意に対するカーネル化されたアプローチを提供し、ノード数とエッジ数に線形に時間とメモリコストでモデルを実行できるようにします。
論文 参考訳(メタデータ) (2023-09-08T02:44:37Z) - Graph Kernel Neural Networks [53.91024360329517]
本稿では、グラフ上の内部積を計算するカーネル関数であるグラフカーネルを用いて、標準畳み込み演算子をグラフ領域に拡張することを提案する。
これにより、入力グラフの埋め込みを計算する必要のない完全に構造的なモデルを定義することができる。
私たちのアーキテクチャでは,任意の種類のグラフカーネルをプラグインすることが可能です。
論文 参考訳(メタデータ) (2021-12-14T14:48:08Z) - Geometrically Principled Connections in Graph Neural Networks [66.51286736506658]
我々は、幾何学的深層学習の新興分野におけるイノベーションの原動力は、幾何が依然として主要な推進力であるべきだと論じている。
グラフニューラルネットワークとコンピュータグラフィックスとデータ近似モデルとの関係:放射基底関数(RBF)
完全連結層とグラフ畳み込み演算子を組み合わせた新しいビルディングブロックであるアフィンスキップ接続を導入する。
論文 参考訳(メタデータ) (2020-04-06T13:25:46Z) - Understanding Graph Neural Networks with Generalized Geometric
Scattering Transforms [67.88675386638043]
散乱変換は、畳み込みニューラルネットワークのモデルとして機能する多層ウェーブレットベースのディープラーニングアーキテクチャである。
非対称ウェーブレットの非常に一般的なクラスに基づくグラフに対して、窓付きおよび非窓付き幾何散乱変換を導入する。
これらの非対称グラフ散乱変換は、対称グラフ散乱変換と多くの理論的保証を持つことを示す。
論文 参考訳(メタデータ) (2019-11-14T17:23:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。