論文の概要: When Should Graph Attention Be Sparse? Learning a Per-Edge Tsallis Index
- arxiv url: http://arxiv.org/abs/2608.02938v1
- Date: Mon, 03 Aug 2026 22:51:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-05 15:30:22.956586
- Title: When Should Graph Attention Be Sparse? Learning a Per-Edge Tsallis Index
- Title(参考訳): グラフアテンションはいつ疎らになるべきか? エッジ毎のTsallisインデックスを学習する
- Abstract要約: textbfLearnable textbfTsallis textbfGraph textbfAttention, which Tsallis entropic index $q$ is learned with the weights。
検証調整した冷凍グリッドは、61.4%$、チューニングされた$-entmax 6,2.2%$、キャパシティマッチングされた$q!equiv!1$コントロール62.0%$、および61.7%$に達する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Graph attention normalizes neighborhood scores with softmax, the maximum-entropy choice under Shannon statistics. But homophilic and heterophilic graphs want different attention shapes, and one fixed normalization cannot serve both. We propose \textbf{LTGA} (\textbf{L}earnable \textbf{T}sallis \textbf{G}raph \textbf{A}ttention), a graph attention layer whose Tsallis entropic index $q$ is learned jointly with the weights, interpolating continuously between heavy-tailed ($q\!<\!1$), softmax ($q\!=\!1$) and compact-support ($q\!>\!1$) attention at four granularities from a global scalar to a per-edge index, under a bounded reparameterization that starts every model at the GAT baseline. Across eight benchmarks at ten seeds, LTGA-Edge takes the best average rank ($2.75$), but the omnibus test does not reject ($p\!=\!0.199$) and learning $q$ does not beat searching it: a validation-tuned frozen grid reaches $61.4\%$, tuned $α$-entmax $62.2\%$ and a capacity-matched $q\!\equiv\!1$ control $62.0\%$, against $61.7\%$ for LTGA-Edge. What the learned index buys is one run instead of a grid, and an interpretable mechanism: where $q$ leaves $1$, it prunes $42\%$ of attention coefficients to exactly zero, and those edges are selectively the wrong ones, restoring them costs $7.1$ points, while random pruning at the same rate costs $13.0$ more. Project page: https://kleyt0n.github.io/ltga
- Abstract(参考訳): グラフアテンションは、シャノン統計の下での最大エントロピー選択であるソフトマックスで近隣のスコアを正規化する。
しかし、ホモ親和グラフとヘテロ親和グラフは異なる注意形状を望んでおり、1つの固定正規化はどちらも役に立たない。
我々は、Tsallisエントロピック指数$q$が重みと共に学習され、重み付き$q\! の間に連続的に補間されるグラフ注意層である \textbf{LTGA} (\textbf{L}earnable \textbf{T}sallis \textbf{G}raph \textbf{A}ttention) を提案する。
<\!
1ドル),ソフトマックス(q\!
=\!
1ドル)とコンパクトサポート(q\!
>\!
1ドル) グローバルスカラーからエッジ単位のインデックスまでの4つの粒度に注意を払う。
LTGA-Edgeは10種で8つのベンチマークで最高ランク(2.75ドル)を取るが、Omnibusテストは拒絶しない($p\!
=\!
検証チューニングされた冷凍グリッドは61.4\%、チューニングされた$α$-entmax 6,2.2\%、キャパシティマッチングされた$q\!
\equiv\!
1$コントロール 62.0\%$、LTGA-Edgeの611.7\%$に対して。
学習したインデックスはグリッドではなく実行され、解釈可能なメカニズムである:$q$が1ドルを払い、注意係数の42.%を正確に0にプルークし、それらのエッジは選択的に間違ったものとなり、7.1ドルポイント、同じレートでのランダムプルーニングは13.0ドル以上である。
プロジェクトページ:https://kleyt0n.github.io/ltga
関連論文リスト
- Sharp Minimax Regret for Infinite-Memory Logistic Prediction [55.29259818039367]
Lag $j$はスケール$r_j$の予測に影響を与え、$n_T,j=T-j+1$の予測ラウンドに入る。
すべての要約可能なエンベロープに対して、局所化された混合は$cR_T(r)leq C_T(r)$を証明する。
指数関数やエンベロープの場合、有限サンプル条件の下では、トープリッツ・デサインの逆は$cR_T(r)geq c_T(r)$である。
論文 参考訳(メタデータ) (2026-08-27T01:31:46Z) - A combinatorial framework for clustering graph states: Algorithms and hardness for rank-integrity [1.9607843515179006]
同じ量子ビットの集合上で、2つのグラフ状態間の距離の新たな概念を$|Grangle$ と $|G'rangle$ を導入する。
この距離は、グラフ状態 $|widehatGrangle$ におけるアシラ量子ビットの最小数である。
この距離が、多くのグラフ編集距離問題の量子ネットワークアナログをどのように生み出すかを示す。
論文 参考訳(メタデータ) (2026-07-10T14:42:55Z) - The Quad-$C_5$ Graph: Maximum Contextuality Gap on Eight Vertices [0.0]
Quad-$C_5$ は$_3=1+sqrt5$ (=$x2-2x-4$) を持つ最小の文脈性証人であるが、ワグナーグラフは4次元のヒルベルト空間を必要とする。
このグラフは4つの重なり合う5つのサイクルを含み、その隣接スペクトルは黄金比固有値によって支配される。
論文 参考訳(メタデータ) (2026-05-12T23:50:25Z) - Bond-dimension scaling of a local-refinement advantage over hyperoptimized tensor-network contraction on Sycamore like topologies [0.0]
我々は,コテングラテンソル-ネットワーク収縮パイプラインにおける局所再分極の欠如を同定した。
我々は、その影響がシカモア型トポロジーの直交性グラフ上の結合次元とともに単調に増加することを示す。
論文 参考訳(メタデータ) (2026-04-28T11:59:31Z) - Detection of Dense Subhypergraphs by Low-Degree Polynomials [72.4451045270967]
ランダムグラフにおける植込み高密度部分グラフの検出は、基本的な統計的および計算上の問題である。
我々は、$Gr(n, n-beta)ハイパーグラフにおいて、植えた$Gr(ngamma, n-alpha)$ subhypergraphの存在を検出することを検討する。
平均値の減少に基づく硬さが不明な微妙な対数密度構造を考えると,この結果はグラフの場合$r=2$で既に新しくなっている。
論文 参考訳(メタデータ) (2023-04-17T10:38:08Z) - Differentially Private Stochastic Gradient Descent with Low-Noise [49.981789906200035]
現代の機械学習アルゴリズムは、データからきめ細かい情報を抽出して正確な予測を提供することを目的としており、プライバシー保護の目標と矛盾することが多い。
本稿では、プライバシを保ちながら優れたパフォーマンスを確保するために、プライバシを保存する機械学習アルゴリズムを開発することの実践的および理論的重要性について論じる。
論文 参考訳(メタデータ) (2022-09-09T08:54:13Z) - Near-Linear Time and Fixed-Parameter Tractable Algorithms for Tensor
Decompositions [51.19236668224547]
テンソルの低階近似について検討し,テンソルトレインとタッカー分解に着目した。
テンソル列車の分解には、小さなビクリテリアランクを持つビクリテリア$(1 + eps)$-approximationアルゴリズムと、O(q cdot nnz(A))$ランニングタイムを与える。
さらに、任意のグラフを持つテンソルネットワークにアルゴリズムを拡張します。
論文 参考訳(メタデータ) (2022-07-15T11:55:09Z) - Random Graph Matching in Geometric Models: the Case of Complete Graphs [21.689343447798677]
本稿では, エッジ重み付き2つの完全グラフが潜在測地によって相関する問題について検討する。
近似最大極大推定器を導出し、高い確率で$pi*$の完全回復を確実に達成する。
副次的な発見として、[Ume88] の有望なスペクトルアルゴリズムが幾何モデルにおける最大可能性のさらなる近似として現れることを示す。
論文 参考訳(メタデータ) (2022-02-22T04:14:45Z) - On the Self-Penalization Phenomenon in Feature Selection [69.16452769334367]
カーネル群に基づく暗黙の空間性誘導機構について述べる。
アプリケーションとしては、この疎結合誘導機構を使用して、特徴選択に一貫性のあるアルゴリズムを構築します。
論文 参考訳(メタデータ) (2021-10-12T09:36:41Z) - Nearly Horizon-Free Offline Reinforcement Learning [97.36751930393245]
S$状態、$A$アクション、計画的地平$H$で、エピソードな時間同質なMarkov決定プロセスに関するオフライン強化学習を再考する。
経験的MDPを用いた評価と計画のための,約$H$自由なサンプル複雑性境界の最初の集合を得る。
論文 参考訳(メタデータ) (2021-03-25T18:52:17Z) - Private Stochastic Convex Optimization: Optimal Rates in $\ell_1$
Geometry [69.24618367447101]
対数要因まで $(varepsilon,delta)$-differently private の最適過剰人口損失は $sqrtlog(d)/n + sqrtd/varepsilon n.$ です。
損失関数がさらなる滑らかさの仮定を満たすとき、余剰損失は$sqrtlog(d)/n + (log(d)/varepsilon n)2/3で上界(対数因子まで)であることが示される。
論文 参考訳(メタデータ) (2021-03-02T06:53:44Z) - Local classical MAX-CUT algorithm outperforms $p=2$ QAOA on high-girth
regular graphs [0.0]
すべての次数$D ge 2$ of girth $> 5$に対して、QAOA$はQAOA$ on $G$よりも大きなカット率を持つことを示す。
任意の定数$p$に対して、すべてのグラフ上でQAOA$_p$と同様に動作する局所古典的MAX-CUTアルゴリズムが存在すると推測する。
論文 参考訳(メタデータ) (2021-01-14T09:17:20Z) - Curse of Dimensionality on Randomized Smoothing for Certifiable
Robustness [151.67113334248464]
我々は、他の攻撃モデルに対してスムースな手法を拡張することは困難であることを示す。
我々はCIFARに関する実験結果を示し,その理論を検証した。
論文 参考訳(メタデータ) (2020-02-08T22:02:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。