論文の概要: Transductive Generalization via Optimal Transport and Its Application to Graph Node Classification
- arxiv url: http://arxiv.org/abs/2603.09257v1
- Date: Tue, 10 Mar 2026 06:43:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-11 15:25:24.104648
- Title: Transductive Generalization via Optimal Transport and Its Application to Graph Node Classification
- Title(参考訳): 最適輸送によるトランスダクティブ一般化とグラフノード分類への応用
- Abstract要約: 分布自由な帰納的設定において表現に基づく一般化境界を確立する。
我々の境界は効率的に計算可能であり、グラフノード分類における経験的一般化と強く相関している。
これは深さ依存的な特徴を与え、深さと一般化誤差の間の非単調な関係を捉える。
- 参考スコア(独自算出の注目度): 17.399427621622703
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Many existing transductive bounds rely on classical complexity measures that are computationally intractable and often misaligned with empirical behavior. In this work, we establish new representation-based generalization bounds in a distribution-free transductive setting, where learned representations are dependent, and test features are accessible during training. We derive global and class-wise bounds via optimal transport, expressed in terms of Wasserstein distances between encoded feature distributions. We demonstrate that our bounds are efficiently computable and strongly correlate with empirical generalization in graph node classification, improving upon classical complexity measures. Additionally, our analysis reveals how the GNN aggregation process transforms the representation distributions, inducing a trade-off between intra-class concentration and inter-class separation. This yields depth-dependent characterizations that capture the non-monotonic relationship between depth and generalization error observed in practice. The code is available at https://github.com/ml-postech/Transductive-OT-Gen-Bound.
- Abstract(参考訳): 既存のトランスダクティブ境界の多くは、計算的に難解であり、しばしば経験的な振る舞いと一致しない古典的な複雑性測度に依存している。
本研究では,学習した表現が依存し,学習中にテスト機能にアクセス可能な分布自由なトランスダクティブ・セッティングにおいて,表現に基づく新しい一般化境界を確立する。
我々は、符号化された特徴分布間のワッサーシュタイン距離で表される最適輸送により、大域的およびクラス的境界を導出する。
我々は,グラフノード分類における経験的一般化と,計算が効率的で強く相関していることを示し,古典的複雑性尺度を改良した。
さらに,GNNアグリゲーションプロセスが表現分布を変換し,クラス内濃度とクラス間分離のトレードオフを引き起こすことを明らかにする。
これは、実際には観測された深さと一般化誤差の間の非単調な関係を捉える、深さ依存的な特徴を与える。
コードはhttps://github.com/ml-postech/Transductive-OT-Gen-Boundで公開されている。
関連論文リスト
- Beyond the Training Distribution: Mapping Generalization Boundaries in Neural Program Synthesis [13.460704771478866]
プログラム合成ベンチマークにおいて,大規模トランスフォーマーは印象的な結果を得る。
しかし、その真の一般化能力は、データ汚染と不透明なトレーニングコーパスによって隠蔽されている。
ドメイン固有の算術文法に基づく厳密に制御されたプログラム合成環境を提案する。
論文 参考訳(メタデータ) (2026-04-30T07:58:39Z) - Understanding Generalization from Embedding Dimension and Distributional Convergence [13.491874401333021]
表現中心の観点から一般化を研究し、学習した埋め込みの幾何学が固定訓練モデルの予測性能をどのように制御するかを分析する。
人口リスクは, (i) 埋込み分布の内在的次元, (i) 埋込み分布のワッサーシュタイン距離における人口分布への収束率, (ii) 埋込みから予測への下流マッピングの感度, (ii) リプシッツ定数によって特徴づけられる。
論文 参考訳(メタデータ) (2026-01-30T09:32:04Z) - Topology Identification and Inference over Graphs [61.06365536861156]
グラフ上で進化するプロセスのトポロジの同定と推論は、脳、輸送、金融、電力、および社会的および情報ネットワークを含むタイムリーな応用に現れる。
本章では,多次元データに対するグラフトポロジ同定と統計的推測手法の概要について述べる。
論文 参考訳(メタデータ) (2025-12-11T00:47:09Z) - DIFFormer: Scalable (Graph) Transformers Induced by Energy Constrained
Diffusion [66.21290235237808]
本稿では,データセットからのインスタンスのバッチを進化状態にエンコードするエネルギー制約拡散モデルを提案する。
任意のインスタンス対間の対拡散強度に対する閉形式最適推定を示唆する厳密な理論を提供する。
各種タスクにおいて優れた性能を有する汎用エンコーダバックボーンとして,本モデルの適用性を示す実験を行った。
論文 参考訳(メタデータ) (2023-01-23T15:18:54Z) - Instance-Dependent Generalization Bounds via Optimal Transport [51.71650746285469]
既存の一般化境界は、現代のニューラルネットワークの一般化を促進する重要な要因を説明することができない。
データ空間における学習予測関数の局所リプシッツ正則性に依存するインスタンス依存の一般化境界を導出する。
ニューラルネットワークに対する一般化境界を実験的に解析し、有界値が有意義であることを示し、トレーニング中の一般的な正規化方法の効果を捉える。
論文 参考訳(メタデータ) (2022-11-02T16:39:42Z) - Deep Architecture Connectivity Matters for Its Convergence: A
Fine-Grained Analysis [94.64007376939735]
我々は、勾配降下訓練におけるディープニューラルネットワーク(DNN)の収束に対する接続パターンの影響を理論的に特徴づける。
接続パターンの単純なフィルタリングによって、評価対象のモデルの数を削減できることが示される。
論文 参考訳(メタデータ) (2022-05-11T17:43:54Z) - Measuring Generalization with Optimal Transport [111.29415509046886]
我々は、マージンを最適輸送コストで正規化する、マージンベースの一般化境界を開発する。
我々の境界は、大規模データセット上でトレーニングデータとネットワークパラメータを与えられた一般化誤差を強く予測する。
論文 参考訳(メタデータ) (2021-06-07T03:04:59Z) - The Role of Mutual Information in Variational Classifiers [47.10478919049443]
クロスエントロピー損失を訓練した符号化に依存する分類器の一般化誤差について検討する。
我々は、一般化誤差が相互情報によって境界付けられた状態が存在することを示す一般化誤差に境界を導出する。
論文 参考訳(メタデータ) (2020-10-22T12:27:57Z) - Attentive Normalization for Conditional Image Generation [126.08247355367043]
我々は、従来のインスタンス正規化の拡張である注意的正規化(AN)により、長距離依存を特徴づける。
自己注意型GANと比較して、注意的正規化はすべての位置の相関を測る必要がない。
クラス条件の画像生成とセマンティックインパインティングの実験により,提案モジュールの有効性が検証された。
論文 参考訳(メタデータ) (2020-04-08T06:12:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。