論文の概要: Adversarial Label Invariant Graph Data Augmentations for Out-of-Distribution Generalization
- arxiv url: http://arxiv.org/abs/2604.08404v1
- Date: Thu, 09 Apr 2026 16:02:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-10 18:34:06.011915
- Title: Adversarial Label Invariant Graph Data Augmentations for Out-of-Distribution Generalization
- Title(参考訳): アウト・オブ・ディストリビューション一般化のための逆ラベル不変グラフデータ拡張
- Authors: Simon Zhang, Ryan P. DeMilt, Kun Jin, Cathy H. Xia,
- Abstract要約: アウト・オブ・ディストリビューション(OoD)の一般化は、表現学習が分散シフトに遭遇したときに起こる。
RIA - 逆行訓練による不変性に対する正規化を提案する。
Q$-learningの例に倣って、データ環境をトレーニングするための敵対的な探索を行う。
- 参考スコア(独自算出の注目度): 5.709371904922988
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Out-of-distribution (OoD) generalization occurs when representation learning encounters a distribution shift. This occurs frequently in practice when training and testing data come from different environments. Covariate shift is a type of distribution shift that occurs only in the input data, while the concept distribution stays invariant. We propose RIA - Regularization for Invariance with Adversarial training, a new method for OoD generalization under convariate shift. Motivated by an analogy to $Q$-learning, it performs an adversarial exploration for training data environments. These new environments are induced by adversarial label invariant data augmentations that prevent a collapse to an in-distribution trained learner. It works with many existing OoD generalization methods for covariate shift that can be formulated as constrained optimization problems. We develop an alternating gradient descent-ascent algorithm to solve the problem, and perform extensive experiments on OoD graph classification for various kinds of synthetic and natural distribution shifts. We demonstrate that our method can achieve high accuracy compared with OoD baselines.
- Abstract(参考訳): アウト・オブ・ディストリビューション(OoD)の一般化は、表現学習が分散シフトに遭遇したときに起こる。
これは、異なる環境からデータをトレーニングし、テストする場合に頻繁に発生する。
共変量シフトは入力データにのみ発生する分布シフトの一種であり、概念分布は不変である。
本稿では,共変量シフト下でのOoD一般化手法であるRIA-Regularization for Invariance with Adversarial Trainingを提案する。
Q$-learningの例に倣って、データ環境をトレーニングするための敵対的な探索を行う。
これらの新しい環境は、非流通訓練学習者への崩壊を防ぐ逆ラベル不変データ拡張によって誘導される。
制約最適化問題として定式化できる共変量シフトのための多くの既存のOoD一般化手法で動作する。
そこで本研究では,OoDグラフ分類において,様々な種類の合成および自然分布シフトに対する広範な実験を行った。
提案手法はOoDベースラインと比較して精度が高いことを示す。
関連論文リスト
- The Implicit Bias of Heterogeneity towards Invariance: A Study of Multi-Environment Matrix Sensing [9.551225697705199]
本稿では,不均一なデータに対するグラディエント・ディキセント(SGD)の暗黙バイアスについて検討し,その暗黙バイアスがモデル学習を不変解へと導くことを示す。
具体的には、各環境において、信号が(i)全環境間で共有される低ランク不変部分と(ii)環境依存のスプリアス成分とを含む多環境低ランク行列センシング問題について理論的に検討する。
重要な洞察は、明示的な正規化を伴わずに各環境で大きなステップサイズの大バッチSGDを逐次使用するだけで、不均一性に起因する振動は、モデル学習の急激なシグナルを確実に阻止することができることである。
論文 参考訳(メタデータ) (2024-03-03T07:38:24Z) - Invariant Anomaly Detection under Distribution Shifts: A Causal
Perspective [6.845698872290768]
異常検出(AD、Anomaly Detection)は、異常なサンプルを識別する機械学習タスクである。
分散シフトの制約の下では、トレーニングサンプルとテストサンプルが同じ分布から引き出されるという仮定が崩壊する。
我々は,異常検出モデルのレジリエンスを,異なる種類の分布シフトに高めようとしている。
論文 参考訳(メタデータ) (2023-12-21T23:20:47Z) - Learning Invariant Molecular Representation in Latent Discrete Space [52.13724532622099]
本稿では,分散シフトに対する不変性とロバスト性を示す分子表現を学習するための新しい枠組みを提案する。
我々のモデルは、様々な分布シフトが存在する場合に、最先端のベースラインに対してより強力な一般化を実現する。
論文 参考訳(メタデータ) (2023-10-22T04:06:44Z) - PDE+: Enhancing Generalization via PDE with Adaptive Distributional
Diffusion [66.95761172711073]
ニューラルネットワークの一般化は、機械学習における中心的な課題です。
本稿では、入力データを調整することに集中するのではなく、ニューラルネットワークの基盤機能を直接拡張することを提案する。
私たちはこの理論的フレームワークを、$textbfPDE+$$textbfPDE$ with $textbfA$daptive $textbfD$istributional $textbfD$iffusionとして実践しました。
論文 参考訳(メタデータ) (2023-05-25T08:23:26Z) - Unleashing the Power of Graph Data Augmentation on Covariate
Distribution Shift [50.98086766507025]
本稿では,AIA(Adversarial Invariant Augmentation)という,シンプルで効率の良いデータ拡張戦略を提案する。
AIAは、拡張プロセス中に元の安定した特徴を同時に保存しながら、新しい環境をエクスポーレーションし、生成することを目的としている。
論文 参考訳(メタデータ) (2022-11-05T07:55:55Z) - Discovering Invariant Rationales for Graph Neural Networks [104.61908788639052]
グラフニューラルネットワーク(GNN)の固有の解釈可能性とは、入力グラフの特徴の小さなサブセットを見つけることである。
本稿では,本質的に解釈可能なGNNを構築するために,不変理性(DIR)を発見するための新しい戦略を提案する。
論文 参考訳(メタデータ) (2022-01-30T16:43:40Z) - DecAug: Out-of-Distribution Generalization via Decomposed Feature
Representation and Semantic Augmentation [29.18840132995509]
深層学習は、しばしば分布外(OoD)一般化に苦しむ。
OoD一般化のための新しい分解特徴表現および意味的拡張アプローチであるDecAugを提案する。
DecAugは、さまざまなOoDデータセットの他の最先端のメソッドよりも優れています。
論文 参考訳(メタデータ) (2020-12-17T03:46:09Z) - GANs with Variational Entropy Regularizers: Applications in Mitigating
the Mode-Collapse Issue [95.23775347605923]
深層学習の成功に基づいて、GAN(Generative Adversarial Networks)は、観測されたサンプルから確率分布を学習するための現代的なアプローチを提供する。
GANはしばしば、ジェネレータが入力分布の既存のすべてのモードをキャプチャできないモード崩壊問題に悩まされる。
情報理論のアプローチを採り、生成したサンプルのエントロピーの変動的下限を最大化し、それらの多様性を増大させる。
論文 参考訳(メタデータ) (2020-09-24T19:34:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。