論文の概要: Category-free Out-of-Distribution Node Detection with Feature Resonance
- arxiv url: http://arxiv.org/abs/2502.16076v1
- Date: Sat, 22 Feb 2025 04:41:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-25 15:53:22.230231
- Title: Category-free Out-of-Distribution Node Detection with Feature Resonance
- Title(参考訳): 特徴共振を用いたカテゴリー自由分布ノード検出
- Authors: Shenzhi Yang, Junbo Zhao, Shouqing Yang, Yixuan Li, Dingyu Yang, Xiaofang Zhang, Haobo Wang,
- Abstract要約: 共振型分離学習(RSL)と呼ばれるグラフOODフレームワークを開発した。
RSLは、2つのコアモジュールから構成される: (i) 1つのトレーニングステップにおける特徴ベクトルの移動を測定する、より実用的な機能共鳴のマイクロレベルプロキシ。
実世界の5つのデータセットで平均18.51%のFPR95メトリックスを削減し,実験によって最先端の性能を達成する。
- 参考スコア(独自算出の注目度): 24.742964974005147
- License:
- Abstract: Detecting out-of-distribution (OOD) nodes in the graph-based machine-learning field is challenging, particularly when in-distribution (ID) node multi-category labels are unavailable. Thus, we focus on feature space rather than label space and find that, ideally, during the optimization of known ID samples, unknown ID samples undergo more significant representation changes than OOD samples, even if the model is trained to fit random targets, which we called the Feature Resonance phenomenon. The rationale behind it is that even without gold labels, the local manifold may still exhibit smooth resonance. Based on this, we further develop a novel graph OOD framework, dubbed Resonance-based Separation and Learning (RSL), which comprises two core modules: (i) a more practical micro-level proxy of feature resonance that measures the movement of feature vectors in one training step. (ii) integrate with synthetic OOD nodes strategy to train an effective OOD classifier. Theoretically, we derive an error bound showing the superior separability of OOD nodes during the resonance period. Empirically, RSL achieves state-of-the-art performance, reducing the FPR95 metric by an average of 18.51% across five real-world datasets.
- Abstract(参考訳): グラフベースの機械学習分野におけるアウト・オブ・ディストリビューション(OOD)ノードの検出は,特にイン・ディストリビューション(ID)ノードのマルチカテゴリラベルが利用できない場合には困難である。
したがって、ラベル空間ではなく特徴空間に着目し、理想的には、既知のIDサンプルの最適化の間、未知のIDサンプルは、たとえモデルがランダムなターゲットに適合するように訓練されたとしても、OODサンプルよりも顕著な表現変化を行う。
その背景にある理論的根拠は、ゴールドラベルがなくても、局所多様体は滑らかな共鳴を示すかもしれないということである。
これに基づいて、共振系分離学習(RSL)と呼ばれる2つのコアモジュールからなる新しいグラフOODフレームワークをさらに開発する。
i)1つの訓練段階における特徴ベクトルの運動を測定する機能共鳴のより実践的なマイクロレベルプロキシ。
(2)OODノード戦略と統合して有効なOOD分類器を訓練する。
理論的には、共振周期におけるOODノードのより優れた分離性を示す誤差境界を導出する。
実証的には、RSLは最先端のパフォーマンスを達成し、5つの実世界のデータセットの平均18.51%のFPR95メトリックを削減している。
関連論文リスト
- AEON: Adaptive Estimation of Instance-Dependent In-Distribution and Out-of-Distribution Label Noise for Robust Learning [17.397478141194778]
実世界のデータセットには、イン・ディストリビューション(ID)とアウト・オブ・ディストリビューション(OOD)のインスタンス依存ラベルノイズが混在することが多い。
本稿では,これらの研究ギャップに対処するために,インスタンス依存型In-DistributionとOut-of-Distribution Label Noise(AEON)の適応推定手法を提案する。
AEONは、インスタンス依存IDとOODラベルのノイズ率を動的に推定する効率的な1段階雑音ラベル学習手法である。
論文 参考訳(メタデータ) (2025-01-23T05:19:00Z) - Optimizing OOD Detection in Molecular Graphs: A Novel Approach with Diffusion Models [71.39421638547164]
本稿では,入力分子と再構成グラフの類似性を比較する補助拡散モデルに基づくフレームワークを用いてOOD分子を検出することを提案する。
IDトレーニングサンプルの再構成に向けた生成バイアスのため、OOD分子の類似度スコアは検出を容易にするためにはるかに低い。
本研究は,PGR-MOOD(PGR-MOOD)とよばれる分子OOD検出のためのプロトタイプグラフ再構成のアプローチを開拓し,3つのイノベーションを生かした。
論文 参考訳(メタデータ) (2024-04-24T03:25:53Z) - GROOD: GRadient-aware Out-Of-Distribution detection in interpolated
manifolds [12.727088216619386]
ディープニューラルネットワーク(DNN)におけるアウト・オブ・ディストリビューション検出は、現実世界のデプロイメントにおいてリスクを引き起こす可能性がある。
グラディエント・アウェア・アウトオフ・ディストリビューション検出を導入。
ネイティブ多様体(Internative manifold, GROOD)は、勾配空間の識別力に依存する新しいフレームワークである。
GRODが最先端のベースラインの確立された堅牢性を上回ることを示す。
論文 参考訳(メタデータ) (2023-12-22T04:28:43Z) - From Global to Local: Multi-scale Out-of-distribution Detection [129.37607313927458]
アウト・オブ・ディストリビューション(OOD)検出は、イン・ディストリビューション(ID)トレーニングプロセス中にラベルが見られない未知のデータを検出することを目的としている。
近年の表現学習の進歩により,距離に基づくOOD検出がもたらされる。
グローバルな視覚情報と局所的な情報の両方を活用する第1のフレームワークであるマルチスケールOOD検出(MODE)を提案する。
論文 参考訳(メタデータ) (2023-08-20T11:56:25Z) - Boosting Differentiable Causal Discovery via Adaptive Sample Reweighting [62.23057729112182]
異なるスコアに基づく因果探索法は観測データから有向非巡回グラフを学習する。
本稿では,Reweighted Score関数ReScoreの適応重みを動的に学習することにより因果発見性能を向上させるためのモデルに依存しないフレームワークを提案する。
論文 参考訳(メタデータ) (2023-03-06T14:49:59Z) - Energy-based Out-of-Distribution Detection for Graph Neural Networks [76.0242218180483]
我々は,GNNSafeと呼ばれるグラフ上での学習のための,シンプルで強力で効率的なOOD検出モデルを提案する。
GNNSafeは、最先端技術に対するAUROCの改善を最大17.0%で達成しており、そのような未開発領域では単純だが強力なベースラインとして機能する可能性がある。
論文 参考訳(メタデータ) (2023-02-06T16:38:43Z) - Trash to Treasure: Harvesting OOD Data with Cross-Modal Matching for
Open-Set Semi-Supervised Learning [101.28281124670647]
オープンセット半教師付き学習(Open-set SSL)では、ラベルなしデータにOOD(Out-of-distribution)サンプルを含む、難しいが実用的なシナリオを調査する。
我々は、OODデータの存在を効果的に活用し、特徴学習を増強する新しいトレーニングメカニズムを提案する。
我々のアプローチは、オープンセットSSLのパフォーマンスを大幅に向上させ、最先端技術よりも大きなマージンで性能を向上します。
論文 参考訳(メタデータ) (2021-08-12T09:14:44Z) - Noise-robust Graph Learning by Estimating and Leveraging Pairwise
Interactions [123.07967420310796]
本稿では,グラフ上のノイズノード分類のためのペアワイズフレームワークを提案することにより,そのギャップを埋める。
PI-GNNは、ノイズの多いノードクラスラベルからのポイントワイズ学習に加えて、PIを一次学習プロキシとして依存している。
提案するフレームワークPI-GNNは,(1)PIラベルを適応的に推定する信頼度を考慮したPI推定モデル,(2)PIラベルを推定する疎結合トレーニング手法の2つの新しい構成要素に寄与する。
論文 参考訳(メタデータ) (2021-06-14T14:23:08Z) - Joint Distribution across Representation Space for Out-of-Distribution
Detection [16.96466730536722]
本稿では,各隠蔽層から生成した潜伏特性を表現空間間の連成分布として利用し,分布内データに対する新たな展望を示す。
まず,隠れ層ごとに分布しない潜在特性に基づいてガウス混合モデル(GMM)を構築し,その後,推定トレースの遷移確率を介してGMMを接続する。
論文 参考訳(メタデータ) (2021-03-23T06:39:29Z) - On The Consistency Training for Open-Set Semi-Supervised Learning [44.046578996049654]
我々は,OODサンプルが低次元空間と高次元空間のトレーニングに与える影響について検討した。
提案手法はOODサンプルをよりよく利用し,最先端の結果を得る。
論文 参考訳(メタデータ) (2021-01-19T12:38:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。