論文の概要: LEGO-Learn: Label-Efficient Graph Open-Set Learning
- arxiv url: http://arxiv.org/abs/2410.16386v1
- Date: Mon, 21 Oct 2024 18:01:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-23 14:27:28.545180
- Title: LEGO-Learn: Label-Efficient Graph Open-Set Learning
- Title(参考訳): LEGO-Learn: ラベル効率の良いグラフオープンセット学習
- Authors: Haoyan Xu, Kay Liu, Zhengtao Yao, Philip S. Yu, Kaize Ding, Yue Zhao,
- Abstract要約: グラフオープンセット学習(GOL)とアウト・オブ・ディストリビューション(OOD)の検出は、既知のイン・ディストリビューション(ID)クラスを正確に分類可能なトレーニングモデルによってこの問題に対処することを目的としている。
モデルが金融、セキュリティ、ヘルスケアといった予期せぬデータに頻繁に遭遇する、高度な現実世界のアプリケーションにとって、これは重要なことです。
LEGO-Learnは,ラベルの予算内で,最も情報性の高いIDノードを選択することで,グラフ上のオープンセットノード分類に取り組む新しいフレームワークである。
- 参考スコア(独自算出の注目度): 46.62885412695813
- License:
- Abstract: How can we train graph-based models to recognize unseen classes while keeping labeling costs low? Graph open-set learning (GOL) and out-of-distribution (OOD) detection aim to address this challenge by training models that can accurately classify known, in-distribution (ID) classes while identifying and handling previously unseen classes during inference. It is critical for high-stakes, real-world applications where models frequently encounter unexpected data, including finance, security, and healthcare. However, current GOL methods assume access to many labeled ID samples, which is unrealistic for large-scale graphs due to high annotation costs. In this paper, we propose LEGO-Learn (Label-Efficient Graph Open-set Learning), a novel framework that tackles open-set node classification on graphs within a given label budget by selecting the most informative ID nodes. LEGO-Learn employs a GNN-based filter to identify and exclude potential OOD nodes and then select highly informative ID nodes for labeling using the K-Medoids algorithm. To prevent the filter from discarding valuable ID examples, we introduce a classifier that differentiates between the C known ID classes and an additional class representing OOD nodes (hence, a C+1 classifier). This classifier uses a weighted cross-entropy loss to balance the removal of OOD nodes while retaining informative ID nodes. Experimental results on four real-world datasets demonstrate that LEGO-Learn significantly outperforms leading methods, with up to a 6.62% improvement in ID classification accuracy and a 7.49% increase in AUROC for OOD detection.
- Abstract(参考訳): ラベル付けコストを低く保ちながら、目に見えないクラスを認識するためにグラフベースのモデルをトレーニングするにはどうすればよいのか?
グラフオープンセット学習(GOL)とアウト・オブ・ディストリビューション(OOD)の検出は、推論中に未確認のクラスを特定し処理しながら、既知のIDクラスを正確に分類できるトレーニングモデルによって、この問題に対処することを目的としている。
モデルが金融、セキュリティ、ヘルスケアといった予期せぬデータに頻繁に遭遇する、高度な現実世界のアプリケーションにとって、これは重要なことです。
しかし、現在のGOL法は、多くのラベル付きIDサンプルへのアクセスを前提としており、アノテーションコストが高いため、大規模グラフでは非現実的である。
本稿では,最も情報性の高いIDノードを選択することで,ラベル予算内のグラフ上のオープンセットノード分類に取り組む新しいフレームワークであるLEGO-Learn(Label-Efficient Graph Open-set Learning)を提案する。
LEGO-Learnは、潜在的なOODノードを特定し排除するためにGNNベースのフィルタを使用し、K-Medoidsアルゴリズムを用いてラベル付けのための高情報IDノードを選択する。
フィルタが貴重なIDの例を捨てるのを防ぐために、C既知のIDクラスとOODノードを表す追加クラス(以下、C+1分類器)を区別する分類器を導入する。
この分類器は、重み付きクロスエントロピー損失を使用して、情報的IDノードを保持しながらOODノードの除去のバランスをとる。
4つの実世界のデータセットによる実験結果から、LEGO-Learnは最大6.62%のID分類精度の向上とOOD検出のためのAUROCの7.49%の増加により、先行する手法を著しく上回っていることが示された。
関連論文リスト
- GOODAT: Towards Test-time Graph Out-of-Distribution Detection [103.40396427724667]
グラフニューラルネットワーク(GNN)は、さまざまな領域にわたるグラフデータのモデリングに広く応用されている。
近年の研究では、特定のモデルのトレーニングや、よく訓練されたGNN上でのデータ修正に重点を置いて、OOD検出のグラフを調査している。
本稿では、GNNアーキテクチャのトレーニングデータと修正から独立して動作する、データ中心、教師なし、プラグアンドプレイのソリューションを提案する。
論文 参考訳(メタデータ) (2024-01-10T08:37:39Z) - ERASE: Error-Resilient Representation Learning on Graphs for Label Noise
Tolerance [53.73316938815873]
本稿では, ERASE (Error-Resilient representation learning on graphs for lAbel noiSe tolerancE) という手法を提案する。
ERASEは、プロトタイプの擬似ラベルとプロパゲーションされた識別ラベルを組み合わせて、表現をエラーレジリエンスで更新する。
提案手法は, 広い雑音レベルにおいて, 複数のベースラインをクリアマージンで上回り, 高いスケーラビリティを享受できる。
論文 参考訳(メタデータ) (2023-12-13T17:59:07Z) - Learning on Graphs with Out-of-Distribution Nodes [33.141867473074264]
グラフニューラルネットワーク(GNN)は、グラフ上で予測タスクを実行するための最先端モデルである。
この研究は、分散ノードによるグラフ学習の問題を定義する。
本稿では,異なるノード間の相互作用を明示的にモデル化する新しいGNNモデルであるOut-of-Distribution Graph Attention Network (OODGAT)を提案する。
論文 参考訳(メタデータ) (2023-08-13T08:10:23Z) - Cyclic-Bootstrap Labeling for Weakly Supervised Object Detection [134.05510658882278]
Cyclic-Bootstrap Labeling (CBL) は、弱制御されたオブジェクト検出パイプラインである。
様々な改良モジュールを活用するために、重み付けされた指数移動平均戦略を使用する。
重み付きアンサンブル型教師ネットワークの出力を活用するために, クラス別ランキング蒸留アルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-08-11T07:57:17Z) - Dissimilar Nodes Improve Graph Active Learning [27.78519071553204]
能動学習のための3つの相似性に基づく情報スコア:特徴相似性スコア(FDS)、構造相似性スコア(SDS)、組込み相似性スコア(EDS)を紹介する。
新たに提案したスコアにより,分類精度が平均2.1%向上し,異なるグラフニューラルネットワークアーキテクチャへの一般化が可能となった。
論文 参考訳(メタデータ) (2022-12-05T01:00:37Z) - Noise-robust Graph Learning by Estimating and Leveraging Pairwise
Interactions [123.07967420310796]
本稿では,グラフ上のノイズノード分類のためのペアワイズフレームワークを提案することにより,そのギャップを埋める。
PI-GNNは、ノイズの多いノードクラスラベルからのポイントワイズ学習に加えて、PIを一次学習プロキシとして依存している。
提案するフレームワークPI-GNNは,(1)PIラベルを適応的に推定する信頼度を考慮したPI推定モデル,(2)PIラベルを推定する疎結合トレーニング手法の2つの新しい構成要素に寄与する。
論文 参考訳(メタデータ) (2021-06-14T14:23:08Z) - Active Learning for Node Classification: The Additional Learning Ability
from Unlabelled Nodes [33.97571297149204]
ラベル付け予算が限られているため、active learningはラベル付けするノードを慎重に選択することで、パフォーマンスの向上を目指している。
本研究は,ノード分類のための既存のアクティブラーニング手法が,単純な手法でかなり優れていることを示す。
ノード分類のための新しい潜在空間クラスタリングに基づくアクティブラーニング手法(LSCALE)を提案する。
論文 参考訳(メタデータ) (2020-12-13T13:59:48Z) - When Contrastive Learning Meets Active Learning: A Novel Graph Active
Learning Paradigm with Self-Supervision [19.938379604834743]
本稿では,グラフニューラルネットワーク(GNN)の性能を最大化するための最も情報性の高いノードを発見することを目的とした,グラフ上のアクティブラーニング(AL)について検討する。
比較学習(CL)の成功に触発され,グラフALをCLとシームレスに統合する新しいパラダイムを提案する。
5つの公開データセットに対する包括的かつ不確定な実験は、我々の手法が最先端技術よりも優れていることを示す。
論文 参考訳(メタデータ) (2020-10-30T06:20:07Z) - DEAL: Deep Evidential Active Learning for Image Classification [0.0]
アクティブラーニング(AL)は、限られたラベル付きデータの問題を緩和するためのアプローチである。
CNNの最近のAL手法は、ラベル付けするインスタンスの選択に異なる解決策を提案する。
本稿では,ラベルのないデータから高い予測不確かさを捕捉して効率よく学習する新しいALアルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-07-22T11:14:23Z) - Inverse Graph Identification: Can We Identify Node Labels Given Graph
Labels? [89.13567439679709]
グラフ識別(GI)は、グラフ学習において長い間研究されており、特定の応用において不可欠である。
本稿では,逆グラフ識別(Inverse Graph Identification, IGI)と呼ばれる新しい問題を定義する。
本稿では,グラフアテンションネットワーク(GAT)を用いたノードレベルのメッセージパッシング処理を,GIのプロトコルの下でシンプルかつ効果的に行う方法を提案する。
論文 参考訳(メタデータ) (2020-07-12T12:06:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。