論文の概要: Graph Synthetic Out-of-Distribution Exposure with Large Language Models
- arxiv url: http://arxiv.org/abs/2504.21198v2
- Date: Sat, 17 May 2025 05:06:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-20 17:08:52.843189
- Title: Graph Synthetic Out-of-Distribution Exposure with Large Language Models
- Title(参考訳): 大規模言語モデルを用いたグラフ合成アウトオブディストリビューション露光
- Authors: Haoyan Xu, Zhengtao Yao, Ziyi Wang, Zhan Cheng, Xiyang Hu, Mengyuan Li, Yue Zhao,
- Abstract要約: グラフにおけるアウト・オブ・ディストリビューション(OOD)検出は、オープンワールドおよび安全に敏感なアプリケーションにおけるモデルロバスト性を保証するために重要である。
現在のグラフベースの手法は、しばしば実際のOODノードへのアクセスを前提とします。
GOE-LLMは,大規模言語モデル(LLM)を利用して,実際のOODノードを使わずに,テキスト分散グラフ上でのOOD露光を実現するフレームワークである。
- 参考スコア(独自算出の注目度): 14.666576854790163
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Out-of-distribution (OOD) detection in graphs is critical for ensuring model robustness in open-world and safety-sensitive applications. Existing graph OOD detection approaches typically train an in-distribution (ID) classifier on ID data alone, then apply post-hoc scoring to detect OOD instances. While OOD exposure - adding auxiliary OOD samples during training - can improve detection, current graph-based methods often assume access to real OOD nodes, which is often impractical or costly. In this paper, we present GOE-LLM, a framework that leverages Large Language Models (LLMs) to achieve OOD exposure on text-attributed graphs without using any real OOD nodes. GOE-LLM introduces two pipelines: (1) identifying pseudo-OOD nodes from the initially unlabeled graph using zero-shot LLM annotations, and (2) generating semantically informative synthetic OOD nodes via LLM-prompted text generation. These pseudo-OOD nodes are then used to regularize ID classifier training and enhance OOD detection awareness. Empirical results on multiple benchmarks show that GOE-LLM substantially outperforms state-of-the-art methods without OOD exposure, achieving up to a 23.5% improvement in AUROC for OOD detection, and attains performance on par with those relying on real OOD labels for exposure.
- Abstract(参考訳): グラフにおけるアウト・オブ・ディストリビューション(OOD)検出は、オープンワールドおよび安全に敏感なアプリケーションにおけるモデルロバスト性を保証するために重要である。
既存のグラフOOD検出アプローチでは、通常、IDデータだけでID分類器をトレーニングし、ポストホックスコアを適用してOODインスタンスを検出する。
OODエクスポージャー(トレーニング中に補助的なOODサンプルを追加する)は検出を改善することができるが、現在のグラフベースのメソッドでは、実際のOODノードへのアクセスを前提としていることが多い。
本稿では,大規模言語モデル(LLM)を利用したGOE-LLMを提案する。
GOE-LLM は,(1) ゼロショット LLM アノテーションを用いてラベルなしグラフから擬似OOD ノードを識別し,(2) LLM によるテキスト生成により意味的に情報的合成 OOD ノードを生成する。
これらの擬似OODノードは、ID分類器のトレーニングを正規化し、OOD検出意識を高めるために使用される。
複数のベンチマークで実証された結果から、GOE-LLMはOOD露光のない最先端の手法を大幅に上回り、OOD検知のためのAUROCを最大23.5%改善し、露光のための実際のOODラベルに依存している方法と同等のパフォーマンスを達成した。
関連論文リスト
- GLIP-OOD: Zero-Shot Graph OOD Detection with Foundation Model [43.848482407777766]
アウト・オブ・ディストリビューション(OOD)検出は、機械学習システムの安全性と信頼性を保証するために重要である。
本研究では,グラフ基礎モデル(GFM)を利用したゼロショットグラフOOD検出の実現に向けた第一歩を踏み出す。
GLIP-OOD(GLIP-OOD)は,LLMを用いてラベルのないデータから意味的に意味のある擬似OODラベルを生成する新しいフレームワークである。
提案手法は,完全ゼロショット設定でノードレベルグラフOOD検出を初めて実現し,4つのベンチマークテキスト分散グラフデータセットの最先端性能を実現する。
論文 参考訳(メタデータ) (2025-04-29T21:42:54Z) - GOLD: Graph Out-of-Distribution Detection via Implicit Adversarial Latent Generation [26.062189631691545]
アウト・オブ・ディストリビューション(OOD)テストインスタンスは、グラフニューラルネットワーク(GNN)にとって依然として大きな課題である。
本稿では,OOD検出のためのGOLDフレームワークを提案する。
論文 参考訳(メタデータ) (2025-02-09T05:19:53Z) - Can OOD Object Detectors Learn from Foundation Models? [56.03404530594071]
アウト・オブ・ディストリビューション(OOD)オブジェクト検出は、オープンセットのOODデータがないため、難しい課題である。
テキストから画像への生成モデルの最近の進歩に触発されて,大規模オープンセットデータを用いて訓練された生成モデルがOODサンプルを合成する可能性について検討した。
SyncOODは,大規模基盤モデルの能力を活用するシンプルなデータキュレーション手法である。
論文 参考訳(メタデータ) (2024-09-08T17:28:22Z) - WeiPer: OOD Detection using Weight Perturbations of Class Projections [11.130659240045544]
入力のよりリッチな表現を生成する最終完全連結層にクラスプロジェクションの摂動を導入する。
我々はOpenOODフレームワークの複数のベンチマークで最先端のOOD検出結果を得る。
論文 参考訳(メタデータ) (2024-05-27T13:38:28Z) - Open-World Lifelong Graph Learning [7.535219325248997]
オープンワールドシナリオにおける生涯グラフ学習の課題について検討する。
我々は、新しいクラスを認識するために、out-of-Distribution (OOD) 検出手法を利用する。
我々は,OOD検出手法とグラフ近傍から収集した情報を組み合わせることで,新しいクラス検出を行うことを提案する。
論文 参考訳(メタデータ) (2023-10-19T08:18:10Z) - Out-of-distribution Detection with Implicit Outlier Transformation [72.73711947366377]
外周露光(OE)は、オフ・オブ・ディストリビューション(OOD)検出において強力である。
我々は,未確認のOOD状況に対してモデルの性能を良くする,新しいOEベースのアプローチを提案する。
論文 参考訳(メタデータ) (2023-03-09T04:36:38Z) - Unsupervised Evaluation of Out-of-distribution Detection: A Data-centric
Perspective [55.45202687256175]
アウト・オブ・ディストリビューション(OOD)検出法は、個々のテストサンプルがイン・ディストリビューション(IND)なのかOODなのかという、試験対象の真実を持っていると仮定する。
本稿では,OOD検出における教師なし評価問題を初めて紹介する。
我々は,OOD検出性能の教師なし指標としてGscoreを計算する3つの方法を提案する。
論文 参考訳(メタデータ) (2023-02-16T13:34:35Z) - Rethinking Out-of-distribution (OOD) Detection: Masked Image Modeling is
All You Need [52.88953913542445]
簡単な再構築手法を用いることで,OOD検出の性能が大幅に向上する可能性が示唆された。
我々は、OOD検出フレームワーク(MOOD)のプリテキストタスクとして、マスケ画像モデリング(Masked Image Modeling)を採用する。
論文 参考訳(メタデータ) (2023-02-06T08:24:41Z) - GOOD-D: On Unsupervised Graph Out-Of-Distribution Detection [67.90365841083951]
我々は,OODグラフを検出するための新しいグラフコントラスト学習フレームワークGOOD-Dを開発した。
GOOD-Dは、潜在IDパターンをキャプチャし、異なる粒度のセマンティック不整合に基づいてOODグラフを正確に検出することができる。
教師なしグラフレベルのOOD検出における先駆的な研究として,提案手法と最先端手法を比較した総合的なベンチマークを構築した。
論文 参考訳(メタデータ) (2022-11-08T12:41:58Z) - Pseudo-OOD training for robust language models [78.15712542481859]
OOD検出は、あらゆる産業規模のアプリケーションに対する信頼性の高い機械学習モデルの鍵となるコンポーネントである。
In-distribution(IND)データを用いて擬似OODサンプルを生成するPOORE-POORE-POSthoc pseudo-Ood Regularizationを提案する。
我々は3つの現実世界の対話システムに関する枠組みを広く評価し、OOD検出における新たな最先端技術を実現した。
論文 参考訳(メタデータ) (2022-10-17T14:32:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。