論文の概要: The Confidence Trap: Calibration Attacks for Graph Neural Networks

• arxiv url: http://arxiv.org/abs/2606.08467v1
• Date: Sun, 07 Jun 2026 06:16:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-09 14:42:06.123764
• Title: The Confidence Trap: Calibration Attacks for Graph Neural Networks
• Title（参考訳）: The Confidence Trap: グラフニューラルネットワークの校正攻撃
• Authors: Cuong Dang, Jiahao Zhang, Hieu Ta Quang, Dung Le, Lu Cheng, Suhang Wang,
• Abstract要約: グラフ上の校正攻撃を研究するためのフレームワークを提案する。 より精度の高いモデルや、より多くのクラスを持つデータセットで訓練されたモデルは、この脅威モデルの下ではより影響を受けやすいことを示す。 私たちのコードはhttps://github.com/CaptainCuong/Graph-Calibration-Attack.gitで公開されています。
• 参考スコア（独自算出の注目度）: 30.116997325760945
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: While confidence calibration is essential for trustworthy decision-making in safety-critical applications, the robustness of calibrated GNNs to adversarial structural perturbations remains largely unexplored. However, studying calibration attacks on graphs presents unique technical challenges: (1) the discrete nature of graph structures complicates gradient-based optimization, (2) existing underconfidence objectives fail to drive predictions toward uniform distributions, and (3) GNNs are highly sensitive to edge perturbations, often causing unintended label changes that violate attack constraints. To address these challenges, we propose a \textbf{Unified Graph Calibration Attack (UGCA)} framework designed for \textbf{worst-case (white-box) analysis} of GNN calibration robustness. UGCA introduces a KL-divergence loss to encourage uniform predictive distributions, a reranking mechanism to reduce label flipping, a hybrid loss to recover labels when violations occur, and beam search to explore a broader adversarial search space. We further provide theoretical insights linking model generalization, dataset complexity, and calibration vulnerability, showing that models with higher accuracy or trained on datasets with more classes are more susceptible under this threat model. Extensive experiments demonstrate that UGCA substantially increases Expected Calibration Error while preserving classification accuracy. Our code is publicly available at https://github.com/CaptainCuong/Graph-Calibration-Attack.git.
• Abstract（参考訳）: 安全クリティカルなアプリケーションにおける信頼できる意思決定には信頼性の校正が不可欠であるが、対向構造摂動に対する校正されたGNNの堅牢性はほとんど未解明のままである。 しかし,グラフに対するキャリブレーション攻撃の研究は,(1)グラフ構造の離散性は勾配に基づく最適化を複雑にし,(2)既存の不確実性目標が均一分布への予測に失敗し,(3)GNNはエッジの摂動に非常に敏感であり,しばしば攻撃制約に反する意図しないラベル変更を引き起こす,という,ユニークな技術的課題を呈している。 これらの課題に対処するため、GNNキャリブレーションのロバスト性について、textbf{Unified Graph Calibration Attack (UGCA) フレームワークを提案する。 UGCAは、均一な予測分布を促進するためにKL分割損失を導入し、ラベルのフリップを減らすリグレード機構、違反発生時にラベルをリカバリするためのハイブリッド損失、より広い対向探索空間を探索するためのビームサーチを導入している。 さらに、モデル一般化、データセットの複雑さ、キャリブレーションの脆弱性をリンクする理論的な洞察を提供し、より精度の高いモデルや、より多くのクラスを持つデータセットで訓練されたモデルが、この脅威モデルの下でより影響を受けやすいことを示す。 大規模な実験により、UGCAは分類精度を維持しながら期待される校正誤差を大幅に増加させることが示された。 私たちのコードはhttps://github.com/CaptainCuong/Graph-Calibration-Attack.gitで公開されています。

関連論文リスト

• Beyond Homophily: Towards Generalized Graph Reconstruction Attack and Defense [80.28330585803133]
  グラフニューラルネットワーク(GNN)は、計算データに広くデプロイされているが、トレーニンググラフの隣接性に関する機密情報やプロプライエタリ情報を漏洩することができる。 本研究は、訓練されたGNNからトレーニング隣接性を再構築するモデル逆転の一形態であるグラフ再構成攻撃(GRA)について研究する。 本稿では, MC-GRA(+)を提案する。これは, GNNにより誘導される表現が対象モデルのそれと一致した代理隣接を最適化することにより, 隣接性を再構築する。 防衛面では, MC-GPB (+) を提案する。
  論文  参考訳（メタデータ） (2026-06-06T09:29:27Z)
• FedCIGAR: A Personalized Reconstruction Approach for Federated Graph-level Anomaly Detection [51.473064583839296]
  クラスタ適応型GAted Reconstruction (FedCIGAR) を用いた新しいフェデレーショングラフレベルの異常検出手法を提案する。 具体的には、合成データを避けるために、正規グラフに基づいて訓練された再構成に基づくパラダイムを設計し、さらに、クライアント側ノードコントリビューションゲーティング機構とサーバ側スライディングウィンドウベースのクラスタリング戦略を導入し、データの不均一性に対処する。
  論文  参考訳（メタデータ） (2026-05-10T09:03:54Z)
• Margin and Consistency Supervision for Calibrated and Robust Vision Models [1.0152838128195467]
  Margin and Consistency Supervision (MaCS)は、アーキテクチャに依存しないシンプルな正規化フレームワークである。 MACSはロジト空間分離と局所予測安定性を共同で実施する。 我々は,リプシッツ型安定性プロキシにより定式化された局所感度を低下させながら,分類マージンを増大させることにより,一般化の保証が向上することを示した。
  論文  参考訳（メタデータ） (2026-03-06T01:54:28Z)
• Generalizing GNNs with Tokenized Mixture of Experts [75.8310720413187]
  安定性の向上には,変化に敏感な特徴への依存を低減し,既約最悪の一般化フロアを残す必要があることを示す。 本研究では,STEM-GNNを提案する。STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN。 9つのノード、リンク、グラフのベンチマークで、STEM-GNNはより強力な3方向バランスを実現し、クリアグラフ上での競争力を維持しながら、次数/ホモフィリーシフトや特徴/エッジの破損に対する堅牢性を改善している。
  論文  参考訳（メタデータ） (2026-02-09T22:48:30Z)
• The Final Layer Holds the Key: A Unified and Efficient GNN Calibration Framework [31.107286245419044]
  グラフニューラルネットワーク(GNN)は、グラフベースのタスクにおいて顕著な効果を示した。 しかしながら、彼らの予測的自信は、しばしば誤解され、通常、自信不足を示す。 本稿では,この問題に対処するための簡易かつ効率的なグラフキャリブレーション法を提案する。
  論文  参考訳（メタデータ） (2025-05-16T15:02:17Z)
• CRC-SGAD: Conformal Risk Control for Supervised Graph Anomaly Detection [2.290229842388034]
  統計リスク制御をグラフ異常検出(GAD)に統合するフレームワークを提案する。 FNR(False Negative Rate)とFPR(False Positive Rate)の両方に対して理論的に保証されたバウンドを提供する。 4つのデータセットと5つのGADモデルに対する実験は、FNRおよびFPR制御および予測セットサイズにおいて統計的に有意な改善を示した。
  論文  参考訳（メタデータ） (2025-04-03T03:27:49Z)
• Exact Certification of (Graph) Neural Networks Against Label Poisoning [50.87615167799367]
  グラフニューラルネットワーク(GNN)におけるラベルフリップの正確な認証手法を提案する。 本稿では,ノード分類タスクにおける広範囲なGNNアーキテクチャの認証に本手法を適用した。 私たちの研究は、ニューラルネットワークによって引き起こされた毒殺攻撃に対する最初の正確な認証を提示します。
  論文  参考訳（メタデータ） (2024-11-30T17:05:12Z)
• Provable Robustness of (Graph) Neural Networks Against Data Poisoning and Backdoor Attacks [50.87615167799367]
  グラフニューラルネットワーク(GNN)は、特定のグラフのノード特徴をターゲットとして、バックドアを含む有毒な攻撃に対して認証する。 コンボリューションベースのGNNとPageRankベースのGNNの最悪の動作におけるグラフ構造の役割とその接続性に関する基本的な知見を提供する。
  論文  参考訳（メタデータ） (2024-07-15T16:12:51Z)
• Data-Agnostic Model Poisoning against Federated Learning: A Graph Autoencoder Approach [65.2993866461477]
  本稿では,フェデレートラーニング(FL)に対するデータに依存しないモデル中毒攻撃を提案する。 この攻撃はFLトレーニングデータの知識を必要とせず、有効性と検出不能の両方を達成する。 実験により、FLの精度は提案した攻撃の下で徐々に低下し、既存の防御機構では検出できないことが示された。
  論文  参考訳（メタデータ） (2023-11-30T12:19:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。