論文の概要: Online Bayesian Node Classification on Inductive Graphs under Distribution Shift

• arxiv url: http://arxiv.org/abs/2609.13655v1
• Date: Sat, 12 Sep 2026 02:23:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 07:15:05.452839
• Title: Online Bayesian Node Classification on Inductive Graphs under Distribution Shift
• Title（参考訳）: 分布シフト下における帰納グラフのオンラインベイズノード分類
• Abstract要約: 我々は,エンコーダと近似した最終層後層を共同で訓練する変分ベイズ最終層(VBLL)の目的を導入する。 オンラインGVBLLは、データセット毎に最適な精度と負のログ類似性を達成する唯一の方法である。 最強の非GVBLLベースラインよりも最大17ポイント、Ogbn-arxiv14ポイントの精度が向上する。
• 参考スコア（独自算出の注目度）: 4.12346015436419
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: On evolving graphs, node classifiers must satisfy two key requirements: inductive generalization to newly arriving nodes under distribution shift and calibrated uncertainty for safety-sensitive applications. Standard graph neural networks (GNNs) are typically trained once and address neither requirement. We adapt the Bayesian last-layer (BLL) model by placing random last-layer parameters on top of a deterministic GNN encoder for uncertainty quantification. The categorical softmax likelihood required for classification breaks Gaussian conjugacy, so neither the training posterior nor the test-time streaming update has a closed-form solution. To address both challenges, we introduce a variational Bayesian last-layer (VBLL) objective that jointly trains the encoder and an approximate last-layer posterior by maximizing an evidence lower bound with a Monte Carlo expected log-likelihood. At test time, we freeze the encoder and apply an online Laplace update to the last-layer posterior. This update corresponds to a power-prior Bayesian model with exponential forgetting and a Kullback-Leibler anchor to the training posterior. Across five node-classification benchmarks under distribution shift, online GVBLL is the only method to achieve the best accuracy and negative log-likelihood on every dataset. It improves accuracy by up to 17 percentage points on Cora and 14 percentage points on ogbn-arxiv over the strongest non-GVBLL baseline, while remaining competitive in calibration with MC Dropout, Deep Ensembles, Temperature Scaling, and Gaussian-process classifiers.
• Abstract（参考訳）: ノード分類器は、分散シフトの下で新たに到着したノードへの帰納的一般化と、安全に敏感なアプリケーションに対する校正不確実性という、2つの重要な要件を満たす必要がある。 標準グラフニューラルネットワーク(GNN)は通常一度トレーニングされ、どちらの要件にも対処する。 我々は、不確実性定量化のための決定論的GNNエンコーダの上にランダムな最終層パラメータを配置することにより、ベイズ最後の層モデルを適用する。 分類に必要とされる分類的ソフトマックスの確率はガウスの共役を損なうため、トレーニング後部もテスト時ストリーミング更新もクローズドフォームの解を持たない。 両課題に対処するため,モンテカルロの予測される対数線幅の低いエビデンスを最大化することにより,エンコーダと近似最終層後層を共同で訓練する変分ベイズ最終層(VBLL)の目的を導入する。 テスト時には、エンコーダを凍結し、ラプラスのオンライン更新を最後の層に施す。 この更新は、指数的に忘れるパワープライオリティのベイズモデルと、訓練後部へのクルバック・リブラーアンカーに対応している。 分散シフト中の5つのノード分類ベンチマークにおいて、オンラインGVBLLは、データセット毎に最適な精度と負のログ類似性を達成する唯一の方法である。 最強の非GVBLLベースラインよりも最大17ポイント、Ogbn-arxivで最大14ポイントの精度が向上する一方、MC Dropout、Deep Ensembles、温度スケーリング、ガウス過程分類器とのキャリブレーションでは競争力を維持している。

関連論文リスト

• Closed-Form Node Classification with Exact Graph Unlearning [1.9694904550039807]
  我々は、調整されたホモフィリーによって選択された経路付き閉形式フレームワークを提案する。 分類グラフに対しては、SGCスタイルの伝搬とリッジ回帰を用いる。 ヘテロ親和性グラフに対しては,レイヤワイド閉形式グラフ特徴分級ネットワークであるLCF-Netを導入する。
  論文  参考訳（メタデータ） (2026-05-25T10:12:43Z)
• Bridging Precision and Confidence: A Train-Time Loss for Calibrating Object Detection [58.789823426981044]
  本稿では,境界ボックスのクラス信頼度を予測精度に合わせることを目的とした,新たな補助損失定式化を提案する。 その結果,列車の走行時間損失はキャリブレーション基準を超過し,キャリブレーション誤差を低減させることがわかった。
  論文  参考訳（メタデータ） (2023-03-25T08:56:21Z)
• Improved uncertainty quantification for neural networks with Bayesian last layer [0.0]
  不確実性定量化は機械学習において重要な課題である。 本稿では,BLL を用いた NN の対数乗算可能性の再構成を行い,バックプロパゲーションを用いた効率的なトレーニングを実現する。
  論文  参考訳（メタデータ） (2023-02-21T20:23:56Z)
• Transformers Can Do Bayesian Inference [56.99390658880008]
  我々はPFN(Presideed Data Fitted Networks)を提案する。 PFNは、大規模機械学習技術におけるインコンテキスト学習を活用して、大規模な後部集合を近似する。 我々は、PFNがガウス過程をほぼ完璧に模倣し、難解問題に対する効率的なベイズ推定を可能にすることを示した。
  論文  参考訳（メタデータ） (2021-12-20T13:07:39Z)
• Test-time Batch Statistics Calibration for Covariate Shift [66.7044675981449]
  我々は,推論中に深層モデルを新しい環境に適応させることを提案する。 バッチ統計の校正に$alpha$-BNの一般的な定式化を提案する。 また、統合テスト時間適応フレームワークCoreを形成するための新しい損失関数も提示する。
  論文  参考訳（メタデータ） (2021-10-06T08:45:03Z)
• Robust Implicit Networks via Non-Euclidean Contractions [63.91638306025768]
  暗黙のニューラルネットワークは、精度の向上とメモリ消費の大幅な削減を示す。 彼らは不利な姿勢と収束の不安定さに悩まされる。 本論文は,ニューラルネットワークを高機能かつ頑健に設計するための新しい枠組みを提供する。
  論文  参考訳（メタデータ） (2021-06-06T18:05:02Z)
• Variational Laplace for Bayesian neural networks [25.055754094939527]
  Variational Laplaceは、ニューラルネットワークの重みをサンプリングすることなく、ELBOを推定する可能性の局所近似を利用する。 分散パラメータの学習率を増加させることで早期停止を回避できることを示す。
  論文  参考訳（メタデータ） (2021-02-27T14:06:29Z)
• Exploring the Uncertainty Properties of Neural Networks' Implicit Priors in the Infinite-Width Limit [47.324627920761685]
  我々は、無限大のNNのアンサンブルに先立って関数空間をガウス過程として特徴づける最近の理論的進歩を用いる。 これにより、関数空間上の暗黙の前のNNについて、よりよく理解できます。 また,従来のNNGPを用いた分類手法の校正について検討した。
  論文  参考訳（メタデータ） (2020-10-14T18:41:54Z)
• Improving predictions of Bayesian neural nets via local linearization [79.21517734364093]
  ガウス・ニュートン近似は基礎となるベイズニューラルネットワーク(BNN)の局所線形化として理解されるべきである。 この線形化モデルを後部推論に使用するので、元のモデルではなく、この修正モデルを使用することも予測すべきである。 この修正された予測を"GLM predictive"と呼び、Laplace近似の共通不適合問題を効果的に解決することを示す。
  論文  参考訳（メタデータ） (2020-08-19T12:35:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。