論文の概要: BLADE: Distilled LLM Regularization for Calibrated Knowledge Graph Completion
- arxiv url: http://arxiv.org/abs/2609.29487v1
- Date: Wed, 26 Aug 2026 02:33:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:56.043235
- Title: BLADE: Distilled LLM Regularization for Calibrated Knowledge Graph Completion
- Title(参考訳): BLADE: Clibrated Knowledge Graph Completionのための蒸留LLM正規化
- Abstract要約: 本稿では,オフライン言語モデル判定を冷凍教師正規化器に蒸留する変分モデルBLADEを提案する。
5つのベンチマークで、BLADEは共通のランキングプロトコルの下で競争力を維持している。
また、ECE、Brier score、NLLを、バリデーション選択されたヒストグラムビニングと一致した生成型ComplEx2モデルよりも改善する。
- 参考スコア(独自算出の注目度): 5.894992157122175
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Knowledge graph completion models optimize ranking, although many downstream applications require calibrated probabilities. We present BLADE, a variational model that separates latent truth from graph recording and distills offline language-model judgments into a frozen teacher regularizer. The LLM is absent during inference. Posterior samples provide predictive probabilities and epistemic uncertainty, while the compact teacher remains available only as an optional triage factor. Across five benchmarks, BLADE remains competitive under a common ranking protocol and reduces adaptive ECE by a macro-average of 60.1% relative to deep ensembles and 78.1% relative to temperature-scaled RotatE. On identical FB15k-237 candidate sets, BLADE also improves ECE, Brier score, and NLL over validation-selected histogram binning and a matched generative ComplEx2 model, with these improvements persisting on a prespecified near-miss pool. Under controlled injected missingness, the full triage score achieves a mean AUC-PR of 0.863, compared with 0.805 for its strongest non-teacher variant. Leakage stress tests show that aligned semantics matter, but they cannot exclude knowledge acquired during LLM pretraining. We therefore claim calibration only for the declared candidate distributions, not for all unobserved triples.
- Abstract(参考訳): 知識グラフ補完モデルはランク付けを最適化するが、多くの下流アプリケーションはキャリブレーションされた確率を必要とする。
本稿では、グラフ記録から潜伏真理を分離し、オフライン言語モデル判断を凍結教師正規化器に蒸留する変分モデルBLADEを提案する。
LLMは推論中に欠落します。
後部サンプルは、予測確率とてんかんの不確実性を提供するが、コンパクトな教師はオプションのトリアージファクターとしてのみ利用可能である。
5つのベンチマークで、BLADEは共通のランク付けプロトコルの下で競争力を維持し、温度スケールのRotatEに対して60.1%のマクロアンサンブルと78.1%の適応型ECEを減少させる。
同一のFB15k-237候補セットでは、BLADEは、バリデーション選択されたヒストグラムバイニングと一致した生成型ComplEx2モデルに対して、ECE、ブライアスコア、NLLも改善し、これらの改善は予め指定されたニアミスプールに持続する。
コントロールされたインジェクション不足下では、完全なトリアージスコアは平均AUC-PRが0.863であり、最強の非教師変種は0.805である。
漏洩ストレステストは、アライメントセマンティクスが重要であることを示しているが、LLM事前訓練中に得られた知識を除外することはできない。
したがって、キャリブレーションは、宣言された候補分布に対してのみであり、すべての観測されていない三重項に対してではない。
関連論文リスト
- Bounded Adjustment with Reliability-Guided Embedding for Imbalanced Learning with Noisy Labels [7.047239027940408]
本稿では,BARGE (Bounded Adjustment with Reliability-Guided Embeddings) を導入する。
CIFAR-10, CIFAR-100, Tiny ImageNetで, 長期・ステップ不均衡, クリーンラベル, 20%, 40%のランダムな不正ラベル置換条件下で評価を行った。
論文 参考訳(メタデータ) (2026-09-14T21:41:28Z) - Vision-Language Models for Criterion-Level Grading of Handwritten Examinations in Outcome-Based Education [0.3686530147760243]
本研究は手書き結果に基づく評価のための視覚言語モデルを評価する。
Qwen2.5-VL、InternVL3、Pixtral、Donutベースライン、カスケードアンサンブルにまたがる20の構成を比較した。
論文 参考訳(メタデータ) (2026-09-13T04:55:55Z) - Reliability-Aware Hybrid-K Ensemble Selection for Cervical Cytology Classification: Integrating Discrimination, Calibration, and Selective Prediction [3.093890460224435]
本研究では,マルチクラス頚椎分類のための信頼性を考慮したハイブリッド-Kアンサンブル選択フレームワークを提案する。
9つのディープラーニングアーキテクチャを,固定成層5倍分割と3つの訓練種子を用いて評価した。
Swin-TinyとTinyViT-5Mからなる最後のハイブリッド2アンサンブルは、AURCを43%減らし、NLLを17%減らし、WC-ECEを36%減らした。
論文 参考訳(メタデータ) (2026-09-01T02:30:41Z) - Modeling Normal Is All You Need: Joint Latent Clustering for Anomaly Detection in Multimodal Cyber-Physical Systems [47.027290803102666]
通常の行動は、多くの不均衡で、曲がりくねった、細い範囲の運営体制の結合である。
我々は正規法則を、共同学習された潜在表現と明示的なガウス混合モードクラスタリングでモデル化する。
ポイント調整のない生のポイントワイドメトリクス、自明な検出困難分割、頻度整合F1、列車正規化のみのキャリブレーションを意図的に評価する。
論文 参考訳(メタデータ) (2026-07-07T10:10:00Z) - K-ABENA: K-Adaptive Backpropagation with Error-based N-exclusion Algorithm : (Compensated Loss-Based Sample Exclusion with Unbiased Gradient Estimation) [0.0]
K-ABENAK-Adaptive Backpropagation with Error-based N-exclusionは選択的な計算フレームワークである。
これは、少量の低損失("ミニ")観測を除外することで、イット当たりの計算トレーニングコストを削減する。
ラベル制限下で0.386の精度(ベースライン:0.832)、極端な不均衡下で0.53のAUCに崩壊する。
論文 参考訳(メタデータ) (2026-07-07T06:58:51Z) - Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning [40.342912574072024]
大規模言語モデルは、旅行計画やコードソリューションのような構造化されたアウトプットを生成する。
個々の推論ステップは正しく見えるが、アウトプット全体が予算に違反したり、テストケースに失敗したり、あるいは以前の推論に矛盾することがある。
構造化LCM出力の検証のための決定論的解析制約付き学習品質スコアラを提案する。
論文 参考訳(メタデータ) (2026-05-15T17:08:27Z) - Confidence Calibration under Ambiguous Ground Truth [43.71398545904091]
多数発声ラベルに装着したポストホックキャリブレータは、従来の評価ではよく校正される。
しかし、それらが根底にあるアノテータ分布に対してかなり誤解されている。
我々は,完全ラベル分布に対して適切なスコアリングルールを最適化する,あいまいさを意識したポストホックキャリブレータのファミリーを開発する。
論文 参考訳(メタデータ) (2026-03-24T07:24:09Z) - MixedNUTS: Training-Free Accuracy-Robustness Balance via Nonlinearly Mixed Classifiers [41.56951365163419]
MixedNUTSは、ロバストな分類器の出力ロジットを3つのパラメータしか持たない非線形変換で処理する訓練不要の手法である。
MixedNUTSは変換されたロジットを確率に変換し、それらを全体の出力として混合する。
CIFAR-10、CIFAR-100、ImageNetデータセットでは、MixedNUTSの精度とほぼSOTAの堅牢性を大幅に改善した。
論文 参考訳(メタデータ) (2024-02-03T21:12:36Z) - (Certified!!) Adversarial Robustness for Free! [116.6052628829344]
逆方向の摂動が0.5の2ノルム以内であることに制約された場合,ImageNetでは71%の精度が証明された。
これらの結果は,モデルパラメータの微調整や再学習を必要とせず,事前学習した拡散モデルと画像分類器のみを用いて得られる。
論文 参考訳(メタデータ) (2022-06-21T17:27:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。