論文の概要: Contrastive Linearized Laplace: Loss Geometry, Valid Repairs, and Reliable Cores
- arxiv url: http://arxiv.org/abs/2610.14875v1
- Date: Sat, 10 Oct 2026 12:49:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 11:20:03.711617
- Title: Contrastive Linearized Laplace: Loss Geometry, Valid Repairs, and Reliable Cores
- Title(参考訳): コントラストリニアライズドラプラス:ロス幾何学, バリッド修復, 信頼性コア
- Abstract要約: 線形化ラプラス近似(LLA)のようなポストホック不確実性推定法は、エンコーダを再訓練することなく不確かさを定量化する方法を提供する。
コントラスト埋め込み上でのLLA誘導分布を直接使用すると、下流タスクに対して信頼性の高い不確実性推定が得られないことを示す。
下流タスクを通じてエンコーダの不確実性を伝播するLLAに基づくポストホックフレームワークを開発した。
- 参考スコア(独自算出の注目度): 4.549831511476248
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: While contrastive learning is widely used to learn deterministic representations, it does not inherently provide estimates of uncertainty. Post-hoc uncertainty estimation methods, such as the Linearized Laplace approximation (LLA), offer a way to quantify uncertainty without retraining the encoder. However, we show that directly using the LLA induced distribution over the contrastive embedding does not yield reliable pointwise uncertainty estimates for downstream tasks: embedding variance alone does not reflect whether decisions such as nearest-neighbor retrieval or cluster assignment are stable. To address this limitation, we develop a post-hoc framework based on LLA that propagates encoder uncertainty through the downstream task. We characterize the curvature of contrastive objectives and introduce positive-semidefinite repairs where needed to obtain valid local Gaussian approximations without retraining the encoder. We test the proposed approach in metagenomic binning and image classification tasks. For metagenomic binning, posterior coassignment probabilities support consensus partitions and the selection of reliable cores, leading to improvements over existing baselines. Additional image classification experiments show calibration improvements on standard benchmarks and real histopathology datasets.
- Abstract(参考訳): コントラスト学習は決定論的表現の学習に広く用いられているが、本質的に不確実性の推定を提供するものではない。
線形化ラプラス近似(LLA)のようなポストホック不確実性推定法は、エンコーダを再訓練することなく不確かさを定量化する方法を提供する。
しかし, 逆埋め込みによるLLA誘導分布を直接利用しても, 下流タスクに対する信頼性の高い不確実性推定は得られず, 拡散のみを埋め込むことは, 最寄りの検索やクラスタ割り当てなどの決定が安定であるかどうかを反映しない。
この制限に対処するため、下流タスクを通じてエンコーダの不確実性を伝播するLLAに基づくポストホックフレームワークを開発した。
コントラスト対象の曲率を特徴付け、エンコーダを再トレーニングすることなく、有効な局所ガウス近似を得るために必要な正の半有限修理を導入する。
メタゲノミクス・ビニングと画像分類タスクにおいて提案手法を検証した。
メタジノミック・バイニングでは、後部配位確率はコンセンサスパーティションと信頼性の高いコアの選択をサポートし、既存のベースラインよりも改善されている。
その他の画像分類実験では、標準ベンチマークと実際の病理組織学データセットの校正の改善が示されている。
関連論文リスト
- PosteriorBench: From Point Estimates to Posterior Matching in Evaluating Generative Inverse Solvers [58.87583368961845]
PosteriorBenchは、生成的逆解器の分布精度を評価するためのベンチマークである。
ダーシーフローの逆転、ポアソン源の回復、炭素捕獲と貯蔵、光輸送物質推論の4つの物理に基づく逆問題を評価する。
論文 参考訳(メタデータ) (2026-09-17T17:54:12Z) - Discovery of Hidden Miscalibration Regimes [52.452902154360565]
モデルは何らかの入力を体系的に過信し、他人を過信することがある。
対応する誤校正分野を定義し,それを推定するための診断フレームワークを提案する。
提案手法は,入力空間のキャリブレーションを意識した表現を学習し,学習幾何学におけるカーネルの平滑化による符号付き局所的誤校正を推定する。
論文 参考訳(メタデータ) (2026-05-13T13:07:50Z) - ConformaDecompose: Explaining Uncertainty via Calibration Localization [0.26385121748044166]
Conformal Predictionは、保証されたカバレッジを備えた、配布不要な予測間隔を提供する。
単一のグローバルキャリブレーションしきい値への依存は、インスタンスレベルでの不確実性の原因を曖昧にする。
キャリブレーションによる不確実性の再現性を分析する不確実性を考慮した説明可能性フレームワークを提案する。
論文 参考訳(メタデータ) (2026-04-29T19:58:15Z) - Uncertainty-Driven Reliability: Selective Prediction and Trustworthy Deployment in Modern Machine Learning [1.2183405753834562]
この論文は、不確実性推定が機械学習(ML)システムの安全性と信頼性を高める方法について考察する。
まず、モデルのトレーニング軌道は、アーキテクチャの変更や損失を伴わずに活用できるような、豊富な不確実性信号を含むことを示す。
本稿では,タスク間で動作し,深層アンサンブルのコストを回避し,最先端の選択的予測性能を実現する軽量なポストホック禁忌手法を提案する。
論文 参考訳(メタデータ) (2025-08-11T02:33:53Z) - FIVA: Federated Inverse Variance Averaging for Universal CT Segmentation with Uncertainty Estimation [4.544160712377809]
本研究は,多様な腹部CTデータセットにまたがる普遍的なセグメンテーションを実現するための,新しいフェデレーション学習手法を提案する。
提案手法はモデル重みから不確かさを伝搬することにより予測の不確かさを定量化する。
実験により, フェデレーションアグリゲーションと不確実性重み付け推論の品質向上に本手法の有効性が示された。
論文 参考訳(メタデータ) (2025-08-08T11:34:01Z) - Digging Into Uncertainty-based Pseudo-label for Robust Stereo Matching [39.959000340261625]
本稿では,ロバストなステレオマッチングのための不確実性推定法を提案する。
事前学習されたモデルを新しい領域に適応させるために,不確実性に基づく擬似ラベルを提案する。
本手法は,ロバスト・ビジョン・チャレンジ2020のステレオタスクにおいて,強いクロスドメイン,適応,共同一般化を示す。
論文 参考訳(メタデータ) (2023-07-31T09:11:31Z) - Adapting to Latent Subgroup Shifts via Concepts and Proxies [82.01141290360562]
最適ターゲット予測器は、ソースドメインでのみ利用できる概念とプロキシ変数の助けを借りて、非パラメトリックに識別可能であることを示す。
本研究では,データ生成プロセスに特有の潜在変数モデルを提案する。
論文 参考訳(メタデータ) (2022-12-21T18:30:22Z) - Learning Calibrated Uncertainties for Domain Shift: A Distributionally
Robust Learning Approach [150.8920602230832]
ドメインシフトの下で校正された不確実性を学習するためのフレームワークを提案する。
特に、密度比推定は、ターゲット(テスト)サンプルの近さをソース(トレーニング)分布に反映する。
提案手法は下流タスクに有利な校正不確実性を生成する。
論文 参考訳(メタデータ) (2020-10-08T02:10:54Z) - Distribution-free binary classification: prediction sets, confidence
intervals and calibration [106.50279469344937]
分布自由条件における二項分類のための不確実性定量化(キャリブレーション、信頼区間、予測セット)の3つの概念について検討する。
固定幅と一様質量の両双対の双対確率に対する信頼区間を導出する。
我々の「三脚」定理の結果として、双有理確率に対するこれらの信頼区間は分布自由キャリブレーションに繋がる。
論文 参考訳(メタデータ) (2020-06-18T14:17:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。