論文の概要: Residual Correlation as a Diagnostic for Joint-Uncertainty Gains from GP Coregionalisation
- arxiv url: http://arxiv.org/abs/2609.30085v1
- Date: Thu, 24 Sep 2026 16:33:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 21:10:10.111144
- Title: Residual Correlation as a Diagnostic for Joint-Uncertainty Gains from GP Coregionalisation
- Title(参考訳): GPコリージョン化による関節不確かさの診断としての残留相関
- Abstract要約: 多目的回帰では、相関対象はしばしばコリージョン化(GP-ICM)の本質的なモデルと結合される。
検討した設定全体にわたって、コリージョン化の主な利点は、点予測よりも共同不確実性定量化であることがわかった。
D_rm logdet=-frac12logdet R_rm res$は, 対角的残留共分散ではなく, 完全なモデリングから得られる, 理想化された結合陰性対数類似度(NLL)を表現した軽量診断法である。
- 参考スコア(独自算出の注目度): 11.84057553418583
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In multi-target regression, correlated targets are often coupled through multi-output Gaussian processes with an intrinsic model of coregionalisation (GP-ICM), assuming that sharing statistical strength improves overall performance. In practice, the benefits are inconsistent. Across the settings studied, we find that the main benefit of coregionalisation is joint uncertainty quantification rather than point prediction. Raw target correlation does not predict when coupling helps; in the separable GP-ICM settings studied here, residual correlation, the cross-target dependence left unexplained by independent per-target predictors, is the strongest predictor of joint-uncertainty gains. We introduce a lightweight diagnostic, $D_{\rm logdet}=-\frac{1}{2}\log\det R_{\rm res}$, which represents the idealised joint negative log-likelihood (NLL) gain from modelling a full rather than diagonal residual covariance and is computable from independent GPs alone. Across a controlled synthetic study, 16 multi-target benchmarks, and frozen transformer and convolutional neural network representations for keypoint regression, point prediction remains largely unchanged ($ΔR^2\approx 0$). In contrast, $D_{\rm logdet}$ strongly predicts observed ICM NLL improvements ($ρ_s=-0.83$, $p<0.001$), outperforming heuristics such as the feature-to-sample ratio. We also propose Residual-ICM, which preserves independent marginal variances while adding residual-correlation structure to the joint covariance. Residual-ICM achieves the best average joint NLL among the compared methods, while the diagnostic indicates when covariance coupling is likely to be useful. The diagnostic is specific to global Gaussian residual dependence, the structure captured by separable coregionalisation.
- Abstract(参考訳): 多目的回帰では、統計的強度の共有が全体的な性能を向上させると仮定して、相関対象は多出力ガウス過程と本質的にのコリージョン化(GP-ICM)のモデルによってしばしば結合される。
実際には、利点は矛盾しています。
検討した設定全体にわたって、コリージョン化の主な利点は、点予測よりも共同不確実性定量化であることがわかった。
ここで研究したGP-ICMセッティングでは、個別のターゲットごとの予測器によって説明されていない相互対象依存性は、結合の不確実性向上の最も強い予測器である。
D_{\rm logdet}=-\frac{1}{2}\log\det R_{\rm res}$は、対角的残留共分散ではなくフルモデルから得られる理想化された結合陰性対数類似度(NLL)を表現し、独立GPのみから計算可能である。
制御された合成研究、16のマルチターゲットベンチマーク、キーポイント回帰のためのフリーズトランスフォーマーと畳み込みニューラルネットワーク表現など、ポイント予測はほとんど変わっていない(ΔR^2\approx 0$)。
対照的に$D_{\rm logdet}$は、観測されたICM NLLの改善(ρ_s=-0.83$, $p<0.001$)を強く予測し、機能対サンプル比のようなヒューリスティックよりも優れている。
また, 連接共分散に残相関構造を付加しながら, 連接共分散を独立に保ち, 連接共分散に残相関構造を付加するResidual-ICMを提案する。
残差ICMは,共分散結合が有用である可能性が示唆されるのに対して,比較手法の中では最も平均的な関節NLLを実現する。
この診断は、分離可能なコリージョン化によって得られた構造である、グローバルなガウスの残留依存に特有のものである。
関連論文リスト
- Localizing Global Discrepancies: Marginal Contributions and Contextual Anomaly Detection [0.9688708385192246]
グローバル・グッド・オブ・フィットと不一致の統計は、サンプルが基準分布から出発し、どの観測結果が出発を駆動するかを特定することなく決定することができる。
本研究では, ランダムな統計的文脈にまたがる条件あるいは限界的な寄与を各観測者に割り当てることにより, この局所化問題の枠組みを構築する。
共有ラテント玩具モデルにおいて、コンテキストがイベント自身の機能以外の情報を含むかどうかを問う。
論文 参考訳(メタデータ) (2026-08-28T14:27:33Z) - Information Fidelity in Tool-Using LLM Agents: A Martingale Analysis of the Model Context Protocol [69.11739400975445]
モデルコンテキストプロトコル(MCP)エージェントにおけるエラー蓄積を解析するための最初の理論的枠組みを紹介する。
累積歪みが線形成長と高確率偏差を$O(sqrtT)$で表すことを示す。
主な発見は、意味重み付けは歪みを80%減らし、周期的再接地は、エラー制御の約9ステップごとに十分である。
論文 参考訳(メタデータ) (2026-02-10T21:08:53Z) - Robust Variational Bayes by Min-Max Median Aggregation [13.102667562202386]
本稿では,データセットの汚染と流出率を処理するための頑健なベイズフレームワークを提案する。
提案手法では,データを$m$不整合部分集合に分割し,ロバストなアグリゲーション原理に基づく共同最適化問題を定式化する。
以上の結果より,2段階のアプローチは,$m$の局所的後肢を直接集約するよりも,近似誤差が小さいことが示唆された。
論文 参考訳(メタデータ) (2025-12-14T13:02:00Z) - Learning bounds for doubly-robust covariate shift adaptation [8.24901041136559]
トレーニングドメインとテストドメイン間の分散シフトは、マシンラーニングにとって重要な課題である。
Doubly-robust (DR) 推定器は、密度比推定とパイロット回帰モデルを組み合わせる。
本稿では,DR推定器の非漸近学習境界を初めて確立する。
論文 参考訳(メタデータ) (2025-11-14T06:46:23Z) - Semiparametric conformal prediction [79.6147286161434]
ベクトル値の非整合性スコアの結合相関構造を考慮した共形予測セットを構築する。
スコアの累積分布関数(CDF)を柔軟に推定する。
提案手法は,現実の回帰問題に対して,所望のカバレッジと競争効率をもたらす。
論文 参考訳(メタデータ) (2024-11-04T14:29:02Z) - TIC-TAC: A Framework for Improved Covariance Estimation in Deep Heteroscedastic Regression [109.69084997173196]
奥行き回帰は、予測分布の平均と共分散を負の対数類似度を用いて共同最適化する。
近年の研究では, 共分散推定に伴う課題により, 準最適収束が生じる可能性が示唆されている。
1)予測共分散は予測平均のランダム性を真に捉えているか?
その結果, TICは共分散を正確に学習するだけでなく, 負の対数類似性の収束性の向上も促進することがわかった。
論文 参考訳(メタデータ) (2023-10-29T09:54:03Z) - A Targeted Accuracy Diagnostic for Variational Approximations [8.969208467611896]
変分推論(VI)はマルコフ・チェイン・モンテカルロ(MCMC)の魅力的な代替品である
既存の方法は、全変分分布の品質を特徴付ける。
配電近似精度(TADDAA)のためのTArgeted診断法を提案する。
論文 参考訳(メタデータ) (2023-02-24T02:50:18Z) - Distribution Regression with Sliced Wasserstein Kernels [45.916342378789174]
分布回帰のための最初のOTに基づく推定器を提案する。
このような表現に基づくカーネルリッジ回帰推定器の理論的性質について検討する。
論文 参考訳(メタデータ) (2022-02-08T15:21:56Z) - Trustworthy Multimodal Regression with Mixture of Normal-inverse Gamma
Distributions [91.63716984911278]
このアルゴリズムは、異なるモードの適応的統合の原理における不確かさを効率的に推定し、信頼できる回帰結果を生成する。
実世界のデータと実世界のデータの両方に対する実験結果から,多モード回帰タスクにおける本手法の有効性と信頼性が示された。
論文 参考訳(メタデータ) (2021-11-11T14:28:12Z) - Distributional Robustness and Regularization in Reinforcement Learning [62.23012916708608]
経験値関数の新しい正規化器を導入し、ワッサーシュタイン分布のロバストな値関数を下限とすることを示す。
強化学習における$textitexternalな不確実性に対処するための実用的なツールとして正規化を使用することを提案する。
論文 参考訳(メタデータ) (2020-03-05T19:56:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。