論文の概要: Beyond Homoscedasticity: Decoupled Uncertainty Optimization for Deep Imbalanced Regression
- arxiv url: http://arxiv.org/abs/2609.04995v1
- Date: Fri, 04 Sep 2026 11:06:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-07 18:15:24.017476
- Title: Beyond Homoscedasticity: Decoupled Uncertainty Optimization for Deep Imbalanced Regression
- Title(参考訳): Homoscedasticityを超えて: 深い不均衡回帰のための分離された不確実性最適化
- Abstract要約: 深い不均衡回帰は、様々なモダリティにまたがる継続的な予測タスクにおいて広く使われている。
本研究では,不確実性を考慮した長周期回帰フレームワークDUOを提案する。
本研究は,IMDB-WIKI-DIR, AgeDB-DIR, AAV2-DIRにおいて,小ショットMAEの競争力を維持しながら,最も優れた小ショットbMAEとGMを実現していることを示す。
- 参考スコア(独自算出の注目度): 7.011984503405774
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep Imbalanced Regression (DIR) is pervasive in continuous prediction tasks across diverse modalities, such as age estimation, depth prediction, and protein mutation activity prediction, where label-scarce tail samples often carry higher practical value. However, most existing methods still learn deterministic point mappings under mean squared error or its simple variants, implicitly assuming a uniform uncertainty level across all samples and thereby overlooking the instance-wise heteroscedasticity that is widespread in long-tailed data. We further point out that even heteroscedastic negative log-likelihood suffers from a gradient coupling issue, which, under DIR scenarios, weakens the learning signal of hard tail samples and leads to optimization inertia as well as tail underfitting. To address this, we propose DUO, an uncertainty-aware long-tailed regression framework. Specifically, the proposed method models the regression target as a conditional Gaussian distribution to explicitly characterize instance-level predictive uncertainty, and transforms uncertainty into a dynamic enhancement signal for tail samples through decoupled mean-variance optimization. Furthermore, we design a distribution-guided contrastive learning mechanism that adaptively constructs positive and negative pairs based on the overlap between sample distributions, thereby alleviating feature looseness and cross-label semantic entanglement. Across visual and biological DIR benchmarks, DUO achieves the best few-shot bMAE and GM on IMDB-WIKI-DIR, AgeDB-DIR, and AAV2-DIR while remaining competitive on few-shot MAE.
- Abstract(参考訳): ディープ・インバランス・レグレッション(DIR)は、年齢推定、深度予測、タンパク質突然変異活動予測など、様々なモードにわたる継続的な予測タスクにおいて広く使われており、ラベル・スカース・テールのサンプルは、しばしばより実用的な価値を持っている。
しかし、既存のほとんどの手法は平均二乗誤差またはその単純な変種の下で決定論的点写像を学習し、すべてのサンプルに対して一様不確実性レベルを仮定し、長い尾を持つデータに広まるインスタンス単位の不均一性を見越す。
さらに、不均質な負の対数類似度でさえ、DIRシナリオ下ではハードテールサンプルの学習信号を弱め、慣性最適化やテールアンダーフィッティングにつながる勾配結合の問題に悩まされていることを指摘する。
そこで本研究では,不確実性を考慮した長周期回帰フレームワークであるDUOを提案する。
具体的には、回帰ターゲットを条件付きガウス分布としてモデル化し、インスタンスレベルの予測の不確実性を明示的に特徴付け、デカップリングされた平均分散最適化により、テールサンプルに対する動的拡張信号に変換する。
さらに,サンプル分布間の重なり合いに基づいて正と負のペアを適応的に構成する分散誘導型コントラスト学習機構を設計し,特徴のゆるさとラベル間の意味的絡みを緩和する。
視覚的および生物学的なDIRベンチマーク全体で、DUOはIMDB-WIKI-DIR、 AgeDB-DIR、AAV2-DIRで最高の数発のbMAEとGMを達成した。
関連論文リスト
- Augmented Inverse Hybrid Weighting: Robust Inference under Deterministic and Random Distribution Shifts [17.842727239557995]
本稿では,制度的なシフトを考慮に入れた上で,2つの集団法間の非体系的な変化を可能にする新しいモデルを提案する。
このような残留シフトは、学習可能な方法で表現できない確率空間へのランダムな摂動としてモデル化される。
純粋なランダム摂動の下で、この原理は回帰増強と分散-最適データセットレベルプーリングを使用するAIDW(Augmented Inverse Distance Weighting)をもたらす。
AIDWと標準強調重み付けを補間するAIHW(Augmented Inverse Hybrid Weighting)を開発した。
論文 参考訳(メタデータ) (2026-08-01T15:02:13Z) - Joint Model and Data Sparsification via the Marginal Likelihood [53.29070892356214]
本稿では,個々の特徴とサンプルの相違点を同時学習し,同時にモデルとデータスペーシングを実現することを提案する。
このモデルとデータの対称的なプルーニングは、共役を保存する自然な拡張を提供する。
多様な回帰タスクにわたる経験的結果は、共同ARDアプローチがスパースモデルとロバスト予測モデルの両方を一貫して生成することを確認した。
論文 参考訳(メタデータ) (2026-05-28T13:26:53Z) - Amortized Variational Inference for Logistic Regression with Missing Covariates [4.027766797152636]
Amortized Variational Inference for Logistic Regression (AV-LR) は、バイナリロジスティック回帰のための統一されたエンドツーエンドフレームワークである。
AV-LRは、確率的生成モデルと単純な償却推論ネットワークを統合する。
計算コストを大幅に削減し、最先端のEMライクなアルゴリズムと同等かそれ以上の精度で推定できる。
論文 参考訳(メタデータ) (2026-03-22T14:00:59Z) - Risk and cross validation in ridge regression with correlated samples [72.59731158970894]
我々は,データポイントが任意の相関関係を持つ場合,リッジ回帰のイン・オブ・サンプルリスクのトレーニング例を提供する。
この設定では、一般化されたクロスバリデーション推定器(GCV)がサンプル外リスクを正確に予測できないことを示す。
さらに、テストポイントがトレーニングセットと非自明な相関を持つ場合、時系列予測でしばしば発生する設定にまで分析を拡張します。
論文 参考訳(メタデータ) (2024-08-08T17:27:29Z) - ROTI-GCV: Generalized Cross-Validation for right-ROTationally Invariant Data [5.830619388189558]
高次元正規化回帰における2つの重要なタスクは、正確な予測のために正規化強度を調整し、サンプル外リスクを推定することである。
問題のある条件下でクロスバリデーションを確実に行うための新しいフレームワーク ROTI-GCV を導入する。
論文 参考訳(メタデータ) (2024-06-17T15:50:00Z) - Fully Heteroscedastic Count Regression with Deep Double Poisson Networks [6.976150282812484]
Deep Double Poisson Network (DDPN) はニューラル・離散カウント回帰モデルである。
DDPNはヘテロセダスティックガウスモデルと同様の頑健な回帰特性を示す。
多様なデータセットの実験では、DDPNが現在のベースラインを精度、キャリブレーション、アウト・オブ・ディストリビューション検出で上回っていることが示されている。
論文 参考訳(メタデータ) (2024-06-13T16:02:03Z) - Quantifying predictive uncertainty of aphasia severity in stroke patients with sparse heteroscedastic Bayesian high-dimensional regression [47.1405366895538]
高次元データに対する疎線型回帰法は、通常、残留物が一定の分散を持つと仮定するが、これは実際には破ることができる。
本稿では,ヘテロセダスティック分割経験的ベイズ期待条件最大化アルゴリズムを用いて,高次元ヘテロセダスティック線形回帰モデルを推定する。
論文 参考訳(メタデータ) (2023-09-15T22:06:29Z) - Variational Imbalanced Regression: Fair Uncertainty Quantification via Probabilistic Smoothing [11.291393872745951]
既存の回帰モデルは、ラベル分布が不均衡である場合、精度と不確実性の推定の両方において不足する傾向にある。
変分不均衡回帰(VIR)と呼ばれる確率的深層学習モデルを提案する。
VIRは不均衡回帰において良好に機能するが、自然に副産物として妥当な不確かさを推定する。
論文 参考訳(メタデータ) (2023-06-11T06:27:06Z) - Regularizing Variational Autoencoder with Diversity and Uncertainty
Awareness [61.827054365139645]
変分オートエンコーダ(VAE)は、償却変分推論に基づいて潜伏変数の後部を近似する。
よりディバースで不確実な潜在空間を学習するための代替モデルDU-VAEを提案する。
論文 参考訳(メタデータ) (2021-10-24T07:58:13Z) - On the Double Descent of Random Features Models Trained with SGD [78.0918823643911]
勾配降下(SGD)により最適化された高次元におけるランダム特徴(RF)回帰特性について検討する。
本研究では, RF回帰の高精度な非漸近誤差境界を, 定常および適応的なステップサイズSGD設定の下で導出する。
理論的にも経験的にも二重降下現象を観察する。
論文 参考訳(メタデータ) (2021-10-13T17:47:39Z) - Multivariate Probabilistic Regression with Natural Gradient Boosting [63.58097881421937]
多変量予測分布の条件パラメータを非パラメトリックにモデル化したNatural Gradient Boosting (NGBoost) 手法を提案する。
提案手法は頑健で, 広範囲なチューニングを伴わず, 推定対象分布に対してモジュール構造であり, 既存の手法と比較して競争力がある。
論文 参考訳(メタデータ) (2021-06-07T17:44:49Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。