論文の概要: Beyond the Mean: Distribution-Aware Loss Functions for Bimodal Regression
- arxiv url: http://arxiv.org/abs/2603.22328v1
- Date: Fri, 20 Mar 2026 18:37:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-25 19:53:37.066656
- Title: Beyond the Mean: Distribution-Aware Loss Functions for Bimodal Regression
- Title(参考訳): Beyond the Mean: バイモーダル回帰のための分散認識損失関数
- Authors: Abolfazl Mohammadi-Seif, Carlos Soares, Rita P. Ribeiro, Ricardo Baeza-Yates,
- Abstract要約: 正規化RMSEとワッサースタイン距離とクラメール距離を組み合わせた分布認識損失関数のファミリーを提案する。
我々のフレームワークは、信頼性と堅牢性の両方においてMDNを厳格に支配し、信頼できるAIシステムにおけるアレタリック不確実性推定のための信頼性の高いツールを提供する。
- 参考スコア(独自算出の注目度): 13.50774354486614
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Despite the strong predictive performance achieved by machine learning models across many application domains, assessing their trustworthiness through reliable estimates of predictive confidence remains a critical challenge. This issue arises in scenarios where the likelihood of error inferred from learned representations follows a bimodal distribution, resulting from the coexistence of confident and ambiguous predictions. Standard regression approaches often struggle to adequately express this predictive uncertainty, as they implicitly assume unimodal Gaussian noise, leading to mean-collapse behavior in such settings. Although Mixture Density Networks (MDNs) can represent different distributions, they suffer from severe optimization instability. We propose a family of distribution-aware loss functions integrating normalized RMSE with Wasserstein and Cramér distances. When applied to standard deep regression models, our approach recovers bimodal distributions without the volatility of mixture models. Validated across four experimental stages, our results show that the proposed Wasserstein loss establishes a new Pareto efficiency frontier: matching the stability of standard regression losses like MSE in unimodal tasks while reducing Jensen-Shannon Divergence by 45% on complex bimodal datasets. Our framework strictly dominates MDNs in both fidelity and robustness, offering a reliable tool for aleatoric uncertainty estimation in trustworthy AI systems.
- Abstract(参考訳): 多くのアプリケーションドメインにわたる機械学習モデルによって達成される強力な予測性能にもかかわらず、予測信頼性の信頼性見積を通じて信頼性を評価することは、依然として重要な課題である。
この問題は、学習された表現から推測される誤りの確率が二モーダル分布に従えば、自信と曖昧な予測の共存によって生じる。
標準回帰法はしばしばこの予測的不確かさを適切に表現するのに苦労するが、それらは暗黙的にガウス雑音を仮定し、そのような環境で平均崩壊挙動をもたらす。
混合密度ネットワーク(MDN)は異なる分布を表現できるが、厳しい最適化の不安定性に悩まされる。
正規化RMSEとワッサースタイン距離とクラメール距離を組み合わせた分布認識損失関数のファミリーを提案する。
標準深部回帰モデルに適用した場合, 混合モデルのボラティリティを伴わずにバイモーダル分布を復元する。
4つの実験段階にまたがって,提案したワッサーシュタインの損失が新たなパレート効率フロンティアを確立することを示し,Jensen-Shannonの偏差を45%減らすとともに,MSEなどの標準回帰損失の安定性を一致させた。
我々のフレームワークは、信頼性と堅牢性の両方においてMDNを厳格に支配し、信頼できるAIシステムにおけるアレタリック不確実性推定のための信頼性の高いツールを提供する。
関連論文リスト
- Distributionally Robust Optimization with Adversarial Data Contamination [49.89480853499918]
凸リプシッツ損失関数を持つ一般化線形モデルに対するワッサーシュタイン-1 DRO 目標の最適化に焦点をあてる。
私たちの主な貢献は、データ汚染のトレーニングに対するロバストネスと分散シフトに対するロバストネスを統合した、新しいモデリングフレームワークです。
この研究は、データ汚染と分散シフトという2つの課題の下で学習するために、効率的な計算によって支援される最初の厳密な保証を確立する。
論文 参考訳(メタデータ) (2025-07-14T18:34:10Z) - Advancing Reliable Test-Time Adaptation of Vision-Language Models under Visual Variations [67.35596444651037]
視覚言語モデル(VLM)は、素晴らしいゼロショット機能を示すが、ラベル付きデータが利用できない場合、下流タスクの分散シフトに苦慮する。
本稿では,信頼性を両面から高めるReliable Test-Time Adaptation (ReTA)法を提案する。
論文 参考訳(メタデータ) (2025-07-13T05:37:33Z) - Fully Heteroscedastic Count Regression with Deep Double Poisson Networks [6.976150282812484]
Deep Double Poisson Network (DDPN) はニューラル・離散カウント回帰モデルである。
DDPNはヘテロセダスティックガウスモデルと同様の頑健な回帰特性を示す。
多様なデータセットの実験では、DDPNが現在のベースラインを精度、キャリブレーション、アウト・オブ・ディストリビューション検出で上回っていることが示されている。
論文 参考訳(メタデータ) (2024-06-13T16:02:03Z) - Hinge-Wasserstein: Estimating Multimodal Aleatoric Uncertainty in Regression Tasks [9.600416563894658]
画像からパラメータ値への回帰について検討し、ここでは確率分布を予測して不確実性を検出することが一般的である。
従来の損失関数は、完全な真実分布が存在しない場合、確率分布の予測が低く、自信が強くなる。
トレーニング中の弱い二次モードのペナルティを低減するために, ハンジ・ワッサースタイン(Hungge-Wasserstein)を提案する。
論文 参考訳(メタデータ) (2023-06-01T11:20:09Z) - Reliability-Aware Prediction via Uncertainty Learning for Person Image
Retrieval [51.83967175585896]
UALは、データ不確実性とモデル不確実性を同時に考慮し、信頼性に配慮した予測を提供することを目的としている。
データ不確実性はサンプル固有のノイズを捕捉する」一方、モデル不確実性はサンプルの予測に対するモデルの信頼を表現している。
論文 参考訳(メタデータ) (2022-10-24T17:53:20Z) - Trustworthy Multimodal Regression with Mixture of Normal-inverse Gamma
Distributions [91.63716984911278]
このアルゴリズムは、異なるモードの適応的統合の原理における不確かさを効率的に推定し、信頼できる回帰結果を生成する。
実世界のデータと実世界のデータの両方に対する実験結果から,多モード回帰タスクにおける本手法の有効性と信頼性が示された。
論文 参考訳(メタデータ) (2021-11-11T14:28:12Z) - Trust but Verify: Assigning Prediction Credibility by Counterfactual
Constrained Learning [123.3472310767721]
予測信頼性尺度は統計学と機械学習において基本的なものである。
これらの措置は、実際に使用される多種多様なモデルを考慮に入れるべきである。
この研究で開発されたフレームワークは、リスクフィットのトレードオフとして信頼性を表現している。
論文 参考訳(メタデータ) (2020-11-24T19:52:38Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。