論文の概要: Uncertainty in Extreme Multi-label Classification

• arxiv url: http://arxiv.org/abs/2210.10160v1
• Date: Tue, 18 Oct 2022 20:54:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2022-10-20 14:54:03.861595
• Title: Uncertainty in Extreme Multi-label Classification
• Title（参考訳）: 極多ラベル分類の不確かさ
• Authors: Jyun-Yu Jiang, Wei-Cheng Chang, Jiong Zhong, Cho-Jui Hsieh, and Hsiang-Fu Yu
• Abstract要約: eXtreme Multi-label Classification (XMC)は、Webスケールの機械学習アプリケーションにおいて、ビッグデータの時代において不可欠なタスクである。 本稿では,確率的アンサンブルに基づく木系XMCモデルの一般的な不確実性定量化手法について検討する。 特に,XMCにおけるラベルレベルおよびインスタンスレベルの不確実性を解析し,ビームサーチに基づく一般的な近似フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 81.14232824864787
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Uncertainty quantification is one of the most crucial tasks to obtain trustworthy and reliable machine learning models for decision making. However, most research in this domain has only focused on problems with small label spaces and ignored eXtreme Multi-label Classification (XMC), which is an essential task in the era of big data for web-scale machine learning applications. Moreover, enormous label spaces could also lead to noisy retrieval results and intractable computational challenges for uncertainty quantification. In this paper, we aim to investigate general uncertainty quantification approaches for tree-based XMC models with a probabilistic ensemble-based framework. In particular, we analyze label-level and instance-level uncertainty in XMC, and propose a general approximation framework based on beam search to efficiently estimate the uncertainty with a theoretical guarantee under long-tail XMC predictions. Empirical studies on six large-scale real-world datasets show that our framework not only outperforms single models in predictive performance, but also can serve as strong uncertainty-based baselines for label misclassification and out-of-distribution detection, with significant speedup. Besides, our framework can further yield better state-of-the-art results based on deep XMC models with uncertainty quantification.
• Abstract（参考訳）: 不確実性定量化は、意思決定のための信頼できる信頼性の高い機械学習モデルを得るために最も重要なタスクの1つである。 しかし、この領域におけるほとんどの研究は、小さなラベル空間の問題にのみ焦点を当てており、Webスケールの機械学習アプリケーションにおいてビッグデータの時代において不可欠なタスクであるeXtreme Multi-label Classification (XMC)を無視している。 さらに、巨大なラベル空間は、ノイズの多い検索結果や不確実性定量化のための難解な計算課題につながる可能性がある。 本稿では,確率的アンサンブルに基づく木系XMCモデルの一般的な不確実性定量化手法について検討する。 特に,XMCにおけるラベルレベルおよびインスタンスレベルの不確実性を解析し,ビームサーチに基づく一般的な近似フレームワークを提案する。 6つの大規模実世界のデータセットに関する実証研究によれば、このフレームワークは予測性能において単一のモデルを上回るだけでなく、ラベルの誤分類や分散検出のための強力な不確実性ベースのベースラインとしても機能し、大幅なスピードアップを実現しています。 さらに, 不確実な定量化を伴う深部XMCモデルに基づいて, より優れた最先端結果が得られる。

関連論文リスト

• Probabilistic Machine Learning for Noisy Labels in Earth Observation [5.068845500478373]
  我々は、広範囲の高インパクト地球観測アプリケーションにわたって、不確実性を考慮した確率モデルを訓練する。 予測された不確実性推定の信頼性を検証し、モデル予測の解釈可能性を高める。 本研究は, ラベルノイズをモデル化し, 不確実な定量化をEOに取り入れることの重要性を強調し, 現場でより正確で信頼性が高く, 信頼性の高いMLソリューションを実現するための道を開いた。
  論文  参考訳（メタデータ） (2025-04-04T14:36:33Z)
• New Statistical Framework for Extreme Error Probability in High-Stakes Domains for Reliable Machine Learning [4.14360329494344]
  極端な価値理論(EVT)は、最悪のケースの失敗を推定するための厳密なアプローチを提供する統計フレームワークである。 EVTを合成および実世界のデータセットに適用することにより、破滅的故障確率のロバストな推定を可能にする。 この作業は、EVTをモデルの信頼性を評価し、新しいテクノロジにおけるより安全なAIデプロイメントを保証するための基本的なツールとして確立する。
  論文  参考訳（メタデータ） (2025-03-31T16:08:11Z)
• Noise-Adaptive Conformal Classification with Marginal Coverage [53.74125453366155]
  本稿では,ランダムラベルノイズによる交換性からの偏差を効率的に処理できる適応型共形推論手法を提案する。 本手法は,合成および実データに対して,その有効性を示す広範囲な数値実験により検証する。
  論文  参考訳（メタデータ） (2025-01-29T23:55:23Z)
• Uncertainty separation via ensemble quantile regression [23.667247644930708]
  本稿では,不確実性推定と分離のための新しい,スケーラブルなフレームワークを提案する。 我々のフレームワークは大規模データセットにスケーラブルであり、合成ベンチマークで優れた性能を示す。
  論文  参考訳（メタデータ） (2024-12-18T11:15:32Z)
• Ranked from Within: Ranking Large Multimodal Models for Visual Question Answering Without Labels [64.94853276821992]
  大規模マルチモーダルモデル(LMM)は、様々なアプリケーションにまたがってますます展開されている。 従来の評価方法は、主にデータセット中心であり、固定されたラベル付きデータセットと教師付きメトリクスに依存している。 ソフトマックス確率などの不確実性信号を利用したLMMの教師なしモデルランキングについて検討する。
  論文  参考訳（メタデータ） (2024-12-09T13:05:43Z)
• Quantifying Prediction Consistency Under Model Multiplicity in Tabular LLMs [10.494477811252034]
  微調整された大きな言語モデルは、同じ入力で矛盾する予測を行うような、テクティファインチューニングの多重性につながる可能性がある。 これにより、Tabular LLMの堅牢性と信頼性に関する重要な懸念が持ち上がる。 本研究は,コストのかかるモデル再訓練を伴わずに個々の予測の堅牢性を定量化する新しい指標を提案する。
  論文  参考訳（メタデータ） (2024-07-04T22:22:09Z)
• Cycles of Thought: Measuring LLM Confidence through Stable Explanations [53.15438489398938]
  大規模言語モデル(LLM)は、様々なベンチマークで人間レベルの精度に到達し、さらに超えることができるが、不正確な応答における過度な自信は、依然として十分に文書化された障害モードである。 本稿では,LLMの不確実性を測定するためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-06-05T16:35:30Z)
• Uncertainty-aware Evidential Fusion-based Learning for Semi-supervised Medical Image Segmentation [0.0]
  本稿では,混合試料と原試料の交叉領域における明らかな予測結果を統合し,各ボクセルの信頼性度と不確実性を測定する。 我々は,情報エントロピーを導入し,融合した不確実性対策と組み合わせてボクセルレベルの学習戦略を設計し,より正確にボクセル予測を推定する。 LA, Pancreas-CT, ACDC, TBADデータセットを用いた実験結果から, 提案手法の既存手法と比較して, 優れた性能を示した。
  論文  参考訳（メタデータ） (2024-04-09T09:58:10Z)
• On Least Square Estimation in Softmax Gating Mixture of Experts [78.3687645289918]
  決定論的MoEモデルに基づく最小二乗推定器(LSE)の性能について検討する。 我々は,多種多様な専門家関数の収束挙動を特徴付けるために,強い識別可能性という条件を確立する。 本研究は,専門家の選択に重要な意味を持つ。
  論文  参考訳（メタデータ） (2024-02-05T12:31:18Z)
• Measuring and Modeling Uncertainty Degree for Monocular Depth Estimation [50.920911532133154]
  単分子深度推定モデル(MDE)の本質的な不適切さと順序感性は、不確かさの程度を推定する上で大きな課題となる。 本稿では,MDEモデルの不確かさを固有確率分布の観点からモデル化する。 新たなトレーニング正規化用語を導入することで、驚くほど単純な構成で、余分なモジュールや複数の推論を必要とせずに、最先端の信頼性で不確実性を推定できる。
  論文  参考訳（メタデータ） (2023-07-19T12:11:15Z)
• Modeling Multimodal Aleatoric Uncertainty in Segmentation with Mixture of Stochastic Expert [24.216869988183092]
  入力画像にあいまいさが存在する場合、セグメンテーションにおけるデータ独立不確実性(いわゆるアレタリック不確実性)を捉えることに重点を置いている。 本稿では,各専門家ネットワークがアレータティック不確実性の異なるモードを推定する,新しい専門家モデル(MoSE)を提案する。 We developed a Wasserstein-like loss that makes direct minimizes the distribution distance between the MoSE and ground truth annotations。
  論文  参考訳（メタデータ） (2022-12-14T16:48:21Z)
• Quantifying Model Uncertainty for Semantic Segmentation using Operators in the RKHS [20.348825818435767]
  本稿では,セマンティックセグメンテーションモデルの高精度な予測不確実性定量化のためのフレームワークを提案する。 我々は、ヒルベルト空間(RKHS)を再現するカーネルにおけるモデルの特徴空間に関連する不確実性の多項関数定義を用いる。 これにより、従来のベイズ法よりもモデルの不確実性に対するはるかに正確な見方が導かれる。
  論文  参考訳（メタデータ） (2022-11-03T17:10:49Z)
• Non-Linear Spectral Dimensionality Reduction Under Uncertainty [107.01839211235583]
  我々は、不確実性情報を活用し、いくつかの従来のアプローチを直接拡張する、NGEUと呼ばれる新しい次元削減フレームワークを提案する。 提案したNGEUの定式化は,大域的な閉形式解を示し,Radecherの複雑性に基づいて,基礎となる不確実性がフレームワークの一般化能力に理論的にどのように影響するかを分析する。
  論文  参考訳（メタデータ） (2022-02-09T19:01:33Z)
• Uncertainty-Aware Multiple Instance Learning fromLarge-Scale Long Time Series Data [20.2087807816461]
  本稿では,最も関連性の高い周期自動識別のための不確実性認識型マルチインスタンス(MIL)フレームワークを提案する。 さらに、別のモデルを訓練し、不確実性を考慮した融合を行うことにより、信頼できない予測を調整できる別のモダリティを組み込む。 実験結果から, 提案手法は, 軌道に基づく容器の形状を効果的に検出できることを示した。
  論文  参考訳（メタデータ） (2021-11-16T17:09:02Z)
• Approaching Neural Network Uncertainty Realism [53.308409014122816]
  自動運転車などの安全クリティカルなシステムには、定量化または少なくとも上限の不確実性が不可欠です。 マハラノビス距離に基づく統計的テストにより、厳しい品質基準である不確実性リアリズムを評価します。 自動車分野に採用し、プレーンエンコーダデコーダモデルと比較して、不確実性リアリズムを大幅に改善することを示した。
  論文  参考訳（メタデータ） (2021-01-08T11:56:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。