論文の概要: Uncertainty in Extreme Multi-label Classification

• arxiv url: http://arxiv.org/abs/2210.10160v1
• Date: Tue, 18 Oct 2022 20:54:33 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-20 14:54:03.861595
• Title: Uncertainty in Extreme Multi-label Classification
• Title（参考訳）: 極多ラベル分類の不確かさ
• Authors: Jyun-Yu Jiang, Wei-Cheng Chang, Jiong Zhong, Cho-Jui Hsieh, and Hsiang-Fu Yu
• Abstract要約: eXtreme Multi-label Classification (XMC)は、Webスケールの機械学習アプリケーションにおいて、ビッグデータの時代において不可欠なタスクである。 本稿では,確率的アンサンブルに基づく木系XMCモデルの一般的な不確実性定量化手法について検討する。 特に,XMCにおけるラベルレベルおよびインスタンスレベルの不確実性を解析し,ビームサーチに基づく一般的な近似フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 81.14232824864787
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Uncertainty quantification is one of the most crucial tasks to obtain trustworthy and reliable machine learning models for decision making. However, most research in this domain has only focused on problems with small label spaces and ignored eXtreme Multi-label Classification (XMC), which is an essential task in the era of big data for web-scale machine learning applications. Moreover, enormous label spaces could also lead to noisy retrieval results and intractable computational challenges for uncertainty quantification. In this paper, we aim to investigate general uncertainty quantification approaches for tree-based XMC models with a probabilistic ensemble-based framework. In particular, we analyze label-level and instance-level uncertainty in XMC, and propose a general approximation framework based on beam search to efficiently estimate the uncertainty with a theoretical guarantee under long-tail XMC predictions. Empirical studies on six large-scale real-world datasets show that our framework not only outperforms single models in predictive performance, but also can serve as strong uncertainty-based baselines for label misclassification and out-of-distribution detection, with significant speedup. Besides, our framework can further yield better state-of-the-art results based on deep XMC models with uncertainty quantification.
• Abstract（参考訳）: 不確実性定量化は、意思決定のための信頼できる信頼性の高い機械学習モデルを得るために最も重要なタスクの1つである。 しかし、この領域におけるほとんどの研究は、小さなラベル空間の問題にのみ焦点を当てており、Webスケールの機械学習アプリケーションにおいてビッグデータの時代において不可欠なタスクであるeXtreme Multi-label Classification (XMC)を無視している。 さらに、巨大なラベル空間は、ノイズの多い検索結果や不確実性定量化のための難解な計算課題につながる可能性がある。 本稿では,確率的アンサンブルに基づく木系XMCモデルの一般的な不確実性定量化手法について検討する。 特に,XMCにおけるラベルレベルおよびインスタンスレベルの不確実性を解析し,ビームサーチに基づく一般的な近似フレームワークを提案する。 6つの大規模実世界のデータセットに関する実証研究によれば、このフレームワークは予測性能において単一のモデルを上回るだけでなく、ラベルの誤分類や分散検出のための強力な不確実性ベースのベースラインとしても機能し、大幅なスピードアップを実現しています。 さらに, 不確実な定量化を伴う深部XMCモデルに基づいて, より優れた最先端結果が得られる。

関連論文リスト

• Quantifying Prediction Consistency Under Model Multiplicity in Tabular LLMs [10.494477811252034]
  微調整された大きな言語モデルは、同じ入力で矛盾する予測を行うような、テクティファインチューニングの多重性につながる可能性がある。 これにより、Tabular LLMの堅牢性と信頼性に関する重要な懸念が持ち上がる。 本研究は,コストのかかるモデル再訓練を伴わずに個々の予測の堅牢性を定量化する新しい指標を提案する。
  論文  参考訳（メタデータ） (2024-07-04T22:22:09Z)
• Cycles of Thought: Measuring LLM Confidence through Stable Explanations [53.15438489398938]
  大規模言語モデル(LLM)は、様々なベンチマークで人間レベルの精度に到達し、さらに超えることができるが、不正確な応答における過度な自信は、依然として十分に文書化された障害モードである。 本稿では,LLMの不確実性を測定するためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-06-05T16:35:30Z)
• Uncertainty-aware Evidential Fusion-based Learning for Semi-supervised Medical Image Segmentation [0.0]
  本稿では,混合試料と原試料の交叉領域における明らかな予測結果を統合し,各ボクセルの信頼性度と不確実性を測定する。 我々は,情報エントロピーを導入し,融合した不確実性対策と組み合わせてボクセルレベルの学習戦略を設計し,より正確にボクセル予測を推定する。 LA, Pancreas-CT, ACDC, TBADデータセットを用いた実験結果から, 提案手法の既存手法と比較して, 優れた性能を示した。
  論文  参考訳（メタデータ） (2024-04-09T09:58:10Z)
• On Least Square Estimation in Softmax Gating Mixture of Experts [78.3687645289918]
  決定論的MoEモデルに基づく最小二乗推定器(LSE)の性能について検討する。 我々は,多種多様な専門家関数の収束挙動を特徴付けるために,強い識別可能性という条件を確立する。 本研究は,専門家の選択に重要な意味を持つ。
  論文  参考訳（メタデータ） (2024-02-05T12:31:18Z)
• Measuring and Modeling Uncertainty Degree for Monocular Depth Estimation [50.920911532133154]
  単分子深度推定モデル(MDE)の本質的な不適切さと順序感性は、不確かさの程度を推定する上で大きな課題となる。 本稿では,MDEモデルの不確かさを固有確率分布の観点からモデル化する。 新たなトレーニング正規化用語を導入することで、驚くほど単純な構成で、余分なモジュールや複数の推論を必要とせずに、最先端の信頼性で不確実性を推定できる。
  論文  参考訳（メタデータ） (2023-07-19T12:11:15Z)
• Modeling Multimodal Aleatoric Uncertainty in Segmentation with Mixture of Stochastic Expert [24.216869988183092]
  入力画像にあいまいさが存在する場合、セグメンテーションにおけるデータ独立不確実性(いわゆるアレタリック不確実性)を捉えることに重点を置いている。 本稿では,各専門家ネットワークがアレータティック不確実性の異なるモードを推定する,新しい専門家モデル(MoSE)を提案する。 We developed a Wasserstein-like loss that makes direct minimizes the distribution distance between the MoSE and ground truth annotations。
  論文  参考訳（メタデータ） (2022-12-14T16:48:21Z)
• Quantifying Model Uncertainty for Semantic Segmentation using Operators in the RKHS [20.348825818435767]
  本稿では,セマンティックセグメンテーションモデルの高精度な予測不確実性定量化のためのフレームワークを提案する。 我々は、ヒルベルト空間(RKHS)を再現するカーネルにおけるモデルの特徴空間に関連する不確実性の多項関数定義を用いる。 これにより、従来のベイズ法よりもモデルの不確実性に対するはるかに正確な見方が導かれる。
  論文  参考訳（メタデータ） (2022-11-03T17:10:49Z)
• Non-Linear Spectral Dimensionality Reduction Under Uncertainty [107.01839211235583]
  我々は、不確実性情報を活用し、いくつかの従来のアプローチを直接拡張する、NGEUと呼ばれる新しい次元削減フレームワークを提案する。 提案したNGEUの定式化は,大域的な閉形式解を示し,Radecherの複雑性に基づいて,基礎となる不確実性がフレームワークの一般化能力に理論的にどのように影響するかを分析する。
  論文  参考訳（メタデータ） (2022-02-09T19:01:33Z)
• Uncertainty-Aware Multiple Instance Learning fromLarge-Scale Long Time Series Data [20.2087807816461]
  本稿では,最も関連性の高い周期自動識別のための不確実性認識型マルチインスタンス(MIL)フレームワークを提案する。 さらに、別のモデルを訓練し、不確実性を考慮した融合を行うことにより、信頼できない予測を調整できる別のモダリティを組み込む。 実験結果から, 提案手法は, 軌道に基づく容器の形状を効果的に検出できることを示した。
  論文  参考訳（メタデータ） (2021-11-16T17:09:02Z)
• Approaching Neural Network Uncertainty Realism [53.308409014122816]
  自動運転車などの安全クリティカルなシステムには、定量化または少なくとも上限の不確実性が不可欠です。 マハラノビス距離に基づく統計的テストにより、厳しい品質基準である不確実性リアリズムを評価します。 自動車分野に採用し、プレーンエンコーダデコーダモデルと比較して、不確実性リアリズムを大幅に改善することを示した。
  論文  参考訳（メタデータ） (2021-01-08T11:56:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。