論文の概要: Focus on the Likely: Test-time Instance-based Uncertainty Removal
- arxiv url: http://arxiv.org/abs/2505.03819v2
- Date: Fri, 16 May 2025 15:21:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-19 14:36:13.073916
- Title: Focus on the Likely: Test-time Instance-based Uncertainty Removal
- Title(参考訳): テスト時インスタンスベースの不確実性除去
- Authors: Johannes Schneider,
- Abstract要約: 本研究では,不確実なモデル予測を改善するための2つの新しいテスト時間微調整手法を提案する。
最も可能性の高いクラスを欲求的に選択する代わりに、予測を洗練させるために、潜在的クラスに関する追加のステップであるemphfocusを導入する。
- 参考スコア(独自算出の注目度): 1.8592384822257952
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: We ask: Does focusing on classes predicted as likely improve model predictions? We aim for an affirmative answer by proposing two novel test-time fine-tuning methods to improve uncertain model predictions. Instead of greedily selecting the most likely class, we introduce an additional step, \emph{focus on the likely classes}, to refine predictions. By applying a theoretically motivated single gradient descent step with a large learning rate, we refine predictions when an initial forward pass indicates high uncertainty. This aligns predictions more closely with the ideal of assigning zero probability to less plausible outcomes. The experimental evaluation demonstrates accuracy gains for one of our methods, which emphasizes shared features among likely classes, across diverse text and image domain models. %Our theoretical discussion provides a deeper understanding, highlighting the varying impact of shared and non-shared features among (focus) classes. %Our discussion also suggests an interesting view on standard, offline training vs. test-time training: Opposing optimization rationales regarding breadth of feature dependence are preferable during each training phase.
- Abstract(参考訳): クラスの予測にフォーカスすることは、モデルの予測を改善するか?
本研究では,不確実なモデル予測を改善するための2つの新しいテストタイム微調整手法を提案することにより,肯定的な回答を目指す。
最も可能性の高いクラスを欲求的に選択する代わりに、予測を洗練するための追加のステップである \emph{focus on the likely class} を導入する。
理論的に動機付けられた単一勾配降下ステップを大きな学習率で適用することにより、初期前方通過が高い不確実性を示す場合の予測を洗練する。
これにより、予測はより密接に、確率を低い可算結果に割り当てる理想と一致する。
実験により,本手法の1つの精度向上を実証し,多種多様なテキストおよび画像ドメインモデル間でのクラス間の共有機能を強調した。
% 私たちの理論的議論は、(焦点)クラス間の共有機能と非共有機能の影響について、より深く理解しています。
トレーニングの各フェーズにおいて、機能依存の幅に関する最適化の合理性を示すことが望ましいのです。
関連論文リスト
- ASPEST: Bridging the Gap Between Active Learning and Selective
Prediction [56.001808843574395]
選択予測は、不確実な場合の予測を棄却する信頼性のあるモデルを学ぶことを目的としている。
アクティブラーニングは、最も有意義な例を問うことで、ラベリングの全体、すなわち人間の依存度を下げることを目的としている。
本研究では,移動対象領域からより情報のあるサンプルを検索することを目的とした,新たな学習パラダイムである能動的選択予測を導入する。
論文 参考訳(メタデータ) (2023-04-07T23:51:07Z) - Calibrated Selective Classification [34.08454890436067]
そこで我々は,「不確か」な不確実性のある例を拒否する手法を提案する。
本稿では,選択的校正モデル学習のためのフレームワークを提案する。そこでは,任意のベースモデルの選択的校正誤差を改善するために,個別のセレクタネットワークを訓練する。
われわれは,複数画像分類と肺癌リスク評価におけるアプローチの実証的効果を実証した。
論文 参考訳(メタデータ) (2022-08-25T13:31:09Z) - Uncertainty estimation of pedestrian future trajectory using Bayesian
approximation [137.00426219455116]
動的トラフィックシナリオでは、決定論的予測に基づく計画は信頼できない。
著者らは、決定論的アプローチが捉えられない近似を用いて予測中の不確実性を定量化する。
将来の状態の不確実性に対する降雨重量と長期予測の影響について検討した。
論文 参考訳(メタデータ) (2022-05-04T04:23:38Z) - Taming Overconfident Prediction on Unlabeled Data from Hindsight [50.9088560433925]
ラベルのないデータに対する予測の不確実性を最小化することは、半教師付き学習において優れた性能を達成するための鍵となる要素である。
本稿では,アダプティブシャーニング(Adaptive Sharpening, ADS)と呼ばれる2つのメカニズムを提案する。
ADSは、プラグインにすることで最先端のSSLメソッドを大幅に改善する。
論文 参考訳(メタデータ) (2021-12-15T15:17:02Z) - How to Evaluate Uncertainty Estimates in Machine Learning for
Regression? [1.4610038284393165]
両手法とも,不確実性評価の品質評価には深刻な欠陥があることが示唆された。
第一に、どちらのアプローチも、予測の不確実性を共同で生み出す別個のコンポーネントを解き放つことはできない。
第3に、予測間隔を直接テストする現在のアプローチには、さらなる欠陥がある。
論文 参考訳(メタデータ) (2021-06-07T07:47:46Z) - Ambiguity in Sequential Data: Predicting Uncertain Futures with
Recurrent Models [110.82452096672182]
逐次データによる曖昧な予測を扱うために,Multiple hypothesis Prediction(MHP)モデルの拡張を提案する。
また、不確実性を考慮するのに適した曖昧な問題に対する新しい尺度も導入する。
論文 参考訳(メタデータ) (2020-03-10T09:15:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。