論文の概要: Out-of-distribution Detection Learning with Unreliable
Out-of-distribution Sources
- arxiv url: http://arxiv.org/abs/2311.03236v2
- Date: Tue, 5 Dec 2023 09:08:30 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-06 19:12:29.317184
- Title: Out-of-distribution Detection Learning with Unreliable
Out-of-distribution Sources
- Title(参考訳): 信頼性の低い分布外源を用いた分布外検出学習
- Authors: Haotian Zheng, Qizhou Wang, Zhen Fang, Xiaobo Xia, Feng Liu, Tongliang
Liu, Bo Han
- Abstract要約: アウト・オブ・ディストリビューション(OOD)検出は、予測者が有効な予測を行うことができないOODデータをイン・ディストリビューション(ID)データとして識別する。
通常、OODパターンを識別できる予測器をトレーニングするために、実際のアウト・オブ・ディストリビューション(OOD)データを収集するのは困難である。
本稿では,Auxiliary Task-based OOD Learning (ATOL) というデータ生成に基づく学習手法を提案する。
- 参考スコア(独自算出の注目度): 73.28967478098107
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Out-of-distribution (OOD) detection discerns OOD data where the predictor
cannot make valid predictions as in-distribution (ID) data, thereby increasing
the reliability of open-world classification. However, it is typically hard to
collect real out-of-distribution (OOD) data for training a predictor capable of
discerning ID and OOD patterns. This obstacle gives rise to data
generation-based learning methods, synthesizing OOD data via data generators
for predictor training without requiring any real OOD data. Related methods
typically pre-train a generator on ID data and adopt various selection
procedures to find those data likely to be the OOD cases. However, generated
data may still coincide with ID semantics, i.e., mistaken OOD generation
remains, confusing the predictor between ID and OOD data. To this end, we
suggest that generated data (with mistaken OOD generation) can be used to
devise an auxiliary OOD detection task to facilitate real OOD detection.
Specifically, we can ensure that learning from such an auxiliary task is
beneficial if the ID and the OOD parts have disjoint supports, with the help of
a well-designed training procedure for the predictor. Accordingly, we propose a
powerful data generation-based learning method named Auxiliary Task-based OOD
Learning (ATOL) that can relieve the mistaken OOD generation. We conduct
extensive experiments under various OOD detection setups, demonstrating the
effectiveness of our method against its advanced counterparts.
- Abstract(参考訳): out-of-distribution (ood) 検出は、予測者が有効な予測をin-distribution (id) データとしてできない ood データを識別し、オープンワールド分類の信頼性を高める。
しかし、一般的には、IDとOODパターンを識別できる予測器を訓練するために、実際のアウト・オブ・ディストリビューション(OOD)データを収集することは困難である。
この障害は、実際のOODデータを必要としない予測学習のためにデータジェネレータを介してOODデータを合成する、データ生成ベースの学習方法を引き起こす。
関連するメソッドは通常、idデータでジェネレータを事前トレーニングし、oodケースである可能性が高いデータを見つけるために様々な選択手順を採用する。
しかし、生成されたデータは依然としてIDのセマンティクス、すなわちOOD生成の誤りと一致し、IDとOODデータの予測を混乱させる可能性がある。
そこで本論文では,OOD検出を補助するタスクを考案するために,(OOD生成を間違えた)生成データを使用することを提案する。
具体的には,id部とood部が非協力的なサポートを持つ場合には,その補助タスクからの学習が有益であることを,予測者のためのよく設計された訓練手順の助けを借りて確認することができる。
そこで本稿では,Auxiliary Task-based OOD Learning (ATOL) という,データ生成に基づく強力な学習手法を提案する。
各種OOD検出装置を用いて広範囲な実験を行い, 提案手法の有効性を実証した。
関連論文リスト
- Can OOD Object Detectors Learn from Foundation Models? [56.03404530594071]
アウト・オブ・ディストリビューション(OOD)オブジェクト検出は、オープンセットのOODデータがないため、難しい課題である。
テキストから画像への生成モデルの最近の進歩に触発されて,大規模オープンセットデータを用いて訓練された生成モデルがOODサンプルを合成する可能性について検討した。
SyncOODは,大規模基盤モデルの能力を活用するシンプルなデータキュレーション手法である。
論文 参考訳(メタデータ) (2024-09-08T17:28:22Z) - Distilling the Unknown to Unveil Certainty [66.29929319664167]
標準ネットワークがトレーニングされるIDデータから逸脱するテストサンプルを特定するためには、アウト・オブ・ディストリビューション(OOD)検出が不可欠である。
本稿では,IDデータのトレーニングが可能であるか否かを問う,先駆的な学習フレームワークであるOODナレッジ蒸留について紹介する。
論文 参考訳(メタデータ) (2023-11-14T08:05:02Z) - Can Pre-trained Networks Detect Familiar Out-of-Distribution Data? [37.36999826208225]
PT-OODが事前学習ネットワークのOOD検出性能に及ぼす影響について検討した。
特徴空間におけるPT-OODの低線形分離性はPT-OOD検出性能を著しく低下させることがわかった。
本稿では,大規模事前学習モデルに対する一意な解を提案する。
論文 参考訳(メタデータ) (2023-10-02T02:01:00Z) - Out-of-distribution Detection with Implicit Outlier Transformation [72.73711947366377]
外周露光(OE)は、オフ・オブ・ディストリビューション(OOD)検出において強力である。
我々は,未確認のOOD状況に対してモデルの性能を良くする,新しいOEベースのアプローチを提案する。
論文 参考訳(メタデータ) (2023-03-09T04:36:38Z) - Using Semantic Information for Defining and Detecting OOD Inputs [3.9577682622066264]
アウト・オブ・ディストリビューション(OOD)検出は近年注目されている。
現在の検出器がトレーニングデータセットのバイアスを継承していることを示します。
これにより、現在のOOD検出器はトレーニング分布の外にある入力に不透過であり、同じ意味情報を持つことができる。
我々は,MNISTおよびCOCOデータセットのトレーニングデータから抽出した意味情報に基づいてOOD検出を行う。
論文 参考訳(メタデータ) (2023-02-21T21:31:20Z) - Igeood: An Information Geometry Approach to Out-of-Distribution
Detection [35.04325145919005]
Igeoodは, オフ・オブ・ディストリビューション(OOD)サンプルを効果的に検出する手法である。
Igeoodは任意のトレーニング済みニューラルネットワークに適用され、機械学習モデルにさまざまなアクセス権を持つ。
Igeoodは、さまざまなネットワークアーキテクチャやデータセットにおいて、競合する最先端の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-03-15T11:26:35Z) - Training OOD Detectors in their Natural Habitats [31.565635192716712]
アウト・オブ・ディストリビューション(OOD)検出は、野生にデプロイされた機械学習モデルにとって重要である。
近年の手法では,OOD検出の改善のために補助外乱データを用いてモデルを正規化している。
我々は、自然にIDとOODの両方のサンプルで構成される野生の混合データを活用する新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2022-02-07T15:38:39Z) - Provably Robust Detection of Out-of-distribution Data (almost) for free [124.14121487542613]
ディープニューラルネットワークは、アウト・オブ・ディストリビューション(OOD)データに対する高い過度な予測を生成することが知られている。
本稿では,認証可能なOOD検出器を標準分類器と組み合わせてOOD認識分類器を提案する。
このようにして、我々は2つの世界のベストを達成している。OOD検出は、分布内に近いOODサンプルであっても、予測精度を損なうことなく、非操作型OODデータに対する最先端のOOD検出性能に近接する。
論文 参考訳(メタデータ) (2021-06-08T11:40:49Z) - Learn what you can't learn: Regularized Ensembles for Transductive
Out-of-distribution Detection [76.39067237772286]
ニューラルネットワークの現在のアウト・オブ・ディストリビューション(OOD)検出アルゴリズムは,様々なOOD検出シナリオにおいて不満足な結果をもたらすことを示す。
本稿では,テストデータのバッチを観察した後に検出方法を調整することで,このような「ハード」なOODシナリオがいかに有用かを検討する。
本稿では,テストデータと正規化に人工ラベリング手法を用いて,テストバッチ内のOODサンプルに対してのみ矛盾予測を生成するモデルのアンサンブルを求める手法を提案する。
論文 参考訳(メタデータ) (2020-12-10T16:55:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。