論文の概要: Bridging In- and Out-of-distribution Samples for Their Better Discriminability

• arxiv url: http://arxiv.org/abs/2101.02500v1
• Date: Thu, 7 Jan 2021 11:34:18 GMT
• ステータス: 処理完了
• システム内更新日: 2021-04-10 17:28:45.776943
• Title: Bridging In- and Out-of-distribution Samples for Their Better Discriminability
• Title（参考訳）: 識別性向上のための散布イン・アウト・オブ・ディストリビューションサンプル
• Authors: Engkarat Techapanurak, Anh-Chuong Dang, Takayuki Okatani
• Abstract要約: 2つの中間に位置するサンプルを考慮し、それらをネットワークのトレーニングに使用する。 我々は複数の画像変換を用いて、様々な方法で入力を破損させ、重大度レベルが異なるようなサンプルを生成する。 クリーンなIDサンプルをトレーニングしたネットワークを用いて,単一の画像変換によって生成されたサンプルが,IDとOODの間にどこにあるかを推定する。
• 参考スコア（独自算出の注目度）: 18.84265231678354
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This paper proposes a method for OOD detection. Questioning the premise of previous studies that ID and OOD samples are separated distinctly, we consider samples lying in the intermediate of the two and use them for training a network. We generate such samples using multiple image transformations that corrupt inputs in various ways and with different severity levels. We estimate where the generated samples by a single image transformation lie between ID and OOD using a network trained on clean ID samples. To be specific, we make the network classify the generated samples and calculate their mean classification accuracy, using which we create a soft target label for them. We train the same network from scratch using the original ID samples and the generated samples with the soft labels created for them. We detect OOD samples by thresholding the entropy of the predicted softmax probability. The experimental results show that our method outperforms the previous state-of-the-art in the standard benchmark tests. We also analyze the effect of the number and particular combinations of image corrupting transformations on the performance.
• Abstract（参考訳）: 本稿では,OOD検出手法を提案する。 IDとOODのサンプルは別々に分離されているというこれまでの研究の前提に疑問を呈し、2つの中間に位置するサンプルを検討し、それらをネットワークのトレーニングに利用した。 我々は複数の画像変換を用いて、様々な方法で入力を破損させ、重大度レベルが異なるようなサンプルを生成する。 クリーンなIDサンプルをトレーニングしたネットワークを用いて,単一の画像変換によって生成されたサンプルが,IDとOODの間にどこにあるかを推定する。 具体的には,ネットワークが生成したサンプルを分類し,その平均分類精度を算出し,ソフトターゲットラベルを作成する。 元のidサンプルと生成されたサンプルを使って、同じネットワークをスクラッチからトレーニングします。 我々は予測ソフトマックス確率のエントロピーをしきい値にすることでOODサンプルを検出する。 実験結果から,本手法は従来のベンチマークテストよりも優れた性能を示した。 また,画像劣化変換の回数と特定の組み合わせが性能に与える影響を解析した。

関連論文リスト

• Rethinking the Evaluation of Out-of-Distribution Detection: A Sorites Paradox [70.57120710151105]
  既存のアウト・オブ・ディストリビューション(OOD)検出ベンチマークは、サンプルを新しいラベルでOODデータとして分類する。 いくつかの限界OODサンプルは、実際には分布内(ID)サンプルに密接なセマンティック内容を持ち、OODサンプルをソリテスパラドックス(英語版)と判定する。 この問題に対処するため,Incremental Shift OOD (IS-OOD) というベンチマークを構築した。
  論文  参考訳（メタデータ） (2024-06-14T09:27:56Z)
• Pseudo Outlier Exposure for Out-of-Distribution Detection using Pretrained Transformers [3.8839179829686126]
  拒否ネットワークは、テストOODサンプルを検出するために、IDと多様な外れ値サンプルで訓練することができる。 本稿では,Pseudo Outlier Exposure (POE) と呼ばれる手法を提案する。 本手法は外部OODデータを一切必要とせず,既製のトランスフォーマーで容易に実装できる。
  論文  参考訳（メタデータ） (2023-07-18T17:29:23Z)
• ReSmooth: Detecting and Utilizing OOD Samples when Training with Data Augmentation [57.38418881020046]
  最近のDA技術は、常に強化トレーニングサンプルの多様性の必要性を満たす。 多様性の高い増分戦略は、通常、アウト・オブ・ディストリビューション(OOD)の増分サンプルを導入する。 ReSmoothは、まず、拡張サンプル中のOODサンプルを検知し、それらを活用するフレームワークである。
  論文  参考訳（メタデータ） (2022-05-25T09:29:27Z)
• Understanding, Detecting, and Separating Out-of-Distribution Samples and Adversarial Samples in Text Classification [80.81532239566992]
  本稿では,2種類の異常 (OOD と Adv のサンプル) と,3つの側面の内分布 (ID) を比較した。 OODサンプルは第1層から始まる収差を露呈するが,Advサンプルの異常はモデル深層まで出現しない。 隠れ表現と出力確率を用いて,ID,OOD,Advのサンプルを分離する簡単な手法を提案する。
  論文  参考訳（メタデータ） (2022-04-09T12:11:59Z)
• Energy-bounded Learning for Robust Models of Code [16.592638312365164]
  プログラミングでは、コード表現の学習には、コード分類、コード検索、コメント生成、バグ予測など、さまざまなアプリケーションがある。 本稿では,ソースコードモデルのトレーニングプロセスにこれらのアウト・オブ・ディストリビューション・サンプルを組み込むため,エネルギー境界学習目標関数を用いて,イン・ディストリビューション・サンプルにより高いスコアを割り当て,アウト・オブ・ディストリビューション・サンプルに低いスコアを割り当てることを提案する。
  論文  参考訳（メタデータ） (2021-12-20T06:28:56Z)
• WOOD: Wasserstein-based Out-of-Distribution Detection [6.163329453024915]
  ディープ・ニューラル・ネットワークに基づく分類器のトレーニングデータは、通常同じ分布からサンプリングされる。 トレーニングサンプルから遠く離れた分布からテストサンプルの一部を引き出すと、トレーニングされたニューラルネットワークはこれらのOODサンプルに対して高い信頼性の予測を行う傾向にある。 本稿では,これらの課題を克服するため,Wasserstein を用いたアウト・オブ・ディストリビューション検出(WOOD)手法を提案する。
  論文  参考訳（メタデータ） (2021-12-13T02:35:15Z)
• iNNformant: Boundary Samples as Telltale Watermarks [68.8204255655161]
  4つの試験されたマイクロアーキテクチャのいずれかを識別できる境界サンプルの集合を生成することができることを示す。 これらのセットは70dBよりも悪いピーク信号-雑音比のサンプルを含まないように構築することができる。
  論文  参考訳（メタデータ） (2021-06-14T11:18:32Z)
• Transform consistency for learning with noisy labels [9.029861710944704]
  単一のネットワークのみを用いてクリーンサンプルを同定する手法を提案する。 きれいなサンプルは元のイメージおよび変形したイメージのための一貫した予測に達することを好みます。 ノイズラベルの負の影響を軽減するために,オフラインのハードラベルとオンラインのソフトラベルを用いて分類損失を設計する。
  論文  参考訳（メタデータ） (2021-03-25T14:33:13Z)
• Learn what you can't learn: Regularized Ensembles for Transductive Out-of-distribution Detection [76.39067237772286]
  ニューラルネットワークの現在のアウト・オブ・ディストリビューション(OOD)検出アルゴリズムは,様々なOOD検出シナリオにおいて不満足な結果をもたらすことを示す。 本稿では,テストデータのバッチを観察した後に検出方法を調整することで,このような「ハード」なOODシナリオがいかに有用かを検討する。 本稿では,テストデータと正規化に人工ラベリング手法を用いて,テストバッチ内のOODサンプルに対してのみ矛盾予測を生成するモデルのアンサンブルを求める手法を提案する。
  論文  参考訳（メタデータ） (2020-12-10T16:55:13Z)
• Multi-Task Curriculum Framework for Open-Set Semi-Supervised Learning [54.85397562961903]
  ラベル付きデータに制限がある場合に、ラベルなしデータを利用して強力なモデルをトレーニングする半教師付き学習(SSL)が提案されている。 我々は、Open-set SSLと呼ばれるより複雑な新しいシナリオに対処する。 提案手法は,OOD試料の効果を除去し,最先端の結果を得る。
  論文  参考訳（メタデータ） (2020-07-22T10:33:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。