Fugu-MT 論文翻訳(概要): Two-step counterfactual generation for OOD examples

論文の概要: Two-step counterfactual generation for OOD examples

arxiv url: http://arxiv.org/abs/2302.05196v1
Date: Fri, 10 Feb 2023 11:53:38 GMT
ステータス: 処理完了
システム内更新日: 2023-02-13 15:52:09.611220
Title: Two-step counterfactual generation for OOD examples
Title（参考訳）: OOD例の2段階対実生成
Authors: Nawid Keshtmand, Raul Santos-Rodriguez, Jonathan Lawry
Abstract要約: 我々は,OOD のデファクトの概念を導入し,異なる OOD カテゴリ間で反復的に移動する摂動データポイントについて紹介する。そこで本稿では,このようなデファクト生成手法を提案し,その合成およびベンチマークデータへの適用について検討し,様々な指標を用いたベンチマーク手法と比較する。
参考スコア（独自算出の注目度）: 3.2689702143620143
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Two fundamental requirements for the deployment of machine learning models in safety-critical systems are to be able to detect out-of-distribution (OOD) data correctly and to be able to explain the prediction of the model. Although significant effort has gone into both OOD detection and explainable AI, there has been little work on explaining why a model predicts a certain data point is OOD. In this paper, we address this question by introducing the concept of an OOD counterfactual, which is a perturbed data point that iteratively moves between different OOD categories. We propose a method for generating such counterfactuals, investigate its application on synthetic and benchmark data, and compare it to several benchmark methods using a range of metrics.
Abstract（参考訳）: 安全クリティカルなシステムに機械学習モデルを配置するための2つの基本的な要件は、配布外データ(OOD)を正しく検出し、モデルの予測を説明することである。 OOD検出と説明可能なAIの両方に多大な努力を払っているが、モデルがOODを予測している理由を説明する作業はほとんど行われていない。本稿では,様々なOODカテゴリ間で反復的に移動する摂動データポイントであるOODカウンターファクトアルの概念を導入することで,この問題に対処する。そこで本研究では,このような反事実を生成し,合成データとベンチマークデータに適用し,様々な指標を用いたベンチマーク手法と比較する手法を提案する。

関連論文リスト

Can OOD Object Detectors Learn from Foundation Models? [56.03404530594071]
アウト・オブ・ディストリビューション(OOD)オブジェクト検出は、オープンセットのOODデータがないため、難しい課題である。テキストから画像への生成モデルの最近の進歩に触発されて,大規模オープンセットデータを用いて訓練された生成モデルがOODサンプルを合成する可能性について検討した。 SyncOODは,大規模基盤モデルの能力を活用するシンプルなデータキュレーション手法である。
論文参考訳（メタデータ） (2024-09-08T17:28:22Z)
Rethinking the Evaluation of Out-of-Distribution Detection: A Sorites Paradox [70.57120710151105]
既存のアウト・オブ・ディストリビューション(OOD)検出ベンチマークは、サンプルを新しいラベルでOODデータとして分類する。いくつかの限界OODサンプルは、実際には分布内(ID)サンプルに密接なセマンティック内容を持ち、OODサンプルをソリテスパラドックス(英語版)と判定する。この問題に対処するため,Incremental Shift OOD (IS-OOD) というベンチマークを構築した。
論文参考訳（メタデータ） (2024-06-14T09:27:56Z)
Out-of-distribution Detection Learning with Unreliable Out-of-distribution Sources [73.28967478098107]
アウト・オブ・ディストリビューション(OOD)検出は、予測者が有効な予測を行うことができないOODデータをイン・ディストリビューション(ID)データとして識別する。通常、OODパターンを識別できる予測器をトレーニングするために、実際のアウト・オブ・ディストリビューション(OOD)データを収集するのは困難である。本稿では,Auxiliary Task-based OOD Learning (ATOL) というデータ生成に基づく学習手法を提案する。
論文参考訳（メタデータ） (2023-11-06T16:26:52Z)
General-Purpose Multi-Modal OOD Detection Framework [5.287829685181842]
アウト・オブ・ディストリビューション(OOD)検出は、機械学習(ML)システムの安全性と信頼性を保証するために重要なトレーニングデータとは異なるテストサンプルを特定する。本稿では,2値分類器とコントラスト学習コンポーネントを組み合わせた,汎用的な弱教師付きOOD検出フレームワークWOODを提案する。提案したWOODモデルを複数の実世界のデータセット上で評価し、実験結果により、WOODモデルがマルチモーダルOOD検出の最先端手法よりも優れていることを示す。
論文参考訳（メタデータ） (2023-07-24T18:50:49Z)
Out-of-distribution Detection with Implicit Outlier Transformation [72.73711947366377]
外周露光(OE)は、オフ・オブ・ディストリビューション(OOD)検出において強力である。我々は,未確認のOOD状況に対してモデルの性能を良くする,新しいOEベースのアプローチを提案する。
論文参考訳（メタデータ） (2023-03-09T04:36:38Z)
Pseudo-OOD training for robust language models [78.15712542481859]
OOD検出は、あらゆる産業規模のアプリケーションに対する信頼性の高い機械学習モデルの鍵となるコンポーネントである。 In-distribution(IND)データを用いて擬似OODサンプルを生成するPOORE-POORE-POSthoc pseudo-Ood Regularizationを提案する。我々は3つの現実世界の対話システムに関する枠組みを広く評価し、OOD検出における新たな最先端技術を実現した。
論文参考訳（メタデータ） (2022-10-17T14:32:02Z)
How Useful are Gradients for OOD Detection Really? [5.459639971144757]
Out of Distribution(OOD)検出は、リアルタイムアプリケーションに高性能な機械学習モデルをデプロイする上で重要な課題である。 OOD検出のための勾配法を詳細に解析し,比較する。本稿では,OOD検出における性能と計算効率の両面において,従来のベースラインよりも向上した汎用的,非段階的なOOD検出手法を提案する。
論文参考訳（メタデータ） (2022-05-20T21:10:05Z)
Igeood: An Information Geometry Approach to Out-of-Distribution Detection [35.04325145919005]
Igeoodは, オフ・オブ・ディストリビューション(OOD)サンプルを効果的に検出する手法である。 Igeoodは任意のトレーニング済みニューラルネットワークに適用され、機械学習モデルにさまざまなアクセス権を持つ。 Igeoodは、さまざまなネットワークアーキテクチャやデータセットにおいて、競合する最先端の手法よりも優れていることを示す。
論文参考訳（メタデータ） (2022-03-15T11:26:35Z)
Training OOD Detectors in their Natural Habitats [31.565635192716712]
アウト・オブ・ディストリビューション(OOD)検出は、野生にデプロイされた機械学習モデルにとって重要である。近年の手法では,OOD検出の改善のために補助外乱データを用いてモデルを正規化している。我々は、自然にIDとOODの両方のサンプルで構成される野生の混合データを活用する新しいフレームワークを提案する。
論文参考訳（メタデータ） (2022-02-07T15:38:39Z)
Understanding and Testing Generalization of Deep Networks on Out-of-Distribution Data [30.471871571256198]
ディープネットワークモデルは、In-Distributionデータでは優れた性能を発揮するが、Out-Of-Distributionデータでは著しく失敗する可能性がある。本研究は,実験的なIDテストの問題を分析し,OODテストパラダイムを設計することを目的とする。
論文参考訳（メタデータ） (2021-11-17T15:29:07Z)
Provably Robust Detection of Out-of-distribution Data (almost) for free [124.14121487542613]
ディープニューラルネットワークは、アウト・オブ・ディストリビューション(OOD)データに対する高い過度な予測を生成することが知られている。本稿では,認証可能なOOD検出器を標準分類器と組み合わせてOOD認識分類器を提案する。このようにして、我々は2つの世界のベストを達成している。OOD検出は、分布内に近いOODサンプルであっても、予測精度を損なうことなく、非操作型OODデータに対する最先端のOOD検出性能に近接する。
論文参考訳（メタデータ） (2021-06-08T11:40:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。