論文の概要: Towards Optimal Feature-Shaping Methods for Out-of-Distribution Detection

• arxiv url: http://arxiv.org/abs/2402.00865v1
• Date: Thu, 1 Feb 2024 18:59:22 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-02 13:51:09.441644
• Title: Towards Optimal Feature-Shaping Methods for Out-of-Distribution Detection
• Title（参考訳）: 分布外検出のための最適特徴整形法に向けて
• Authors: Qinyu Zhao, Ming Xu, Kartik Gupta, Akshay Asthana, Liang Zheng, Stephen Gould
• Abstract要約: 特徴整形(英: Feature shaping)とは、オフ・オブ・ディストリビューション(OOD)検出のための最先端性能を示す手法の一群である。 簡単な一方向の定形化機能を持つフレームワークの具体的な削減を提案する。 提案手法は,OOD検出の多種多様なデータセットに対する一般化能力を向上することを示す。
• 参考スコア（独自算出の注目度）: 36.316424348556154
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Feature shaping refers to a family of methods that exhibit state-of-the-art performance for out-of-distribution (OOD) detection. These approaches manipulate the feature representation, typically from the penultimate layer of a pre-trained deep learning model, so as to better differentiate between in-distribution (ID) and OOD samples. However, existing feature-shaping methods usually employ rules manually designed for specific model architectures and OOD datasets, which consequently limit their generalization ability. To address this gap, we first formulate an abstract optimization framework for studying feature-shaping methods. We then propose a concrete reduction of the framework with a simple piecewise constant shaping function and show that existing feature-shaping methods approximate the optimal solution to the concrete optimization problem. Further, assuming that OOD data is inaccessible, we propose a formulation that yields a closed-form solution for the piecewise constant shaping function, utilizing solely the ID data. Through extensive experiments, we show that the feature-shaping function optimized by our method improves the generalization ability of OOD detection across a large variety of datasets and model architectures.
• Abstract（参考訳）: 特徴整形とは、オフ・オブ・ディストリビューション(OOD)検出の最先端性能を示す一連の手法を指す。 これらのアプローチは、通常、トレーニング済みのディープラーニングモデルの最後層から特徴表現を操作し、分散内(ID)とOODサンプルをよりよく区別する。 しかしながら、既存の機能形成手法では、通常、特定のモデルアーキテクチャやOODデータセット用に手動で設計されたルールを使用し、その結果、一般化能力が制限される。 このギャップに対処するために,まず特徴形成法を研究するための抽象最適化フレームワークを定式化した。 そこで本研究では,簡易な定形化関数によるフレームワークの具体的削減を提案し,既存の特徴形化手法が具体的最適化問題に対する最適解を近似することを示す。 さらに、OODデータがアクセス不能であると仮定し、IDデータのみを利用して、一括定形化関数の閉形式解を生成する定式化を提案する。 提案手法により最適化された特徴整形関数は,多様なデータセットやモデルアーキテクチャをまたいだOOD検出の一般化能力を向上することを示す。

関連論文リスト

• Sparse Modelling for Feature Learning in High Dimensional Data [0.0]
  本稿では,高次元データセットにおける次元削減と特徴抽出に対する革新的なアプローチを提案する。 提案フレームワークはスパースモデリング技術を包括的パイプラインに統合し,効率的かつ解釈可能な特徴選択を実現する。 我々は、特に木材表面欠陥検出の文脈において、機械学習におけるスパースモデリングの理解と応用を進めることを目的としている。
  論文  参考訳（メタデータ） (2024-09-28T14:17:59Z)
• Efficient Fairness-Performance Pareto Front Computation [51.558848491038916]
  最適公正表現はいくつかの有用な構造特性を持つことを示す。 そこで,これらの近似問題は,凹凸プログラミング法により効率的に解けることを示す。
  論文  参考訳（メタデータ） (2024-09-26T08:46:48Z)
• Learning Non-Linear Invariants for Unsupervised Out-of-Distribution Detection [5.019613806273252]
  非線型不変量学習が可能な正規化フロー様アーキテクチャからなるフレームワークを提案する。 提案手法は, 広範囲なU-OODベンチマークにおいて, 最先端の結果を得る。
  論文  参考訳（メタデータ） (2024-07-04T16:01:21Z)
• Provably Better Explanations with Optimized Aggregation of Feature Attributions [36.22433695108499]
  ポストホックな説明に特徴属性を使用することは、不透明な機械学習モデルの予測を理解し検証する一般的なプラクティスである。 本稿では,特徴属性の最適凸結合を導出する新たな手法を提案する。
  論文  参考訳（メタデータ） (2024-06-07T17:03:43Z)
• Embedded feature selection in LSTM networks with multi-objective evolutionary ensemble learning for time series forecasting [49.1574468325115]
  本稿では,Long Short-Term Memory Networkに埋め込まれた特徴選択手法を提案する。 本手法はLSTMの重みと偏りを分割的に最適化する。 イタリアとスペイン南東部の大気質時系列データの実験的評価により,従来のLSTMの能力一般化が著しく向上することが確認された。
  論文  参考訳（メタデータ） (2023-12-29T08:42:10Z)
• A General Framework for Sample-Efficient Function Approximation in Reinforcement Learning [132.45959478064736]
  モデルベースとモデルフリー強化学習を統合した汎用フレームワークを提案する。 最適化に基づく探索のための分解可能な構造特性を持つ新しい推定関数を提案する。 本フレームワークでは,OPERA (Optimization-based Exploration with Approximation) という新しいサンプル効率アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-09-30T17:59:16Z)
• Learning Distributionally Robust Models at Scale via Composite Optimization [45.47760229170775]
  DROの異なる変種が、スケーラブルな方法を提供する有限サム合成最適化の単なる例であることを示す。 また、非常に大規模なデータセットからロバストなモデルを学ぶために、先行技術に関して提案アルゴリズムの有効性を示す実験結果も提供する。
  論文  参考訳（メタデータ） (2022-03-17T20:47:42Z)
• Conservative Objective Models for Effective Offline Model-Based Optimization [78.19085445065845]
  計算設計の問題は、合成生物学からコンピュータアーキテクチャまで、様々な場面で発生している。 本研究では,分布外入力に対する接地的目標の実際の値を低くする目的関数のモデルを学習する手法を提案する。 COMは、様々なMBO問題に対して、既存のメソッドの実装と性能の面では単純である。
  論文  参考訳（メタデータ） (2021-07-14T17:55:28Z)
• Deep Magnification-Flexible Upsampling over 3D Point Clouds [103.09504572409449]
  本稿では,高密度点雲を生成するためのエンドツーエンド学習ベースのフレームワークを提案する。 まずこの問題を明示的に定式化し、重みと高次近似誤差を判定する。 そこで我々は,高次改良とともに,統一重みとソート重みを適応的に学習する軽量ニューラルネットワークを設計する。
  論文  参考訳（メタデータ） (2020-11-25T14:00:18Z)
• Deep Keypoint-Based Camera Pose Estimation with Geometric Constraints [80.60538408386016]
  連続するフレームから相対的なカメラのポーズを推定することは、視覚計測の基本的な問題である。 本稿では,検出,特徴抽出,マッチング,外乱除去のための学習可能なモジュールで構成されるエンドツーエンドのトレーニング可能なフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-07-29T21:41:31Z)
• IVFS: Simple and Efficient Feature Selection for High Dimensional Topology Preservation [33.424663018395684]
  本稿では,サンプル類似性保存を向上する簡易かつ効果的な特徴選択アルゴリズムを提案する。 提案アルゴリズムは、全データの対距離と位相パターンを適切に保存することができる。
  論文  参考訳（メタデータ） (2020-04-02T23:05:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。