論文の概要: Outlier Synthesis via Hamiltonian Monte Carlo for Out-of-Distribution Detection

• arxiv url: http://arxiv.org/abs/2501.16718v1
• Date: Tue, 28 Jan 2025 05:50:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-29 16:41:02.028355
• Title: Outlier Synthesis via Hamiltonian Monte Carlo for Out-of-Distribution Detection
• Title（参考訳）: 分布外検出のためのハミルトニアンモンテカルロによるアウトリエ合成
• Authors: Hengzhuang Li, Teng Zhang,
• Abstract要約: アウト・オブ・ディストリビューション(OOD)検出は、信頼性が高く信頼性の高い機械学習システムの開発に不可欠である。 本稿では,ハミルトニアン・モンテカルロ・アウトリア合成(HamOS)フレームワークを提案する。 分布内データのみに基づいて、マルコフ連鎖は特徴空間を広範囲に横切ることができ、多様かつ代表的な外れ値を生成することができる。
• 参考スコア（独自算出の注目度）: 5.706479839311349
• License:
• Abstract: Out-of-distribution (OOD) detection is crucial for developing trustworthy and reliable machine learning systems. Recent advances in training with auxiliary OOD data demonstrate efficacy in enhancing detection capabilities. Nonetheless, these methods heavily rely on acquiring a large pool of high-quality natural outliers. Some prior methods try to alleviate this problem by synthesizing virtual outliers but suffer from either poor quality or high cost due to the monotonous sampling strategy and the heavy-parameterized generative models. In this paper, we overcome all these problems by proposing the Hamiltonian Monte Carlo Outlier Synthesis (HamOS) framework, which views the synthesis process as sampling from Markov chains. Based solely on the in-distribution data, the Markov chains can extensively traverse the feature space and generate diverse and representative outliers, hence exposing the model to miscellaneous potential OOD scenarios. The Hamiltonian Monte Carlo with sampling acceptance rate almost close to 1 also makes our framework enjoy great efficiency. By empirically competing with SOTA baselines on both standard and large-scale benchmarks, we verify the efficacy and efficiency of our proposed HamOS.
• Abstract（参考訳）: アウト・オブ・ディストリビューション(OOD)検出は、信頼性が高く信頼性の高い機械学習システムの開発に不可欠である。 補助OODデータを用いたトレーニングの最近の進歩は、検出能力の増強に有効であることを示す。 それでもこれらの手法は、高品質な自然外れ値のプールの獲得に大きく依存している。 従来の手法では、仮想外れ値の合成によってこの問題を緩和しようとしたが、単調なサンプリング戦略と重パラメータ化生成モデルにより、品質の低下やコストの低下に悩まされていた。 本稿では,ハミルトニアン・モンテカルロ・アウトリア合成(HamOS)フレームワークを提案することにより,これらの問題を克服する。 分布内データのみに基づいて、マルコフ連鎖は特徴空間を広範囲に横切ることができ、多様で代表的な外れ値を生成することができる。 ハミルトニアンのモンテカルロは1にほぼ近いサンプリング受け入れ率を持つため、我々のフレームワークは極めて効率が良い。 標準ベンチマークと大規模ベンチマークの両方でSOTAベースラインと実証的に競合することにより,提案するHamOSの有効性と有効性を検証する。

関連論文リスト

• Non-Linear Outlier Synthesis for Out-of-Distribution Detection [5.019613806273252]
  本稿では,拡散モデル埋め込み空間で直接操作することで,合成外乱器の品質を向上させるNCISを提案する。 これらの改良により,標準的な ImageNet100 および CIFAR100 ベンチマークにおいて,最先端の OOD 検出結果が得られた。
  論文  参考訳（メタデータ） (2024-11-20T09:47:29Z)
• Benchmarking Zero-Shot Robustness of Multimodal Foundation Models: A Pilot Study [61.65123150513683]
  CLIPのようなマルチモーダル基盤モデルは、最先端のゼロショット結果を生成する。 これらのモデルは、ImageNetでトレーニングされた教師付きモデルのパフォーマンスを一致させることで、ロバスト性ギャップを埋めることが報告されている。 CLIPは、ベンチマーク上の教師付きImageNetモデルと比較して、かなりの堅牢性低下をもたらすことを示す。
  論文  参考訳（メタデータ） (2024-03-15T17:33:49Z)
• Towards Reliable AI Model Deployments: Multiple Input Mixup for Out-of-Distribution Detection [4.985768723667418]
  本稿では,OOD(Out-of-Distribution)検出問題の解法を提案する。 本手法は, 単一エポック微調整によるOOD検出性能の向上に有効である。 我々の方法は、ゼロからモデルを訓練する必要がなく、簡単に分類器にアタッチできる。
  論文  参考訳（メタデータ） (2023-12-24T15:31:51Z)
• GREAT Score: Global Robustness Evaluation of Adversarial Perturbation using Generative Models [60.48306899271866]
  GREATスコア(GREAT Score)と呼ばれる新しいフレームワークを提案する。 我々は,ロバストベンチにおける攻撃ベースモデルと比較し,高い相関性を示し,GREATスコアのコストを大幅に削減した。 GREAT Scoreは、プライバシーに敏感なブラックボックスモデルのリモート監査に使用することができる。
  論文  参考訳（メタデータ） (2023-04-19T14:58:27Z)
• Non-Parametric Outlier Synthesis [35.20765580915213]
  アウト・オブ・ディストリビューション(OOD)検出は、機械学習モデルを野生に安全にデプロイするのに不可欠である。 我々は,OOD学習データを生成する新しいフレームワークであるNon-Parametric Outlier Synthesis (NPOS)を提案する。 提案手法は, 数学的にリジェクションサンプリングフレームワークとして解釈できることを示す。
  論文  参考訳（メタデータ） (2023-03-06T08:51:00Z)
• Batch-Ensemble Stochastic Neural Networks for Out-of-Distribution Detection [55.028065567756066]
  Out-of-Distribution(OOD)検出は、機械学習モデルを現実世界のアプリケーションにデプロイすることの重要性から、マシンラーニングコミュニティから注目を集めている。 本稿では,特徴量の分布をモデル化した不確実な定量化手法を提案する。 バッチアンサンブルニューラルネットワーク(BE-SNN)の構築と機能崩壊問題の克服を目的として,効率的なアンサンブル機構,すなわちバッチアンサンブルを組み込んだ。 We show that BE-SNNs yield superior performance on the Two-Moons dataset, the FashionMNIST vs MNIST dataset, FashionM。
  論文  参考訳（メタデータ） (2022-06-26T16:00:22Z)
• Efficient Model-based Multi-agent Reinforcement Learning via Optimistic Equilibrium Computation [93.52573037053449]
  H-MARL (Hallucinated Multi-Agent Reinforcement Learning) は,環境と数回交流した後の平衡政策を学習する。 自律運転シミュレーションベンチマークにおいて,本手法を実験的に実証した。
  論文  参考訳（メタデータ） (2022-03-14T17:24:03Z)
• Certified Adversarial Defenses Meet Out-of-Distribution Corruptions: Benchmarking Robustness and Simple Baselines [65.0803400763215]
  この研究は、最先端のロバストモデルがアウト・オブ・ディストリビューションデータに遭遇した場合、敵のロバスト性がどのように変化を保証しているかを批判的に検証する。 本稿では,トレーニングデータのスペクトルカバレッジを改善するために,新たなデータ拡張方式であるFourierMixを提案する。 また,FourierMixの拡張により,様々なOODベンチマークにおいて,より優れたロバスト性保証を実現することが可能となる。
  論文  参考訳（メタデータ） (2021-12-01T17:11:22Z)
• Contributions to Large Scale Bayesian Inference and Adversarial Machine Learning [0.0]
  ML手法の急速な採用により、モデルは通常、予測の不確実性を考慮せずに決定を下すために採用されていることが明らかになった。 我々は,予測的説明の不確実性を考慮したMLシステムの開発が現実のタスクにとって必須であると考えている。
  論文  参考訳（メタデータ） (2021-09-25T23:02:47Z)
• What Are Bayesian Neural Network Posteriors Really Like? [63.950151520585024]
  ハミルトニアンモンテカルロは、標準およびディープアンサンブルよりも大きな性能向上を達成できることを示す。 また,深部分布は標準SGLDとHMCに類似しており,標準変動推論に近いことが示された。
  論文  参考訳（メタデータ） (2021-04-29T15:38:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。