論文の概要: Killing it with Zero-Shot: Adversarially Robust Novelty Detection

• arxiv url: http://arxiv.org/abs/2501.15271v1
• Date: Sat, 25 Jan 2025 16:44:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-28 13:55:32.579039
• Title: Killing it with Zero-Shot: Adversarially Robust Novelty Detection
• Title（参考訳）: Zero-Shotでそれを殺す: 反対にロバストなノベルティ検出
• Authors: Hossein Mirzaei, Mohammad Jafari, Hamid Reza Dehbashi, Zeinab Sadat Taghavi, Mohammad Sabokrou, Mohammad Hossein Rohban,
• Abstract要約: ノベルティ検出(ND)は、モデル推論中の新しいデータや見えないデータを識別することで、機械学習において重要な役割を果たす。 既存のテクニックは、敵の攻撃を受けた場合、パフォーマンスを維持するのに失敗することが多い。 我々はNDアルゴリズムの堅牢性と性能の向上に注力する。
• 参考スコア（独自算出の注目度）: 10.739920739067502
• License:
• Abstract: Novelty Detection (ND) plays a crucial role in machine learning by identifying new or unseen data during model inference. This capability is especially important for the safe and reliable operation of automated systems. Despite advances in this field, existing techniques often fail to maintain their performance when subject to adversarial attacks. Our research addresses this gap by marrying the merits of nearest-neighbor algorithms with robust features obtained from models pretrained on ImageNet. We focus on enhancing the robustness and performance of ND algorithms. Experimental results demonstrate that our approach significantly outperforms current state-of-the-art methods across various benchmarks, particularly under adversarial conditions. By incorporating robust pretrained features into the k-NN algorithm, we establish a new standard for performance and robustness in the field of robust ND. This work opens up new avenues for research aimed at fortifying machine learning systems against adversarial vulnerabilities. Our implementation is publicly available at https://github.com/rohban-lab/ZARND.
• Abstract（参考訳）: ノベルティ検出(ND)は、モデル推論中の新しいデータや見えないデータを識別することで、機械学習において重要な役割を果たす。 この機能は、特に安全で信頼性の高い自動システムの運用において重要である。 この分野での進歩にもかかわらず、既存の技術は敵の攻撃を受けると性能を維持するのに失敗することが多い。 我々の研究は、ImageNetで事前訓練されたモデルから得られるロバストな特徴を最寄りのアルゴリズムの利点と組み合わせることで、このギャップに対処する。 我々はNDアルゴリズムの堅牢性と性能の向上に注力する。 実験結果から,本手法は様々なベンチマーク,特に逆条件下で,最先端の手法を著しく上回ることがわかった。 k-NNアルゴリズムに頑健な事前学習機能を組み込むことで、ロバストND分野における性能とロバスト性の新しい標準を確立する。 この研究は、敵の脆弱性に対する機械学習システムの強化を目的とした研究のための新たな道を開く。 私たちの実装はhttps://github.com/rohban-lab/ZARND.comで公開されています。

関連論文リスト

• SURE: SUrvey REcipes for building reliable and robust deep networks [12.268921703825258]
  本稿では,深層ニューラルネットワークにおける不確実性推定手法を再検討し,信頼性を高めるために一連の手法を統合する。 我々は,不確実性推定の有効性を示す重要なテストベッドである故障予測のベンチマークに対して,SUREを厳格に評価する。 データ破損、ラベルノイズ、長い尾のクラス分布といった現実世界の課題に適用した場合、SUREは顕著な堅牢性を示し、現在の最先端の特殊手法と同等あるいは同等な結果をもたらす。
  論文  参考訳（メタデータ） (2024-03-01T13:58:19Z)
• Batch-Ensemble Stochastic Neural Networks for Out-of-Distribution Detection [55.028065567756066]
  Out-of-Distribution(OOD)検出は、機械学習モデルを現実世界のアプリケーションにデプロイすることの重要性から、マシンラーニングコミュニティから注目を集めている。 本稿では,特徴量の分布をモデル化した不確実な定量化手法を提案する。 バッチアンサンブルニューラルネットワーク(BE-SNN)の構築と機能崩壊問題の克服を目的として,効率的なアンサンブル機構,すなわちバッチアンサンブルを組み込んだ。 We show that BE-SNNs yield superior performance on the Two-Moons dataset, the FashionMNIST vs MNIST dataset, FashionM。
  論文  参考訳（メタデータ） (2022-06-26T16:00:22Z)
• Robustification of Online Graph Exploration Methods [59.50307752165016]
  我々は、古典的で有名なオンライングラフ探索問題の学習強化版について研究する。 本稿では,予測をよく知られたNearest Neighbor(NN)アルゴリズムに自然に統合するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-12-10T10:02:31Z)
• Anomaly Detection Based on Selection and Weighting in Latent Space [73.01328671569759]
  SWADと呼ばれる新しい選択および重み付けに基づく異常検出フレームワークを提案する。 ベンチマークと実世界のデータセットによる実験は、SWADの有効性と優位性を示している。
  論文  参考訳（メタデータ） (2021-03-08T10:56:38Z)
• Increasing the Confidence of Deep Neural Networks by Coverage Analysis [71.57324258813674]
  本稿では、異なる安全でない入力に対してモデルを強化するために、カバレッジパラダイムに基づく軽量な監視アーキテクチャを提案する。 実験結果から,提案手法は強力な対向例とアウト・オブ・ディストリビューション・インプットの両方を検出するのに有効であることが示唆された。
  論文  参考訳（メタデータ） (2021-01-28T16:38:26Z)
• Attribute-Guided Adversarial Training for Robustness to Natural Perturbations [64.35805267250682]
  本稿では,属性空間への分類器の露出を最大化するために,新しいサンプルを生成することを学習する逆学習手法を提案する。 我々のアプローチは、ディープニューラルネットワークが自然に発生する摂動に対して堅牢であることを可能にする。
  論文  参考訳（メタデータ） (2020-12-03T10:17:30Z)
• Designing Interpretable Approximations to Deep Reinforcement Learning [14.007731268271902]
  ディープニューラルネットワーク(DNN)は、アルゴリズムのパフォーマンスのバーを設定する。 実際にそのようなハイパフォーマンスなDNNを使うことは不可能かもしれない。 この研究は、所望のパフォーマンスレベルを保持するだけでなく、例えば、DNNで表される潜伏した知識を簡潔に説明できるような縮小モデルを特定することを目指している。
  論文  参考訳（メタデータ） (2020-10-28T06:33:09Z)
• An Analysis of Robustness of Non-Lipschitz Networks [35.64511156980701]
  小さな入力摂動は、しばしばネットワークの最終層の特徴空間において大きな動きを引き起こす。 我々のモデルでは、敵対者は特徴空間において任意の距離でデータを移動することができるが、ランダムな低次元部分空間においてのみである。 データ駆動方式を用いて,アルゴリズムパラメータの設定を精度保持トレードオフよりも最適化するための理論的保証を提供する。
  論文  参考訳（メタデータ） (2020-10-13T03:56:39Z)
• Bayesian Optimization with Machine Learning Algorithms Towards Anomaly Detection [66.05992706105224]
  本稿では,ベイズ最適化手法を用いた効果的な異常検出フレームワークを提案する。 ISCX 2012データセットを用いて検討したアルゴリズムの性能を評価する。 実験結果から, 精度, 精度, 低コストアラームレート, リコールの観点から, 提案手法の有効性が示された。
  論文  参考訳（メタデータ） (2020-08-05T19:29:35Z)
• Opportunities and Challenges in Deep Learning Adversarial Robustness: A Survey [1.8782750537161614]
  本稿では,機械学習アルゴリズムの安全性を保証するために,強靭に訓練されたアルゴリズムを実装するための戦略について検討する。 我々は、敵の攻撃と防衛を分類し、ロバスト最適化問題をmin-max設定で定式化し、それを3つのサブカテゴリに分類する。
  論文  参考訳（メタデータ） (2020-07-01T21:00:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。