論文の概要: Detecting Operational Adversarial Examples for Reliable Deep Learning

• arxiv url: http://arxiv.org/abs/2104.06015v1
• Date: Tue, 13 Apr 2021 08:31:42 GMT
• ステータス: 処理完了
• システム内更新日: 2021-04-14 21:54:17.210145
• Title: Detecting Operational Adversarial Examples for Reliable Deep Learning
• Title（参考訳）: 信頼度の高い深層学習のための実例の検出
• Authors: Xingyu Zhao, Wei Huang, Sven Schewe, Yi Dong, Xiaowei Huang
• Abstract要約: 今後の運用において比較的高い確率で見られるAEである"operational AEs"という新しい概念を提示する。 操作性AE」を効率的に検出するための新しいDLテスト方法の初期設計が提供される。
• 参考スコア（独自算出の注目度）: 12.175315224450678
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The utilisation of Deep Learning (DL) raises new challenges regarding its dependability in critical applications. Sound verification and validation methods are needed to assure the safe and reliable use of DL. However, state-of-the-art debug testing methods on DL that aim at detecting adversarial examples (AEs) ignore the operational profile, which statistically depicts the software's future operational use. This may lead to very modest effectiveness on improving the software's delivered reliability, as the testing budget is likely to be wasted on detecting AEs that are unrealistic or encountered very rarely in real-life operation. In this paper, we first present the novel notion of "operational AEs" which are AEs that have relatively high chance to be seen in future operation. Then an initial design of a new DL testing method to efficiently detect "operational AEs" is provided, as well as some insights on our prospective research plan.
• Abstract（参考訳）: ディープラーニング(DL)の利用は、重要なアプリケーションにおける信頼性に関する新たな課題を提起する。 DLの安全で信頼性の高い使用を保証するためには,音の検証と検証方法が必要である。 しかし、逆例(AE)の検出を目的としたDLの最先端デバッグテスト手法は、ソフトウェアの将来的な運用利用を統計的に描写する運用プロファイルを無視している。 テスト予算は非現実的あるいは現実の運用で遭遇するまれなAEの検出に費やされる可能性が高いため、ソフトウェアが納品される信頼性を改善する上で、これは非常に控えめな効果をもたらす可能性がある。 本稿では,今後の手術で見られる可能性が比較的高いAEである「オペレーショナルAE」という概念を,まず最初に提示する。 次に,「運用aes」を効率的に検出する新しいdlテスト手法の初期設計と,今後の研究計画に関する知見を提供する。

関連論文リスト

• Underwater Object Detection in the Era of Artificial Intelligence: Current, Challenge, and Future [119.88454942558485]
  水中物体検出(UOD)は、水中の画像やビデオ中の物体を識別し、ローカライズすることを目的としている。 近年、人工知能(AI)に基づく手法、特に深層学習法は、UODにおいて有望な性能を示している。
  論文  参考訳（メタデータ） (2024-10-08T00:25:33Z)
• No Regrets: Investigating and Improving Regret Approximations for Curriculum Discovery [53.08822154199948]
  非教師なし環境設計(UED)手法は、エージェントがイン・オブ・アウト・ディストリビューションタスクに対して堅牢になることを約束する適応的カリキュラムとして近年注目を集めている。 本研究は,既存のUEDメソッドがいかにトレーニング環境を選択するかを検討する。 本研究では,学習性の高いシナリオを直接訓練する手法を開発した。
  論文  参考訳（メタデータ） (2024-08-27T14:31:54Z)
• Semi-supervised Open-World Object Detection [74.95267079505145]
  半教師付きオープンワールド検出(SS-OWOD)という,より現実的な定式化を導入する。 提案したSS-OWOD設定では,最先端OWOD検出器の性能が劇的に低下することが実証された。 我々は,MS COCO, PASCAL, Objects365, DOTAの4つのデータセットを用いた実験を行い, 提案手法の有効性を実証した。
  論文  参考訳（メタデータ） (2024-02-25T07:12:51Z)
• LLbezpeky: Leveraging Large Language Models for Vulnerability Detection [10.330063887545398]
  大規模言語モデル(LLM)は、人やプログラミング言語におけるセムナティクスを理解する大きな可能性を示している。 私たちは、脆弱性の特定と修正を支援するAI駆動ワークフローの構築に重点を置いています。
  論文  参考訳（メタデータ） (2024-01-02T16:14:30Z)
• Testing learning-enabled cyber-physical systems with Large-Language Models: A Formal Approach [32.15663640443728]
  機械学習(ML)をサイバー物理システム(CPS)に統合することは大きな利益をもたらす。 既存の検証と検証技術は、しばしばこれらの新しいパラダイムには不十分である。 本稿では, 基礎確率テストからより厳密なアプローチへ移行し, 正式な保証を実現するためのロードマップを提案する。
  論文  参考訳（メタデータ） (2023-11-13T14:56:14Z)
• Re-thinking Data Availablity Attacks Against Deep Neural Networks [53.64624167867274]
  本稿では、未学習例の概念を再検討し、既存のロバストな誤り最小化ノイズが不正確な最適化目標であることを示す。 本稿では,計算時間要件の低減による保護性能の向上を図った新しい最適化パラダイムを提案する。
  論文  参考訳（メタデータ） (2023-05-18T04:03:51Z)
• Be Your Own Neighborhood: Detecting Adversarial Example by the Neighborhood Relations Built on Self-Supervised Learning [64.78972193105443]
  本稿では,予測に有効な新しいAE検出フレームワークを提案する。 AEの異常な関係と拡張バージョンを区別して検出を行う。 表現を抽出し、ラベルを予測するために、既製の自己監視学習(SSL)モデルが使用される。
  論文  参考訳（メタデータ） (2022-08-31T08:18:44Z)
• Adversarial Example Detection for DNN Models: A Review [13.131592630524905]
  敵対的な例(AE)の目的は、ディープラーニングモデルを騙すことであり、DLアプリケーションに潜在的なリスクをもたらす。 少数のレビューと調査が出版され、理論的には脅威の分類と対策方法を示した。 このような方法に関する詳細な議論を行い、8つの最先端検出器の実験結果を示す。
  論文  参考訳（メタデータ） (2021-05-01T09:55:17Z)
• Few-Cost Salient Object Detection with Adversarial-Paced Learning [95.0220555274653]
  本稿では,少数のトレーニング画像にのみ手動アノテーションを応用して,効果的なサルエント物体検出モデルを学習することを提案する。 我々は,このタスクを,少額の有能な物体検出とみなし,少数のコストの学習シナリオを促進するために,APL(Adversarialpaced Learning)ベースのフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-04-05T14:15:49Z)
• Towards Characterizing Adversarial Defects of Deep Learning Software from the Lens of Uncertainty [30.97582874240214]
  逆例(AE)は、緊急に対処するために必要な、典型的な、重要な欠陥のタイプを表します。 深層学習決定の本質的な不確実性は、その誤った振る舞いの根本的な理由である。 良性例(BE)とAEsの不確実性パターンを同定・分類し,既存の手法で生成されたBEとAEは共通不確実性パターンに従うが,他の不確実性パターンはほとんど欠落している。
  論文  参考訳（メタデータ） (2020-04-24T07:29:47Z)
• ARAE: Adversarially Robust Training of Autoencoders Improves Novelty Detection [6.992807725367106]
  オートエンコーダ(AE)は新規性検出問題にアプローチするために広く利用されている。 より意味論的に意味のある特徴を学習できる新しいAEを提案する。 よりシンプルなアーキテクチャを使用しているにもかかわらず、提案されたAEは、3つのベンチマークデータセットで最先端の競合に勝っているか、あるいは競合していることを示す。
  論文  参考訳（メタデータ） (2020-03-12T09:06:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。