論文の概要: Physical world assistive signals for deep neural network classifiers -- neither defense nor attack

• arxiv url: http://arxiv.org/abs/2105.00622v1
• Date: Mon, 3 May 2021 04:02:48 GMT
• ステータス: 処理完了
• システム内更新日: 2021-05-04 14:02:04.746200
• Title: Physical world assistive signals for deep neural network classifiers -- neither defense nor attack
• Title（参考訳）: 深部ニューラルネットワーク分類器のための物理世界支援信号 -防御も攻撃も-
• Authors: Camilo Pestana, Wei Liu, David Glance, Robyn Owens, Ajmal Mian
• Abstract要約: 攻撃中であろうとなかろうと、モデルの信頼度スコアを改善するために最適化されたアシスト信号の概念を導入する。 本手法により生成された補助信号が深層モデルの精度と信頼性を高めることを実験的に評価した。 我々は、現実世界の物体の検知可能性に寄与する可能性のあるパターンを再考したり、回避するために、これらの洞察を利用する方法について議論する。
• 参考スコア（独自算出の注目度）: 23.138996515998347
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep Neural Networks lead the state of the art of computer vision tasks. Despite this, Neural Networks are brittle in that small changes in the input can drastically affect their prediction outcome and confidence. Consequently and naturally, research in this area mainly focus on adversarial attacks and defenses. In this paper, we take an alternative stance and introduce the concept of Assistive Signals, which are optimized to improve a model's confidence score regardless if it's under attack or not. We analyse some interesting properties of these assistive perturbations and extend the idea to optimize assistive signals in the 3D space for real-life scenarios simulating different lighting conditions and viewing angles. Experimental evaluations show that the assistive signals generated by our optimization method increase the accuracy and confidence of deep models more than those generated by conventional methods that work in the 2D space. In addition, our Assistive Signals illustrate the intrinsic bias of ML models towards certain patterns in real-life objects. We discuss how we can exploit these insights to re-think, or avoid, some patterns that might contribute to, or degrade, the detectability of objects in the real-world.
• Abstract（参考訳）: ディープニューラルネットワークは、コンピュータビジョンタスクの最先端技術をリードしている。 それにもかかわらず、ニューラルネットワークは、入力の小さな変更が予測結果と信頼性に大きな影響を及ぼすという、脆弱である。 その結果、この分野での研究は主に敵の攻撃と防衛に焦点を当てた。 本稿では,モデルが攻撃を受けているか否かに関わらず,モデルの信頼度を向上させるために最適化された補助信号の概念を導入する。 異なる照明条件と視野角をシミュレートした実生活シナリオにおいて,これらの摂動の興味深い特性を分析し,3次元空間における補助信号を最適化するアイデアを拡張した。 実験により,提案手法により生成された補助信号は,従来の2次元空間で動作する手法よりも深部モデルの精度と信頼性を高めることが示された。 さらに、私たちのAssistive Signalsは、実際のオブジェクトの特定のパターンに対するMLモデルの固有のバイアスを示しています。 我々は、現実世界の物体の検知可能性に寄与する可能性のあるパターンを再考したり、回避するために、これらの洞察を利用する方法について議論する。

関連論文リスト

• Towards Evaluating the Robustness of Visual State Space Models [63.14954591606638]
  視覚状態空間モデル(VSSM)は視覚知覚タスクにおいて顕著な性能を示した。 しかし、自然と敵対的な摂動の下での頑丈さは依然として重要な懸念事項である。 様々な摂動シナリオ下でのVSSMの頑健さを総合的に評価する。
  論文  参考訳（メタデータ） (2024-06-13T17:59:44Z)
• A Survey on Transferability of Adversarial Examples across Deep Neural Networks [53.04734042366312]
  逆の例では、機械学習モデルを操作して誤った予測を行うことができます。 敵の例の転送可能性により、ターゲットモデルの詳細な知識を回避できるブラックボックス攻撃が可能となる。 本研究は, 対角移動可能性の展望を考察した。
  論文  参考訳（メタデータ） (2023-10-26T17:45:26Z)
• Investigating Human-Identifiable Features Hidden in Adversarial Perturbations [54.39726653562144]
  我々の研究では、最大5つの攻撃アルゴリズムを3つのデータセットにわたって探索する。 対人摂動における人間の識別可能な特徴を同定する。 画素レベルのアノテーションを用いて、そのような特徴を抽出し、ターゲットモデルに妥協する能力を実証する。
  論文  参考訳（メタデータ） (2023-09-28T22:31:29Z)
• FACADE: A Framework for Adversarial Circuit Anomaly Detection and Evaluation [9.025997629442896]
  FACADEは、ディープニューラルネットワークにおける教師なしの機械的異常検出のために設計されている。 我々のアプローチは、モデルの堅牢性を改善し、スケーラブルなモデル監視を強化し、現実のデプロイメント環境で有望なアプリケーションを実証することを目指している。
  論文  参考訳（メタデータ） (2023-07-20T04:00:37Z)
• Mitigating Adversarial Attacks in Deepfake Detection: An Exploration of Perturbation and AI Techniques [1.0718756132502771]
  敵の例は微妙な摂動で きれいな画像やビデオに 巧みに注入される ディープフェイクは世論を操り、世論の評判を損なう強力なツールとして登場した。 この記事では、多面的な敵の例の世界を掘り下げ、ディープラーニングアルゴリズムを騙す能力の背後にある原則を解明する。
  論文  参考訳（メタデータ） (2023-02-22T23:48:19Z)
• Ada3Diff: Defending against 3D Adversarial Point Clouds via Adaptive Diffusion [70.60038549155485]
  ディープ3Dポイントクラウドモデルは敵攻撃に敏感であり、自律運転のような安全クリティカルなアプリケーションに脅威をもたらす。 本稿では,適応強度推定器と拡散モデルを用いて,プリスタンデータ分布を再構築できる新しい歪み認識型防衛フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-11-29T14:32:43Z)
• On the Robustness of Quality Measures for GANs [136.18799984346248]
  本研究は、インセプションスコア(IS)やFr'echet Inception Distance(FID)のような生成モデルの品質測定の堅牢性を評価する。 このような測度は、加算画素摂動によっても操作可能であることを示す。
  論文  参考訳（メタデータ） (2022-01-31T06:43:09Z)
• Robustness in Deep Learning for Computer Vision: Mind the gap? [13.576376492050185]
  我々は、コンピュータビジョンのためのディープラーニングにおいて、現在の定義と非敵対的堅牢性に向けての進歩を特定し、分析し、要約する。 この研究の分野は、敵対的機械学習に対して、不当にあまり注目されていないことがわかりました。
  論文  参考訳（メタデータ） (2021-12-01T16:42:38Z)
• Interactive Analysis of CNN Robustness [11.136837582678869]
  Perturberはウェブベースのアプリケーションで、3D入力シーンがインタラクティブに摂動した場合、CNNのアクティベーションと予測がどのように進化するかをユーザが調査することができる。 パーターバーは、カメラコントロール、照明とシェーディング効果、背景の修正、物体の変形、敵の攻撃など、様々なシーン修正を提供している。 機械学習の専門家によるケーススタディによると、Perturberはモデルの脆弱性に関する仮説を素早く生成し、モデルの振る舞いを質的に比較するのに役立つ。
  論文  参考訳（メタデータ） (2021-10-14T18:52:39Z)
• Pruning in the Face of Adversaries [0.0]
  ニューラルネットワークのプルーニングがL-0,L-2,L-infinity攻撃に対する対向的ロバスト性に及ぼす影響を評価する。 その結果,ニューラルネットワークのプルーニングと対向ロバスト性は相互に排他的ではないことが確認された。 分析を敵のシナリオに付加的な仮定を取り入れた状況にまで拡張し、状況によって異なる戦略が最適であることを示す。
  論文  参考訳（メタデータ） (2021-08-19T09:06:16Z)
• Attribute-Guided Adversarial Training for Robustness to Natural Perturbations [64.35805267250682]
  本稿では,属性空間への分類器の露出を最大化するために,新しいサンプルを生成することを学習する逆学習手法を提案する。 我々のアプローチは、ディープニューラルネットワークが自然に発生する摂動に対して堅牢であることを可能にする。
  論文  参考訳（メタデータ） (2020-12-03T10:17:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。