論文の概要: Adversarial Attacks Using Differentiable Rendering: A Survey

• arxiv url: http://arxiv.org/abs/2411.09749v1
• Date: Thu, 14 Nov 2024 19:03:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-18 15:39:24.257094
• Title: Adversarial Attacks Using Differentiable Rendering: A Survey
• Title（参考訳）: 識別可能なレンダリングを用いた敵攻撃の実態調査
• Authors: Matthew Hull, Chao Zhang, Zsolt Kira, Duen Horng Chau,
• Abstract要約: 微分可能なレンダリング手法は、写真現実的で物理的に妥当な敵攻撃を生成するための有望な手段として現れてきた。 我々の調査は、研究者や実践者が敵の攻撃に対するコンピュータビジョンシステムの脆弱性をよりよく理解するのに役立ちます。
• 参考スコア（独自算出の注目度）: 41.133107951792496
• License:
• Abstract: Differentiable rendering methods have emerged as a promising means for generating photo-realistic and physically plausible adversarial attacks by manipulating 3D objects and scenes that can deceive deep neural networks (DNNs). Recently, differentiable rendering capabilities have evolved significantly into a diverse landscape of libraries, such as Mitsuba, PyTorch3D, and methods like Neural Radiance Fields and 3D Gaussian Splatting for solving inverse rendering problems that share conceptually similar properties commonly used to attack DNNs, such as back-propagation and optimization. However, the adversarial machine learning research community has not yet fully explored or understood such capabilities for generating attacks. Some key reasons are that researchers often have different attack goals, such as misclassification or misdetection, and use different tasks to accomplish these goals by manipulating different representation in a scene, such as the mesh or texture of an object. This survey adopts a task-oriented unifying framework that systematically summarizes common tasks, such as manipulating textures, altering illumination, and modifying 3D meshes to exploit vulnerabilities in DNNs. Our framework enables easy comparison of existing works, reveals research gaps and spotlights exciting future research directions in this rapidly evolving field. Through focusing on how these tasks enable attacks on various DNNs such as image classification, facial recognition, object detection, optical flow and depth estimation, our survey helps researchers and practitioners better understand the vulnerabilities of computer vision systems against photorealistic adversarial attacks that could threaten real-world applications.
• Abstract（参考訳）: 異なるレンダリング手法は、ディープニューラルネットワーク(DNN)を騙すことができる3Dオブジェクトやシーンを操作することによって、フォトリアリスティックで物理的に妥当な敵攻撃を生成するための有望な手段として登場した。 最近、差別化可能なレンダリング機能は、Mitsuba、PyTorch3D、Neural Radiance Fieldsや3D Gaussian Splattingといった、バックプロパゲーションや最適化など、DNNを攻撃するのによく使われる概念的に類似した特性を共有する逆レンダリング問題の解決方法など、さまざまなライブラリのランドスケープに大きく進化している。 しかし、敵の機械学習研究コミュニティは、攻撃を発生させる能力について、まだ十分に調べられていない。 主な理由は、研究者がしばしば、誤分類や誤検出のような異なる攻撃目標を持ち、異なるタスクを使用して、オブジェクトのメッシュやテクスチャなどのシーンで異なる表現を操作することである。 この調査では、テクスチャの操作、照明の変更、DNNの脆弱性を悪用する3Dメッシュの変更など、一般的なタスクを体系的に要約するタスク指向統一フレームワークを採用した。 我々のフレームワークは、この急速に発展する分野において、既存の研究を簡単に比較でき、研究のギャップとスポットライトがエキサイティングな将来の研究方向を示す。 これらのタスクが、画像分類、顔認識、物体検出、光学フロー、深度推定などの様々なDNNに対する攻撃を可能にすることに焦点を当てて、我々の調査は、研究者や実践者が現実世界のアプリケーションに脅威をもたらす可能性のある光現実的敵攻撃に対するコンピュータビジョンシステムの脆弱性をよりよく理解するのに役立つ。

関連論文リスト

• ZoomNeXt: A Unified Collaborative Pyramid Network for Camouflaged Object Detection [70.11264880907652]
  最近のオブジェクト(COD)は、現実のシナリオでは極めて複雑で難しい、視覚的にブレンドされたオブジェクトを周囲に分割しようと試みている。 本研究では,不明瞭な画像を観察したり,ズームインしたりアウトしたりする際の人間の行動を模倣する,効果的な統合協調ピラミッドネットワークを提案する。 我々のフレームワークは、画像とビデオのCODベンチマークにおいて、既存の最先端の手法を一貫して上回っている。
  論文  参考訳（メタデータ） (2023-10-31T06:11:23Z)
• A Survey on Transferability of Adversarial Examples across Deep Neural Networks [53.04734042366312]
  逆の例では、機械学習モデルを操作して誤った予測を行うことができます。 敵の例の転送可能性により、ターゲットモデルの詳細な知識を回避できるブラックボックス攻撃が可能となる。 本研究は, 対角移動可能性の展望を考察した。
  論文  参考訳（メタデータ） (2023-10-26T17:45:26Z)
• Mitigating Adversarial Attacks in Deepfake Detection: An Exploration of Perturbation and AI Techniques [1.0718756132502771]
  敵の例は微妙な摂動で きれいな画像やビデオに 巧みに注入される ディープフェイクは世論を操り、世論の評判を損なう強力なツールとして登場した。 この記事では、多面的な敵の例の世界を掘り下げ、ディープラーニングアルゴリズムを騙す能力の背後にある原則を解明する。
  論文  参考訳（メタデータ） (2023-02-22T23:48:19Z)
• Deviations in Representations Induced by Adversarial Attacks [0.0]
  研究によると、ディープラーニングモデルは敵の攻撃に弱い。 この発見は研究の新たな方向性をもたらし、脆弱性のあるネットワークを攻撃して防御するためにアルゴリズムが開発された。 本稿では,敵攻撃によって引き起こされる表現の偏差を計測し,解析する手法を提案する。
  論文  参考訳（メタデータ） (2022-11-07T17:40:08Z)
• Differential Evolution based Dual Adversarial Camouflage: Fooling Human Eyes and Object Detectors [0.190365714903665]
  本研究では,2段階からなる二重対向カモフラージュ法(DE_DAC)を提案する。 第1段階では、レンダリング対象とシーン画像との差を最小限に抑えるために、グローバルテクスチャを最適化する。 第2段階では、局所的なテクスチャを最適化する3つの損失関数を設計し、物体検出を非効率にする。
  論文  参考訳（メタデータ） (2022-10-17T09:07:52Z)
• Uncertainty Guided Policy for Active Robotic 3D Reconstruction using Neural Radiance Fields [82.21033337949757]
  本稿では,物体の暗黙のニューラル表現の各光線に沿ったカラーサンプルの重量分布のエントロピーを計算した線量不確実性推定器を提案する。 提案した推定器を用いた新しい視点から, 基礎となる3次元形状の不確かさを推測することが可能であることを示す。 ニューラルラディアンス場に基づく表現における線量不確実性によって導かれる次ベクター選択ポリシーを提案する。
  論文  参考訳（メタデータ） (2022-09-17T21:28:57Z)
• Object Scene Representation Transformer [56.40544849442227]
  オブジェクトシーン表現変換(OSRT: Object Scene Representation Transformer)は、新しいビュー合成を通じて、個々のオブジェクト表現が自然に現れる3D中心のモデルである。 OSRTは、既存のメソッドよりもオブジェクトとバックグラウンドの多様性が大きい、はるかに複雑なシーンにスケールする。 光電場パラメトリゼーションと新しいSlot Mixerデコーダのおかげで、合成レンダリングでは桁違いに高速である。
  論文  参考訳（メタデータ） (2022-06-14T15:40:47Z)
• Physical world assistive signals for deep neural network classifiers -- neither defense nor attack [23.138996515998347]
  攻撃中であろうとなかろうと、モデルの信頼度スコアを改善するために最適化されたアシスト信号の概念を導入する。 本手法により生成された補助信号が深層モデルの精度と信頼性を高めることを実験的に評価した。 我々は、現実世界の物体の検知可能性に寄与する可能性のあるパターンを再考したり、回避するために、これらの洞察を利用する方法について議論する。
  論文  参考訳（メタデータ） (2021-05-03T04:02:48Z)
• Exploring Adversarial Robustness of Multi-Sensor Perception Systems in Self Driving [87.3492357041748]
  本稿では,敵物体をホスト車両の上に配置することで,マルチセンサ検出の実用的感受性を示す。 実験の結果, 攻撃が成功した原因は主に画像の特徴が損なわれやすいことが判明した。 よりロバストなマルチモーダル知覚システムに向けて,特徴分断を伴う敵対的訓練が,このような攻撃に対するロバスト性を大幅に高めることを示す。
  論文  参考訳（メタデータ） (2021-01-17T21:15:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。