論文の概要: Perception-Aware Attack: Creating Adversarial Music via
Reverse-Engineering Human Perception
- arxiv url: http://arxiv.org/abs/2207.13192v1
- Date: Tue, 26 Jul 2022 21:40:47 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-28 13:14:39.332845
- Title: Perception-Aware Attack: Creating Adversarial Music via
Reverse-Engineering Human Perception
- Title（参考訳）: 知覚認識攻撃 : リバースエンジニアリングヒューマン・パーセプションによる対立音楽の作成
- Authors: Rui Duan, Zhe Qu, Shangqing Zhao, Leah Ding, Yao Liu, Zhuo Lu
- Abstract要約: 音楽信号に対する敵対攻撃を新たな知覚認識攻撃フレームワークとして定式化する。
我々は音楽信号の変化に関して人間の知覚を定量化するために人間の研究を行う。
実験により、知覚認識攻撃は、前作よりも知覚的品質が著しく良い敵対音楽を生み出すことが示された。
- 参考スコア（独自算出の注目度）: 22.26417430285991
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Recently, adversarial machine learning attacks have posed serious security
threats against practical audio signal classification systems, including speech
recognition, speaker recognition, and music copyright detection. Previous
studies have mainly focused on ensuring the effectiveness of attacking an audio
signal classifier via creating a small noise-like perturbation on the original
signal. It is still unclear if an attacker is able to create audio signal
perturbations that can be well perceived by human beings in addition to its
attack effectiveness. This is particularly important for music signals as they
are carefully crafted with human-enjoyable audio characteristics.
In this work, we formulate the adversarial attack against music signals as a
new perception-aware attack framework, which integrates human study into
adversarial attack design. Specifically, we conduct a human study to quantify
the human perception with respect to a change of a music signal. We invite
human participants to rate their perceived deviation based on pairs of original
and perturbed music signals, and reverse-engineer the human perception process
by regression analysis to predict the human-perceived deviation given a
perturbed signal. The perception-aware attack is then formulated as an
optimization problem that finds an optimal perturbation signal to minimize the
prediction of perceived deviation from the regressed human perception model. We
use the perception-aware framework to design a realistic adversarial music
attack against YouTube's copyright detector. Experiments show that the
perception-aware attack produces adversarial music with significantly better
perceptual quality than prior work.
- Abstract（参考訳）: 近年,音声認識や話者認識,音楽著作権検出など,実用的な音声信号分類システムに対する重大なセキュリティ上の脅威が生まれている。
従来の研究は主に、元の信号に小さなノイズのような摂動を発生させることで、音声信号分類器を攻撃することの有効性を保証することに重点を置いてきた。
攻撃者が、その攻撃効果に加えて、人間によく認識できる音声信号の摂動を生成できるかどうかはまだ不明である。
これは音楽信号にとって特に重要であり、人間を喜ばせるような音響特性を慎重に作っている。
本研究では,音楽信号に対する敵意攻撃を新たな知覚認識認識攻撃フレームワークとして定式化し,人間研究を敵意攻撃設計に統合する。
具体的には、音楽信号の変化に関して人間の知覚を定量化するための人間研究を行う。
我々は,人間の知覚の偏差を,オリジナル信号と摂動信号のペアに基づいて評価し,回帰分析により人間の知覚過程をリバースエンジニアリングし,摂動信号による人間の知覚偏差を推定する。
次に、知覚認識攻撃を最適摂動信号を求める最適化問題として定式化して、回帰した人間の知覚モデルから知覚偏差の予測を最小化する。
我々は、認識認識フレームワークを使用して、YouTubeの著作権検知器に対する現実的な敵対的な音楽攻撃を設計する。
実験により、知覚認識攻撃は、前作よりも知覚的品質が著しく良い敵対音楽を生み出すことが示された。
関連論文リスト
- MuseBarControl: Enhancing Fine-Grained Control in Symbolic Music Generation through Pre-Training and Counterfactual Loss [51.85076222868963]
制御信号と対応する音楽トークンを直接リンクする事前学習タスクを導入する。
次に、生成した音楽と制御プロンプトとの整合性を向上する新たな対実的損失を実現する。
論文 参考訳（メタデータ） (2024-07-05T08:08:22Z) - Imperceptible Rhythm Backdoor Attacks: Exploring Rhythm Transformation for Embedding Undetectable Vulnerabilities on Speech Recognition [4.164975438207411]
近年,音声認識システムにおいて,典型的なバックドア攻撃が研究されている。
攻撃者は、良質な音声スペクトログラムにいくつかの組み込まれた変更を加えたり、ピッチや音色などの音声成分を変更したりする。
データ中毒のステルス性を改善するために,ランダム・スペクトログラム・リズム・トランスフォーメーション (Random Spectrogram Rhythm Transformation) と呼ばれる非ニューラルかつ高速なアルゴリズムを提案する。
論文 参考訳（メタデータ） (2024-06-16T13:29:21Z) - Investigating Human-Identifiable Features Hidden in Adversarial
Perturbations [54.39726653562144]
我々の研究では、最大5つの攻撃アルゴリズムを3つのデータセットにわたって探索する。
対人摂動における人間の識別可能な特徴を同定する。
画素レベルのアノテーションを用いて、そのような特徴を抽出し、ターゲットモデルに妥協する能力を実証する。
論文 参考訳（メタデータ） (2023-09-28T22:31:29Z) - Game of Travesty: Decoy-based Psychological Cyber Deception for Proactive Human Agents [13.47548023934913]
本研究では,ディフェンダーとヒューマンエージェント間のシグナリングゲームフレームワークを採用し,サイバー防御偽装プロトコルを開発する。
提案された枠組みは、より効果的なシグナリングスキームを設計する上での基本的な理論に繋がる。
論文 参考訳（メタデータ） (2023-09-23T15:27:26Z) - Relating Human Perception of Musicality to Prediction in a Predictive
Coding Model [0.8062120534124607]
人間の音楽知覚をモデル化するための予測符号化にインスパイアされたニューラルネットワークの利用について検討する。
このネットワークは階層視覚野における反復的相互作用の計算神経科学理論に基づいて開発された。
このネットワークを用いて階層的な聴覚システムをモデル化し、ランダムなピッチ列の楽しさに関して、人間と同じような選択をするかどうかを検討する。
論文 参考訳（メタデータ） (2022-10-29T12:20:01Z) - Illusory Attacks: Information-Theoretic Detectability Matters in Adversarial Attacks [76.35478518372692]
エプシロン・イリューソリー(epsilon-illusory)は、シーケンシャルな意思決定者に対する敵対的攻撃の新たな形態である。
既存の攻撃と比較して,エプシロン・イリューソリーの自動検出は極めて困難である。
以上の結果から, より優れた異常検知器, 効果的なハードウェアおよびシステムレベルの防御の必要性が示唆された。
論文 参考訳（メタデータ） (2022-07-20T19:49:09Z) - End-to-End Binaural Speech Synthesis [71.1869877389535]
本稿では,低ビットレート音声システムと強力なデコーダを組み合わせたエンドツーエンド音声合成システムを提案する。
実感的な聴覚シーンを作るために必要な環境効果を捉える上で, 対人的損失がもたらす効果を実証する。
論文 参考訳（メタデータ） (2022-07-08T05:18:36Z) - Attack to Fool and Explain Deep Networks [59.97135687719244]
対人摂動における人為的意味のパターンの証拠を提供することによって、私たちは逆転する。
我々の主な貢献は、その後視覚モデルを理解するためのツールに変換される、新しい実用的対人攻撃である。
論文 参考訳（メタデータ） (2021-06-20T03:07:36Z) - Dompteur: Taming Audio Adversarial Examples [28.54699912239861]
敵対的な例では、攻撃者は任意の機械学習システムを操作できる。
本稿では、ASRシステムに対する敵対的事例の存在を受け入れるが、人間の聴取者によって認識されるよう要求する。
心理音響学の原理を適用することで、ASR入力から意味的に無関係な情報を除去し、人間の知覚によく似たモデルを訓練することができる。
論文 参考訳（メタデータ） (2021-02-10T13:53:32Z) - FoolHD: Fooling speaker identification by Highly imperceptible
adversarial Disturbances [63.80959552818541]
話者識別モデルに対する知覚不能な摂動を発生させるホワイトボックス・ステガノグラフィーによる敵攻撃を提案する。
我々のアプローチであるFoolHDは、DCTドメインで動作するGated Convolutional Autoencoderを使用し、多目的損失関数で訓練されている。
我々は,VoxCelebを用いて訓練した250話者識別xベクトルネットワークを用いてFoolHDを検証する。
論文 参考訳（メタデータ） (2020-11-17T07:38:26Z) - Investigating a Spectral Deception Loss Metric for Training Machine
Learning-based Evasion Attacks [1.3750624267664155]
敵の回避攻撃は、幅広い機械学習アプリケーションでパフォーマンスの低下を引き起こすことに成功している。
この研究は、スペクトルの形状を元の信号とよりインラインにするよう強制するために、トレーニングプロセス中に実装できる新しいスペクトル偽装損失指標を導入する。
論文 参考訳（メタデータ） (2020-05-27T02:02:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。