論文の概要: Black-box Adversarial Attacks on Commercial Speech Platforms with Minimal Information

• arxiv url: http://arxiv.org/abs/2110.09714v1
• Date: Tue, 19 Oct 2021 03:36:35 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-20 23:56:31.123825
• Title: Black-box Adversarial Attacks on Commercial Speech Platforms with Minimal Information
• Title（参考訳）: 最小情報を用いた商用音声プラットフォームにおけるブラックボックス攻撃
• Authors: Baolin Zheng, Peipei Jiang, Qian Wang, Qi Li, Chao Shen, Cong Wang, Yunjie Ge, Qingyang Teng, Shenyi Zhang
• Abstract要約: より実践的で厳格なシナリオで2つの新たな敵攻撃を提案する。 商用クラウド音声APIでは,決定のみのブラックボックス攻撃であるOccamを提案する。 商用音声制御装置では, NI-Occamを提案する。
• 参考スコア（独自算出の注目度）: 15.492957192188634
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Adversarial attacks against commercial black-box speech platforms, including cloud speech APIs and voice control devices, have received little attention until recent years. The current "black-box" attacks all heavily rely on the knowledge of prediction/confidence scores to craft effective adversarial examples, which can be intuitively defended by service providers without returning these messages. In this paper, we propose two novel adversarial attacks in more practical and rigorous scenarios. For commercial cloud speech APIs, we propose Occam, a decision-only black-box adversarial attack, where only final decisions are available to the adversary. In Occam, we formulate the decision-only AE generation as a discontinuous large-scale global optimization problem, and solve it by adaptively decomposing this complicated problem into a set of sub-problems and cooperatively optimizing each one. Our Occam is a one-size-fits-all approach, which achieves 100% success rates of attacks with an average SNR of 14.23dB, on a wide range of popular speech and speaker recognition APIs, including Google, Alibaba, Microsoft, Tencent, iFlytek, and Jingdong, outperforming the state-of-the-art black-box attacks. For commercial voice control devices, we propose NI-Occam, the first non-interactive physical adversarial attack, where the adversary does not need to query the oracle and has no access to its internal information and training data. We combine adversarial attacks with model inversion attacks, and thus generate the physically-effective audio AEs with high transferability without any interaction with target devices. Our experimental results show that NI-Occam can successfully fool Apple Siri, Microsoft Cortana, Google Assistant, iFlytek and Amazon Echo with an average SRoA of 52% and SNR of 9.65dB, shedding light on non-interactive physical attacks against voice control devices.
• Abstract（参考訳）: クラウド音声APIや音声制御デバイスを含む商用のブラックボックス音声プラットフォームに対する敵対的攻撃は、近年までほとんど注目されていない。 現在の"ブラックボックス"攻撃は、効果的な敵の例を作るために予測/信頼スコアの知識に大きく依存しているため、これらのメッセージを返すことなく、サービスプロバイダによって直感的に防御できる。 本稿では,より現実的で厳密なシナリオにおける2つの新たな敵攻撃を提案する。 商用のクラウド音声APIでは、決定のみのブラックボックス攻撃であるOccamを提案する。 オッカムでは、決定のみのAE生成を不連続な大規模グローバル最適化問題として定式化し、この複雑な問題を一連のサブプロブレムに適応的に分解し、それぞれを協調的に最適化することで解決する。 私たちのOccamは、Google、Alibaba、Microsoft、Tencent、iFlytek、Jingdongなど、幅広い一般的な音声および話者認識APIにおいて、平均14.23dBのSNRによる攻撃の100%の成功率を達成する、オールサイズのアプローチである。 商用音声制御装置において, NI-Occamは最初の非対話的物理的敵対攻撃であり, 敵は託宣を問い合わせる必要がなく, 内部情報や訓練データにアクセスできない。 敵攻撃とモデル逆転攻撃を組み合わせ、ターゲット装置との相互作用を伴わずに高い転送性を有する物理効率のオーディオAEを生成する。 実験の結果、ni-occamはapple siri、microsoft cortana、google assistant、iflytek、amazon echoを52%、snrが9.65dbで騙し、音声コントロールデバイスに対する非対話的な物理的攻撃に光を当てることに成功した。

関連論文リスト

• ALIF: Low-Cost Adversarial Audio Attacks on Black-Box Speech Platforms using Linguistic Features [25.28307679567351]
  ALIFは、最初のブラックボックス対応言語機能ベースのアタックパイプラインである。 本稿では,デジタルドメインと物理再生環境の両方で攻撃を開始するためのALIF-OTLおよびALIF-OTAスキームを提案する。
  論文  参考訳（メタデータ） (2024-08-03T15:30:16Z)
• Parrot-Trained Adversarial Examples: Pushing the Practicality of Black-Box Audio Attacks against Speaker Recognition Models [18.796342190114064]
  ブラックボックス攻撃では、話者認識モデルからの特定の情報が有効である必要がある。 本研究の目的は、ターゲット話者認識モデルに関する攻撃者の知識を最小化することで、ブラックボックス攻撃の実用性を推し進めることである。 対象モデルに対してAEを生成するために,オウム訓練と呼ばれる新しいメカニズムを提案する。
  論文  参考訳（メタデータ） (2023-11-13T22:12:19Z)
• PhantomSound: Black-Box, Query-Efficient Audio Adversarial Attack via Split-Second Phoneme Injection [9.940661629195086]
  PhantomSoundは、音声アシスタントに対するクエリ効率の良いブラックボックス攻撃である。 PhantomSoundは、商用音声コントロールデバイス5台を空から攻撃する上で実用的で堅牢であることを示す。 我々は、現在最先端のブラックボックス攻撃と比較して、クエリ効率を大幅に向上し、未目標および標的攻撃の成功コストを93.1%、65.5%削減する。
  論文  参考訳（メタデータ） (2023-09-13T13:50:41Z)
• Universal and Transferable Adversarial Attacks on Aligned Language Models [118.41733208825278]
  本稿では,アライメント言語モデルに反抗的な振る舞いを生じさせる,シンプルで効果的な攻撃手法を提案する。 驚いたことに、我々のアプローチによって生じる敵のプロンプトは、かなり伝達可能である。
  論文  参考訳（メタデータ） (2023-07-27T17:49:12Z)
• Practical Attacks on Voice Spoofing Countermeasures [3.388509725285237]
  悪意あるアクターが、音声認証を最も厳格な形でバイパスするために、音声サンプルを効率的に作ることができることを示す。 本研究の結果は,攻撃者の脅威を回避し,現代の音声認証システムのセキュリティに疑問を投げかけるものである。
  論文  参考訳（メタデータ） (2021-07-30T14:07:49Z)
• Practical Relative Order Attack in Deep Ranking [99.332629807873]
  ディープランキングシステム、すなわちオーダーアタックに対する新しい敵の攻撃を定式化します。 順序攻撃は、攻撃者が特定した順列に応じて、選択された候補群間の相対順序を暗黙的に変更する。 主要なeコマースプラットフォームでうまく実装されている。
  論文  参考訳（メタデータ） (2021-03-09T06:41:18Z)
• Cortical Features for Defense Against Adversarial Audio Attacks [55.61885805423492]
  本稿では,聴覚野の計算モデルを用いて,音声に対する敵対的攻撃に対する防御手法を提案する。 また,大脳皮質の特徴は,普遍的な敵の例に対する防御に有効であることを示す。
  論文  参考訳（メタデータ） (2021-01-30T21:21:46Z)
• A black-box adversarial attack for poisoning clustering [78.19784577498031]
  本稿では,クラスタリングアルゴリズムのロバスト性をテストするために,ブラックボックス対逆攻撃法を提案する。 我々の攻撃は、SVM、ランダムフォレスト、ニューラルネットワークなどの教師付きアルゴリズムに対しても転送可能であることを示す。
  論文  参考訳（メタデータ） (2020-09-09T18:19:31Z)
• Simple and Efficient Hard Label Black-box Adversarial Attacks in Low Query Budget Regimes [80.9350052404617]
  そこで我々は,ブラックボックス攻撃の簡易かつ効率的なベイズ最適化(BO)に基づく手法を提案する。 高次元におけるBOの性能に関する問題は、構造化された低次元部分空間における逆例を探すことによって回避される。 提案手法は,10倍から20倍のクエリを必要としながら,攻撃成功率を2倍から10倍に向上させる。
  論文  参考訳（メタデータ） (2020-07-13T04:34:57Z)
• Spanning Attack: Reinforce Black-box Attacks with Unlabeled Data [96.92837098305898]
  Black-box攻撃は、機械学習モデルのインプット・アウトプットペアをクエリすることで、敵の摂動を発生させることを目的としている。 ブラックボックス攻撃はしばしば、入力空間の高次元性のためにクエリ非効率性の問題に悩まされる。 本研究では,低次元部分空間における逆摂動を,補助的なラベルのないデータセットに分散させることで抑制するスパンニング攻撃と呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-05-11T05:57:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。