論文の概要: Bones of Contention: Exploring Query-Efficient Attacks Against Skeleton Recognition Systems

• arxiv url: http://arxiv.org/abs/2501.16843v1
• Date: Tue, 28 Jan 2025 10:33:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-29 16:39:52.042171
• Title: Bones of Contention: Exploring Query-Efficient Attacks Against Skeleton Recognition Systems
• Title（参考訳）: コンテントの骨:骨格認識システムに対するクエリ効率の良い攻撃を探る
• Authors: Yuxin Cao, Kai Ye, Derui Wang, Minhui Xue, Hao Ge, Chenxiong Qian, Jin Song Dong,
• Abstract要約: 本稿では,クエリ効率の良いSkeletal Adversarial AttaCks,ISAAC-K,ISAAC-Nを提案する。 ISAAC-K は $ell_infty$ ノルムでより強い逆の例を見つけ、他のノルムでそれらを包含できる。 骨格モデルは、部分的な非意味的な関節が置き換えられるような大きな摂動に弱いため、クエリフリーのノーボックスアタックにつながる。
• 参考スコア（独自算出の注目度）: 17.976825292118807
• License:
• Abstract: Skeleton action recognition models have secured more attention than video-based ones in various applications due to privacy preservation and lower storage requirements. Skeleton data are typically transmitted to cloud servers for action recognition, with results returned to clients via Apps/APIs. However, the vulnerability of skeletal models against adversarial perturbations gradually reveals the unreliability of these systems. Existing black-box attacks all operate in a decision-based manner, resulting in numerous queries that hinder efficiency and feasibility in real-world applications. Moreover, all attacks off the shelf focus on only restricted perturbations, while ignoring model weaknesses when encountered with non-semantic perturbations. In this paper, we propose two query-effIcient Skeletal Adversarial AttaCks, ISAAC-K and ISAAC-N. As a black-box attack, ISAAC-K utilizes Grad-CAM in a surrogate model to extract key joints where minor sparse perturbations are then added to fool the classifier. To guarantee natural adversarial motions, we introduce constraints of both bone length and temporal consistency. ISAAC-K finds stronger adversarial examples on $\ell_\infty$ norm, which can encompass those on other norms. Exhaustive experiments substantiate that ISAAC-K can uplift the attack efficiency of the perturbations under 10 skeletal models. Additionally, as a byproduct, ISAAC-N fools the classifier by replacing skeletons unrelated to the action. We surprisingly find that skeletal models are vulnerable to large perturbations where the part-wise non-semantic joints are just replaced, leading to a query-free no-box attack without any prior knowledge. Based on that, four adaptive defenses are eventually proposed to improve the robustness of skeleton recognition models.
• Abstract（参考訳）: スケルトンアクション認識モデルは、プライバシー保護とストレージ要件の低下により、様々なアプリケーションにおけるビデオベースモデルよりも注目を集めている。 スケルトンデータは一般的に、アクション認識のためにクラウドサーバに送信され、結果がApps/API経由でクライアントに返される。 しかし、敵対的摂動に対する骨格モデルの脆弱性は、これらのシステムの信頼性の低下を徐々に明らかにしている。 既存のブラックボックス攻撃は、すべて決定ベースで実行されるため、現実のアプリケーションでは効率と実現性を阻害するクエリが多数存在する。 さらに、棚からの攻撃はすべて、制限された摂動のみに焦点を合わせ、非セマンティック摂動に遭遇した際のモデルの弱点を無視する。 本稿では,2つのクエリ・エフェクティブ・スケルタル・アタック,ISAAC-K,ISAAC-Nを提案する。 ブラックボックス攻撃として、ISAAC-KはGrad-CAMを代理モデルで使用し、小さなスパース摂動が加わったキージョイントを抽出し、分類器を騙す。 自然対向運動を保証するため,骨長と時間的整合性の制約を導入する。 ISAAC-K は $\ell_\infty$ ノルム上でより強い逆の例を見つけ、他のノルム上のノルムを包含することができる。 被曝実験は、ISAAC-Kが10の骨格モデルの下で摂動の攻撃効率を上げることを実証している。 さらに、副産物としてISAAC-Nは、作用とは無関係な骨格を置換することで分類器を騙す。 骨格モデルは、部分的な非意味的な関節が置き換えられるような大きな摂動に弱いため、クエリフリーのノーボックスアタックにつながる。 これに基づいて、最終的に骨格認識モデルの堅牢性を改善するために、4つの適応防御法が提案される。

関連論文リスト

• Transferable Adversarial Attacks on SAM and Its Downstream Models [87.23908485521439]
  本稿では,セグメント・アプライス・モデル(SAM)から微調整した様々な下流モデルに対する敵攻撃の可能性について検討する。 未知のデータセットを微調整したモデルに対する敵攻撃の有効性を高めるために,ユニバーサルメタ初期化(UMI)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-10-26T15:04:04Z)
• Toward Improving Synthetic Audio Spoofing Detection Robustness via Meta-Learning and Disentangled Training With Adversarial Examples [33.445126880876415]
  自動話者検証システムに到達させる代わりに、スプーフ攻撃をフィルタリングする信頼性と堅牢なスプーフ検出システムを提案する。 データ不均衡問題に対処するために重み付き加法的角縁損失が提案され、スプーフィング攻撃に対する一般化を改善するために異なるマージンが割り当てられている。 データ拡張戦略として、スプーフィング音声に知覚不能な摂動を加えて、敵の例にのみ対応する正規化統計が実行されることを保証するために、補助的なバッチ正規化を用いる。
  論文  参考訳（メタデータ） (2024-08-23T19:26:54Z)
• FreqFed: A Frequency Analysis-Based Approach for Mitigating Poisoning Attacks in Federated Learning [98.43475653490219]
  フェデレート・ラーニング(Federated Learning, FL)は、毒素による攻撃を受けやすい。 FreqFedは、モデルの更新を周波数領域に変換する新しいアグリゲーションメカニズムである。 FreqFedは, 凝集モデルの有用性に悪影響を及ぼすことなく, 毒性攻撃を効果的に軽減できることを実証した。
  論文  参考訳（メタデータ） (2023-12-07T16:56:24Z)
• Exploring Self-Supervised Skeleton-Based Human Action Recognition under Occlusions [40.322770236718775]
  本稿では,自律型ロボットシステムに自己教師付き骨格に基づく行動認識手法を統合する手法を提案する。 まず、隠蔽されたスケルトン配列を用いて事前トレーニングを行い、次にk平均クラスタリング(KMeans)を用いてシーケンス埋め込みを行い、意味的に類似したサンプルをグループ化する。 比較的完全な配列を生成するために不完全な骨格配列を挿入することは、既存の骨格に基づく自己管理法に重要な利益をもたらす。
  論文  参考訳（メタデータ） (2023-09-21T12:51:11Z)
• Hyperbolic Face Anti-Spoofing [21.981129022417306]
  双曲空間におけるよりリッチな階層的および差別的なスプーフィングキューを学習することを提案する。 単調なFAS学習では、特徴埋め込みはポアンカーボールに投影され、双対対対数回帰層は分類のためにカスケードされる。 双曲空間における消失勾配問題を緩和するために,双曲モデルのトレーニング安定性を高めるために,新しい特徴クリッピング法を提案する。
  論文  参考訳（メタデータ） (2023-08-17T17:18:21Z)
• Understanding the Vulnerability of Skeleton-based Human Activity Recognition via Black-box Attack [53.032801921915436]
  HAR(Human Activity Recognition)は、自動運転車など、幅広い用途に採用されている。 近年,敵対的攻撃に対する脆弱性から,骨格型HAR法の堅牢性に疑問が呈されている。 攻撃者がモデルの入出力しかアクセスできない場合でも、そのような脅威が存在することを示す。 BASARと呼ばれる骨格をベースとしたHARにおいて,最初のブラックボックス攻撃手法を提案する。
  論文  参考訳（メタデータ） (2022-11-21T09:51:28Z)
• Adversarial Bone Length Attack on Action Recognition [4.9631159466100305]
  本研究では,骨格に基づく行動認識モデルを用いて,敵対的攻撃を行うことができることを示す。 具体的には、骨の長さに摂動を制限し、敵がおよそ30の有効次元を操作できるようにします。
  論文  参考訳（メタデータ） (2021-09-13T09:59:44Z)
• Discriminator-Free Generative Adversarial Attack [87.71852388383242]
  生成的ベースの敵攻撃は、この制限を取り除くことができる。 ASymmetric Saliency-based Auto-Encoder (SSAE) は摂動を生成する。 SSAEが生成した敵の例は、広く使われているモデルを崩壊させるだけでなく、優れた視覚的品質を実現する。
  論文  参考訳（メタデータ） (2021-07-20T01:55:21Z)
• Defense for Black-box Attacks on Anti-spoofing Models by Self-Supervised Learning [71.17774313301753]
  本研究では,自己指導型高水準表現の堅牢性について,敵攻撃に対する防御に利用して検討する。 ASVspoof 2019データセットの実験結果は、Mockingjayによって抽出されたハイレベルな表現が、敵の例の転送可能性を妨げることを示した。
  論文  参考訳（メタデータ） (2020-06-05T03:03:06Z)
• Towards Understanding the Adversarial Vulnerability of Skeleton-based Action Recognition [133.35968094967626]
  骨格に基づく行動認識は、動的状況への強い適応性から注目を集めている。 ディープラーニング技術の助けを借りて、かなり進歩し、現在、良識のある環境で約90%の精度を達成している。 異なる対角的環境下での骨格に基づく行動認識の脆弱性に関する研究はいまだ研究されていない。
  論文  参考訳（メタデータ） (2020-05-14T17:12:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。