論文の概要: Random Logit Scaling: Defending Deep Neural Networks Against Black-Box Score-Based Adversarial Example Attacks

• arxiv url: http://arxiv.org/abs/2607.14921v1
• Date: Thu, 16 Jul 2026 12:39:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-17 17:01:33.095276
• Title: Random Logit Scaling: Defending Deep Neural Networks Against Black-Box Score-Based Adversarial Example Attacks
• Title（参考訳）: ランダムロジットスケーリング:ブラックボックスのスコアベースの逆攻撃に対するディープニューラルネットワークの防御
• Abstract要約: ブラックボックス攻撃と防衛の2つの分野に貢献する。 まず,ランダムロジットスケーリング(RLS, Random Logit Scaling)を提案する。 第2に,SOTA非ランダム化されたブラックボックス攻撃であるAAAに対して,ブラックボックススコアベース攻撃に対する適応攻撃を新たに導入する。
• 参考スコア（独自算出の注目度）: 1.2132884030603328
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Machine learning models are increasingly adapted in various domains. However, adversarial examples pose a significant threat to the reliable deployment of these models. In recent years, some powerful adversarial example attacks have been proposed for the fast and query-efficient generation of adversarial examples, even in black-box scenarios, highlighting the need for scalable, low-cost, and powerful defenses. In this work, we present two contributions to the domain of black-box adversarial example attacks and defenses. First, we propose Random Logit Scaling (RLS), a randomization-based defense against black-box score-based adversarial example attacks. RLS is a plug-and-play, post-processing defense that can be implemented on top of any existing ML model with minimal effort. The idea behind RLS is to confuse an attacker by outputting falsified scores resulting from randomly scaled logits while maintaining the model accuracy. We show that RLS significantly reduces the success rate of state-of-the-art black-box score-based attacks while preserving the accuracy and minimizing confidence score distortion compared to state-of-the-art randomization-based defenses. Second, we introduce a novel adaptive attack against AAA, a SOTA non-randomized black-box defense against black-box score-based attacks that also modifies output logits to confuse attackers, demonstrating its vulnerability against adaptive attacks.
• Abstract（参考訳）: 機械学習モデルは、様々な領域に適応している。 しかし、敵対的な例はこれらのモデルの信頼性の高い展開に重大な脅威をもたらす。 近年、ブラックボックスのシナリオにおいても、高速でクエリ効率のよい敵攻撃が提案されており、スケーラブルで低コストで強力な防御の必要性を強調している。 本研究は,ブラックボックス対敵攻撃と防衛のドメインに対する2つの貢献について述べる。 まず,ランダムロジットスケーリング(RLS, Random Logit Scaling)を提案する。 RLSは、最小限の労力で既存のMLモデル上に実装可能な、プラグインとプレイによる後処理のディフェンスである。 RLSの背景にある考え方は、モデル精度を維持しながらランダムにスケールしたロジットからフェール化されたスコアを出力することで攻撃者を混乱させることである。 RLSは、最先端のブラックボックススコアベースの攻撃の成功率を著しく低減し、精度を保ち、最先端のランダム化ベースの防御よりも信頼性スコアの歪みを最小限に抑える。 第2に,SOTA非ランダム化されたブラックボックスによるブラックボックス攻撃に対する新たなアダプティブアタックを導入し,アダプティブアタックに対する脆弱性を実証する。

関連論文リスト

• Mind the Gap: Detecting Black-box Adversarial Attacks in the Making through Query Update Analysis [3.795071937009966]
  アドリアックは機械学習(ML)モデルの整合性を損なう可能性がある。 本稿では,逆ノイズインスタンスが生成されているかどうかを検出するフレームワークを提案する。 適応攻撃を含む8つの最先端攻撃に対するアプローチを評価する。
  論文  参考訳（メタデータ） (2025-03-04T20:25:12Z)
• DALA: A Distribution-Aware LoRA-Based Adversarial Attack against Language Models [64.79319733514266]
  敵攻撃は入力データに微妙な摂動をもたらす可能性がある。 最近の攻撃方法は比較的高い攻撃成功率(ASR)を達成することができる。 そこで本研究では,分散ロラをベースとしたDALA(Adversarial Attack)手法を提案する。
  論文  参考訳（メタデータ） (2023-11-14T23:43:47Z)
• Understanding the Robustness of Randomized Feature Defense Against Query-Based Adversarial Attacks [23.010308600769545]
  ディープニューラルネットワークは、元の画像に近いサンプルを見つける敵の例に弱いが、モデルを誤分類させる可能性がある。 モデル中間層における隠れた特徴にランダムノイズを付加することにより,ブラックボックス攻撃に対する簡易かつ軽量な防御法を提案する。 本手法は,スコアベースと決定ベースの両方のブラックボックス攻撃に対するモデルのレジリエンスを効果的に向上させる。
  論文  参考訳（メタデータ） (2023-10-01T03:53:23Z)
• Certifiable Black-Box Attacks with Randomized Adversarial Examples: Breaking Defenses with Provable Confidence [34.35162562625252]
  ブラックボックスの敵攻撃は、機械学習モデルを妥協する強力な可能性を示している。 証明可能な保証付きブラックボックス攻撃の新たなパラダイムについて検討する。 この新しいブラックボックス攻撃は、機械学習モデルの重大な脆弱性を露呈する。
  論文  参考訳（メタデータ） (2023-04-10T01:12:09Z)
• MultiRobustBench: Benchmarking Robustness Against Multiple Attacks [86.70417016955459]
  機械学習(ML)モデルに対するマルチアタックを検討するための,最初の統一フレームワークを提案する。 我々のフレームワークは、テストタイムの敵について異なるレベルの学習者の知識をモデル化することができる。 9種類の攻撃に対して16種類の防御モデルの有効性を評価した。
  論文  参考訳（メタデータ） (2023-02-21T20:26:39Z)
• Towards Lightweight Black-Box Attacks against Deep Neural Networks [70.9865892636123]
  ブラックボックス攻撃は、いくつかのテストサンプルしか利用できない実用的な攻撃を引き起こす可能性があると我々は主張する。 いくつかのサンプルが必要なので、これらの攻撃を軽量なブラックボックス攻撃と呼ぶ。 近似誤差を軽減するために,Error TransFormer (ETF) を提案する。
  論文  参考訳（メタデータ） (2022-09-29T14:43:03Z)
• Output Randomization: A Novel Defense for both White-box and Black-box Adversarial Models [8.189696720657247]
  敵対的な例は、さまざまなシナリオでディープニューラルネットワークモデルに脅威をもたらす。 ブラックボックスモデルとホワイトボックスモデルの両方における攻撃に対する防御手段としての出力ランダム化の利用について検討する。
  論文  参考訳（メタデータ） (2021-07-08T12:27:19Z)
• Small Input Noise is Enough to Defend Against Query-based Black-box Attacks [23.712389625037442]
  本稿では,クエリベースのブラックボックス攻撃に対して,ノイズ防御がいかに小さいかを示す。 小さな追加入力ノイズでも、ほとんどのクエリベースの攻撃を中和できます。 強力な防御能力を持つSNDは、元のクリーンな精度と計算速度をほぼ維持します。
  論文  参考訳（メタデータ） (2021-01-13T01:45:59Z)
• Local Black-box Adversarial Attacks: A Query Efficient Approach [64.98246858117476]
  アドリアックは、セキュリティに敏感なシナリオにおけるディープニューラルネットワークの適用を脅かしている。 ブラックボックス攻撃における限られたクエリ内でのみクリーンな例の識別領域を摂動させる新しいフレームワークを提案する。 攻撃成功率の高いブラックボックス摂動時のクエリ効率を大幅に改善できることを示すため,広範な実験を行った。
  論文  参考訳（メタデータ） (2021-01-04T15:32:16Z)
• Improving Query Efficiency of Black-box Adversarial Attack [75.71530208862319]
  ニューラルプロセスに基づくブラックボックス対逆攻撃(NP-Attack)を提案する。 NP-Attackはブラックボックス設定でクエリ数を大幅に削減できる。
  論文  参考訳（メタデータ） (2020-09-24T06:22:56Z)
• Defense for Black-box Attacks on Anti-spoofing Models by Self-Supervised Learning [71.17774313301753]
  本研究では,自己指導型高水準表現の堅牢性について,敵攻撃に対する防御に利用して検討する。 ASVspoof 2019データセットの実験結果は、Mockingjayによって抽出されたハイレベルな表現が、敵の例の転送可能性を妨げることを示した。
  論文  参考訳（メタデータ） (2020-06-05T03:03:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。