論文の概要: Black-Box Adversarial Example Attacks on Machine Learning based Election Systems
- arxiv url: http://arxiv.org/abs/2611.02166v1
- Date: Sun, 01 Nov 2026 20:06:39 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-03 19:12:12.212838
- Title: Black-Box Adversarial Example Attacks on Machine Learning based Election Systems
- Title（参考訳）: 機械学習に基づく選挙システムにおけるブラックボックス対応事例攻撃
- Abstract要約: 我々は,現実的なブラックボックス敵を分析することによって,選挙システムにおける機械学習の分野を推し進める。
我々は、クエリベースのADBA、Square、SurFree、RayS、SAMOOという11の最先端のブラックボックス攻撃を実装し、評価する。
デジタル分析に加えて、2万ドルを物理的に印刷・スキャンし、異なるブラックボックス攻撃の実際の性能を評価する。
- 参考スコア（独自算出の注目度）: 0.6603060053262354
- License:
- Abstract: Machine learning models have shown exceptional accuracy for ballot classification in election systems. Recent research has demonstrated that these ballot classification models are vulnerable to adversarial example attacks. This is a critical security issue because a successful attack could alter the outcome of an election and undermine the democratic process. However, all adversarial example attacks in the voting domain have assumed a white-box threat model, where the classifier parameters are known. In this work, we advance the field of machine learning in election systems by analyzing a realistic black-box adversary. We implement and evaluate eleven state-of-the-art black-box attacks: query based attacks ADBA, Square, SurFree, RayS, and SA-MOO. We also test adaptive transfer based black-box attacks with APGD-$l_\infty$, APGD-$l_2$, APGD-$l_1$, PGD $l_0$, PGD $l_0$+$l_\infty$, and PGD $l_0$+$σ$. Our attacks span multiple different norms ($l_\infty$, $l_2$, $l_1$, and $l_0$) and three different black-box adversarial threat models (decision based, score based and transfer based). In addition to digital analyses, we physically print and scan $20,000$ adversarial examples to evaluate the real-world performance of different black-box attacks. Our finding demonstrate an even larger physical-digital robustness gap exists for black-box adversarial examples than for white-box adversarial examples. Lastly, we conduct the first ever adversarial example transferability study in the voting domain and test adversarial training and barrier zones as two possible black-box defense strategies.
- Abstract（参考訳）: 機械学習モデルは、選挙システムにおける投票分類において例外的な精度を示している。
近年の研究では、これらの投票分類モデルが敵のサンプル攻撃に弱いことが示されている。
攻撃の成功によって選挙の結果が変化し、民主的プロセスが損なわれる可能性があるため、これは重要なセキュリティ問題である。
しかし、投票領域における全ての逆例攻撃は、分類器パラメータが知られているホワイトボックス脅威モデルを想定している。
本研究では,現実的なブラックボックス敵を解析することにより,選挙システムにおける機械学習の分野を前進させる。
我々は、ADBA、Square、SurFree、RayS、SA-MOOという11の最先端のブラックボックス攻撃を実装し、評価する。
また、APGD-$l_\infty$, APGD-$l_1$, APGD-$l_0$, PGD $l_0$, PGD $l_0$+$l_\infty$, PGD $l_0$+$σ$を用いて、適応転送に基づくブラックボックス攻撃をテストする。
我々の攻撃は、複数の異なる規範(l_\infty$, $l_2$, $l_1$, $l_0$)と3つの異なるブラックボックス敵脅威モデル(決定ベース、スコアベース、転送ベース)にまたがる。
デジタル分析に加えて、異なるブラックボックス攻撃の現実世界のパフォーマンスを評価するために、2万ドルを物理的に印刷・スキャンする。
我々の発見は、ブラックボックスの敵の例では、ホワイトボックスの敵の例よりも、さらに大きな物理的・デジタル的堅牢性ギャップが存在することを示している。
最後に,ブラックボックス防衛戦略として,投票領域における対人移動可能性の調査と,対人訓練とバリアゾーンのテストを行った。
関連論文リスト
- Random Logit Scaling: Defending Deep Neural Networks Against Black-Box Score-Based Adversarial Example Attacks [1.2132884030603328]
ブラックボックス攻撃と防衛の2つの分野に貢献する。
まず,ランダムロジットスケーリング(RLS, Random Logit Scaling)を提案する。
第2に,SOTA非ランダム化されたブラックボックス攻撃であるAAAに対して,ブラックボックススコアベース攻撃に対する適応攻撃を新たに導入する。
論文 参考訳（メタデータ） (2026-07-16T12:39:17Z) - Analyzing Physical Adversarial Example Threats to Machine Learning in Election Systems [1.747700207215688]
我々は、米国の選挙を危険にさらすために、機械学習の投票者に対する敵対的な例を配置しようとする攻撃者を分析する。
まず、各候補者の当選確率と投票総数の観点から、選挙を覆すために印刷しなければならない敵のサンプル投票数を決定する確率的枠組みを導出する。
我々は,l_infinity-APGD,l2-APGD,l1-APGD,l0 PGD,l0 + l_infinity PGD,l0 + sigma-map PGDの6種類の対向攻撃を解析した。
論文 参考訳（メタデータ） (2026-02-28T05:49:30Z) - Certifiable Black-Box Attacks with Randomized Adversarial Examples: Breaking Defenses with Provable Confidence [34.35162562625252]
ブラックボックスの敵攻撃は、機械学習モデルを妥協する強力な可能性を示している。
証明可能な保証付きブラックボックス攻撃の新たなパラダイムについて検討する。
この新しいブラックボックス攻撃は、機械学習モデルの重大な脆弱性を露呈する。
論文 参考訳（メタデータ） (2023-04-10T01:12:09Z) - Stateful Defenses for Machine Learning Models Are Not Yet Secure Against
Black-box Attacks [28.93464970650329]
我々は、ステートフルディフェンスモデル(SDM)が、新しいタイプの適応ブラックボックス攻撃に対して非常に脆弱であることを示す。
我々はOracle-Guided Adaptive Rejection Smpling (OARS)と呼ばれる新しい適応ブラックボックス攻撃戦略を提案する。
本研究では,6つの共通ブラックボックス攻撃を強化する戦略を,現行のSDMに対して効果的に適用する方法を示す。
論文 参考訳（メタデータ） (2023-03-11T02:10:21Z) - Zero-Query Transfer Attacks on Context-Aware Object Detectors [95.18656036716972]
敵は、ディープニューラルネットワークが誤った分類結果を生成するような摂動画像を攻撃する。
自然の多目的シーンに対する敵対的攻撃を防御するための有望なアプローチは、文脈整合性チェックを課すことである。
本稿では,コンテキスト整合性チェックを回避可能な,コンテキスト整合性攻撃を生成するための最初のアプローチを提案する。
論文 参考訳（メタデータ） (2022-03-29T04:33:06Z) - Parallel Rectangle Flip Attack: A Query-based Black-box Attack against
Object Detection [89.08832589750003]
本稿では,攻撃領域近傍の準最適検出を回避するために,ランダム探索による並列矩形フリップ攻撃(PRFA)を提案する。
提案手法は, アンカーベースやアンカーフリーなど, 様々な人気物体検出装置を効果的かつ効率的に攻撃し, 転送可能な対向例を生成する。
論文 参考訳（メタデータ） (2022-01-22T06:00:17Z) - Local Black-box Adversarial Attacks: A Query Efficient Approach [64.98246858117476]
アドリアックは、セキュリティに敏感なシナリオにおけるディープニューラルネットワークの適用を脅かしている。
ブラックボックス攻撃における限られたクエリ内でのみクリーンな例の識別領域を摂動させる新しいフレームワークを提案する。
攻撃成功率の高いブラックボックス摂動時のクエリ効率を大幅に改善できることを示すため,広範な実験を行った。
論文 参考訳（メタデータ） (2021-01-04T15:32:16Z) - Two Sides of the Same Coin: White-box and Black-box Attacks for Transfer
Learning [60.784641458579124]
ホワイトボックスFGSM攻撃によるモデルロバスト性を効果的に向上することを示す。
また,移動学習モデルに対するブラックボックス攻撃手法を提案する。
ホワイトボックス攻撃とブラックボックス攻撃の双方の効果を系統的に評価するために,ソースモデルからターゲットモデルへの変換可能性の評価手法を提案する。
論文 参考訳（メタデータ） (2020-08-25T15:04:32Z) - Simple and Efficient Hard Label Black-box Adversarial Attacks in Low
Query Budget Regimes [80.9350052404617]
そこで我々は,ブラックボックス攻撃の簡易かつ効率的なベイズ最適化(BO)に基づく手法を提案する。
高次元におけるBOの性能に関する問題は、構造化された低次元部分空間における逆例を探すことによって回避される。
提案手法は,10倍から20倍のクエリを必要としながら,攻撃成功率を2倍から10倍に向上させる。
論文 参考訳（メタデータ） (2020-07-13T04:34:57Z) - Spanning Attack: Reinforce Black-box Attacks with Unlabeled Data [96.92837098305898]
Black-box攻撃は、機械学習モデルのインプット・アウトプットペアをクエリすることで、敵の摂動を発生させることを目的としている。
ブラックボックス攻撃はしばしば、入力空間の高次元性のためにクエリ非効率性の問題に悩まされる。
本研究では,低次元部分空間における逆摂動を,補助的なラベルのないデータセットに分散させることで抑制するスパンニング攻撃と呼ばれる新しい手法を提案する。
論文 参考訳（メタデータ） (2020-05-11T05:57:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。