論文の概要: A Zeroth-Order Block Coordinate Descent Algorithm for Huge-Scale
Black-Box Optimization
- arxiv url: http://arxiv.org/abs/2102.10707v1
- Date: Sun, 21 Feb 2021 23:06:35 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-23 15:27:10.913593
- Title: A Zeroth-Order Block Coordinate Descent Algorithm for Huge-Scale
Black-Box Optimization
- Title（参考訳）: 大規模ブラックボックス最適化のためのゼロオーダーブロックコーディネートディサントアルゴリズム
- Authors: HanQin Cai, Yuchen Lou, Daniel McKenzie, Wotao Yin
- Abstract要約: 本論文では,全クエリの複雑性が良好で,イテレーション毎の計算複雑性がはるかに小さい,新たなアルゴリズムであるZO-BCDを提案する。
ウェーブレットドメインのオーディオ分類器に対する攻撃例の作成は、97.9%の最先端攻撃成功率を達成できることを示す。
- 参考スコア（独自算出の注目度）: 19.718963603008294
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We consider the zeroth-order optimization problem in the huge-scale setting,
where the dimension of the problem is so large that performing even basic
vector operations on the decision variables is infeasible. In this paper, we
propose a novel algorithm, coined ZO-BCD, that exhibits favorable overall query
complexity and has a much smaller per-iteration computational complexity. In
addition, we discuss how the memory footprint of ZO-BCD can be reduced even
further by the clever use of circulant measurement matrices. As an application
of our new method, we propose the idea of crafting adversarial attacks on
neural network based classifiers in a wavelet domain, which can result in
problem dimensions of over 1.7 million. In particular, we show that crafting
adversarial examples to audio classifiers in a wavelet domain can achieve the
state-of-the-art attack success rate of 97.9%.
- Abstract（参考訳）: 問題の大きさがあまりに大きいため,決定変数に対する基本ベクトル演算さえも実現不可能な,大規模環境におけるゼロ階最適化問題を考える。
本稿では,総問合せ複雑性が良好で,文単位の計算複雑性がはるかに小さいzo-bcdという新しいアルゴリズムを提案する。
さらに,循環式測定行列を巧みに利用することで,zo-bcdのメモリフットプリントをさらに削減できることを示す。
本手法の適用例として,ウェーブレット領域におけるニューラルネットワークに基づく分類器に対する敵攻撃を作れば,問題次元が170万を超える可能性がある。
特に、ウェーブレット領域における音声分類器の対角的例を作成することで、最先端の攻撃成功率97.9%を達成できることを示す。
関連論文リスト
- Compressed sensing enhanced by quantum approximate optimization algorithm [0.0]
本稿では,量子サブルーチンを用いた大規模圧縮センシング問題に対処する枠組みを提案する。
本研究は, 量子コンピュータを圧縮センシング分野に適用する有望な方法を探るものである。
論文 参考訳（メタデータ） (2024-03-26T05:26:51Z) - An Efficient Algorithm for Clustered Multi-Task Compressive Sensing [60.70532293880842]
クラスタ化マルチタスク圧縮センシングは、複数の圧縮センシングタスクを解決する階層モデルである。
このモデルに対する既存の推論アルゴリズムは計算コストが高く、高次元ではうまくスケールしない。
本稿では,これらの共分散行列を明示的に計算する必要をなくし,モデル推論を大幅に高速化するアルゴリズムを提案する。
論文 参考訳（メタデータ） (2023-09-30T15:57:14Z) - ES-Based Jacobian Enables Faster Bilevel Optimization [53.675623215542515]
バイレベル最適化(BO)は多くの現代の機械学習問題を解決する強力なツールとして生まれてきた。
既存の勾配法では、ヤコビアンあるいはヘッセンベクトル計算による二階微分近似が必要となる。
本稿では,進化戦略(ES)に基づく新しいBOアルゴリズムを提案し,BOの過勾配における応答ヤコビ行列を近似する。
論文 参考訳（メタデータ） (2021-10-13T19:36:50Z) - Sparse and Imperceptible Adversarial Attack via a Homotopy Algorithm [93.80082636284922]
少数の敵対的攻撃は、数ピクセルを摂動するだけでディープ・ネットワーク(DNN)を騙すことができる。
近年の取り組みは、他の等級のl_infty摂動と組み合わせている。
本稿では,空間的・神経的摂動に対処するホモトピーアルゴリズムを提案する。
論文 参考訳（メタデータ） (2021-06-10T20:11:36Z) - Targeted Attack against Deep Neural Networks via Flipping Limited Weight
Bits [55.740716446995805]
我々は,悪質な目的で展開段階におけるモデルパラメータを修飾する新しい攻撃パラダイムについて検討する。
私たちのゴールは、特定のサンプルをサンプル修正なしでターゲットクラスに誤分類することです。
整数プログラミングにおける最新の手法を利用することで、このBIP問題を連続最適化問題として等価に再構成する。
論文 参考訳（メタデータ） (2021-02-21T03:13:27Z) - Scaling Up Bayesian Uncertainty Quantification for Inverse Problems
using Deep Neural Networks [2.455468619225742]
本稿では,エミュレーションフェーズのためのディープニューラルネットワーク(DNN)モデルに基づくベイズ推論のための新しいCESアプローチを提案する。
結果として得られるアルゴリズムは、計算効率が向上するだけでなく、トレーニングセットに対する感度も低下する。
全体として,提案手法はEmphReduced-Dimension Emulative Autoencoder Monte Carlo (DREAM)アルゴリズムと呼ばれ,物理制約された逆問題においてベイズUQを数千次元まで拡張することができる。
論文 参考訳（メタデータ） (2021-01-11T14:18:38Z) - A black-box adversarial attack for poisoning clustering [78.19784577498031]
本稿では,クラスタリングアルゴリズムのロバスト性をテストするために,ブラックボックス対逆攻撃法を提案する。
我々の攻撃は、SVM、ランダムフォレスト、ニューラルネットワークなどの教師付きアルゴリズムに対しても転送可能であることを示す。
論文 参考訳（メタデータ） (2020-09-09T18:19:31Z) - An Empirical Process Approach to the Union Bound: Practical Algorithms
for Combinatorial and Linear Bandits [34.06611065493047]
本稿では、信頼度と予算設定の固定化において、純探索線形帯域問題に対する近似アルゴリズムを提案する。
サンプルの複雑性がインスタンスの幾何でスケールし、アームの数に縛られた明示的な結合を避けるアルゴリズムを提供する。
また,固定予算設定における線形帯域幅に対する最初のアルゴリズムを提案する。
論文 参考訳（メタデータ） (2020-06-21T00:56:33Z) - Effective Dimension Adaptive Sketching Methods for Faster Regularized
Least-Squares Optimization [56.05635751529922]
スケッチに基づくL2正規化最小二乗問題の解法を提案する。
我々は、最も人気のあるランダム埋め込みの2つ、すなわちガウス埋め込みとサブサンプリングランダム化アダマール変換(SRHT)を考える。
論文 参考訳（メタデータ） (2020-06-10T15:00:09Z) - Towards Solving Large-scale Expensive Optimization Problems Efficiently
Using Coordinate Descent Algorithm [3.1600708674008393]
計算予算が限られているLSEGO問題に対処するために,修正された座標 Descent アルゴリズム (MCD) を提案する。
提案アルゴリズムは,関心領域の探索と,指数速度で半分に折り畳むことで検索空間の縮小という,2つの主要なステップの恩恵を受ける。
提案アルゴリズムは,次元1000の20個のベンチマーク関数上でのデルタグルーピングと協調的共進化との比較を行った。
論文 参考訳（メタデータ） (2020-03-07T22:48:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。