論文の概要: Efficient Multiplayer Battle Game Optimizer for Adversarial Robust Neural Architecture Search
- arxiv url: http://arxiv.org/abs/2403.10100v1
- Date: Fri, 15 Mar 2024 08:45:32 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-18 17:59:52.059777
- Title: Efficient Multiplayer Battle Game Optimizer for Adversarial Robust Neural Architecture Search
- Title(参考訳): 対戦型ロバストニューラルネットワーク探索のための効率的なマルチプレイヤーバトルゲーム最適化
- Authors: Rui Zhong, Yuefeng Xu, Chao Zhang, Jun Yu,
- Abstract要約: 本稿では,効率的なマルチプレイヤーバトルゲーム(EMBGO)として知られるメタヒューリスティックアルゴリズムを提案する。
この研究の背後にある動機は、元のMBGOの欠点を正す必要があることにある。
EMBGOは、移動と戦闘フェーズを統合することでこれらの制限を緩和し、元の最適化フレームワークを簡素化し、探索効率を向上させる。
- 参考スコア(独自算出の注目度): 14.109964882720249
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper introduces a novel metaheuristic algorithm, known as the efficient multiplayer battle game optimizer (EMBGO), specifically designed for addressing complex numerical optimization tasks. The motivation behind this research stems from the need to rectify identified shortcomings in the original MBGO, particularly in search operators during the movement phase, as revealed through ablation experiments. EMBGO mitigates these limitations by integrating the movement and battle phases to simplify the original optimization framework and improve search efficiency. Besides, two efficient search operators: differential mutation and L\'evy flight are introduced to increase the diversity of the population. To evaluate the performance of EMBGO comprehensively and fairly, numerical experiments are conducted on benchmark functions such as CEC2017, CEC2020, and CEC2022, as well as engineering problems. Twelve well-established MA approaches serve as competitor algorithms for comparison. Furthermore, we apply the proposed EMBGO to the complex adversarial robust neural architecture search (ARNAS) tasks and explore its robustness and scalability. The experimental results and statistical analyses confirm the efficiency and effectiveness of EMBGO across various optimization tasks. As a potential optimization technique, EMBGO holds promise for diverse applications in real-world problems and deep learning scenarios. The source code of EMBGO is made available in \url{https://github.com/RuiZhong961230/EMBGO}.
- Abstract(参考訳): 本稿では,複雑な数値最適化タスクに特化して設計された,効率的なマルチプレイヤーバトルゲームオプティマイザ(EMBGO)と呼ばれるメタヒューリスティックアルゴリズムを提案する。
この研究の背後にある動機は、アブレーション実験で明らかになったように、元のMBGO、特に運動期における探索オペレーターの欠点を正す必要があることにある。
EMBGOは、移動と戦闘フェーズを統合することでこれらの制限を緩和し、元の最適化フレームワークを簡素化し、探索効率を向上させる。
さらに、差分突然変異とL''evyフライトという2つの効率的な探索演算子を導入し、個体数の多様性を高める。
EMBGOの性能を包括的かつ公平に評価するために,CEC2017,CEC2020,CEC2022などのベンチマーク関数および工学的問題に対して数値実験を行った。
12の確立されたMAアプローチは、比較のための競合アルゴリズムとして機能する。
さらに,提案したEMBGOを,ARNASタスクに応用し,その堅牢性と拡張性について検討する。
実験結果と統計的解析により,様々な最適化タスクにおけるEMBGOの有効性と有効性を確認した。
潜在的な最適化手法として、EMBGOは現実世界の問題やディープラーニングのシナリオにおける多様な応用を約束している。
EMBGOのソースコードは \url{https://github.com/RuiZhong961230/EMBGO} で公開されている。
関連論文リスト
- Reinforced In-Context Black-Box Optimization [67.02295929937829]
RIBBOは、オフラインデータからエンドツーエンドでBBOアルゴリズムを強化学習する手法である。
RIBBOは、複数の動作アルゴリズムとタスクによって生成された最適化履歴を学習するために、表現的なシーケンスモデルを使用している。
提案手法の中心となるのは,履歴の累積的後悔に基づくアルゴリズムの性能を表現するために,後悔から後悔へのトークンで最適化履歴を増大させることである。
論文 参考訳(メタデータ) (2024-02-27T11:32:14Z) - Federated Conditional Stochastic Optimization [110.513884892319]
条件付き最適化は、不変学習タスク、AUPRC、AMLなど、幅広い機械学習タスクで見られる。
本稿では,分散フェデレーション学習のためのアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-10-04T01:47:37Z) - Improving Performance Insensitivity of Large-scale Multiobjective
Optimization via Monte Carlo Tree Search [7.34812867861951]
モンテカルロ木探索に基づく大規模多目的最適化問題の解法を提案する。
提案手法は,モンテカルロ木上に新たなノードを構築するための決定変数をサンプリングし,最適化と評価を行う。
大規模な決定変数による性能感度を低下させるために、さらなる探索のための評価が良いノードを選択する。
論文 参考訳(メタデータ) (2023-04-08T17:15:49Z) - Hybrid ACO-CI Algorithm for Beam Design problems [0.4397520291340694]
The novel hybrid version of the Ant colony optimization (ACO) method was developed using the sample space reduction technique of the Cohort Intelligence (CI) algorithm。
提案した研究は、工学領域や医療問題を含む現実世界の応用について検討することができる。
論文 参考訳(メタデータ) (2023-03-29T04:37:14Z) - Improved Algorithms for Neural Active Learning [74.89097665112621]
非パラメトリックストリーミング設定のためのニューラルネットワーク(NN)ベースの能動学習アルゴリズムの理論的および経験的性能を改善する。
本研究では,SOTA(State-of-the-art (State-the-art)) 関連研究で使用されるものよりも,アクティブラーニングに適する人口減少を最小化することにより,2つの後悔の指標を導入する。
論文 参考訳(メタデータ) (2022-10-02T05:03:38Z) - Efficient Non-Parametric Optimizer Search for Diverse Tasks [93.64739408827604]
興味のあるタスクを直接検索できる,スケーラブルで汎用的なフレームワークを初めて提示する。
基礎となる数学表現の自然木構造に着想を得て、空間を超木に再配置する。
我々は,モンテカルロ法を木探索に適用し,レジェクションサンプリングと等価形状検出を備える。
論文 参考訳(メタデータ) (2022-09-27T17:51:31Z) - Battle royale optimizer with a new movement strategy [0.0]
本稿では,探索と利用のバランスを改善するため,改良型BRO(M-BRO)を提案する。
この修正アルゴリズムの複雑さは、元のアルゴリズムと同じである。
その結果, 運動演算子を付加したBROは, 複雑な数値最適化問題を解くのに有効であることがわかった。
論文 参考訳(メタデータ) (2022-01-19T16:36:13Z) - A Simple Evolutionary Algorithm for Multi-modal Multi-objective
Optimization [0.0]
マルチモーダル・多目的最適化問題(MMOP)を解くための定常進化アルゴリズムを提案する。
本報告では,1000関数評価の低計算予算を用いて,様々なテストスイートから得られた21個のMMOPの性能について報告する。
論文 参考訳(メタデータ) (2022-01-18T03:31:11Z) - ZARTS: On Zero-order Optimization for Neural Architecture Search [94.41017048659664]
微分可能なアーキテクチャサーチ (DARTS) は、NASの高効率性のため、一般的なワンショットパラダイムである。
この作業はゼロオーダーの最適化に変わり、上記の近似を強制せずに探索するための新しいNASスキームであるZARTSを提案する。
特に、12ベンチマークの結果は、DARTSの性能が低下するZARTSの顕著な堅牢性を検証する。
論文 参考訳(メタデータ) (2021-10-10T09:35:15Z) - Batch Sequential Adaptive Designs for Global Optimization [5.825138898746968]
効率的なグローバル最適化(EGO)は、高価なブラックボックス最適化問題に対する最も一般的なSAD手法の1つである。
これらの複数点のEGO法では、重い計算とポイントのクラスタリングが障害となる。
本研究では, 改良されたサンプリング/インポータンス・リサンプリング(SIR)法を用いて, 「加速EGO」と呼ばれる新しいバッチSAD法を転送する。
提案したSADの効率は,次元が2~12の9つの古典的テスト関数によって検証される。
論文 参考訳(メタデータ) (2020-10-21T01:11:35Z) - DrNAS: Dirichlet Neural Architecture Search [88.56953713817545]
ディリクレ分布をモデルとした連続緩和型混合重みをランダム変数として扱う。
最近開発されたパスワイズ微分により、ディリクレパラメータは勾配に基づく一般化で容易に最適化できる。
微分可能なNASの大きなメモリ消費を軽減するために, 単純かつ効果的な進行学習方式を提案する。
論文 参考訳(メタデータ) (2020-06-18T08:23:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。