論文の概要: Automated Metaheuristic Algorithm Design with Autoregressive Learning
- arxiv url: http://arxiv.org/abs/2405.03419v1
- Date: Mon, 6 May 2024 12:36:17 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-07 13:46:36.254725
- Title: Automated Metaheuristic Algorithm Design with Autoregressive Learning
- Title（参考訳）: 自己回帰学習を用いたメタヒューリスティックアルゴリズムの自動設計
- Authors: Qi Zhao, Tengfei Liu, Bai Yan, Qiqi Duan, Jian Yang, Yuhui Shi,
- Abstract要約: 現在の自動化手法は、固定された構造内でアルゴリズムを設計し、ゼロから操作する。
本稿ではメタヒューリスティックアルゴリズムの自動設計のための自己回帰学習に基づくデザイナを提案する。
- 参考スコア（独自算出の注目度）: 25.967262411437403
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Automated design of metaheuristic algorithms offers an attractive avenue to reduce human effort and gain enhanced performance beyond human intuition. Current automated methods design algorithms within a fixed structure and operate from scratch. This poses a clear gap towards fully discovering potentials over the metaheuristic family and fertilizing from prior design experience. To bridge the gap, this paper proposes an autoregressive learning-based designer for automated design of metaheuristic algorithms. Our designer formulates metaheuristic algorithm design as a sequence generation task, and harnesses an autoregressive generative network to handle the task. This offers two advances. First, through autoregressive inference, the designer generates algorithms with diverse lengths and structures, enabling to fully discover potentials over the metaheuristic family. Second, prior design knowledge learned and accumulated in neurons of the designer can be retrieved for designing algorithms for future problems, paving the way to continual design of algorithms for open-ended problem-solving. Extensive experiments on numeral benchmarks and real-world problems reveal that the proposed designer generates algorithms that outperform all human-created baselines on 24 out of 25 test problems. The generated algorithms display various structures and behaviors, reasonably fitting for different problem-solving contexts. Code will be released after paper publication.
- Abstract（参考訳）: メタヒューリスティックアルゴリズムの自動設計は、人間の労力を減らし、人間の直感を超えてパフォーマンスを向上させるための魅力的な道を提供する。
現在の自動化手法は、固定された構造内でアルゴリズムを設計し、ゼロから操作する。
これはメタヒューリスティックなファミリーに対するポテンシャルの完全な発見と、事前の設計経験からの肥大化への明確なギャップを生じさせる。
このギャップを埋めるために,メタヒューリスティックアルゴリズムの自動設計のための自己回帰学習に基づくデザイナを提案する。
設計者は,メタヒューリスティックなアルゴリズム設計をシーケンス生成タスクとして定式化し,自動回帰生成ネットワークを利用してタスクを処理する。
これには2つの進歩がある。
第一に、自己回帰推論により、設計者は様々な長さと構造を持つアルゴリズムを生成し、メタヒューリスティックなファミリー上のポテンシャルを完全に発見することができる。
第二に、デザイナのニューロンに学習され蓄積された事前の設計知識は、将来の問題のアルゴリズムを設計し、オープンエンドの問題解決のためのアルゴリズムを連続的に設計する方法を提供する。
数値ベンチマークと実世界の問題に対する大規模な実験により、提案したデザイナは、25の試験問題のうち24の点において、人間が作ったすべてのベースラインを上回るアルゴリズムを生成することが明らかになった。
生成されたアルゴリズムは様々な構造や振る舞いを示し、異なる問題解決状況に適している。
コードは論文発表後に公開される。
関連論文リスト
- A Generalized Evolutionary Metaheuristic (GEM) Algorithm for Engineering Optimization [1.6589012298747952]
近年の大きなトレンドは、自然に着想を得たメタヒュースティックアルゴリズム(NIMA)の利用である。
文献には540以上のアルゴリズムがあり、異なるアルゴリズムの探索機構を理解するための統一的なフレームワークはない。
20以上の異なるアルゴリズムを統一する一般化された進化的メタヒューリスティックアルゴリズムを提案する。
論文 参考訳（メタデータ） (2024-07-02T09:55:15Z) - Contractual Reinforcement Learning: Pulling Arms with Invisible Hands [68.77645200579181]
本稿では,契約設計によるオンライン学習問題において,利害関係者の経済的利益を整合させる理論的枠組みを提案する。
計画問題に対して、遠目エージェントに対する最適契約を決定するための効率的な動的プログラミングアルゴリズムを設計する。
学習問題に対して,契約の堅牢な設計から探索と搾取のバランスに至るまでの課題を解き放つために,非回帰学習アルゴリズムの汎用設計を導入する。
論文 参考訳（メタデータ） (2024-07-01T16:53:00Z) - Automated Design of Metaheuristic Algorithms: A Survey [16.5686507795359]
本稿ではメタヒューリスティックアルゴリズムの自動設計について概説する。
コンピューターパワーによって、潜在的な設計選択を完全に探求し、自動化された設計は人間レベルの設計に到達し、さらに超える可能性がある。
論文 参考訳（メタデータ） (2023-03-12T01:20:49Z) - Investigating Positive and Negative Qualities of Human-in-the-Loop
Optimization for Designing Interaction Techniques [55.492211642128446]
設計者は、与えられた目的の集合を最大化する設計パラメータの組み合わせを見つけるよう求められる設計最適化タスクに苦労すると言われている。
モデルベースの計算設計アルゴリズムは、設計中に設計例を生成することでデザイナを支援する。
一方、補助のためのブラックボックスメソッドは、あらゆる設計問題に対処できる。
論文 参考訳（メタデータ） (2022-04-15T20:40:43Z) - Automated Design of Salient Object Detection Algorithms with Brain
Programming [3.518016233072556]
本研究は, 突発性物体検出問題の解決を目的とした最近の提案を用いて, 人工背側流の拡大を提案する。
そこで我々は,画像分割アルゴリズムと視覚塩分率の融合をテンプレートとして適用することにした。
本稿では,最先端技術との比較において,専門家が設計したベンチマークの結果について述べる。
論文 参考訳（メタデータ） (2022-04-07T20:21:30Z) - AutoOpt: A General Framework for Automatically Designing Metaheuristic
Optimization Algorithms with Diverse Structures [15.140309031326076]
本稿では,多様な構造を持つメタヒューリスティックアルゴリズムを自動設計するための汎用フレームワークAutoOptを提案する。
メタヒューリスティックファミリーをできるだけ広くカバーするアルゴリズムの一般的なプロトタイプ。
提案したプロトタイプに適合する有向非巡回グラフアルゴリズムの表現。
操作対象のグラフの代替コンパクト形式を提供するグラフ表現埋め込み方法。
論文 参考訳（メタデータ） (2022-04-03T05:31:56Z) - AutoSpace: Neural Architecture Search with Less Human Interference [84.42680793945007]
現在のニューラルネットワークアーキテクチャ検索(NAS)アルゴリズムは、ネットワーク構築のための検索空間を設計するための専門知識と努力を必要とします。
探索空間を最適なものに進化させる新しい微分可能な進化フレームワークであるAutoSpaceを提案する。
学習した検索空間では、最近のNASアルゴリズムの性能は、以前手作業で設計した空間に比べて大幅に改善できる。
論文 参考訳（メタデータ） (2021-03-22T13:28:56Z) - Evolving Reinforcement Learning Algorithms [186.62294652057062]
メタラーニング強化学習アルゴリズムの手法を提案する。
学習アルゴリズムはドメインに依存しないため、トレーニング中に見えない新しい環境に一般化することができる。
従来の制御タスク、gridworld型タスク、atariゲームよりも優れた一般化性能を得る2つの学習アルゴリズムに注目した。
論文 参考訳（メタデータ） (2021-01-08T18:55:07Z) - It's the Journey Not the Destination: Building Genetic Algorithms
Practitioners Can Trust [0.0]
調査は、最適化アルゴリズムに関する設計経験を持つ技術者と学生の態度を示す。
参加者の反応全体で共通するスレッドは、業界内には遺伝的アルゴリズムに対する信頼の問題があるということだ。
参加者はデザインループに留まり続けたいと願っている。
論文 参考訳（メタデータ） (2020-10-13T14:07:30Z) - Learning to Stop While Learning to Predict [85.7136203122784]
多くのアルゴリズムにインスパイアされたディープモデルは全ての入力に対して固定深度に制限される。
アルゴリズムと同様に、深いアーキテクチャの最適深さは、異なる入力インスタンスに対して異なるかもしれない。
本稿では, ステアブルアーキテクチャを用いて, この様々な深さ問題に対処する。
学習した深層モデルと停止ポリシーにより,多様なタスクセットのパフォーマンスが向上することを示す。
論文 参考訳（メタデータ） (2020-06-09T07:22:01Z) - AutoML-Zero: Evolving Machine Learning Algorithms From Scratch [76.83052807776276]
基本数学的操作をビルディングブロックとして使うだけで,完全な機械学習アルゴリズムを自動的に発見できることが示される。
汎用的な検索空間を通じて人間のバイアスを大幅に低減する新しいフレームワークを導入することでこれを実証する。
機械学習アルゴリズムをゼロから発見する上で、これらの予備的な成功は、この分野における有望な新しい方向性を示していると信じている。
論文 参考訳（メタデータ） (2020-03-06T19:00:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。