論文の概要: Towards Optimally Efficient Tree Search with Deep Learning
- arxiv url: http://arxiv.org/abs/2101.02420v4
- Date: Mon, 15 Mar 2021 08:26:14 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-10 18:38:05.407647
- Title: Towards Optimally Efficient Tree Search with Deep Learning
- Title(参考訳): ディープラーニングを用いた最適な木探索に向けて
- Authors: Le He, Ke He, Lisheng Fan, Xianfu Lei, Arumugam Nallanathan and George
K. Karagiannidis
- Abstract要約: 本稿では,線形モデルから信号整数を推定する古典整数最小二乗問題について検討する。
問題はNPハードであり、信号処理、バイオインフォマティクス、通信、機械学習といった様々な応用でしばしば発生する。
本稿では, 深いニューラルネットワークを用いて, 単純化されたメモリバウンドA*アルゴリズムの最適推定を推定し, HATSアルゴリズムを提案する。
- 参考スコア(独自算出の注目度): 76.64632985696237
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper investigates the classical integer least-squares problem which
estimates integer signals from linear models. The problem is NP-hard and often
arises in diverse applications such as signal processing, bioinformatics,
communications and machine learning, to name a few. Since the existing optimal
search strategies involve prohibitive complexities, they are hard to be adopted
in large-scale problems. To address this issue, we propose a general
hyper-accelerated tree search (HATS) algorithm by employing a deep neural
network to estimate the optimal heuristic for the underlying simplified
memory-bounded A* algorithm, and the proposed algorithm can be easily
generalized with other heuristic search algorithms. Inspired by the temporal
difference learning, we further propose a training strategy which enables the
network to approach the optimal heuristic precisely and consistently, thus the
proposed algorithm can reach nearly the optimal efficiency when the estimation
error is small enough. Experiments show that the proposed algorithm can reach
almost the optimal maximum likelihood estimate performance in large-scale
problems, with a very low complexity in both time and space. The code of this
paper is avaliable at https://github.com/skypitcher/hats.
- Abstract(参考訳): 本稿では,線形モデルから整数信号を推定する古典整数最小二乗問題について検討する。
問題はnpハードであり、信号処理、バイオインフォマティクス、コミュニケーション、機械学習など、いくつかのアプリケーションで発生することが多い。
既存の最適探索戦略には禁欲の複雑さが伴うため、大規模な問題に採用することは困難である。
この問題に対処するために,深層ニューラルネットワークを用いて,単純化メモリバウンドa*アルゴリズムの最適ヒューリスティックを推定し,提案アルゴリズムを他のヒューリスティック探索アルゴリズムで容易に一般化できる汎用的なハイパーアクセラレーション木探索(hats)アルゴリズムを提案する。
さらに,時間差学習に触発されて,ネットワークが最適ヒューリスティックに正確かつ一貫してアプローチできるトレーニング戦略を提案し,推定誤差が十分小さい場合には最適効率に到達できることを示す。
実験により,提案アルゴリズムは大規模問題において,時間と空間の両面で非常に低い複雑さで,最大推定性能をほぼ最大にすることができることが示された。
本論文のコードはhttps://github.com/skypitcher/hats.comで検証可能である。
関連論文リスト
- Quality-Diversity Algorithms Can Provably Be Helpful for Optimization [24.694984679399315]
QD(Quality-Diversity)アルゴリズムは、ハイパフォーマンスだが多様なソリューションのセットを見つけることを目的としている。
本稿では,厳密な実行時間解析によってQDアルゴリズムの最適化能力に光を当てようとしている。
論文 参考訳(メタデータ) (2024-01-19T07:40:24Z) - Neural Algorithmic Reasoning for Combinatorial Optimisation [20.36694807847833]
ニューラル推論の最近の進歩を活用して,CO問題の学習を改善することを提案する。
私たちは、COインスタンスでトレーニングする前に、関連するアルゴリズムでニューラルネットワークを事前トレーニングすることを提案します。
以上の結果から,この学習装置を用いることで,非アルゴリズム的情報深層学習モデルよりも優れた性能が得られることが示された。
論文 参考訳(メタデータ) (2023-05-18T13:59:02Z) - Dual Algorithmic Reasoning [9.701208207491879]
本稿では,基礎となるアルゴリズム問題の双対性を利用してアルゴリズムを学習することを提案する。
アルゴリズム学習における最適化問題の2つの定義を同時に学習することで、より良い学習が可能になることを実証する。
次に、難易度の高い脳血管分類タスクにデプロイすることで、二元アルゴリズム推論の現実的な実用性を検証する。
論文 参考訳(メタデータ) (2023-02-09T08:46:23Z) - Provably Faster Algorithms for Bilevel Optimization [54.83583213812667]
バイレベル最適化は多くの重要な機械学習アプリケーションに広く適用されている。
両レベル最適化のための2つの新しいアルゴリズムを提案する。
両アルゴリズムが$mathcalO(epsilon-1.5)$の複雑さを達成し,既存のアルゴリズムを桁違いに上回っていることを示す。
論文 参考訳(メタデータ) (2021-06-08T21:05:30Z) - A bi-level encoding scheme for the clustered shortest-path tree problem
in multifactorial optimization [1.471992435706872]
CluSPT(Clustered Shortest-Path Tree Problem)は、実生活における様々な最適化問題において重要な役割を果たしている。
近年、CluSPTを扱うためにMFEA(Multifactorial Evolutionary Algorithm)が導入されている。
本稿では,MFEAに基づくCluSPTの解法について述べる。
論文 参考訳(メタデータ) (2021-02-12T13:36:07Z) - Community detection using fast low-cardinality semidefinite programming [94.4878715085334]
局所的な更新を一般化し、ライデン-k-カットから導かれる半定緩和を最大化する、新しい低カルチナリティアルゴリズムを提案する。
提案アルゴリズムはスケーラビリティが高く,最先端のアルゴリズムより優れ,実時間では性能が向上し,追加コストがほとんどない。
論文 参考訳(メタデータ) (2020-12-04T15:46:30Z) - Online Model Selection for Reinforcement Learning with Function
Approximation [50.008542459050155]
我々は、$tildeO(L5/6 T2/3)$ regretで最適な複雑性に適応するメタアルゴリズムを提案する。
また、メタアルゴリズムは、インスタンス依存の後悔境界を著しく改善することを示す。
論文 参考訳(メタデータ) (2020-11-19T10:00:54Z) - Efficient Computation of Expectations under Spanning Tree Distributions [67.71280539312536]
本稿では,エッジファクター,非プロジェクティブ・スパンニングツリーモデルにおいて,一階期待と二階期待の重要なケースに対する統一アルゴリズムを提案する。
我々のアルゴリズムは勾配と期待の基本的な関係を利用しており、効率的なアルゴリズムを導出することができる。
論文 参考訳(メタデータ) (2020-08-29T14:58:26Z) - Learning to Accelerate Heuristic Searching for Large-Scale Maximum
Weighted b-Matching Problems in Online Advertising [51.97494906131859]
バイパルタイトbマッチングはアルゴリズム設計の基本であり、経済市場や労働市場などに広く適用されている。
既存の正確で近似的なアルゴリズムは、通常そのような設定で失敗する。
我々は、以前の事例から学んだ知識を活用して、新しい問題インスタンスを解決するtextttNeuSearcherを提案する。
論文 参考訳(メタデータ) (2020-05-09T02:48:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。