論文の概要: Neural topology optimization: the good, the bad, and the ugly
- arxiv url: http://arxiv.org/abs/2407.13954v1
- Date: Fri, 19 Jul 2024 00:10:56 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-22 19:13:08.101723
- Title: Neural topology optimization: the good, the bad, and the ugly
- Title(参考訳): 神経トポロジー最適化:良い、悪い、悪い
- Authors: Suryanarayanan Manoj Sanu, Alejandro M. Aragon, Miguel A. Bessa,
- Abstract要約: ニューラルネットワーク(NN)は、トポロジ最適化(TO)を通じて逆を推し進めるための大きな約束を持っている
しかし、アプリケーションに関する誤解は続いている。
本稿では、トポロジ最適化(神経風景)に焦点を当てる。
私たちの分析ツールは、まだ初期段階ですが、NNアーキテクチャに関する重要な洞察を明らかにします。
- 参考スコア(独自算出の注目度): 44.99833362998488
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural networks (NNs) hold great promise for advancing inverse design via topology optimization (TO), yet misconceptions about their application persist. This article focuses on neural topology optimization (neural TO), which leverages NNs to reparameterize the decision space and reshape the optimization landscape. While the method is still in its infancy, our analysis tools reveal critical insights into the NNs' impact on the optimization process. We demonstrate that the choice of NN architecture significantly influences the objective landscape and the optimizer's path to an optimum. Notably, NNs introduce non-convexities even in otherwise convex landscapes, potentially delaying convergence in convex problems but enhancing exploration for non-convex problems. This analysis lays the groundwork for future advancements by highlighting: 1) the potential of neural TO for non-convex problems and dedicated GPU hardware (the "good"), 2) the limitations in smooth landscapes (the "bad"), and 3) the complex challenge of selecting optimal NN architectures and hyperparameters for superior performance (the "ugly").
- Abstract(参考訳): ニューラルネットワーク(NN)は、トポロジ最適化(TO)を通じて逆設計を進めるという大きな約束を持っているが、アプリケーションに対する誤解は持続している。
本稿では、NNを活用して決定空間を再パラメータ化し、最適化ランドスケープを再構築する神経トポロジ最適化(neural TO)に焦点を当てる。
この手法はまだ初期段階ですが、我々の分析ツールは、最適化プロセスに対するNNの影響に関する重要な洞察を明らかにします。
NNアーキテクチャの選択は客観的なランドスケープと最適化者の最適への道に大きく影響することを示した。
特に、NNは凸ランドスケープにおいても非凸性を導入し、凸問題の収束を遅らせる可能性があるが、非凸問題の探索を強化する。
この分析は、今後の進歩の土台となる。
1)非凸問題と専用GPUハードウェア(「良い」)に対するニューラルTOの可能性。
2)滑らかな風景(「悪」)の限界、及び
3) 優れたパフォーマンス("ugly")のために最適なNNアーキテクチャとハイパーパラメータを選択するという複雑な課題。
関連論文リスト
- Neural Networks for Generating Better Local Optima in Topology Optimization [0.4543820534430522]
ニューラルネットワーク素材の離散化が、特定の条件下で、より困難な最適化問題において、より優れた局所最適性を見出すことができることを示す。
ニューラルネットワークの材料識別のアドバンテージは、現在の制限との相互作用にある、と強調する。
論文 参考訳(メタデータ) (2024-07-25T11:24:44Z) - Hallmarks of Optimization Trajectories in Neural Networks: Directional Exploration and Redundancy [75.15685966213832]
最適化トラジェクトリのリッチな方向構造をポイントワイズパラメータで解析する。
トレーニング中のスカラーバッチノルムパラメータは,ネットワーク全体のトレーニング性能と一致していることを示す。
論文 参考訳(メタデータ) (2024-03-12T07:32:47Z) - Neural Optimization Machine: A Neural Network Approach for Optimization [10.283797653337132]
制約付き最適化のための新しいニューラルネットワーク(NN)アプローチを提案する。
提案手法はニューラル・オプティマイゼーション・マシン(NOM)と呼ばれる特別設計のNNアーキテクチャとトレーニング/最適化手法を用いている。
論文 参考訳(メタデータ) (2022-08-08T03:34:58Z) - Neural Improvement Heuristics for Graph Combinatorial Optimization
Problems [49.85111302670361]
本稿では,ノード,エッジ,あるいはその両方に情報をエンコードするグラフベースの問題を扱う新しいニューラル改善(NI)モデルを提案する。
提案モデルは,各地区の操作の選択を誘導する丘登頂に基づくアルゴリズムの基本的な構成要素として機能する。
論文 参考訳(メタデータ) (2022-06-01T10:35:29Z) - NerfingMVS: Guided Optimization of Neural Radiance Fields for Indoor
Multi-view Stereo [97.07453889070574]
本稿では,従来のSfM再構成と学習に基づく先行手法を併用した多視点深度推定手法を提案する。
提案手法は室内シーンにおける最先端手法を著しく上回ることを示す。
論文 参考訳(メタデータ) (2021-09-02T17:54:31Z) - What can linear interpolation of neural network loss landscapes tell us? [11.753360538833139]
ロスランドスケープは、人間が理解しやすい方法で可視化することが非常に難しいことで知られています。
この問題に対処する一般的な方法は、ランドスケープの線形スライスをプロットすることである。
論文 参考訳(メタデータ) (2021-06-30T11:54:04Z) - A Dynamical View on Optimization Algorithms of Overparameterized Neural
Networks [23.038631072178735]
我々は、一般的に使用される最適化アルゴリズムの幅広いクラスについて考察する。
その結果、ニューラルネットワークの収束挙動を利用することができる。
このアプローチは他の最適化アルゴリズムやネットワーク理論にも拡張できると考えています。
論文 参考訳(メタデータ) (2020-10-25T17:10:22Z) - Persistent Neurons [4.061135251278187]
本稿では,学習課題を最適化するトラジェクトリベースの戦略を提案する。
永続ニューロンは、決定論的誤差項によって個々の更新が破損する勾配情報バイアスを持つ方法とみなすことができる。
完全かつ部分的なパーシステンスモデルの評価を行い、NN構造における性能向上に有効であることを示す。
論文 参考訳(メタデータ) (2020-07-02T22:36:49Z) - The Hidden Convex Optimization Landscape of Two-Layer ReLU Neural
Networks: an Exact Characterization of the Optimal Solutions [51.60996023961886]
コーン制約のある凸最適化プログラムを解くことにより,グローバルな2層ReLUニューラルネットワークの探索が可能であることを示す。
我々の分析は新しく、全ての最適解を特徴づけ、最近、ニューラルネットワークのトレーニングを凸空間に持ち上げるために使われた双対性に基づく分析を活用できない。
論文 参考訳(メタデータ) (2020-06-10T15:38:30Z) - Self-Directed Online Machine Learning for Topology Optimization [58.920693413667216]
自己指向型オンライン学習最適化は、ディープニューラルネットワーク(DNN)と有限要素法(FEM)計算を統合している。
本アルゴリズムは, コンプライアンスの最小化, 流体構造最適化, 伝熱促進, トラス最適化の4種類の問題によって検証された。
その結果, 直接使用法と比較して計算時間を2~5桁削減し, 実験で検証した全ての最先端アルゴリズムより優れていた。
論文 参考訳(メタデータ) (2020-02-04T20:00:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。