論文の概要: Optimization Networks for Integrated Machine Learning
- arxiv url: http://arxiv.org/abs/2110.00415v1
- Date: Wed, 1 Sep 2021 08:25:01 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-16 10:44:15.855011
- Title: Optimization Networks for Integrated Machine Learning
- Title(参考訳): 統合機械学習のための最適化ネットワーク
- Authors: Michael Kommenda, Johannes Karder, Andreas Beham, Bogdan Burlacu,
Gabriel Kronberger, Stefan Wagner, Michael Affenzeller
- Abstract要約: 最適化ネットワークの中核となる原理を再考し、機械学習の問題を解決するための適合性を実証する。
我々は、他の機械学習問題を解決するためにネットワークを適応させることにより、最適化ネットワークの利点を正当化する。
- 参考スコア(独自算出の注目度): 4.279210021862033
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Optimization networks are a new methodology for holistically solving
interrelated problems that have been developed with combinatorial optimization
problems in mind. In this contribution we revisit the core principles of
optimization networks and demonstrate their suitability for solving machine
learning problems. We use feature selection in combination with linear model
creation as a benchmark application and compare the results of optimization
networks to ordinary least squares with optional elastic net regularization.
Based on this example we justify the advantages of optimization networks by
adapting the network to solve other machine learning problems. Finally,
optimization analysis is presented, where optimal input values of a system have
to be found to achieve desired output values. Optimization analysis can be
divided into three subproblems: model creation to describe the system, model
selection to choose the most appropriate one and parameter optimization to
obtain the input values. Therefore, optimization networks are an obvious choice
for handling optimization analysis tasks.
- Abstract(参考訳): 最適化ネットワークは、組合せ最適化問題を念頭に置いて開発された相互関連問題を解決するための新しい手法である。
このコントリビューションでは、最適化ネットワークのコア原則を再検討し、機械学習問題を解決する上での適合性を示す。
ベンチマークアプリケーションとして線形モデル生成と組み合わせて特徴選択を行い、最適化ネットワークの結果を通常の最小二乗とオプションの弾性ネット正規化と比較する。
この例に基づいて,ネットワークを他の機械学習問題に適用することにより,最適化ネットワークの利点を正当化する。
最後に最適化分析を行い、所望の出力値を達成するためにはシステムの最適入力値を見出す必要がある。
最適化分析は、システムを記述するためのモデル作成、最も適切なものを選択するモデル選択、入力値を得るためにパラメータ最適化の3つのサブプロブレムに分けられる。
したがって、最適化ネットワークは最適化分析タスクを扱うための明らかな選択である。
関連論文リスト
- Self-Supervised Learning of Iterative Solvers for Constrained Optimization [0.0]
制約付き最適化のための学習型反復解法を提案する。
解法を特定のパラメトリック最適化問題にカスタマイズすることで、非常に高速で正確な解を得ることができる。
最適性のKarush-Kuhn-Tucker条件に基づく新しい損失関数を導入し、両ニューラルネットワークの完全な自己教師付きトレーニングを可能にする。
論文 参考訳(メタデータ) (2024-09-12T14:17:23Z) - Learning Joint Models of Prediction and Optimization [56.04498536842065]
Predict-Then-Thenフレームワークは、機械学習モデルを使用して、最適化問題の未知のパラメータを、解決前の機能から予測する。
本稿では,共同予測モデルを用いて観測可能特徴から最適解を直接学習する手法を提案する。
論文 参考訳(メタデータ) (2024-09-07T19:52:14Z) - Neural Networks for Generating Better Local Optima in Topology Optimization [0.4543820534430522]
ニューラルネットワーク素材の離散化が、特定の条件下で、より困難な最適化問題において、より優れた局所最適性を見出すことができることを示す。
ニューラルネットワークの材料識別のアドバンテージは、現在の制限との相互作用にある、と強調する。
論文 参考訳(メタデータ) (2024-07-25T11:24:44Z) - Analyzing and Enhancing the Backward-Pass Convergence of Unrolled
Optimization [50.38518771642365]
ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。
この設定における中心的な課題は最適化問題の解によるバックプロパゲーションであり、しばしば閉形式を欠いている。
本稿では, 非線形最適化の後方通過に関する理論的知見を提供し, 特定の反復法による線形システムの解と等価であることを示す。
Folded Optimizationと呼ばれるシステムが提案され、非ローリングなソルバ実装からより効率的なバックプロパゲーションルールを構築する。
論文 参考訳(メタデータ) (2023-12-28T23:15:18Z) - Predict-Then-Optimize by Proxy: Learning Joint Models of Prediction and
Optimization [59.386153202037086]
Predict-Then-フレームワークは、機械学習モデルを使用して、最適化問題の未知のパラメータを、解決前の機能から予測する。
このアプローチは非効率であり、最適化ステップを通じてバックプロパゲーションのための手作りの、問題固有のルールを必要とする。
本稿では,予測モデルを用いて観測可能な特徴から最適解を直接学習する手法を提案する。
論文 参考訳(メタデータ) (2023-11-22T01:32:06Z) - Federated Multi-Level Optimization over Decentralized Networks [55.776919718214224]
エージェントが隣人としか通信できないネットワーク上での分散マルチレベル最適化の問題について検討する。
ネットワーク化されたエージェントが1つの時間スケールで異なるレベルの最適化問題を解くことができる新しいゴシップに基づく分散マルチレベル最適化アルゴリズムを提案する。
提案アルゴリズムは, ネットワークサイズと線形にスケーリングし, 各種アプリケーション上での最先端性能を示す。
論文 参考訳(メタデータ) (2023-10-10T00:21:10Z) - Backpropagation of Unrolled Solvers with Folded Optimization [55.04219793298687]
ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。
1つの典型的な戦略はアルゴリズムのアンローリングであり、これは反復解法の操作による自動微分に依存している。
本稿では,非ロール最適化の後方通過に関する理論的知見を提供し,効率よく解けるバックプロパゲーション解析モデルを生成するシステムに繋がる。
論文 参考訳(メタデータ) (2023-01-28T01:50:42Z) - Teaching Networks to Solve Optimization Problems [13.803078209630444]
反復解法をトレーニング可能なパラメトリック集合関数に置き換えることを提案する。
このようなパラメトリックな(集合)関数を学習することで、様々な古典的最適化問題を解くことができることを示す。
論文 参考訳(メタデータ) (2022-02-08T19:13:13Z) - Bayesian Optimization for Selecting Efficient Machine Learning Models [53.202224677485525]
本稿では,予測効率とトレーニング効率の両面において,モデルを協調最適化するための統一ベイズ最適化フレームワークを提案する。
レコメンデーションタスクのためのモデル選択の実験は、この方法で選択されたモデルがモデルのトレーニング効率を大幅に改善することを示している。
論文 参考訳(メタデータ) (2020-08-02T02:56:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。