論文の概要: NCVX: A General-Purpose Optimization Solver for Constrained Machine and Deep Learning

• arxiv url: http://arxiv.org/abs/2210.00973v1
• Date: Mon, 3 Oct 2022 14:41:26 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-04 14:59:53.099861
• Title: NCVX: A General-Purpose Optimization Solver for Constrained Machine and Deep Learning
• Title（参考訳）: ncvx:制約付き機械とディープラーニングのための汎用最適化解法
• Authors: Buyun Liang, Tim Mitchell, Ju Sun
• Abstract要約: NCVXは制約付きマシン/ディープ学習問題のための新しいソフトウェアパッケージである。 PyTorchから自動微分、GPUアクセラレーション、テンソル変数を継承する。
• 参考スコア（独自算出の注目度）: 2.1485350418225244
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Imposing explicit constraints is relatively new but increasingly pressing in deep learning, stimulated by, e.g., trustworthy AI that performs robust optimization over complicated perturbation sets and scientific applications that need to respect physical laws and constraints. However, it can be hard to reliably solve constrained deep learning problems without optimization expertise. The existing deep learning frameworks do not admit constraints. General-purpose optimization packages can handle constraints but do not perform auto-differentiation and have trouble dealing with nonsmoothness. In this paper, we introduce a new software package called NCVX, whose initial release contains the solver PyGRANSO, a PyTorch-enabled general-purpose optimization package for constrained machine/deep learning problems, the first of its kind. NCVX inherits auto-differentiation, GPU acceleration, and tensor variables from PyTorch, and is built on freely available and widely used open-source frameworks. NCVX is available at https://ncvx.org, with detailed documentation and numerous examples from machine/deep learning and other fields.
• Abstract（参考訳）: 例えば、複雑な摂動集合に対する堅牢な最適化を行う信頼できるAIや、物理的な法則や制約を尊重する必要のある科学的応用によって刺激される。 しかし、最適化の専門知識がなければ、制約のあるディープラーニング問題を確実に解決することは困難である。 既存のディープラーニングフレームワークは制約を認めていない。 汎用最適化パッケージは制約を扱うことができるが、自動微分は行わず、非滑らか性を扱うのに苦労する。 本稿では,ncvxと呼ばれる新しいソフトウェアパッケージを紹介し,その初期リリースにはpytorch対応汎用最適化パッケージであるpygransoが含まれている。 NCVXはPyTorchから自動微分、GPUアクセラレーション、テンソル変数を継承し、フリーで広く使用されているオープンソースフレームワーク上に構築されている。 NCVXはhttps://ncvx.orgで公開されており、詳細なドキュメントとマシン/ディープ学習やその他の分野からの多くの例がある。

関連論文リスト

• Learning to Optimize for Mixed-Integer Non-linear Programming [20.469394148261838]
  混合整数非NLPプログラム(MINLP)はエネルギーシステムや輸送など様々な領域で発生するが、解決は困難である。 機械学習の最近の進歩は、最適化のための学習として知られる領域において、顕著な成功をもたらしている。 勾配を保ちながら整数出力を生成する2つの異なる補正層を提案する。
  論文  参考訳（メタデータ） (2024-10-14T20:14:39Z)
• Non-Convex Optimizations for Machine Learning with Theoretical Guarantee: Robust Matrix Completion and Neural Network Learning [5.141583534407068]
  機械学習システムはまだ"ブラックボックス"という概念の下にあり、そこではパフォーマンスが理解できない。 この論文では、2つの一般的な非問題は、パブリックニューラルネットワーク学習を設計することである。
  論文  参考訳（メタデータ） (2023-06-28T20:53:49Z)
• GloptiNets: Scalable Non-Convex Optimization with Certificates [61.50835040805378]
  本稿では,ハイパーキューブやトーラス上のスムーズな関数を扱う証明書を用いた非キューブ最適化手法を提案する。 スペクトルの減衰に固有の対象関数の正則性を活用することにより、正確な証明を取得し、高度で強力なニューラルネットワークを活用することができる。
  論文  参考訳（メタデータ） (2023-06-26T09:42:59Z)
• Symmetric Tensor Networks for Generative Modeling and Constrained Combinatorial Optimization [72.41480594026815]
  ポートフォリオ最適化からロジスティクスに至るまで、制約付き最適化問題は業界に多い。 これらの問題の解決における主要な障害の1つは、有効な検索空間を制限する非自明なハード制約の存在である。 本研究では、Ax=bという形の任意の整数値等式制約をU(1)対称ネットワーク(TN)に直接エンコードし、それらの適用性を量子に着想を得た生成モデルとして活用する。
  論文  参考訳（メタデータ） (2022-11-16T18:59:54Z)
• Adaptive Federated Minimax Optimization with Lower Complexities [82.51223883622552]
  本稿では,これらのミニマックス問題の解法として,適応最小最適化アルゴリズム(AdaFGDA)を提案する。 運動量に基づく還元および局所SGD技術を構築し、様々な適応学習率を柔軟に組み込む。
  論文  参考訳（メタデータ） (2022-11-14T12:32:18Z)
• Algorithmic Foundations of Empirical X-risk Minimization [51.58884973792057]
  この原稿は、機械学習とAIの新しい最適化フレームワーク、bf empirical X-risk baseline (EXM)を紹介している。 Xリスク(X-risk)は、構成測度または目的の族を表すために導入された用語である。
  論文  参考訳（メタデータ） (2022-06-01T12:22:56Z)
• Optimization for Classical Machine Learning Problems on the GPU [12.162243004602505]
  我々は、GPU上の制約付き最適化問題を解決するためにGENOフレームワークを拡張した。 このフレームワークは、ユーザが制約付き最適化問題を、読みやすいモデリング言語で指定できるようにする。 そして、この仕様からソルバが自動的に生成される。
  論文  参考訳（メタデータ） (2022-03-30T14:15:54Z)
• NCVX: A User-Friendly and Scalable Package for Nonconvex Optimization in Machine Learning [4.5687771576879594]
  NCVXは非平滑(NSMT)と制約付き(CSTR)機械学習問題を解決するためのピソンパッケージである。 自動微分、GPUアクセラレーション、テンソル入力、スケーラブルQPソルバを備えている。 NCVXは、その種の最初のCSTRディープラーニング問題を解くことができる。
  論文  参考訳（メタデータ） (2021-11-27T21:02:20Z)
• Neural Fixed-Point Acceleration for Convex Optimization [10.06435200305151]
  本稿では,メタラーニング法と古典的加速度法を併用したニューラル固定点加速法を提案する。 コンベックスコーンプログラミングのための最先端の解法であるSCSに,我々のフレームワークを適用した。
  論文  参考訳（メタデータ） (2021-07-21T17:59:34Z)
• Minimax Optimization with Smooth Algorithmic Adversaries [59.47122537182611]
  対戦相手が展開するスムーズなアルゴリズムに対して,Min-playerの新しいアルゴリズムを提案する。 本アルゴリズムは,制限周期のない単調進行を保証し,適切な勾配上昇数を求める。
  論文  参考訳（メタデータ） (2021-06-02T22:03:36Z)
• GradInit: Learning to Initialize Neural Networks for Stable and Efficient Training [59.160154997555956]
  ニューラルネットワークを初期化するための自動化およびアーキテクチャ手法であるgradinitを提案する。 各ネットワーク層の分散は、SGDまたはAdamの単一ステップが最小の損失値をもたらすように調整される。 また、学習率のウォームアップを伴わずに、オリジナルのPost-LN Transformerを機械翻訳用にトレーニングすることもできる。
  論文  参考訳（メタデータ） (2021-02-16T11:45:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。