論文の概要: Constrained Empirical Risk Minimization: Theory and Practice

• arxiv url: http://arxiv.org/abs/2302.04729v1
• Date: Thu, 9 Feb 2023 16:11:58 GMT
• ステータス: 処理完了
• システム内更新日: 2023-02-10 15:16:05.533562
• Title: Constrained Empirical Risk Minimization: Theory and Practice
• Title（参考訳）: 制約付き経験的リスク最小化:理論と実践
• Authors: Eric Marcus, Ray Sheombarsing, Jan-Jakob Sonke, Jonas Teuwen
• Abstract要約: 本稿では,Deep Neural Networks (DNN) などのパラメータ化された関数集合に対する制約の厳格化を可能にするフレームワークを提案する。 我々は、幾何学的深層学習で使用される同変ネットワークの範囲外にある制約に焦点を当てる。 このフレームワークの主な例として、畳み込みニューラルネットワーク(CNN)のフィルタをウェーブレットに制限し、これらのウェーブレットネットワークを医療領域における輪郭予測のタスクに適用する。
• 参考スコア（独自算出の注目度）: 2.4934936799100034
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep Neural Networks (DNNs) are widely used for their ability to effectively approximate large classes of functions. This flexibility, however, makes the strict enforcement of constraints on DNNs an open problem. Here we present a framework that, under mild assumptions, allows the exact enforcement of constraints on parameterized sets of functions such as DNNs. Instead of imposing "soft'' constraints via additional terms in the loss, we restrict (a subset of) the DNN parameters to a submanifold on which the constraints are satisfied exactly throughout the entire training procedure. We focus on constraints that are outside the scope of equivariant networks used in Geometric Deep Learning. As a major example of the framework, we restrict filters of a Convolutional Neural Network (CNN) to be wavelets, and apply these wavelet networks to the task of contour prediction in the medical domain.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)は、大きな関数のクラスを効果的に近似する能力に広く利用されている。 しかし、この柔軟性は、DNNの制約の厳格な執行をオープンな問題にする。 本稿では,軽度仮定の下で,dnnなどのパラメータ化された関数集合に対する制約の厳密な実行を可能にする枠組みを提案する。 損失に含まれる追加用語によって"ソフト"制約を課す代わりに、dnnパラメータのサブセットを、トレーニング手順全体を通して正確に制約が満たされる部分多様体に制限します。 我々は,幾何学的深層学習で用いられる等価ネットワークの範囲外の制約に注目した。 このフレームワークの主な例として、畳み込みニューラルネットワーク(cnn)のフィルタをウェーブレットに制限し、医療領域における輪郭予測のタスクにこれらのウェーブレットネットワークを適用する。

関連論文リスト

• Deep Neural Network for Constraint Acquisition through Tailored Loss Function [0.0]
  データから制約を学習することの重要性は、実世界の問題解決における潜在的な応用によって裏付けられている。 この研究は、シンボリック回帰に基づくディープニューラルネットワーク(DNN)に基づく新しいアプローチを導入する。
  論文  参考訳（メタデータ） (2024-03-04T13:47:33Z)
• Robust Stochastically-Descending Unrolled Networks [85.6993263983062]
  Deep Unrolling(ディープ・アンローリング)は、トレーニング可能なニューラルネットワークの層に切り捨てられた反復アルゴリズムをアンロールする、新たな学習最適化手法である。 アンロールネットワークの収束保証と一般化性は、いまだにオープンな理論上の問題であることを示す。 提案した制約の下で訓練されたアンロールアーキテクチャを2つの異なるアプリケーションで数値的に評価する。
  論文  参考訳（メタデータ） (2023-12-25T18:51:23Z)
• From NeurODEs to AutoencODEs: a mean-field control framework for width-varying Neural Networks [68.8204255655161]
  本稿では,動的に駆動する制御フィールドをベースとした,AutoencODEと呼ばれる新しいタイプの連続時間制御システムを提案する。 損失関数が局所凸な領域では,多くのアーキテクチャが復元可能であることを示す。
  論文  参考訳（メタデータ） (2023-07-05T13:26:17Z)
• Neural Fields with Hard Constraints of Arbitrary Differential Order [61.49418682745144]
  我々は、ニューラルネットワークに厳しい制約を課すための一連のアプローチを開発する。 制約は、ニューラルネットワークとそのデリバティブに適用される線形作用素として指定することができる。 私たちのアプローチは、広範囲の現実世界のアプリケーションで実証されています。
  論文  参考訳（メタデータ） (2023-06-15T08:33:52Z)
• DeepSaDe: Learning Neural Networks that Guarantee Domain Constraint Satisfaction [8.29487992932196]
  本稿では,ニューラルネットワークを訓練し,様々な制約を課し,その制約が全ての可能な予測によって満たされることを保証するアプローチを提案する。 私たちのアプローチは、さまざまなドメイン制約を強制するのに十分な柔軟性があり、ニューラルネットワークでそれらを保証できます。
  論文  参考訳（メタデータ） (2023-03-02T10:40:50Z)
• POLICE: Provably Optimal Linear Constraint Enforcement for Deep Neural Networks [19.587273175563745]
  本稿では,Deep Neural Networks (DNN) のための最初の証明可能なアフィン拘束法を提案する。 本手法はサンプリングを一切必要とせず,DNNが任意の点において与えられた入力空間の領域上のアフィン制約を満たすことを確実に保証する。
  論文  参考訳（メタデータ） (2022-11-02T17:48:52Z)
• Comparative Analysis of Interval Reachability for Robust Implicit and Feedforward Neural Networks [64.23331120621118]
  我々は、暗黙的ニューラルネットワーク(INN)の堅牢性を保証するために、区間到達可能性分析を用いる。 INNは暗黙の方程式をレイヤとして使用する暗黙の学習モデルのクラスである。 提案手法は, INNに最先端の区間境界伝搬法を適用するよりも, 少なくとも, 一般的には, 有効であることを示す。
  論文  参考訳（メタデータ） (2022-04-01T03:31:27Z)
• Neural network training under semidefinite constraints [0.0]
  本稿では,ニューラルネットワーク(NN)の半定制約下でのトレーニングについて述べる。 半定値制約は、NNの興味深い特性を検証するのに使うことができる。 実験では,従来の手法よりも訓練方法が優れていることを示す。
  論文  参考訳（メタデータ） (2022-01-03T13:10:49Z)
• Chance-Constrained Control with Lexicographic Deep Reinforcement Learning [77.34726150561087]
  本稿では,レキシックなDeep Reinforcement Learning(DeepRL)に基づく確率制約マルコフ決定プロセスを提案する。 有名なDeepRLアルゴリズムDQNの辞書版も提案され、シミュレーションによって検証されている。
  論文  参考訳（メタデータ） (2020-10-19T13:09:14Z)
• Modeling from Features: a Mean-field Framework for Over-parameterized Deep Neural Networks [54.27962244835622]
  本稿では、オーバーパラメータ化ディープニューラルネットワーク(DNN)のための新しい平均場フレームワークを提案する。 このフレームワークでは、DNNは連続的な極限におけるその特徴に対する確率測度と関数によって表現される。 本稿では、標準DNNとResidual Network(Res-Net)アーキテクチャを通してフレームワークを説明する。
  論文  参考訳（メタデータ） (2020-07-03T01:37:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。