論文の概要: Wasserstein Distributionally Robust Shallow Convex Neural Networks

• arxiv url: http://arxiv.org/abs/2407.16800v2
• Date: Sat, 18 Jan 2025 05:56:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-22 14:14:56.749102
• Title: Wasserstein Distributionally Robust Shallow Convex Neural Networks
• Title（参考訳）: ワーセルシュタイン分布ロバストな浅層凸ニューラルネット
• Authors: Julien Pallage, Antoine Lesage-Landry,
• Abstract要約: WaDiRo-SCNNは、エネルギーセクターなどの重要なアプリケーションに対して、ニューラルネットワークをより安全にすることを目的としている。 本稿では,本モデルの性能を,実世界の電力システムアプリケーション,ベンチマークデータセット上で数値的に実証する。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: In this work, we propose Wasserstein distributionally robust shallow convex neural networks (WaDiRo-SCNNs) to provide reliable nonlinear predictions when subject to adverse and corrupted datasets. Our approach is based on a new convex training program for $\ReLU$-based shallow neural networks which allows us to cast the problem as an exact, tractable reformulation of its order-1 Wasserstein distributionally robust counterpart. Our training procedure is conservative, has low stochasticity, is solvable with open-source solvers, and is scalable to large industrial deployments. We provide out-of-sample performance guarantees, show that hard convex physical constraints can be enforced in the training program, and propose a mixed-integer convex post-training verification program to evaluate model stability. WaDiRo-SCNN aims to make neural networks safer for critical applications, such as in the energy sector. Finally, we numerically demonstrate the performance of our model on a synthetic experiment, a real-world power system application, i.e., the prediction of non-residential buildings' hourly energy consumption in the context of virtual power plants, and on benchmark datasets. The experimental results are convincing and showcase the strengths of the proposed model.
• Abstract（参考訳）: 本研究では,Wassersteinの分布性に優れた浅層凸ニューラルネットワーク(WaDiRo-SCNN)を提案する。 我々のアプローチは、$\ReLU$ベースの浅層ニューラルネットワークのための新しい凸トレーニングプログラムに基づいている。 私たちのトレーニング手順は保守的で、確率が低く、オープンソースのソルバで解決可能で、大規模産業展開にもスケーラブルです。 本稿では,トレーニングプログラムにおいて,厳密な凸の物理的制約を適用可能であることを示すとともに,モデルの安定性を評価するための混合整数凸ポストトレーニング検証プログラムを提案する。 WaDiRo-SCNNは、エネルギーセクターなどの重要なアプリケーションに対して、ニューラルネットワークをより安全にすることを目的としている。 最後に, シミュレーション実験, 実世界の電力システムアプリケーション, すなわち, 仮想発電所の文脈における非住宅の時給エネルギー消費量の予測, およびベンチマークデータセットを用いて, モデルの性能を数値的に示す。 実験結果は説得力があり,提案モデルの強みを示すものである。

関連論文リスト

• Bayesian Entropy Neural Networks for Physics-Aware Prediction [14.705526856205454]
  本稿では,ベイズニューラルネットワーク(BNN)の予測に制約を加えるためのフレームワークであるBENNを紹介する。 ベンは予測値だけでなく、その微分や分散を制約し、より堅牢で信頼性の高いモデル出力を保証できる。 その結果、従来のBNNよりも大幅に改善され、現代の制約されたディープラーニング手法と比較して競争性能が向上した。
  論文  参考訳（メタデータ） (2024-07-01T07:00:44Z)
• Physics-Informed Neural Networks with Hard Linear Equality Constraints [9.101849365688905]
  本研究は,線形等式制約を厳格に保証する物理インフォームドニューラルネットワークKKT-hPINNを提案する。 溶融タンク炉ユニット, 抽出蒸留サブシステム, 化学プラントのアスペンモデル実験により, このモデルが予測精度をさらに高めることを示した。
  論文  参考訳（メタデータ） (2024-02-11T17:40:26Z)
• Comprehensive Analysis of Network Robustness Evaluation Based on Convolutional Neural Networks with Spatial Pyramid Pooling [4.366824280429597]
  複雑なネットワークを理解し、最適化し、修復するための重要な側面である接続性の堅牢性は、伝統的にシミュレーションを通じて評価されてきた。 空間ピラミッドプールネットワーク(SPP-net)を用いた畳み込みニューラルネットワーク(CNN)モデルの設計により,これらの課題に対処する。 提案したCNNモデルは,全ての除去シナリオにおいて,攻撃曲線とロバストネスの両値の正確な評価を一貫して達成していることを示す。
  論文  参考訳（メタデータ） (2023-08-10T09:54:22Z)
• SPIDE: A Purely Spike-based Method for Training Feedback Spiking Neural Networks [56.35403810762512]
  イベントベースの計算を伴うスパイキングニューラルネットワーク(SNN)は、ニューロモルフィックハードウェアにおけるエネルギー効率の高い応用のために、脳にインスパイアされたモデルを約束している。 本研究では,最近提案されたトレーニング手法を拡張した平衡状態(SPIDE)に対するスパイクに基づく暗黙差分法について検討した。
  論文  参考訳（メタデータ） (2023-02-01T04:22:59Z)
• Super-resolving 2D stress tensor field conserving equilibrium constraints using physics informed U-Net [0.0]
  本稿では,低分解能輪郭プロットから高分解能の応力テンソル場を予測する超解像法を提案する。 提案したモデルは、平衡制約の残余を最小限に抑え、物理的に妥当な解を出力する。 ESRGANは画像超解像の標準モデルであるが、提案したU-Netベースモデルはストレステンソル予測タスクにおいてESRGANモデルより優れている。
  論文  参考訳（メタデータ） (2022-06-02T16:03:03Z)
• Comparative Analysis of Interval Reachability for Robust Implicit and Feedforward Neural Networks [64.23331120621118]
  我々は、暗黙的ニューラルネットワーク(INN)の堅牢性を保証するために、区間到達可能性分析を用いる。 INNは暗黙の方程式をレイヤとして使用する暗黙の学習モデルのクラスである。 提案手法は, INNに最先端の区間境界伝搬法を適用するよりも, 少なくとも, 一般的には, 有効であることを示す。
  論文  参考訳（メタデータ） (2022-04-01T03:31:27Z)
• Neural net modeling of equilibria in NSTX-U [0.0]
  我々は平衡モデルと形状制御モデルに関連する2つのニューラルネットワークを開発する。 ネットワークにはEFIT01再構成アルゴリズムでトレーニングされた自由境界均衡解法であるEqnetと、Gspert符号でトレーニングされたPertnetが含まれる。 本報告では,これらのモデルが閉ループシミュレーションで確実に使用できることを示す。
  論文  参考訳（メタデータ） (2022-02-28T16:09:58Z)
• NeRF in detail: Learning to sample for view synthesis [104.75126790300735]
  ニューラルレイディアンス場(NeRF)法は目覚ましい新しいビュー合成を実証している。 この作業では、バニラ粗大なアプローチの明確な制限に対処します -- パフォーマンスに基づいており、手元にあるタスクのエンドツーエンドをトレーニングしていません。 我々は、サンプルの提案と、そのネットワークにおける重要性を学習し、そのニューラルネットワークアーキテクチャに対する複数の代替案を検討し比較する、微分可能なモジュールを導入する。
  論文  参考訳（メタデータ） (2021-06-09T17:59:10Z)
• Federated Learning with Unreliable Clients: Performance Analysis and Mechanism Design [76.29738151117583]
  Federated Learning(FL)は、分散クライアント間で効果的な機械学習モデルをトレーニングするための有望なツールとなっている。 しかし、低品質のモデルは信頼性の低いクライアントによってアグリゲータサーバにアップロードすることができ、劣化やトレーニングの崩壊につながる。 クライアントの信頼できない振る舞いをモデル化し、このようなセキュリティリスクを軽減するための防御メカニズムを提案する。
  論文  参考訳（メタデータ） (2021-05-10T08:02:27Z)
• Probabilistic electric load forecasting through Bayesian Mixture Density Networks [70.50488907591463]
  確率的負荷予測(PLF)は、スマートエネルギーグリッドの効率的な管理に必要な拡張ツールチェーンの重要なコンポーネントです。 ベイジアン混合密度ネットワークを枠とした新しいPLFアプローチを提案する。 後方分布の信頼性と計算にスケーラブルな推定を行うため,平均場変動推定と深層アンサンブルを統合した。
  論文  参考訳（メタデータ） (2020-12-23T16:21:34Z)
• Modeling from Features: a Mean-field Framework for Over-parameterized Deep Neural Networks [54.27962244835622]
  本稿では、オーバーパラメータ化ディープニューラルネットワーク(DNN)のための新しい平均場フレームワークを提案する。 このフレームワークでは、DNNは連続的な極限におけるその特徴に対する確率測度と関数によって表現される。 本稿では、標準DNNとResidual Network(Res-Net)アーキテクチャを通してフレームワークを説明する。
  論文  参考訳（メタデータ） (2020-07-03T01:37:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。