論文の概要: Input convex neural networks as surrogates in mathematical optimisation

• arxiv url: http://arxiv.org/abs/2608.09707v1
• Date: Mon, 10 Aug 2026 15:11:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-11 19:16:37.330205
• Title: Input convex neural networks as surrogates in mathematical optimisation
• Title（参考訳）: 数式最適化における代役としての入力凸ニューラルネットワーク
• Abstract要約: 我々は、入力凸ニューラルネットワーク(ICNN)を、基礎となる応答が約凸あるいは凹部である場合に、構造的に優れたサロゲートであると提唱する。 人道的な食糧援助、油井のルーティング、ワインのブレンディングに関する事例研究は、ICNNがFNNの精度に合致し、解決の時間とスケーラビリティに利益をもたらすことを示している。
• 参考スコア（独自算出の注目度）: 5.127528264113274
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Embedding trained neural networks as surrogates within optimisation problems is an established practice in operations research. The prevailing approach uses feedforward neural networks (FNNs) with ReLU activations, whose piecewise-linear structure admits an exact but computationally intensive mixed-integer programming (MIP) reformulation as the networks grow. We advocate input convex neural networks (ICNNs) as structurally superior surrogates when the underlying response is approximately convex or concave. The convex architecture offers two computational advantages. First, the ICNN-MIP formulation tends to yield a tighter linear programming (LP) relaxation than its FNN-MIP counterpart, with no integrality gap in favourable instances. Second, ICNNs uniquely admit an LP-based reformulation via epigraph representations of ReLU activations, though this embedding is not always exact. When it is not, we exploit the properties of ICNNs to construct the strongest continuous relaxation over box domains, namely, the convex hull of the ICNN's graph, bounded below by the epigraph and above by the concave envelope; this construction is tractable under input convexity but hard for general ReLU networks. On this basis, we develop a branch-and-bound algorithm that builds this relaxation at each node, branches directly on input variables rather than intermediate variables as in MIP reformulations, and terminates at the root node whenever the epigraph embedding is valid. Case studies on humanitarian food aid, oil well routing, and wine blending show that ICNN surrogates match FNN accuracy and deliver gains in solve time and scalability, supporting ICNN as the default surrogate when the underlying function is convex, concave, or well-approximated as such.
• Abstract（参考訳）: 最適化問題のサロゲートとしてトレーニングされたニューラルネットワークを組み込むことは、運用研究において確立されたプラクティスである。 一般的なアプローチは、フィードフォワードニューラルネットワーク(FNN)とReLUアクティベーション(英語版)を使い、その断片的な線形構造は、ネットワークが成長するにつれて、正確だが計算集約的な混合整数プログラミング(MIP)の改革を認める。 我々は、入力凸ニューラルネットワーク(ICNN)を、基礎となる応答が約凸あるいは凹部である場合に、構造的に優れたサロゲートであると提唱する。 凸アーキテクチャは2つの計算上の利点を提供する。 第一に、ICNN-MIP の定式化は FNN-MIP よりも厳密な線形プログラミング(LP)緩和をもたらす傾向にあり、好むインスタンスでは積分性ギャップがない。 第2に、ICNNはReLUアクティベーションのエピグラフ表現によるLPベースの再構成を独自に認めているが、この埋め込みは必ずしも正確ではない。 その場合、ICNNの特性を利用して、ICNNのグラフの凸殻をエピグラフで表し、その上を凹部エンベロープで覆い、箱領域上で最強の連続緩和を構築する。 そこで我々は,この緩和を各ノードで構築し,MIP再構成のように中間変数ではなく入力変数に直接分岐し,エピグラフ埋め込みが有効であるたびに根ノードで終了する分岐結合アルゴリズムを開発した。 人道的食品援助、油井ルーティング、ワインブレンディングに関するケーススタディでは、ICNNがFNNの精度にマッチし、解決時間とスケーラビリティで利益をもたらすことが示されており、根底にある関数が凸、凹、あるいはよく近似された場合、ICNNをデフォルトのサロゲートとしてサポートしている。

関連論文リスト

• Reducing ANN-SNN Conversion Error via Residual Membrane Potential Alignment [52.910770415431244]
  スパイキングニューラルネットワーク(SNN)は、ニューロモルフィックコンピューティングのコアアーキテクチャとして機能する。 ANN-SNN変換は、低レイテンシでエネルギー効率のよい推論のために、よく訓練されたANN重みを再利用することで問題を回避している。 既存の変換方式は、小さなタイミングで精度の低下、大きな推論遅延、累積量子化誤差に悩まされている。
  論文  参考訳（メタデータ） (2026-08-14T04:46:03Z)
• Hyper Input Convex Neural Networks for Shape Constrained Learning and Optimal Transport [9.150567695563067]
  超次元入力凸ニューラルネットワーク(HyCNN)は,凸関数の学習用に設計された新しいニューラルネットワークアーキテクチャである。 HyCNNは、Maxoutネットワークの原理と入力凸ニューラルネットワーク(ICNN)を組み合わせて、入力に常に凸なニューラルネットワークを作成する。
  論文  参考訳（メタデータ） (2026-04-29T17:52:05Z)
• SOC-ICNN: From Polyhedral to Conic Geometry for Learning Convex Surrogate Functions [13.0197279214062]
  SOC-ICNNは、LPからSOCP(Second-Order Cone Programming)までの最適化クラスを一般化するアーキテクチャである。 正の半定曲率とユークリッドノルムに基づく円錐プリミティブを明示的に注入することにより、厳密な最適化理論的な解釈を保ちながら、自然曲率の滑らかな表現を導入する。 実験により、SOC-ICNNは、競争力のある下流決定品質を提供しながら、機能近似を大幅に改善することが示された。
  論文  参考訳（メタデータ） (2026-04-24T08:43:32Z)
• Efficient Encrypted Computation in Convolutional Spiking Neural Networks with TFHE [1.3047787405425166]
  ホモモルフィック暗号化(FHE)は、プライバシ保護計算において重要な技術である。 FHEは、離散整数上で動作し、加算と乗法のみをサポートするため、連続的な非多項式関数と競合する。 TFHEスキーム上に構築されたフレームワークであるFHE-DiCSNNを導入し,SNNの離散特性をセキュアかつ効率的な計算に利用した。
  論文  参考訳（メタデータ） (2026-03-25T03:15:59Z)
• Convexity in ReLU Neural Networks: beyond ICNNs? [17.01649106055384]
  1階層のReLUネットワークで実装された凸関数はすべて、同じアーキテクチャのICNNで表現可能であることを示す。 また,多数のアフィン領域を持つReLUニューラルネットワークに対して,正確な凸性チェックを可能にする数値計算手法を提案する。
  論文  参考訳（メタデータ） (2025-01-06T13:53:59Z)
• Deep-Unrolling Multidimensional Harmonic Retrieval Algorithms on Neuromorphic Hardware [78.17783007774295]
  本稿では,高精度かつエネルギー効率の高い単発多次元高調波検索のための変換に基づくニューロモルフィックアルゴリズムの可能性について検討する。 複雑な値の畳み込み層と活性化をスパイクニューラルネットワーク(SNN)に変換する新しい手法を開発した。 変換されたSNNは、元のCNNに比べて性能が低下し、ほぼ5倍の電力効率を実現している。
  論文  参考訳（メタデータ） (2024-12-05T09:41:33Z)
• Neural Network Verification with Branch-and-Bound for General Nonlinearities [63.39918329535165]
  ブランチ・アンド・バウンド(BaB)は、ニューラルネットワーク(NN)検証において最も効果的な手法の一つである。 我々は、一般的な非線形性にBaBを実行し、一般的なアーキテクチャでNNを検証する汎用フレームワークGenBaBを開発した。 我々のフレームワークは、一般的な非線形グラフの検証を可能にし、単純なNNを超えた検証アプリケーションを可能にする。
  論文  参考訳（メタデータ） (2024-05-31T17:51:07Z)
• Fixing the NTK: From Neural Network Linearizations to Exact Convex Programs [63.768739279562105]
  学習目標に依存しない特定のマスクウェイトを選択する場合、このカーネルはトレーニングデータ上のゲートReLUネットワークのNTKと等価であることを示す。 この目標への依存の欠如の結果として、NTKはトレーニングセット上の最適MKLカーネルよりもパフォーマンスが良くない。
  論文  参考訳（メタデータ） (2023-09-26T17:42:52Z)
• BNN-DP: Robustness Certification of Bayesian Neural Networks via Dynamic Programming [8.162867143465382]
  ベイジアンニューラルネットワークの対向ロバスト性解析のための効率的なフレームワークであるBNN-DPを紹介する。 BNN-DPは, 境界の厳密性と計算効率の両面において, 最先端の手法を最大4桁上回る性能を示した。
  論文  参考訳（メタデータ） (2023-06-19T07:19:15Z)
• Benign Overfitting in Deep Neural Networks under Lazy Training [72.28294823115502]
  データ分布が適切に分離された場合、DNNは分類のためのベイズ最適テスト誤差を達成できることを示す。 よりスムーズな関数との補間により、より一般化できることを示す。
  論文  参考訳（メタデータ） (2023-05-30T19:37:44Z)
• Comparative Analysis of Interval Reachability for Robust Implicit and Feedforward Neural Networks [64.23331120621118]
  我々は、暗黙的ニューラルネットワーク(INN)の堅牢性を保証するために、区間到達可能性分析を用いる。 INNは暗黙の方程式をレイヤとして使用する暗黙の学習モデルのクラスである。 提案手法は, INNに最先端の区間境界伝搬法を適用するよりも, 少なくとも, 一般的には, 有効であることを示す。
  論文  参考訳（メタデータ） (2022-04-01T03:31:27Z)
• Modeling from Features: a Mean-field Framework for Over-parameterized Deep Neural Networks [54.27962244835622]
  本稿では、オーバーパラメータ化ディープニューラルネットワーク(DNN)のための新しい平均場フレームワークを提案する。 このフレームワークでは、DNNは連続的な極限におけるその特徴に対する確率測度と関数によって表現される。 本稿では、標準DNNとResidual Network(Res-Net)アーキテクチャを通してフレームワークを説明する。
  論文  参考訳（メタデータ） (2020-07-03T01:37:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。