論文の概要: SOC-ICNN: From Polyhedral to Conic Geometry for Learning Convex Surrogate Functions
- arxiv url: http://arxiv.org/abs/2604.22355v1
- Date: Fri, 24 Apr 2026 08:43:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-27 15:36:26.404156
- Title: SOC-ICNN: From Polyhedral to Conic Geometry for Learning Convex Surrogate Functions
- Title(参考訳): SOC-ICNN:凸代理関数学習のための多面体から円錐幾何学へ
- Authors: Kang Liu, Jianchen Hu,
- Abstract要約: SOC-ICNNは、LPからSOCP(Second-Order Cone Programming)までの最適化クラスを一般化するアーキテクチャである。
正の半定曲率とユークリッドノルムに基づく円錐プリミティブを明示的に注入することにより、厳密な最適化理論的な解釈を保ちながら、自然曲率の滑らかな表現を導入する。
実験により、SOC-ICNNは、競争力のある下流決定品質を提供しながら、機能近似を大幅に改善することが示された。
- 参考スコア(独自算出の注目度): 13.0197279214062
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Classical ReLU-based Input Convex Neural Networks (ICNNs) are equivalent to the optimal value functions of Linear Programming (LP). This intrinsic structural equivalence restricts their representational capacity to piecewise-linear polyhedral functions. To overcome this representational bottleneck, we propose the SOC-ICNN, an architecture that generalizes the underlying optimization class from LP to Second-Order Cone Programming (SOCP). By explicitly injecting positive semi-definite curvature and Euclidean norm-based conic primitives, our formulation introduces native smooth curvature into the representation while preserving a rigorous optimization-theoretic interpretation. We formally prove that SOC-ICNNs strictly expand the representational space of ReLU-ICNNs without increasing the asymptotic order of forward-pass complexity. Extensive experiments demonstrate that SOC-ICNN substantially improves function approximation, while delivering competitive downstream decision quality. The code is available at https://github.com/Kanyooo/SOC-ICNN.
- Abstract(参考訳): 古典的ReLUベースの入力凸ニューラルネットワーク(ICNN)は線形プログラミング(LP)の最適値関数と等価である。
この内在的構造的同値性は、その表現能力を一方向線型多面函数に制限する。
この表現的ボトルネックを克服するため、我々は、基礎となる最適化クラスをLPからSOCP(Second-Order Cone Programming)へ一般化するアーキテクチャであるSOC-ICNNを提案する。
正の半定曲率とユークリッドノルムに基づく円錐プリミティブを明示的に注入することにより、厳密な最適化理論的解釈を保ちながら、自然な滑らかな曲率を表現に導入する。
我々は,SOC-ICNNが前方通過複雑性の漸近順序を増大させることなく,ReLU-ICNNの表現空間を厳密に拡張することを正式に証明する。
大規模な実験により、SOC-ICNNは、競争力のある下流決定品質を提供しながら、機能近似を大幅に改善することが示された。
コードはhttps://github.com/Kanyooo/SOC-ICNNで公開されている。
関連論文リスト
- Barycentric Neural Networks and Length-Weighted Persistent Entropy Loss: A Green Geometric and Topological Framework for Function Approximation [0.0]
BNN(Barycentric Neural Network)は,構造とパラメータを固定されたベースポイントと関連するバリ中心座標によってエンコードする,コンパクトな浅層アーキテクチャである。
我々は,BNNが連続的部分的線形関数(CPLF)の正確な表現を可能にし,セグメント間の厳密な連続性を保証することを示す。
提案手法は,内部パラメータではなく,BNNを定義するベースポイントを最適化するために,LWPEに基づく損失関数とBNNを統合している。
論文 参考訳(メタデータ) (2025-09-08T13:47:21Z) - Curvature Learning for Generalization of Hyperbolic Neural Networks [51.888534247573894]
ハイパーボリックニューラルネットワーク(HNN)は,階層構造を持つ実世界のデータを表現する上で,顕著な有効性を示している。
不適切な曲率により、HNNは最適以下のパラメータに収束し、全体的な性能が低下する可能性がある。
本研究では,損失景観の平滑化を図り,HNNの一般化を向上するシャープネス対応曲率学習法を提案する。
論文 参考訳(メタデータ) (2025-08-24T07:14:30Z) - Convexity in ReLU Neural Networks: beyond ICNNs? [17.01649106055384]
1階層のReLUネットワークで実装された凸関数はすべて、同じアーキテクチャのICNNで表現可能であることを示す。
また,多数のアフィン領域を持つReLUニューラルネットワークに対して,正確な凸性チェックを可能にする数値計算手法を提案する。
論文 参考訳(メタデータ) (2025-01-06T13:53:59Z) - Enhancing GNNs Performance on Combinatorial Optimization by Recurrent Feature Update [0.09986418756990156]
本稿では,組合せ最適化(CO)問題を効率よく解くために,GNNのパワーを活用して,QRF-GNNと呼ぶ新しいアルゴリズムを提案する。
QUBO緩和による損失関数の最小化による教師なし学習に依存している。
実験の結果、QRF-GNNは既存の学習ベースアプローチを大幅に上回り、最先端の手法に匹敵することがわかった。
論文 参考訳(メタデータ) (2024-07-23T13:34:35Z) - The Convex Landscape of Neural Networks: Characterizing Global Optima
and Stationary Points via Lasso Models [75.33431791218302]
ディープニューラルネットワーク(DNN)モデルは、プログラミング目的に使用される。
本稿では,凸型神経回復モデルについて検討する。
定常的非次元目的物はすべて,グローバルサブサンプリング型凸解法プログラムとして特徴付けられることを示す。
また, 静止非次元目的物はすべて, グローバルサブサンプリング型凸解法プログラムとして特徴付けられることを示す。
論文 参考訳(メタデータ) (2023-12-19T23:04:56Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - Dual Convexified Convolutional Neural Networks [27.0231994885228]
二重凸畳み込みニューラルネットワーク(DCCNN)の枠組みを提案する。
このフレームワークでは、まず、凸化された畳み込みニューラルネットワーク(CCNN)から動機付けられた予備学習問題を導入する。
次に、KKT条件とフェンシェル共役条件を慎重に解析し、二重凸訓練プログラムを構築する。
論文 参考訳(メタデータ) (2022-05-27T15:45:08Z) - Comparative Analysis of Interval Reachability for Robust Implicit and
Feedforward Neural Networks [64.23331120621118]
我々は、暗黙的ニューラルネットワーク(INN)の堅牢性を保証するために、区間到達可能性分析を用いる。
INNは暗黙の方程式をレイヤとして使用する暗黙の学習モデルのクラスである。
提案手法は, INNに最先端の区間境界伝搬法を適用するよりも, 少なくとも, 一般的には, 有効であることを示す。
論文 参考訳(メタデータ) (2022-04-01T03:31:27Z) - CDiNN -Convex Difference Neural Networks [0.8122270502556374]
reluアクティベーション関数を持つニューラルネットワークは、普遍関数近似が非スムース関数として関数マッピングを学ぶことが示されている。
ICNNと呼ばれる新しいニューラルネットワークアーキテクチャは、凸入力として出力を学習する。
論文 参考訳(メタデータ) (2021-03-31T17:31:16Z) - Learning to Solve the AC-OPF using Sensitivity-Informed Deep Neural
Networks [52.32646357164739]
最適な電力フロー(ACOPF)のソリューションを解決するために、ディープニューラルネットワーク(DNN)を提案します。
提案されたSIDNNは、幅広いOPFスキームと互換性がある。
他のLearning-to-OPFスキームとシームレスに統合できる。
論文 参考訳(メタデータ) (2021-03-27T00:45:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。