論文の概要: Hyper Input Convex Neural Networks for Shape Constrained Learning and Optimal Transport
- arxiv url: http://arxiv.org/abs/2604.26942v1
- Date: Wed, 29 Apr 2026 17:52:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-30 15:59:36.532424
- Title: Hyper Input Convex Neural Networks for Shape Constrained Learning and Optimal Transport
- Title(参考訳): 形状制約学習と最適輸送のためのハイパー入力凸ニューラルネットワーク
- Authors: Shayan Hundrieser, Insung Kong, Johannes Schmidt-Hieber,
- Abstract要約: 超次元入力凸ニューラルネットワーク(HyCNN)は,凸関数の学習用に設計された新しいニューラルネットワークアーキテクチャである。
HyCNNは、Maxoutネットワークの原理と入力凸ニューラルネットワーク(ICNN)を組み合わせて、入力に常に凸なニューラルネットワークを作成する。
- 参考スコア(独自算出の注目度): 9.150567695563067
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: We introduce Hyper Input Convex Neural Networks (HyCNNs), a novel neural network architecture designed for learning convex functions. HyCNNs combine the principles of Maxout networks with input convex neural networks (ICNNs) to create a neural network that is always convex in the input, theoretically capable of leveraging depth, and performs reliable when trained at scale compared to ICNNs. Concretely, we prove that HyCNNs require exponentially fewer parameters than ICNNs to approximate quadratic functions up to a given precision. Throughout a series of synthetic experiments, we demonstrate that HyCNNs outperform existing ICNNs and MLPs in terms of predictive performance for convex regression and interpolation tasks. We further apply HyCNNs to learn high-dimensional optimal transport maps for synthetic examples and for single-cell RNA sequencing data, where they oftentimes outperform ICNN-based neural optimal transport methods and other baselines across a wide range of settings.
- Abstract(参考訳): 我々は、凸関数の学習用に設計された新しいニューラルネットワークアーキテクチャであるHyper Input Convex Neural Networks (HyCNNs)を紹介する。
HyCNNは、Maxoutネットワークの原理と入力凸ニューラルネットワーク(ICNN)を組み合わせて、入力に常に凸なニューラルネットワークを作成する。
具体的には、与えられた精度で2次関数を近似するために、HyCNNはICNNよりも指数的に少ないパラメータを必要とすることを示す。
一連の合成実験を通して,HyCNNは凸回帰および補間タスクの予測性能において,既存のICNNやMPPよりも優れていたことを示す。
さらに,HyCNNを用いて,合成例の高次元最適トランスポートマップと単一セルRNAシークエンシングデータについて学習し,ICNNベースのニューラル最適トランスポート法や他のベースラインを広範囲に網羅する。
関連論文リスト
- Parameter efficient hybrid spiking-quantum convolutional neural network with surrogate gradient and quantum data-reupload [0.20999222360659606]
Spiking Quantum Neural Network(SQNN)は、スパイクニューラルネットワーク(SNN)と量子コンピューティングの原則を組み合わせたものだ。
SQDR-CNNは、単一のバックプロパゲーションフレームワーク内で畳み込みSNNと量子回路の共同トレーニングを可能にする。
我々は,SOTA SNNベースラインの平均最高性能精度の86%を達成しているが,最小スパイキングモデルのパラメータの0.5%しか使用していない。
論文 参考訳(メタデータ) (2025-12-03T15:43:33Z) - Convexity in ReLU Neural Networks: beyond ICNNs? [17.01649106055384]
1階層のReLUネットワークで実装された凸関数はすべて、同じアーキテクチャのICNNで表現可能であることを示す。
また,多数のアフィン領域を持つReLUニューラルネットワークに対して,正確な凸性チェックを可能にする数値計算手法を提案する。
論文 参考訳(メタデータ) (2025-01-06T13:53:59Z) - Scalable Mechanistic Neural Networks for Differential Equations and Machine Learning [52.28945097811129]
長い時間的シーケンスを含む科学機械学習応用のための拡張ニューラルネットワークフレームワークを提案する。
計算時間と空間複雑度はそれぞれ、列長に関して立方体と二次体から線形へと減少する。
大規模な実験により、S-MNNは元のMNNと精度で一致し、計算資源を大幅に削減した。
論文 参考訳(メタデータ) (2024-10-08T14:27:28Z) - A Hybrid Neural Coding Approach for Pattern Recognition with Spiking
Neural Networks [53.31941519245432]
脳にインスパイアされたスパイクニューラルネットワーク(SNN)は、パターン認識タスクを解く上で有望な能力を示している。
これらのSNNは、情報表現に一様神経コーディングを利用する同質ニューロンに基づいている。
本研究では、SNNアーキテクチャは異種符号化方式を組み込むよう、均質に設計されるべきである、と論じる。
論文 参考訳(メタデータ) (2023-05-26T02:52:12Z) - Comparative Analysis of Interval Reachability for Robust Implicit and
Feedforward Neural Networks [64.23331120621118]
我々は、暗黙的ニューラルネットワーク(INN)の堅牢性を保証するために、区間到達可能性分析を用いる。
INNは暗黙の方程式をレイヤとして使用する暗黙の学習モデルのクラスである。
提案手法は, INNに最先端の区間境界伝搬法を適用するよりも, 少なくとも, 一般的には, 有効であることを示す。
論文 参考訳(メタデータ) (2022-04-01T03:31:27Z) - Explore the Knowledge contained in Network Weights to Obtain Sparse
Neural Networks [2.649890751459017]
本稿では,ニューラルネットワーク(NN)における疎結合層の自動獲得のための新しい学習手法を提案する。
タスクニューラルネットワーク(TNN)の構造を最適化するためにスイッチングニューラルネットワーク(SNN)を設計する。
論文 参考訳(メタデータ) (2021-03-26T11:29:40Z) - Progressive Tandem Learning for Pattern Recognition with Deep Spiking
Neural Networks [80.15411508088522]
スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。
高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
論文 参考訳(メタデータ) (2020-07-02T15:38:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。