論文の概要: From Universal Approximation Theorem to Tropical Geometry of Multi-Layer Perceptrons
- arxiv url: http://arxiv.org/abs/2510.15012v1
- Date: Thu, 16 Oct 2025 13:15:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-20 20:17:34.319426
- Title: From Universal Approximation Theorem to Tropical Geometry of Multi-Layer Perceptrons
- Title(参考訳): 普遍近似理論から多層パーセプトロンの熱帯幾何学へ
- Authors: Yi-Shan Chu, Yueh-Cheng Kuo,
- Abstract要約: 我々は、ニューラルネットワークの熱帯幾何学のレンズを通して、ユニバーサル近似理論を再考する。
本稿では,シグモダル多層パーセプトロンのための構造的・幾何学的アーキテクチャを提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We revisit the Universal Approximation Theorem(UAT) through the lens of the tropical geometry of neural networks and introduce a constructive, geometry-aware initialization for sigmoidal multi-layer perceptrons (MLPs). Tropical geometry shows that Rectified Linear Unit (ReLU) networks admit decision functions with a combinatorial structure often described as a tropical rational, namely a difference of tropical polynomials. Focusing on planar binary classification, we design purely sigmoidal MLPs that adhere to the finite-sum format of UAT: a finite linear combination of shifted and scaled sigmoids of affine functions. The resulting models yield decision boundaries that already align with prescribed shapes at initialization and can be refined by standard training if desired. This provides a practical bridge between the tropical perspective and smooth MLPs, enabling interpretable, shape-driven initialization without resorting to ReLU architectures. We focus on the construction and empirical demonstrations in two dimensions; theoretical analysis and higher-dimensional extensions are left for future work.
- Abstract(参考訳): 我々は、ニューラルネットワークの熱帯幾何学のレンズを通して、ユニバーサル近似定理(UAT)を再検討し、シグモダル多層パーセプトロン(MLP)に対する構成的、幾何学的初期化を導入する。
熱帯幾何学は、Rectified Linear Unit (ReLU) ネットワークが、しばしば熱帯の有理数、すなわち熱帯の多項式の差として記述される組合せ構造を持つ決定関数を許容していることを示している。
平面二分法に焦点をあて, シフトしたアフィン関数のシグモイドとスケールしたシグモイドの有限線型結合である, UAT の有限サム形式に忠実な純粋シグモイド型 MLP を設計する。
得られたモデルは、初期化時に既に所定の形状に整合しており、望めば標準的な訓練によって洗練される決定境界を与える。
これにより、熱帯の視点と滑らかなMLPの間に実践的な橋渡しができ、ReLUアーキテクチャを使わずに解釈可能な形状駆動初期化が可能となる。
理論的解析と高次元拡張は今後の研究のために残されている。
関連論文リスト
- GeoFunFlow: Geometric Function Flow Matching for Inverse Operator Learning over Complex Geometries [7.205211713278516]
偏微分方程式(PDE)が支配する逆問題は、科学や工学において重要である。
複素幾何学上の逆問題に対する幾何拡散モデルフレームワークであるEm GeoFunFlowを紹介する。
論文 参考訳(メタデータ) (2025-09-28T23:21:52Z) - Generalized Linear Mode Connectivity for Transformers [87.32299363530996]
驚くべき現象はリニアモード接続(LMC)であり、独立に訓練されたモデルを低損失またはゼロ損失の経路で接続することができる。
以前の研究は主に置換によるニューロンの並べ替えに焦点を合わせてきたが、そのようなアプローチは範囲に限られている。
我々は、4つの対称性クラス(置換、半置換、変換、一般可逆写像)をキャプチャする統一的なフレームワークを導入する。
この一般化により、独立に訓練された視覚変換器とGPT-2モデルの間の低障壁とゼロバリア線形経路の発見が可能となった。
論文 参考訳(メタデータ) (2025-06-28T01:46:36Z) - Tropical Geometry Based Edge Detection Using Min-Plus and Max-Plus Algebra [0.0]
本稿では,分極代数と最大剰余代数を用いて畳み込みと勾配計算を再構成する,熱帯幾何学に基づくエッジ検出フレームワークを提案する。
熱帯の定式化は、支配的な強度の変動を強調し、より鋭く、より連続的なエッジ表現に寄与する。
論文 参考訳(メタデータ) (2025-05-24T10:19:27Z) - The Real Tropical Geometry of Neural Networks [15.07926301607672]
本稿では,ReLUニューラルネットワークを熱帯有理関数として分類する。
本研究は, ニューラルネットワークと熱帯地形との関係を, 実際の熱帯地形で確立された構造を観察することによって拡張し, 改善するものである。
論文 参考訳(メタデータ) (2024-03-18T15:24:47Z) - A Theory of Topological Derivatives for Inverse Rendering of Geometry [87.49881303178061]
我々は、位相微分を用いて離散的な位相変化を可能にする微分可能な曲面進化の理論的枠組みを導入する。
2次元の閉曲線と3次元の曲面を最適化して提案理論を検証し、現在の手法の限界について考察する。
論文 参考訳(メタデータ) (2023-08-19T00:55:55Z) - Geometric Clifford Algebra Networks [53.456211342585824]
本稿では,動的システムのモデリングのためのGeometric Clifford Algebra Networks (GCANs)を提案する。
GCANは幾何学的(クリフォード)代数を用いた対称性群変換に基づいている。
論文 参考訳(メタデータ) (2023-02-13T18:48:33Z) - Dist2Cycle: A Simplicial Neural Network for Homology Localization [66.15805004725809]
単純複体は多方向順序関係を明示的にエンコードするグラフの高次元一般化と見なすことができる。
単体錯体の$k$-homological特徴によってパラメータ化された関数のグラフ畳み込みモデルを提案する。
論文 参考訳(メタデータ) (2021-10-28T14:59:41Z) - ResNet-LDDMM: Advancing the LDDMM Framework Using Deep Residual Networks [86.37110868126548]
本研究では,eulerの離散化スキームに基づく非定常ode(フロー方程式)の解法として,深層残留ニューラルネットワークを用いた。
複雑なトポロジー保存変換の下での3次元形状の多種多様な登録問題について述べる。
論文 参考訳(メタデータ) (2021-02-16T04:07:13Z) - Shape Estimation for Elongated Deformable Object using B-spline Chained
Multiple Random Matrices Model [5.94069939063928]
伸縮変形可能な物体の幾何学的特性をモデル化するために, B-スプライン鎖型多元ランダム行列表現を提案する。
予測最大化(EM)法は、伸長変形可能な物体の形状を推定するために導出される。
提案アルゴリズムは, シナリオ内での伸長変形可能な物体の形状推定に有用である。
論文 参考訳(メタデータ) (2020-04-10T21:15:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。