論文の概要: Geometry-Constrained Kolmogorov-Arnold Networks: Learning Edge Geometry via Banach Duality
- arxiv url: http://arxiv.org/abs/2608.25807v1
- Date: Wed, 26 Aug 2026 13:53:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-27 14:15:15.847986
- Title: Geometry-Constrained Kolmogorov-Arnold Networks: Learning Edge Geometry via Banach Duality
- Title(参考訳): 幾何制約付きコルモゴロフ・アルノルドネットワーク:バナッハ双対によるエッジ幾何学の学習
- Authors: K S Sesh Kumar,
- Abstract要約: Kolmogorov-Arnold Networks (KAN) はディープアーキテクチャにおける固定アクティベーションを置き換える。
バナッハ双対写像から導かれるエッジ活性化の族。
学習可能な指数は解釈可能な相対的な信号を与える。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Kolmogorov-Arnold Networks (KANs) replace fixed activations in deep architectures with learnable univariate edge functions, making the choice of edge parametrisation central. Existing variants rely on fixed bases such as splines, polynomials, or Fourier features, which impose a function-space geometry before data are observed. We introduce geometry-constrained KANs, a family of edge activations derived from Banach duality maps in which the geometry itself is learned through a scalar exponent $p > 1$ per edge. This exponent controls the qualitative response: sub-Euclidean values produce sharp, threshold-like behaviour reminiscent of the $\ell_1$ (LASSO) geometry, $p = 2$ recovers the linear regime, and larger values produce flatter responses near the origin. Across 50 symbolic-regression targets ($40$ from the AI Feynman benchmark plus $10$ synthetic stress tests), geometry-constrained KANs match or beat every fixed-basis baseline on median NRMSE (Banach-KAN $0.030$, tying Chebyshev and improving on splines); on average rank Banach-KAN is best on the $18$-equation core ($2.00$) and statistically tied with the strongest spline on the full benchmark ($2.32$ vs. $2.34$). The clearest gains appear under measurement noise: as $σ$ grows from $0$ to $1$, $\ell^p$-KAN degrades only $3.7\times$ -- below even a cross-validated spline ($\approx 11\times$) -- while an unregularised spline degrades $21.6\times$; Banach-KAN degrades $8.8\times$, comparable to a tuned spline but far more stable than the unregularised one. Banach-KAN also takes the most per-equation wins in the small-sample regime, with fixed-basis models catching up only as the training set grows. Learned exponents provide an interpretable, relative signal: at a fixed initialisation they reveal a consistent, target-dependent geometric ordering across equation families and input dimensions.
- Abstract(参考訳): Kolmogorov-Arnold Networks (KAN) は、深層アーキテクチャにおける固定活性化を学習可能な一変量エッジ関数に置き換え、エッジパラメトリゼーションを中心的に選択する。
既存の変種はスプライン、多項式、フーリエといった固定基底に依存しており、データが観測される前に関数空間幾何学を課す。
幾何制約付きカンはバナッハ双対写像から導かれるエッジアクティベーションの族であり、幾何自体がスカラー指数$p > 1$ で学習される。
この指数は定性応答を制御する: サブユークリッド値は、$\ell_1$ (LASSO) 幾何を思い起こさせるシャープなしきい値のような振舞いを生成し、$p = 2$ は線形状態を回復し、より大きな値は原点付近で平坦な応答を生成する。
NRMSE(Banach-KAN $0.030$, tying Chebyshev and improve on splines)では50のシンボリック回帰目標(AI Feynmanベンチマークと10ドルの合成ストレステストから40ドル)が一致し、幾何制約付きkansがすべての固定基底ベースラインにマッチまたは打ち勝つ(Banach-KAN $0.030$, tying Chebyshev and improve on splines)。
σ$が$0から$$$に成長するにつれて、$\ell^p$-KANは$3.7\times$に値下げされるが、非正規化されたスプラインは$1.6\times$に値下げされ、Banach-KANは$8.8\times$に値下げされる。
バナッハ・カンは、トレーニングセットが成長するにつれてのみ、固定ベースモデルが追いつき、小さなサンプル体制で最も方程式当たりの勝利を収める。
学習された指数は解釈可能な相対的な信号を与える:固定初期化時には、方程式族と入力次元をまたいだ一貫した、ターゲット依存の幾何学的順序を示す。
関連論文リスト
- An Information-Geometric Justification for Composite Coherence in Event-Based Narrative Extraction [0.27074235008521247]
ここで$A$は文書埋め込みと$T=1-d_mathrmJS$の角的類似性である。
4つのコーパス、3つの埋め込みファミリー、3つのトピックモデルはフレームワークと一致している。
論文 参考訳(メタデータ) (2026-06-28T00:05:15Z) - Efficient Mean Curvature Computation on High-Dimensional Data Manifolds [52.452902154360565]
高次元データセットの各点における局所的な平均曲率の推定は、機械学習アルゴリズムの重要な要素である。
本稿では,このコストを桁違いに削減する2つの補完的貢献を紹介する。
実世界のデータセットの実験では、オリジナルの実装と比較して50倍から300倍のスピードアップが確認されている。
論文 参考訳(メタデータ) (2026-06-04T16:04:31Z) - Beyond Isotropy in JEPAs: Hamiltonian Geometry and Symplectic Prediction [0.0]
JEPAs はしばしば一視点埋め込みを等方ガウスへ正規化し、ユークリッド対称性を表現に暗黙的に焼く。
これは単なる良心的デフォルトではないことを示す。下流幾何学が未知の場合、幾何非依存の固定限界目標が標準的でない。
この原則をtextbfHamJEPA でインスタンス化し、各ビューを相空間状態 $(q,p)$ としてエンコードし、ビューからビューへの遷移を予測する。
論文 参考訳(メタデータ) (2026-05-19T16:57:47Z) - Prism: Structural Symmetry Scanning via Duality-Constrained Laplacian Projection [0.0]
複雑なネットワークにおける構造対称性診断のためのフレームワークである textbfPrism を導入する。
Prismは、ネットワークが構造的自己整合性からどのくらい離れているかを測定するスカラーである。
論文 参考訳(メタデータ) (2026-05-18T04:20:05Z) - Intrinsic Wasserstein Rates for Score-Based Generative Models on Smooth Manifolds [61.14405512940818]
Scoreベースの生成モデルは高次元空間で訓練されていることを示す。
有限固有アンカーとガウス・ニュートンによる最も近い射影座標のReLU実装を用いる。
論文 参考訳(メタデータ) (2026-05-15T10:20:05Z) - When Does $\ell_2$-Boosting Overfit Benignly? High-Dimensional Risk Asymptotics and the $\ell_1$ Implicit Bias [15.113649527486276]
良性オーバーフィッティングが線形レートで失敗することを示します。
この局所化機構は信号の存在下で持続するべきであるが、正確な信号-雑音分解は未解決の問題である。
論文 参考訳(メタデータ) (2026-05-07T14:14:09Z) - Hardness of High-Dimensional Linear Classification [58.29089693778071]
我々は、最大半空間離散性問題に対する次元下界の新たな指数関数を確立する。
どちらも計算幾何学と機械学習の基本的問題であり、その正確で近似的な形式である。
論文 参考訳(メタデータ) (2026-03-19T15:53:41Z) - Measurement-induced phase transition for free fermions above one dimension [46.176861415532095]
自由フェルミオンモデルに対する$d>1$次元における測定誘起エンタングルメント相転移の理論を開発した。
臨界点は、粒子数と絡み合いエントロピーの第2累積のスケーリング$$elld-1 ln ell$でギャップのない位相を分離する。
論文 参考訳(メタデータ) (2023-09-21T18:11:04Z) - Variance-Aware Confidence Set: Variance-Dependent Bound for Linear
Bandits and Horizon-Free Bound for Linear Mixture MDP [76.94328400919836]
線形バンドイットと線形混合決定プロセス(mdp)に対する分散認識信頼セットの構築方法を示す。
線形バンドイットに対しては、$d を特徴次元とする$widetildeo(mathrmpoly(d)sqrt1 + sum_i=1ksigma_i2) が成り立つ。
線形混合 MDP に対し、$widetildeO(mathrmpoly(d)sqrtK)$ regret bound を得る。
論文 参考訳(メタデータ) (2021-01-29T18:57:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。