論文の概要: Kolmogorov-Arnold Networks: Curse of Dimensionality and Structural Bias

• arxiv url: http://arxiv.org/abs/2610.21480v1
• Date: Thu, 15 Oct 2026 08:21:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-16 19:13:16.277326
• Title: Kolmogorov-Arnold Networks: Curse of Dimensionality and Structural Bias
• Title（参考訳）: Kolmogorov-Arnold Networks: Curse of dimensionality and Structure Bias
• Abstract要約: コルモゴロフ・アルノルドネットワーク(KAN)は、対象が滑らかな表現を持つとき、次元に依存しない近似指数を持つ。 等方性ソボレフ球の最悪の下界を次元非依存精度閾値以下で証明する。 一方, 既存の構成整合結果から, 低アリティ目標に対する優良指数はカンに限らないことが明らかとなった。
• 参考スコア（独自算出の注目度）: 17.18018165206028
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Kolmogorov-Arnold networks (KANs) have a dimension-independent approximation exponent when the target admits a sufficiently smooth representation by univariate edge functions. We ask whether this favorable scaling belongs to the architecture or to the assumed target class. For arbitrary-depth standard spline-KANs, we prove a worst-case lower bound on isotropic Sobolev balls: below a dimension-independent accuracy threshold, the required number of spline coefficients grows at least exponentially with input dimension. Existing composition-matched MLP results, by contrast, show that favorable exponents on low-arity targets are not exclusive to KANs. We also revisit empirical comparisons. On four scaling-law targets, spline-KAN approximants constructed from known decompositions transfer exactly to MLPs with the cubic ReLU activation $σ(x)=(\max\{0,x\})^3$, although their full dense parameter counts are larger. In controlled ridge-profile scans, KANs have a strong advantage when each nonlinear component depends on one input coordinate. When a component couples multiple input coordinates, this advantage may narrow sharply. At tight budgets, interacting targets often favor MLPs. In the random-label test on MNIST, ReLU-MLPs fit the randomized training labels more efficiently than spline-only KANs. Together, these results locate favorable scaling in target structure and a compatible inductive bias, not a general KAN-specific escape from the curse of dimensionality.
• Abstract（参考訳）: コルモゴロフ・アルノルドネットワーク(KAN)は、標的が単変数エッジ関数による十分滑らかな表現を許すとき、次元に依存しない近似指数を持つ。 この好都合なスケーリングはアーキテクチャに属するのか、想定されるターゲットクラスに属するのかを問う。 任意の深さの標準スプライン-KANに対して、等方性ソボレフ球の最悪の下界が証明される:次元に依存しない精度しきい値以下では、必要数のスプライン係数は入力次元とともに少なくとも指数関数的に増加する。 一方, 既存の合成マッチングMLPの結果は, 低アリティ目標の指数がカンに排他的でないことを示している。 経験的比較も再考する。 4つのスケーリング法則のターゲットにおいて、既知の分解から構築されたスプライン-KAN近似は、その完全な密度パラメータ数が大きいにもかかわらず、立方体のReLU活性化$σ(x)=(\max\{0,x\})^3$で正確にMLPに変換される。 制御隆起走査では、各非線形成分が1つの入力座標に依存する場合、カンは強い優位性を持つ。 コンポーネントが複数の入力座標を結合する場合、この利点は鋭く狭くなる。 厳格な予算では、相互作用対象はしばしばMLPを好んでいる。 MNISTのランダムラベルテストでは、ReLU-MLPはスプラインオンリーのkanよりも効率的にランダム化されたトレーニングラベルに適合する。 これらの結果から,対象構造における好適なスケーリングと適応的帰納バイアスを見出すことができ,次元性の呪いから一般の感性特異的に逃れることはできない。

関連論文リスト

• Projective Normal Fields: A Convex Optimization Method for Constructing Smooth UDFs [68.08537394769392]
  本稿では,原点雲からの距離場(UDF)の滑らかな近似を構築するためのフレームワークを提案する。 局所幾何推定をスカラーフィールド構造から分離することにより、PNFは非微分可能なUDFを直接適合させない。
  論文  参考訳（メタデータ） (2026-09-28T09:55:50Z)
• One-step lowest-variance selection in a Gaussian random-field model motivated by masked diffusion: Total correlation and a square root collision threshold [8.230831152671708]
  マスク付き離散拡散における信頼誘導型並列アンマスキングの動機付けにより、スタイリングされたガウス確率場モデルにおける1つの選択ステップについて検討する。 その結果、マスク付き離散拡散における厳密な信頼幾何と空間相関が一段階選択に結びついている。
  論文  参考訳（メタデータ） (2026-07-20T03:56:34Z)
• Posterior Contraction Rates for Sparse Kolmogorov-Arnold Networks in Anisotropic Besov Spaces [4.687937508271486]
  スパイク・アンド・スラブ型スペーサーを有するスパルスベイズカンが, ほぼ最小の後方収縮を達成できることを示す。 特に収縮速度は、下層の関数の内在的な異方的滑らかさに依存する。
  論文  参考訳（メタデータ） (2026-05-12T07:14:08Z)
• Partition-of-Unity Gaussian Kolmogorov-Arnold Networks [0.0]
  本稿では,各エッジ上のガウス基底値を固定中心上の局所和で分割する,ユニシティ・ガウスカン(PU-GKAN)について紹介する。 これにより、標準エッジベースの Kan 構造を保ちながら、トレーニング可能な係数を持つ分割ユニティ特徴写像が生成される。 数値実験により、PU-GKANは()に対する感度を低下させ、スムーズかつ適度に非滑らかな標的に対する検証精度を改善し、より安定した訓練行動を与えることが示された。
  論文  参考訳（メタデータ） (2026-04-26T08:24:03Z)
• LLM Evaluation as Tensor Completion: Low Rank Structure and Semiparametric Efficiency [16.73008463123115]
  大規模言語モデル(LLM)評価プラットフォームは、ペアワイズな人間の判断にますます依存している。 対比較による低ランク潜在スコアの半パラメトリック推定法として検討した。
  論文  参考訳（メタデータ） (2026-04-07T05:44:08Z)
• Unregularized Linear Convergence in Zero-Sum Game from Preference Feedback [50.89125374999765]
  NLHFにおける最適乗算重み更新(mathtOMWU$)に対する最初の収束保証を提供する。 本分析では, 稀に発生する行動の確率が指数関数的に小さい値から指数関数的に増大する新たな限界収束挙動を同定する。
  論文  参考訳（メタデータ） (2025-12-31T12:08:29Z)
• Incorporating Arbitrary Matrix Group Equivariance into KANs [69.30866522377694]
  Kolmogorov-Arnold Networks (KAN) は科学分野で大きな成功を収めている。 本研究では,Equivariant Kolmogorov-Arnold Networks (EKAN)を提案する。
  論文  参考訳（メタデータ） (2024-10-01T06:34:58Z)
• On the Effective Number of Linear Regions in Shallow Univariate ReLU Networks: Convergence Guarantees and Implicit Bias [50.84569563188485]
  我々は、ラベルが$r$のニューロンを持つターゲットネットワークの符号によって決定されるとき、勾配流が方向収束することを示す。 我々の結果は、標本サイズによらず、幅が$tildemathcalO(r)$である、緩やかなオーバーパラメータ化をすでに維持しているかもしれない。
  論文  参考訳（メタデータ） (2022-05-18T16:57:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。