論文の概要: Edge-Centric Adaptive Neural Activation via Parametric Tanh Functions

• arxiv url: http://arxiv.org/abs/2610.34154v1
• Date: Sun, 25 Oct 2026 08:39:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.547683
• Title: Edge-Centric Adaptive Neural Activation via Parametric Tanh Functions
• Title（参考訳）: パラメトリックタン関数によるエッジ中心適応型ニューラルアクティベーション
• Abstract要約: 本稿では,現代エッジアクティベートパラダイムの計算ボトルネックを解消する,コンパクトでエッジ中心のニューラルネットワークフレームワークを提案する。 a_tanh(x;,,) = + tanh(x + )$と定義される滑らかで有界なアーキテクチャプリミティブであるパラメトリックなTanh接続関数を提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Within the broader landscape of artificial intelligence architectures, this paper introduces a compact, edge-centric neural framework that resolves the computational bottlenecks of modern edge-activated paradigms like Kolmogorov-Arnold Networks (KANs) while retaining their expressiveness over traditional Multi-Layer Perceptrons (MLPs). While KANs demonstrate remarkable representational capacity by placing learnable univariate functions on connection edges rather than hidden nodes, their reliance on non-local B-splines introduces severe optimization hurdles, high memory overhead, and poor hardware scaling. To bridge this gap, we propose the Parametric Tanh Connection Function, a smooth, bounded architectural primitive defined as $a_{\tanh}(x;δ,α,β,γ) = δ+ α\tanh(βx + γ)$. This formulation unifies offset, amplitude, local slope, and horizontal displacement into a lightweight, 4-parameter differentiable mapping optimized edge-by-edge via backpropagation. Evaluated on dense architectures using MNIST and CIFAR-10, our parametric tanh connection model achieves significant absolute accuracy gains over traditional affine baselines-reaching 95.63% $\pm$ 0.08% on MNIST and 44.74% $\pm$ 0.18% on CIFAR-10. Crucially, it matches or exceeds the expressiveness of unconstrained 7-parameter exponential connection baselines while requiring up to 85% less training runtime. By replacing complex splines or hyper-flexible exponents with a bounded, analytically smooth hyperbolic tangent kernel, this work delivers a highly scalable, hardware-friendly compromise for heterogeneous connection-level deep learning.
• Abstract（参考訳）: 人工知能アーキテクチャの広範な展望の中で,本稿では,KAN(Kolmogorov-Arnold Networks)のような現代エッジ活性化パラダイムの計算ボトルネックを解決するとともに,従来のMLP(Multi-Layer Perceptrons)よりも表現力を維持した,コンパクトでエッジ中心のニューラルネットワークフレームワークを導入する。 Kansは、隠れノードではなく接続エッジに学習可能なユニバリケート関数を配置することで、顕著な表現能力を示す一方で、非ローカルなB-スプラインへの依存は、厳しい最適化ハードル、高いメモリオーバーヘッド、ハードウェアスケーリングの欠如をもたらす。 このギャップを埋めるために、a_{\tanh}(x;δ,α,β,γ) = δ+ α\tanh(βx + γ)$ と定義される滑らかな有界なアーキテクチャプリミティブであるパラメトリックタン接続関数を提案する。 この定式化は、オフセット、振幅、局所勾配、水平変位を、バックプロパゲーションによって最適化された4パラメータの微分可能マッピングに統一する。 MNIST と CIFAR-10 を用いて高密度アーキテクチャを評価した結果,従来のアフィンベースライン取得 95.63% $\pm$ 0.08%,CIFAR-10 では44.74% $\pm$ 0.18% に対して,パラメトリックタン接続モデルにより絶対精度が向上した。 重要なことに、制限のない7パラメータ指数接続ベースラインの表現力と一致または超過し、最大85%のトレーニング実行時間を必要とする。 複雑なスプラインや超フレキシブル指数を有界で解析的に滑らかな双曲型タンジェントカーネルに置き換えることで、この研究は、異種接続レベルのディープラーニングに対して、高度にスケーラブルでハードウェアフレンドリな妥協をもたらす。

関連論文リスト

• Hybrid Parallel Bessel KAN Model: a Kolmogorov Arnold Network: integrated framework for developing a novel architecture to reconstruct the fused-basis approach via a parameter free quadratic interaction [0.0]
  Kolmogorov-Arnold Network (KAN)は、学習可能なアクティベーション機能をネットワークエッジに配置することで、従来のネットワークに挑戦する。 本稿では,B-Splineおよび低階Bessel分岐をパラレルフリー二次相互作用を介して並列処理パイプラインに分離するParallel BesselKANを提案する。
  論文  参考訳（メタデータ） (2026-10-13T06:05:52Z)
• On the Depth Transfer of Neural Optimizers via L-Smoothness [10.750661824988972]
  逆深さ残差分枝スケーリングは固定幅で定数を非依存にするのに十分であることを示す。 我々の限界は、所定の基準に制限された更新に対して、追加の深さ依存性の曲率補正なしで学習速度尺度を動機付けます。 これは、逆深さ残留スケーリングの幾何学的説明と、AdamW, Muon, MOGAに関連する作用素-ノルム幾何学への応用を提供する。
  論文  参考訳（メタデータ） (2026-10-09T21:43:21Z)
• SH-WRNN: Implicit Spherical Harmonics Weight Field Routing Neural Networks for Asymmetric Edge Intelligence [0.5500249707065664]
  Inlicit Spherical Harmonics Weight Field Routing Neural Network (SH-WRNN)を紹介する。 現在の層の重み行列を取得する際、接続パラメータは緯度と経度を用いて局所化される。 SH-WRNNは1回のトレーニングで91.05%と81.54%の堅牢なアキュラシーを達成している。
  論文  参考訳（メタデータ） (2026-09-13T15:44:47Z)
• Intrinsic Lorentz Neural Network [49.83037691286893]
  実世界のデータは、しばしば、双曲幾何学によって自然に表される潜在階層構造を示す。 本稿では,全計算をローレンツモデル内で行う完全内在型双曲型アーキテクチャであるEmphIntrinsic Lorentz Neural Network (ILNN)を提案する。 ネットワークの中核は、従来のユークリッド・アフィン・ロジットを閉形双曲線距離に置き換え、新しいエンファンポイント-ハイアプレーン完全連結層(FC)を導入している。
  論文  参考訳（メタデータ） (2026-02-27T12:48:05Z)
• Decentralized Nonconvex Composite Federated Learning with Gradient Tracking and Momentum [78.27945336558987]
  分散サーバ(DFL)はクライアント・クライアント・アーキテクチャへの依存をなくす。 非滑らかな正規化はしばしば機械学習タスクに組み込まれる。 本稿では,これらの問題を解決する新しいDNCFLアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-04-17T08:32:25Z)
• TensorGRaD: Tensor Gradient Robust Decomposition for Memory-Efficient Neural Operator Training [91.8932638236073]
  textbfTensorGRaDは,重み付けに伴うメモリ問題に直接対処する新しい手法である。 SparseGRaD は総メモリ使用量を 50% 以上削減し,同時に精度も向上することを示した。
  論文  参考訳（メタデータ） (2025-01-04T20:51:51Z)
• Local Loss Optimization in the Infinite Width: Stable Parameterization of Predictive Coding Networks and Target Propagation [8.35644084613785]
  局所目標の2つの代表的設計に対して、無限幅極限における最大更新パラメータ化(mu$P)を導入する。 深層線形ネットワークを解析した結果,PCの勾配は1次勾配とガウス・ニュートン様勾配の間に介在していることが判明した。 我々は、特定の標準設定において、無限幅制限のPCは、一階勾配とよりよく似た振る舞いをすることを示した。
  論文  参考訳（メタデータ） (2024-11-04T11:38:27Z)
• SGCNeRF: Few-Shot Neural Rendering via Sparse Geometric Consistency Guidance [136.15885067858298]
  本研究では、空間的に一貫した幾何フィルタリング機構と周波数誘導幾何正規化戦略により強化された特徴マッチングに基づくスパース幾何正規化モジュールを提案する。 実験により, SGCNeRFは, LLFFおよびDTUにおけるPSNRの0.7dBの改善により, 優れた幾何整合性を実現し, かつFreeNeRFを超えていることが示された。
  論文  参考訳（メタデータ） (2024-04-01T08:37:57Z)
• Stochastic Marginal Likelihood Gradients using Neural Tangent Kernels [78.6096486885658]
  線形化されたラプラス近似に下界を導入する。 これらの境界は漸進的な最適化が可能であり、推定精度と計算複雑性とのトレードオフを可能にする。
  論文  参考訳（メタデータ） (2023-06-06T19:02:57Z)
• Adaptive Subcarrier, Parameter, and Power Allocation for Partitioned Edge Learning Over Broadband Channels [69.18343801164741]
  パーティショニングエッジ学習(PARTEL)は、無線ネットワークにおいてよく知られた分散学習手法であるパラメータサーバトレーニングを実装している。 本稿では、いくつかの補助変数を導入してParticleELを用いてトレーニングできるディープニューラルネットワーク(DNN)モデルについて考察する。
  論文  参考訳（メタデータ） (2020-10-08T15:27:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。