論文の概要: Kirchhoff-Inspired Neural Networks for Evolving High-Order Perception
- arxiv url: http://arxiv.org/abs/2603.23977v1
- Date: Wed, 25 Mar 2026 06:17:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-26 21:06:11.15946
- Title: Kirchhoff-Inspired Neural Networks for Evolving High-Order Perception
- Title(参考訳): キルヒホフにインスパイアされた高次知覚のためのニューラルネットワーク
- Authors: Tongfei Chen, Jingying Yang, Linlin Yang, Jinhu Lü, David Doermann, Chunyu Xie, Long He, Tian Wang, Juan Zhang, Guodong Guo, Baochang Zhang,
- Abstract要約: 我々はKirchhoff-Inspired Neural Network (KINN)を提案する。
KINNは、基本的な常微分方程式から数値的に安定な状態更新を導き、より高階の進化成分の明示的な分離と符号化を可能にする。
- 参考スコア(独自算出の注目度): 51.28469959548178
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep learning architectures are fundamentally inspired by neuroscience, particularly the structure of the brain's sensory pathways, and have achieved remarkable success in learning informative data representations. Although these architectures mimic the communication mechanisms of biological neurons, their strategies for information encoding and transmission are fundamentally distinct. Biological systems depend on dynamic fluctuations in membrane potential; by contrast, conventional deep networks optimize weights and biases by adjusting the strengths of inter-neural connections, lacking a systematic mechanism to jointly characterize the interplay among signal intensity, coupling structure, and state evolution. To tackle this limitation, we propose the Kirchhoff-Inspired Neural Network (KINN), a state-variable-based network architecture constructed based on Kirchhoff's current law. KINN derives numerically stable state updates from fundamental ordinary differential equations, enabling the explicit decoupling and encoding of higher-order evolutionary components within a single layer while preserving physical consistency, interpretability, and end-to-end trainability. Extensive experiments on partial differential equation (PDE) solving and ImageNet image classification validate that KINN outperforms state-of-the-art existing methods.
- Abstract(参考訳): 深層学習アーキテクチャは神経科学、特に脳の感覚経路の構造に着想を得ており、情報的データ表現の学習において顕著な成功を収めた。
これらのアーキテクチャは生物学的ニューロンの通信機構を模倣するが、情報符号化と伝達の戦略は根本的に異なる。
対照的に、従来のディープネットワークは、信号強度、結合構造、状態進化の間の相互作用を共同で特徴づける体系的なメカニズムを欠いた、神経間接続の強度を調整することによって、重みとバイアスを最適化する。
この制限に対処するために、Kirchhoffの現行法則に基づいて構築された状態変数ベースのネットワークアーキテクチャであるKirchhoff-Inspired Neural Network (KINN)を提案する。
KINNは、基本的な常微分方程式から数値的に安定な状態更新を導き、物理的整合性、解釈可能性、エンドツーエンドの訓練性を維持しながら、単一の層内で高階の進化成分を明示的に分離および符号化することができる。
偏微分方程式(PDE)の解法とイメージネット画像分類に関する広範囲な実験により、KINNは最先端の既存手法よりも優れていることを確認した。
関連論文リスト
- MorphSNN: Adaptive Graph Diffusion and Structural Plasticity for Spiking Neural Networks [20.207135245363386]
スパイキングニューラルネットワーク(SNN)は現在、重大なボトルネックに直面している。
個々のニューロンは動的生物学的性質を示すが、マクロな構造は従来の接続パターンに限られている。
生体内非シナプス拡散と構造塑性にインスパイアされたバックボーンフレームワークであるMorphSNNを提案する。
論文 参考訳(メタデータ) (2026-03-15T08:52:57Z) - Fractional neural attention for efficient multiscale sequence processing [0.0]
マルチスケール情報処理の原理的フレームワークであるFNA(Frictional Neural Attention)を導入する。
FNAは、ラプラシアン分数によって支配されるレヴィ拡散によるトークン相互作用をモデル化する。
FNAは、単一の層と単一のヘッドであっても、競合するテキスト分類性能を達成する。
論文 参考訳(メタデータ) (2025-11-13T11:27:39Z) - Computing with Canonical Microcircuits [0.0]
標準マイクロ回路(CMC)に基づく計算アーキテクチャを提案する。
我々はこれらの回路を、スピン状星状体、抑制性、錐体ニューロンからなる神経回路として実装する。
実験の結果、1つのMCCノードでさえ、MNISTで97.8%の精度を達成していることがわかった。
論文 参考訳(メタデータ) (2025-07-25T11:10:13Z) - Fractional Spike Differential Equations Neural Network with Efficient Adjoint Parameters Training [63.3991315762955]
スパイキングニューラルネットワーク(SNN)は、生物学的ニューロンからインスピレーションを得て、脳に似た計算の現実的なモデルを作成する。
既存のほとんどのSNNは、マルコフ特性を持つ一階常微分方程式(ODE)によってモデル化された、神経細胞膜電圧ダイナミクスの単一時間定数を仮定している。
本研究では, 膜電圧およびスパイク列車の長期依存性を分数次力学により捉えるフラクタルSPIKE微分方程式ニューラルネットワーク (fspikeDE) を提案する。
論文 参考訳(メタデータ) (2025-07-22T18:20:56Z) - Discrete-Valued Neural Communication [85.3675647398994]
コンポーネント間で伝達される情報を離散表現に制限することは、有益なボトルネックであることを示す。
個人は「猫」が特定の経験に基づいて何であるかについて異なる理解を持っているが、共有された離散トークンは、個人間のコミュニケーションが内部表現の個人差によって切り離されることを可能にする。
我々は、量子化機構をベクトル量子化変分オートコーダから共有符号ブックによる多頭部離散化に拡張し、離散値ニューラル通信に利用する。
論文 参考訳(メタデータ) (2021-07-06T03:09:25Z) - Credit Assignment in Neural Networks through Deep Feedback Control [59.14935871979047]
ディープフィードバックコントロール(Deep Feedback Control, DFC)は、フィードバックコントローラを使用して、望ましい出力ターゲットにマッチするディープニューラルネットワークを駆動し、クレジット割り当てに制御信号を使用する新しい学習方法である。
学習規則は空間と時間において完全に局所的であり、幅広い接続パターンに対するガウス・ニュートンの最適化を近似する。
さらに,DFCと皮質錐体ニューロンのマルチコンパートメントモデルと,局所的な電圧依存性のシナプス可塑性規則を関連づける。
論文 参考訳(メタデータ) (2021-06-15T05:30:17Z) - Learning in Deep Neural Networks Using a Biologically Inspired Optimizer [5.144809478361604]
人工神経(ANN)とスパイクニューラルネット(SNN)にインスパイアされた新しい生物モデルを提案する。
GRAPESは、ニューラルネットワークの各ノードにおけるエラー信号の重量分布依存変調を実装している。
生物学的にインスパイアされたこのメカニズムは,ネットワークの収束率を体系的に改善し,ANNやSNNの分類精度を大幅に向上させることを示す。
論文 参考訳(メタデータ) (2021-04-23T13:50:30Z) - Geometry Perspective Of Estimating Learning Capability Of Neural
Networks [0.0]
本稿では,勾配勾配勾配を用いた最小二乗回帰(SGD)を一般化したニューラルネットワークの幅広いクラスについて考察する。
一般化能力とニューラルネットワークの安定性との関係についても論じている。
ニューラルネットワークの学習理論と高エネルギー物理の原理を関連付けることにより,人工ニューラルネットワークの観点からの複雑性・摩擦予想の変種を確立する。
論文 参考訳(メタデータ) (2020-11-03T12:03:19Z) - An Ode to an ODE [78.97367880223254]
我々は、O(d) 群上の行列フローに応じて主フローの時間依存パラメータが進化する ODEtoODE と呼ばれるニューラルODE アルゴリズムの新しいパラダイムを提案する。
この2つの流れのネストされたシステムは、訓練の安定性と有効性を提供し、勾配の消滅・爆発問題を確実に解決する。
論文 参考訳(メタデータ) (2020-06-19T22:05:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。