論文の概要: TIDE: Asymmetric Neural Circuits for Stabilized Temporal Inhibitory-Excitatory Dynamics
- arxiv url: http://arxiv.org/abs/2605.19403v1
- Date: Tue, 19 May 2026 05:59:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-20 15:03:09.151618
- Title: TIDE: Asymmetric Neural Circuits for Stabilized Temporal Inhibitory-Excitatory Dynamics
- Title(参考訳): TIDE: 安定化時間抑制励起ダイナミクスのための非対称神経回路
- Authors: Alexander Kyuroson, Denis Kleyko, Marcus Liwicki,
- Abstract要約: 最近のContinuous Thought Machineアーキテクチャは、ニューラルダイナミクスを介して外部入力から内部計算を分離している。
非対称な興奮抑制(E-I)ネットワークを用いたニューラルダイナミクスのモデル化を提案する。
本稿では、神経力学を安定化させて内部表現を計算する、神経に触発されたアーキテクチャであるTIDE(Temporal Inhibitory-Excitatory Dynamic Engine)を紹介する。
- 参考スコア(独自算出の注目度): 51.37317469455798
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Recent Continuous Thought Machine architecture decouples internal computation from external inputs via neural dynamics, but relies on multi-layer perceptrons without stability guarantees. We propose to model neural dynamics using asymmetric Excitatory-Inhibitory (E-I) networks, which can be stabilized via principles from network theory and can be expressed as energy-based systems optimized through a game-theoretic loss. Building on this perspective, we introduce Temporal Inhibitory-Excitatory Dynamic Engine (TIDE), a neuro-inspired architecture that computes internal representations through neural dynamics stabilized by incorporating the Wilson-Cowan dynamics and lateral inhibition. TIDE balances biological realism by, for instance, using Hierarchical Receptive Fields and enforcing Dale's principle to ensure a realistic $80:20$ E-I balance ratio with an end-to-end trainable architecture. The aim of this paper is to introduce a new architecture that brings neuro-inspired learning to the forefront. We present proofs of convergence, stability, and complexity bounds, along with empirical ablation studies. Overall, TIDE surpasses CTM with under $50\%$ of the training time and improves $\texttt{top-1}$ accuracy by an average of $+1.65\%$ on ImageNet under various perturbations.
- Abstract(参考訳): 最近のContinuous Thought Machineアーキテクチャは、外部インプットからニューラルダイナミクスを通じて、内部計算を分離するが、安定性を保証することなく、多層パーセプトロンに依存している。
本稿では, ネットワーク理論の原理により安定化し, ゲーム理論の損失によって最適化されたエネルギーベースシステムとして表現できる非対称興奮抑制(E-I)ネットワークを用いて, ニューラルダイナミクスをモデル化することを提案する。
この観点から、Wilson-Cowanのダイナミクスと横方向の抑制を取り入れることで、安定化されたニューラルダイナミクスを通して内部表現を演算する、神経インスパイアされたアーキテクチャであるTIDE(Temporal Inhibitory-Excitatory Dynamic Engine)を導入する。
TIDEは例えば階層的受容場(Hierarchical Receptive Fields)を使用して生物学的リアリズムをバランスさせ、Daleの原則を適用して、80:20$ E-Iのリアルなバランス比とエンドツーエンドのトレーニング可能なアーキテクチャを確実にする。
本研究の目的は,神経に触発された学習を最前線にもたらす新しいアーキテクチャを導入することである。
我々は, 収束, 安定性, 複雑性境界の証明を経験的アブレーション研究とともに提示する。
全体として、TIDEはトレーニング時間の50\%以下でCTMを超え、様々な摂動の下でImageNet上で平均$+1.65\%の精度で$\texttt{top-1}$精度を改善している。
関連論文リスト
- Dynamical Learning in Deep Asymmetric Recurrent Neural Networks [1.3421746809394772]
非対称なディープリカレントニューラルネットワークは、指数関数的に大きく、密度の高い内部表現の多様体を生み出すことを示す。
本稿では,再帰的ダイナミクスからインプット・アウトプット・アソシエーションが自然に出現する分散学習手法を提案する。
論文 参考訳(メタデータ) (2025-09-05T12:05:09Z) - Dynamical Alignment: A Principle for Adaptive Neural Computation [1.0974389213466795]
固定されたニューラルネットワーク構造は、その構造ではなく、入力信号の時間的ダイナミクスによって駆動される、根本的に異なる計算モードで動作可能であることを示す。
この計算上の優位性は、入力力学とニューロン統合の間の時間スケールのアライメントから生じる。
この原理は、安定塑性ジレンマから分離積分力学まで、神経科学における長期保存双対性に関する統一的で計算可能な視点を提供する。
論文 参考訳(メタデータ) (2025-08-13T06:35:57Z) - Langevin Flows for Modeling Neural Latent Dynamics [81.81271685018284]
逐次変分自動エンコーダであるLangevinFlowを導入し、潜伏変数の時間的進化をアンダーダム化したLangevin方程式で制御する。
われわれのアプローチは、慣性、減衰、学習されたポテンシャル関数、力などの物理的事前を組み込んで、ニューラルネットワークにおける自律的および非自律的プロセスの両方を表現する。
本手法は,ロレンツ誘引器によって生成される合成神経集団に対する最先端のベースラインより優れる。
論文 参考訳(メタデータ) (2025-07-15T17:57:48Z) - ConCerNet: A Contrastive Learning Based Framework for Automated
Conservation Law Discovery and Trustworthy Dynamical System Prediction [82.81767856234956]
本稿では,DNNに基づく動的モデリングの信頼性を向上させるために,ConCerNetという新しい学習フレームワークを提案する。
本手法は, 座標誤差と保存量の両方において, ベースラインニューラルネットワークよりも一貫して優れていることを示す。
論文 参考訳(メタデータ) (2023-02-11T21:07:30Z) - Expressive architectures enhance interpretability of dynamics-based
neural population models [2.294014185517203]
シミュレーションされたニューラルネットワークから潜在カオスを引き付ける際のシーケンシャルオートエンコーダ(SAE)の性能を評価する。
広帯域再帰型ニューラルネットワーク(RNN)を用いたSAEでは,真の潜在状態次元での正確な発射速度を推定できないことがわかった。
論文 参考訳(メタデータ) (2022-12-07T16:44:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。