論文の概要: Recursive Dynamics in Fast-Weights Homeostatic Reentry Networks: Toward Reflective Intelligence
- arxiv url: http://arxiv.org/abs/2511.06798v1
- Date: Mon, 10 Nov 2025 07:36:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-11 21:18:45.139733
- Title: Recursive Dynamics in Fast-Weights Homeostatic Reentry Networks: Toward Reflective Intelligence
- Title(参考訳): 高速ホメオスタット再突入ネットワークにおける再帰ダイナミクス : 反射インテリジェンスに向けて
- Authors: B. G. Chae,
- Abstract要約: 本研究では、高速な連想記憶、ホメオスタティック正規化、学習された再帰フィードバックを統合し、ニューラルネットワークの自己参照計算を近似するニューラルネットワーク機構であるFH-RL(Fast-Weights Homeostatic Reentry Layer)を紹介する。
Information Reentry Ratio(IRR)、Eigen-Spectrum Recursion Index(ESRI)、Representational Drift Periodicity(RDP)の3つの新しい指標を用いて、Reentry gain $gamma$のコントロール実験を行い、創発的内部ダイナミクスを評価する。
これらの知見は、フィードバック間のバランスから、反射的、思考的な内部処理が生じるという定量的証拠を提供する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This study introduces the Fast-Weights Homeostatic Reentry Layer (FH-RL), a neural mechanism that integrates fast-weight associative memory, homeostatic regularization, and learned reentrant feedback to approximate self-referential computation in neural networks. Unlike standard transformer architectures that operate in a purely feedforward manner during inference, FH-RL enables internal recurrence without external looping, allowing prior latent states to be dynamically re-entered into the ongoing computation stream. We conduct controlled experiments sweeping the reentry gain $\gamma$ and evaluate emergent internal dynamics using three novel metrics: the Information Reentry Ratio (IRR), Eigen-Spectrum Recursion Index (ESRI), and Representational Drift Periodicity (RDP). Results show that reentry quantity increases proportionally with~$\gamma$, while the learned feedback matrix $W_r$ remains bounded and becomes more structured at moderate gains. Critically, a stable reflective band emerges around $\gamma \approx 0.10-0.20$, where internal feedback is maximally expressive yet spectrally stable: IRR rises smoothly, ESRI remains near zero, and RDP exhibits consistent low-frequency cycles. These findings provide quantitative evidence that reflective, thought-like internal processing can arise from a principled balance between feedback amplification and homeostatic regulation, linking modern fast-weight architectures to theories of cortical reentry and recursive cognition.
- Abstract(参考訳): 本研究では、高速な連想記憶、ホメオスタティック正規化、学習された再帰フィードバックを統合し、ニューラルネットワークの自己参照計算を近似するニューラルネットワーク機構であるFH-RL(Fast-Weights Homeostatic Reentry Layer)を紹介する。
推論中に純粋にフィードフォワードで動作する標準的なトランスフォーマーアーキテクチャとは異なり、FH-RLは外部ループなしで内部の繰り返しを可能にする。
情報再突入率(IRR)、固有スペクトル再帰指数(ESRI)、表現的ドリフト周期性(RDP)の3つの新しい指標を用いて、再突入ゲイン(\gamma$)を網羅する制御実験を行った。
その結果、再突入量は~$\gamma$と比例して増加するが、学習されたフィードバック行列$W_r$は有界であり、適度な利得でより構造化されることがわかった。
批判的に、安定反射帯は$\gamma \approx 0.10-0.20$付近に出現し、内部フィードバックは極大に表現されるがスペクトル的に安定である:IRRは滑らかに上昇し、ESRIはゼロに近づき、RDPは一貫して低周波周期を示す。
これらの知見は、リフレクティブな思考のような内部処理が、フィードバック増幅とホメオスタティック・レギュレーションの原則的バランスから生じ、現代の高速建築と皮質再突入理論と再帰的認知理論を結びつけている、という定量的証拠を提供する。
関連論文リスト
- Self-induced stochastic resonance: A physics-informed machine learning approach [0.0]
自己誘発共鳴(英: Self-induced resonance, SISR)は、ノイズのみによって駆動される励起系におけるコヒーレント振動の出現である。
本研究は、フィッツヒューニューロンにおけるSISRのモデリングと予測のための物理インフォームド機械学習フレームワークを提案する。
論文 参考訳(メタデータ) (2025-10-26T21:49:20Z) - PACR: Progressively Ascending Confidence Reward for LLM Reasoning [55.06373646059141]
我々は、PACR(Progressive Ascending Confidence Reward)を提案する。
PACRは、正解に対するモデルの進化的信念から直接計算された、密集したモデル固有の報酬である。
以上の結果から,RLVRトレーニングはより効果的で信頼性が高いことが示唆された。
論文 参考訳(メタデータ) (2025-10-25T11:25:35Z) - Beyond Ensembles: Simulating All-Atom Protein Dynamics in a Learned Latent Space [4.5211402678313135]
LD-FPGの学習潜在空間内でのダイナミクスをシミュレーションするモジュールコンポーネントであるGraph Latent Dynamics Propagator (GLDP)を紹介する。
我々は,スコア誘導ランゲヴィン力学,(ii)クープマンに基づく線形作用素,(iii)自己回帰ニューラルネットワークの3種類のプロパゲータを比較した。
統合エンコーダ・プロパゲータ・デコーダ・フレームワーク内では、長い水平安定性、バックボーンとサイドチェーンのアンサンブルの忠実さ、機能的自由エネルギーの景観を評価する。
論文 参考訳(メタデータ) (2025-09-02T11:09:06Z) - Generative System Dynamics in Recurrent Neural Networks [56.958984970518564]
リカレントニューラルネットワーク(RNN)の連続時間ダイナミクスについて検討する。
線形および非線形構成の両方において安定な極限サイクルを実現するためには,スキュー対称性の重み行列が基本であることを示す。
数値シミュレーションは、非線形活性化関数が極限周期を維持するだけでなく、システム統合プロセスの数値安定性を高めることを示す。
論文 参考訳(メタデータ) (2025-04-16T10:39:43Z) - Fast Training of Recurrent Neural Networks with Stationary State Feedbacks [48.22082789438538]
リカレントニューラルネットワーク(RNN)は最近、Transformerよりも強力なパフォーマンスと高速な推論を実証している。
BPTTを固定勾配フィードバック機構で置き換える新しい手法を提案する。
論文 参考訳(メタデータ) (2025-03-29T14:45:52Z) - Gated Recurrent Neural Networks with Weighted Time-Delay Feedback [55.596897987498174]
本稿では,重み付き時間遅延フィードバック機構を備えたゲートリカレントユニット(GRU)を導入し,時系列データの長期依存性をモデル化する手法を提案する。
提案したモデルである $tau$-GRU は、繰り返し単位の連続時間定式化の離散版であり、力学は遅延微分方程式(DDE)によって制御される。
論文 参考訳(メタデータ) (2022-12-01T02:26:34Z) - Towards performant and reliable undersampled MR reconstruction via
diffusion model sampling [67.73698021297022]
DiffuseReconは拡散モデルに基づく新しいMR再構成法である。
観測された信号に基づいて生成過程を導出する。
特定の加速因子に関する追加の訓練は必要としない。
論文 参考訳(メタデータ) (2022-03-08T02:25:38Z) - Lipschitz Recurrent Neural Networks [100.72827570987992]
我々のリプシッツ再帰ユニットは、他の連続時間RNNと比較して、入力やパラメータの摂動に対してより堅牢であることを示す。
実験により,Lipschitz RNNは,ベンチマークタスクにおいて,既存のリカレントユニットよりも優れた性能を発揮することが示された。
論文 参考訳(メタデータ) (2020-06-22T08:44:52Z) - Multivariate Functional Regression via Nested Reduced-Rank
Regularization [2.730097437607271]
多変量関数応答と予測器を備えた回帰モデルに適用するネスト型低ランク回帰(NRRR)手法を提案する。
非漸近解析により、NRRRは少なくとも低ランク回帰と同等の誤差率を達成できることを示す。
NRRRを電力需要問題に適用し、日中電力消費の軌跡と日中電力消費の軌跡を関連づける。
論文 参考訳(メタデータ) (2020-03-10T14:58:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。