論文の概要: Exploring the Dimensions of a Variational Neuron
- arxiv url: http://arxiv.org/abs/2603.13849v1
- Date: Sat, 14 Mar 2026 09:09:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-17 16:19:35.443562
- Title: Exploring the Dimensions of a Variational Neuron
- Title(参考訳): 変動ニューロンの次元の探索
- Authors: Yves Ruffenach,
- Abstract要約: 本稿では,局所確率計算単位として定式化された変分分布ニューロンであるEVEを紹介する。
Eveには内部診断と制約があり、有効KL、m2の標的バンド、帯域外分数、ドリフトと崩壊の指標がある。
本論文は, 変動ニューロンによって開放された設計空間を, 実験的に基礎づけた第1のマップとして提供する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We introduce EVE (Elemental Variational Expanse), a variational distributional neuron formulated as a local probabilistic computational unit with an explicit prior, an amortized posterior, and unit-level variational regularization. In most modern architectures, uncertainty is modeled through global latent variables or parameter uncertainty, while the computational unit itself remains scalar. EVE instead relocates probabilistic structure to the neuron level, making it locally observable and controllable. In this paper, the term dimensions refers primarily to the neuron's internal latent dimensionality, denoted by k. We study how varying k, from the atomic case k = 1 to higher-dimensional latent spaces, changes the neuron's learned operating regime. We then examine how this main axis interacts with two additional structural properties: local capacity control and temporal persistence through a neuron-level autoregressive extension. To support this study, EVE is instrumented with internal diagnostics and constraints, including effective KL, a target band on mu^2, out-of-band fractions, and indicators of drift and collapse. Across selected forecasting and tabular settings, we show that latent dimensionality, control, and temporal extension shape the neuron's internal regime, and that some neuron-level variables are measurable, informative, and related to downstream behavior. Overall, the paper provides an experimentally grounded first map of the design space opened by a variational neuron.
- Abstract(参考訳): EVE (Elemental Variational Expanse) は局所確率的計算単位として定式化された変分分布ニューロンで, 明示的な先行性, 償却後部, 単位レベルの変分正規化を示す。
現代のほとんどのアーキテクチャでは、不確実性はグローバルな潜在変数やパラメータの不確実性によってモデル化されるが、計算単位自体はスカラーのままである。
EVEは代わりに確率的構造をニューロンのレベルに移動させ、局所的に観察可能で制御可能である。
本稿では、次元という用語は、主にkで表されるニューロンの内部潜在次元を指す。
我々は、原子の場合 k = 1 から高次元の潜在空間への k の変動が、ニューロンの学習された操作状態をどのように変化させるかを研究する。
次に、この主軸が局所的な容量制御とニューロンレベルの自己回帰拡張による時間的持続という2つの構造的特性とどのように相互作用するかを検討する。
この研究を支援するために、EVEは内部診断と制約、有効KL、mu^2の標的バンド、アウト・オブ・バンドの分画、ドリフトと崩壊の指標などを備えている。
選択した予測と表層設定によって、潜在次元、制御、時間的拡張がニューロンの内部構造を形作っており、いくつかのニューロンレベルの変数は測定可能であり、情報的であり、下流行動と関連していることを示す。
本論文は, 変動ニューロンによって開放された設計空間を, 実験的に基礎づけた第1のマップとして提供する。
関連論文リスト
- Variational Distributional Neuron [0.0]
VAEれんがとして定式化された演算部は、前部と、償却後部と、局所ELBOとを収容する。
我々は「崩壊」モードと「生きたニューロン」の条件を解析する
次に、ユニットごとの遅延前の自動回帰を通じて、時間とともにコントリビューションを拡張します。
論文 参考訳(メタデータ) (2026-02-20T14:35:53Z) - NOBLE -- Neural Operator with Biologically-informed Latent Embeddings to Capture Experimental Variability in Biological Neuron Models [63.592664795493725]
NOBLEは、解釈可能なニューロンの特徴を連続周波数変調した埋め込みから電流注入によって誘導されるソマティック電圧応答へのマッピングを学ぶ神経オペレーターフレームワークである。
内在的な実験変数を考慮したニューラルダイナミクスの分布を予測する。
NOBLEは、その一般化を実際の実験データで検証する最初の大規模ディープラーニングフレームワークである。
論文 参考訳(メタデータ) (2025-06-05T01:01:18Z) - Allostatic Control of Persistent States in Spiking Neural Networks for perception and computation [79.16635054977068]
本稿では,アロスタシスの概念を内部表現の制御に拡張することにより,環境に対する知覚的信念を更新するための新しいモデルを提案する。
本稿では,アトラクタネットワークにおける活動の急増を空間的数値表現として利用する数値認識の応用に焦点を当てる。
論文 参考訳(メタデータ) (2025-03-20T12:28:08Z) - Confidence Regulation Neurons in Language Models [91.90337752432075]
本研究では,大規模言語モデルが次世代の予測において不確実性を表現・規制するメカニズムについて検討する。
エントロピーニューロンは異常に高い重量ノルムを特徴とし、最終層正規化(LayerNorm)スケールに影響を与え、ロジットを効果的にスケールダウンさせる。
ここで初めて説明するトークン周波数ニューロンは、各トークンのログをそのログ周波数に比例して増加または抑制することで、出力分布をユニグラム分布から遠ざかる。
論文 参考訳(メタデータ) (2024-06-24T01:31:03Z) - Manifold GPLVMs for discovering non-Euclidean latent structure in neural
data [5.949779668853555]
神経科学における一般的な問題は、行動的に重要な変数の集合的神経表現を解明することである。
本稿では,新しい確率潜在変数モデルを提案し,各ニューロンがその表現に寄与する潜在状態を同時に同定する。
論文 参考訳(メタデータ) (2020-06-12T19:08:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。