Fugu-MT 論文翻訳(概要): Metabolic cost of information processing in Poisson variational autoencoders

論文の概要: Metabolic cost of information processing in Poisson variational autoencoders

arxiv url: http://arxiv.org/abs/2602.13421v1
Date: Fri, 13 Feb 2026 19:46:11 GMT
ステータス: 翻訳完了
システム内更新日: 2026-02-17 14:17:28.027564
Title: Metabolic cost of information processing in Poisson variational autoencoders
Title（参考訳）: ポアソン変分オートエンコーダにおける情報処理のメタボリックコスト
Authors: Hadi Vafaii, Jacob L. Yates,
Abstract要約: 変動自由エネルギーの最小化は、計算のエネルギーを意識した理論への原則的な道筋を提供すると我々は主張する。我々のキーとなる観察は、ポアソン自由エネルギー目標におけるクルバック・リブラー(KL)の発散項が、モデルニューロンの以前の発火速度に比例するということである。この結果,ポアソン変分オートエンコーダの平均スパイク活性は,単調な単調な上昇で増加し,減少することがわかった。
参考スコア（独自算出の注目度）: 5.156484100374059
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Computation in biological systems is fundamentally energy-constrained, yet standard theories of computation treat energy as freely available. Here, we argue that variational free energy minimization under a Poisson assumption offers a principled path toward an energy-aware theory of computation. Our key observation is that the Kullback-Leibler (KL) divergence term in the Poisson free energy objective becomes proportional to the prior firing rates of model neurons, yielding an emergent metabolic cost term that penalizes high baseline activity. This structure couples an abstract information-theoretic quantity -- the *coding rate* -- to a concrete biophysical variable -- the *firing rate* -- which enables a trade-off between coding fidelity and energy expenditure. Such a coupling arises naturally in the Poisson variational autoencoder (P-VAE) -- a brain-inspired generative model that encodes inputs as discrete spike counts and recovers a spiking form of *sparse coding* as a special case -- but is absent from standard Gaussian VAEs. To demonstrate that this metabolic cost structure is unique to the Poisson formulation, we compare the P-VAE against Grelu-VAE, a Gaussian VAE with ReLU rectification applied to latent samples, which controls for the non-negativity constraint. Across a systematic sweep of the KL term weighting coefficient $β$ and latent dimensionality, we find that increasing $β$ monotonically increases sparsity and reduces average spiking activity in the P-VAE. In contrast, Grelu-VAE representations remain unchanged, confirming that the effect is specific to Poisson statistics rather than a byproduct of non-negative representations. These results establish Poisson variational inference as a promising foundation for a resource-constrained theory of computation.
Abstract（参考訳）: 生物学的システムの計算は基本的にエネルギーに制約があるが、計算の標準的な理論はエネルギーを自由に利用できるものとして扱う。ここでは、ポアソンの仮定の下での変分自由エネルギーの最小化は、計算のエネルギー認識理論への原則的経路を提供すると論じる。我々のキーとなる観察は、ポアソン自由エネルギー目標におけるクルバック・リーブラー(KL)の発散項が、モデルニューロンの以前の発火速度に比例し、高いベースライン活性をペナルティ化する創発的代謝コスト項となることである。この構造は、抽象的な情報理論量(*コード率*)と具体的な生物物理学変数*(*フィリング率*)を結合し、符号化忠実度とエネルギー消費のトレードオフを可能にする。このような結合はポアソン変分オートエンコーダ(P-VAE)において自然に生じ、これは脳にインスパイアされた生成モデルで、入力を離散スパイク数としてエンコードし、特別なケースとして*スパースコーディング*のスパイク形式を復元する。このメタボリックコスト構造がポアソンの定式化に特有のものであることを示すため、ガウスのVAEであるGrelu-VAEと非負性制約を制御するReLUの補正であるGrelu-VAEを比較した。 KL項重み係数$β$と潜在次元の体系的な網羅によって、β$の増大は空間性を高め、P-VAEにおける平均スパイク活性を減少させることがわかった。対照的に、Grelu-VAE表現は変わらず、その効果が非負の表現の副産物ではなく、ポアソン統計に固有のものであることを確認する。これらの結果は、Poisson変分推論を資源制約された計算理論の有望な基礎として確立する。

関連論文リスト

From Regression to Classification: Exploring the Benefits of Categorical Representations of Energy in MLIPs [1.0998907972211756]
密度汎関数理論 (DFT) は分子のエネルギーと挙動を推定するための広く用いられる計算法である。機械学習原子間ポテンシャル(MLIPs)は、DFTレベルのエネルギーと力を劇的に低い計算コストで近似するよう訓練されたモデルである。本研究では,エネルギー/力の値に対するカテゴリー分布を予測する多クラス分類の定式化について検討する。
論文参考訳（メタデータ） (2025-12-01T00:36:42Z)
Negative Binomial Variational Autoencoders for Overdispersed Latent Modeling [22.62423547669558]
最近の研究は、ポアソン分布を用いてスパイク数をモデル化することによって生物学的にインスピレーションを得ている。負二項分布を用いてスパイク数をカウントするVAEフレームワークの原理拡張であるNegBio-VAEを導入する。このシフトは分散を明示的に制御し、より広範で正確な神経表現の族を解き放つ。
論文参考訳（メタデータ） (2025-08-07T14:15:09Z)
Consistent Sampling and Simulation: Molecular Dynamics with Energy-Based Diffusion Models [50.77646970127369]
本稿では,Fokker-Planck由来の正規化項を用いたエネルギーベース拡散モデルを提案する。高速折りたたみタンパク質を含む複数の生体分子系をサンプリング・シミュレートし,本手法を実証する。
論文参考訳（メタデータ） (2025-06-20T16:38:29Z)
Brain-like Variational Inference [5.862480696321742]
FOND(Free Energy Online Natural-gradient Dynamics)は,3つの原理から神経推論力学を導出するフレームワークである。我々はFONDを用いて膜電位ダイナミクスによる変分推論を行う反復スパイクニューラルネットワークiP-VAE(定性ポアソン変分オートエンコーダ)を導出する。実証的には、iP-VAEは、標準のVAEとガウスベースの予測符号化モデルの両方で、空間性、再構成、生物学的確率で優れている。
論文参考訳（メタデータ） (2024-10-25T06:00:18Z)
Boltzmann-Aligned Inverse Folding Model as a Predictor of Mutational Effects on Protein-Protein Interactions [48.58317905849438]
結合自由エネルギーの変化を予測する(Delta Delta G$)ことはタンパク質-タンパク質相互作用の理解と調節に不可欠である。本稿では,事前学習した逆折り畳みモデルから$Delta Delta G$予測への知識伝達のためのボルツマンアライメント手法を提案する。
論文参考訳（メタデータ） (2024-10-12T14:13:42Z)
Zero-inflation in the Multivariate Poisson Lognormal Family [0.5249805590164902]
我々はZero-Inflated PLNモデルを導入し、さらにBernoulli潜在変数として多変量ゼロインフレート成分をモデルに追加する。数千の変数を持つデータセットにスケールアップする変動推論を用いてモデルパラメータを推定する。次に、ZIPLNとPLNの両方を、90.6%のゼロを含む牛のマイクロバイオームデータセットに適用する。
論文参考訳（メタデータ） (2024-05-23T15:45:21Z)
Poisson Variational Autoencoder [0.0]
変分オートエンコーダ(VAE)はベイズ推定を用いて感覚入力を解釈する。本稿では,予測符号化の原理と,インプットを離散スパイク数にエンコードするVAEを組み合わせた新しいアーキテクチャを開発する。我々の研究は、脳のような感覚処理を研究するための解釈可能な計算フレームワークを提供する。
論文参考訳（メタデータ） (2024-05-23T12:02:54Z)
Sampling with Mollified Interaction Energy Descent [57.00583139477843]
モーフィファイド相互作用エネルギー降下(MIED)と呼ばれる新しい最適化に基づくサンプリング手法を提案する。 MIEDは、モル化相互作用エネルギー(MIE)と呼ばれる確率測度に関する新しいクラスのエネルギーを最小化する我々は,制約のないサンプリング問題に対して,我々のアルゴリズムがSVGDのような既存の粒子ベースアルゴリズムと同等に動作することを示す。
論文参考訳（メタデータ） (2022-10-24T16:54:18Z)
Robust PAC$^m$: Training Ensemble Models Under Misspecification and Outliers [46.38465729190199]
PAC-ベイズ理論は、ベイズ学習によって最小化された自由エネルギー基準が、ギブス予想器の一般化誤差に束縛されていることを証明している。この研究は、一般化されたスコア関数とPAC$m$アンサンブル境界を組み合わせた、新しい堅牢な自由エネルギー基準を示す。
論文参考訳（メタデータ） (2022-03-03T17:11:07Z)
Targeted free energy estimation via learned mappings [66.20146549150475]
自由エネルギー摂動 (FEP) は60年以上前にズワンツィヒによって自由エネルギー差を推定する方法として提案された。 FEPは、分布間の十分な重複の必要性という厳しい制限に悩まされている。目標自由エネルギー摂動(Targeted Free Energy Perturbation)と呼ばれるこの問題を緩和するための1つの戦略は、オーバーラップを増やすために構成空間の高次元マッピングを使用する。
論文参考訳（メタデータ） (2020-02-12T11:10:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。