論文の概要: Energy-Conserved Neural Pipelines: Attenuating Error Propagation in Modular Neural Networks via Physical Conservation Constraints

• arxiv url: http://arxiv.org/abs/2606.11341v1
• Date: Tue, 09 Jun 2026 18:20:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-11 16:42:38.134565
• Title: Energy-Conserved Neural Pipelines: Attenuating Error Propagation in Modular Neural Networks via Physical Conservation Constraints
• Title（参考訳）: エネルギー保存型ニューラルパイプライン:物理保存制約によるモジュラニューラルネットの誤差伝播の抑制
• Authors: David Young, Swan Yi Htet,
• Abstract要約: モジュラニューラルネットワークパイプラインは、エラーの複合に悩まされる。 本稿では,モジュール間情報流の物理的制約としてエネルギー保全を導入する。 ネットワークはニューロン間でエネルギーを再分配するが、その生成や破壊はできない。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Modular neural network pipelines suffer from error compounding: noise at any module boundary propagates and potentially amplifies through subsequent modules. We introduce energy conservation as a hard physical constraint on inter-module information flow. Activation energy (the squared L2 norm of feature vectors) is enforced to be exactly preserved at every module boundary. Unlike soft energy penalties, conservation is an inviolable law: the network may redistribute energy across neurons but cannot create or destroy it. Four experiments on CIFAR-10 demonstrate: (1) conservation retains 77.4% of clean accuracy at noise sigma=0.2, versus 35.1% for baselines and 30.9% for energy-penalized models (p<0.001, 5 seeds); (2) pipelines become depth-invariant, retaining 93.3% at depths 2 through 5 with noise at every boundary; (3) the advantage generalizes to systematic bias (+45.1%), Gaussian (+40.4%), and adversarial noise (+4.8%), with a principled non-effect on dropout (-0.3%); (4) on ResNet-18, the conservation advantage scales inversely with intrinsic normalization: +0.3 pp with BatchNorm, +26.2 pp without at sigma=0.2, reaching +58.0 pp at sigma=0.5. Experiment 5 validates the operator on a real modular robotic pipeline (MuJoCo physics, Franka Panda). Across three independent runs on separate machines (90 trials per cell), conservation provides +18.9 pp average advantage on monocular-depth-style noise. A formal bound proves conserved noise energy is strictly less than input noise energy.
• Abstract（参考訳）: モジュール境界におけるノイズは伝播し、その後のモジュールを通して潜在的に増幅する。 本稿では,モジュール間情報流の物理的制約としてエネルギー保全を導入する。 活性化エネルギー(特徴ベクトルの平方 L2 ノルム)はすべての加群境界で正確に保存されるように強制される。 ソフトエネルギーの罰則とは異なり、保存は不可侵な法則であり、ネットワークはニューロン間でエネルギーを再分配するが、それを生成または破壊することはできない。 CIFAR-10の4つの実験は、(1) ノイズシグマ=0.2における保存精度が77.4%、(p<0.001, 5 種)ベースラインでは35.1%、(p<0.001, 5 種)エネルギーペナル化モデルでは30.9%、(p<0.001, 5 種)パイプラインは深さ不変となり、(93.3%)すべての境界でノイズを持つ深さで93.3%、(+45.1%)ガウス(+40.4%)、(+4.8%)、(+0.3%)、(ResNet-18)、(+0.3%)、(+0.3%)、(+0.3%)、(+0.3%)、(+0.3%)、(+0.3%)、(+0.3%)、(0.0.5%)。 実験5では、実際のモジュール式ロボットパイプライン(MuJoCo Physics, Franka Panda)でオペレーターを検証する。 独立した3つのマシン(1セルあたり90トライアル)で実行され、保存により単分子深度スタイルのノイズに対して平均18.9ppのアドバンテージが得られる。 形式的境界は、保存された雑音エネルギーが入力ノイズエネルギーより厳密に小さいことを証明している。

関連論文リスト

• GENERIC-FNO: Embedding Energy Conservation and Entropy Production into Fourier Neural Operators [1.037435491622876]
  非平衡熱力学の完全なジェネリック構造を直接関数空間に埋め込む最初のニューラル演算子であるジェネリックFNOを導入する。 連続時間力学は学習エネルギーを保存し、エントロピーを正確に生成する。 3つの演算子バックボーン(1D/2D FNOsとDeepONet)と4つのPDEが可逆的、散逸的、混合的な状態にあるため、GENERIC-FNOは4倍超解像域(64から256)でゼロショットの正確な構造的保証を保っている。
  論文  参考訳（メタデータ） (2026-06-06T21:24:41Z)
• Non-Vacuous Certification of Transport MCMC via Oscillation-Controlled Normalizing Flows [3.8549131582427303]
  運輸MCMCは、プレコンディションのメトロポリス-ハスティングの提案に正規化の流れを訓練する。 我々は、このようなサンプルに対して、初めて非空白で厳密なスペクトルギャップを定めている。
  論文  参考訳（メタデータ） (2026-05-31T07:46:48Z)
• NITP: Next Implicit Token Prediction for LLM Pre-training [62.744626632562664]
  本研究では,表現空間に直接集中的監督を施した離散予測を増大させるために,Next Implicit Token Prediction (NITP)を提案する。 NITPは、安定な自己教師対象と同じモデルから浅層表現を用いて、次のトークンの暗黙的なセマンティック内容を予測するようにモデルを訓練する。 実験的には、0.5Bから9Bのパラメータを含む高密度モデルとMoEモデルにまたがって、NITPは無視できる計算オーバーヘッドでダウンストリーム性能を一貫して改善する。
  論文  参考訳（メタデータ） (2026-05-24T09:13:12Z)
• ActQuant: Sub-4-bit Action-Guided Quantization for Vision-Language-Action Models [45.62029693245481]
  本稿では,アクション誘導型混合精度PTQフレームワークであるActQuantを紹介する。 ActQuant は、(1) エージェントの動作の予測にどの程度貢献するかに基づいて、各重み行列に1ビット幅を割り当てるテンソル間ビットアロケータである。 我々はまた、効率的な低ビットカーネルを持つネイティブC/C++にポートするエージェント変換パイプラインであるOmniModelも導入した。
  論文  参考訳（メタデータ） (2026-05-19T19:57:26Z)
• Normalized Architectures are Natively 4-Bit [49.13186675123547]
  重みと隠れ表現を単位超球面に制限するアーキテクチャであるnGPTは、本質的に低精度算術よりも堅牢である。 本手法は,最大3B/30Bパラメータの1.2B密度モデルとハイブリッド(Mamba-Transformer)MoEモデルの両方で検証する。
  論文  参考訳（メタデータ） (2026-05-07T11:54:07Z)
• Hierarchy-Guided Topology Latent Flow for Molecular Graph Generation [44.50339042016925]
  本稿では,グローバルコンテキストに対する潜在的マルチスケールプランを用いた3次元座標を用いた結合グラフを生成するプランナー・エグゼクタモデルを提案する。 HLTFは98.8%の原子安定性と92.9%の有効・均一性を達成し、PoseBustersの妥当性は94.0%(+0.9)に向上した。 GEOM-DRUGSでは、HLTFは後処理なしで85.5%/85.0%の妥当性/バリッド・ユニク・ノーベル、標準化された緩和後の92.2%/91.2%を達成している。
  論文  参考訳（メタデータ） (2026-03-28T03:48:13Z)
• Potential-energy gating for robust state estimation in bistable stochastic systems [0.0]
  ダブルウェル・ダイナミクスによって制御されるシステムにおけるロバストな状態推定法である電位エネルギーゲーティングを導入する。 拡張フィルタ,アンセントフィルタ,アンサンブルフィルタ,適応カルマンフィルタ内にゲーティングを実装した。
  論文  参考訳（メタデータ） (2026-02-12T08:43:34Z)
• Towards Green AI: Decoding the Energy of LLM Inference in Software Development [46.879983975894135]
  AI支援ツールはソフトウェア開発にますます統合されているが、大きな言語モデル(LLM)に依存しているため、相当な計算とエネルギーコストが伴う。 モデルが入力を処理して内部表現を構築した(1)プリフィルと,(2)デコードで格納された状態を用いて出力トークンを生成する(2)プリフィルとを区別し,LCM推定エネルギー消費の位相レベル解析を行う。
  論文  参考訳（メタデータ） (2026-02-05T14:38:19Z)
• An Adiabatic Capacitive Artificial Neuron with RRAM-based Threshold Detection for Energy-Efficient Neuromorphic Computing [62.997667081978825]
  神経細胞の体細胞膜電位を誘導するために, 断熱性シナプスコンデンサを特徴とする人工ニューロンを提案する。 最初の4-bit adiabaticacacitive neuron proof-of-conceptの例では、90%のシナプスエネルギーが節約された。
  論文  参考訳（メタデータ） (2022-02-02T17:12:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。