論文の概要: Learning Inference Concurrency in DynamicGate MLP Structural and Mathematical Justification
- arxiv url: http://arxiv.org/abs/2604.13546v1
- Date: Wed, 15 Apr 2026 06:49:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-16 20:38:32.422164
- Title: Learning Inference Concurrency in DynamicGate MLP Structural and Mathematical Justification
- Title(参考訳): DynamicGate MLPの構造と数学的正当化における学習推論の並行性
- Abstract要約: 従来のニューラルネットワークは、推論中にパラメータが更新されると、出力が不安定になるため、学習と推論を厳密に分離する。
本稿では,DynamicGateが構造的に学習推論を可能にすることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Conventional neural networks strictly separate learning and inference because if parameters are updated during inference, outputs become unstable and even the inference function itself is not well defined [1, 2, 3]. This paper shows that DynamicGate MLP structurally permits learning inference concurrency [4, 5]. The key idea is to separate routing (gating) parameters from representation (prediction) parameters, so that the gate can be adapted online while inference stability is preserved, or weights can be selectively updated only within the inactive subspace [4, 5, 6, 7]. We mathematically formalize sufficient conditions for concurrency and show that even under asynchronous or partial updates, the inference output at each time step can always be interpreted as a forward computation of a valid model snapshot [8, 9, 10]. This suggests that DynamicGate MLP can serve as a practical foundation for online adaptive and on device learning systems [11, 12].
- Abstract(参考訳): 従来のニューラルネットワークは、推論中にパラメータが更新された場合、出力が不安定になり、推論関数自体が十分に定義されていないため、学習と推論を厳密に分離する。
本稿では,DynamicGate MLPが学習推論の同時実行を構造的に可能にしていることを示す[4,5]。
キーとなるアイデアは、ルーティング(ゲート)パラメータを表現(予測)パラメータから分離し、推論安定性が保たれている間にゲートをオンラインで適用できるようにし、また、重み付けを非アクティブなサブ空間 [4, 5, 6, 7] 内でのみ選択的に更新できるようにすることである。
並列処理に十分な条件を数学的に定式化し、非同期または部分的な更新であっても、各時点における推論出力は、常に有効なモデルスナップショット [8, 9, 10] のフォワード計算として解釈できることを示す。
このことは、DynamicGate MLPがオンライン適応およびデバイス学習システム [11, 12] の実践的な基盤となることを示唆している。
関連論文リスト
- Emergent Models: Intelligence from Tiny Substrates [0.0]
Emergent Models (EM) は、単純なオープンエンド基板に基づく機械学習パラダイムである。
そこで本研究では,局所再帰計算を簡単な算術関数に当てはめることができることを示す。
論文 参考訳(メタデータ) (2026-08-14T07:07:05Z) - Variational Learning for Insertion-based Generation [50.15012125719375]
可変長挿入モデルの挿入順序を学習するための確率的フレームワークを提案する。
本稿では,挿入する場所,挿入する場所,終了するタイミングを共同で学習する生成モデルであるInsertion Process (IP)を提案する。
論文 参考訳(メタデータ) (2026-06-01T11:59:46Z) - Online identification of nonlinear time-varying systems with uncertain information [7.071760583269057]
デジタルツイン(DT)は、複雑なサイバー物理システムのリアルタイム監視と予測保守のためのコアイネーブラーとして機能する。
既存の技術はこれらの要求を同時に満たすのに苦労している。
本稿では,ベイズ回帰に基づくシンボリックラーニングフレームワークを提案する。
論文 参考訳(メタデータ) (2026-01-15T13:33:48Z) - Native Parallel Reasoner: Reasoning in Parallelism via Self-Distilled Reinforcement Learning [68.9332598692234]
我々はNative Parallel Reasoner(NPR)を紹介した。これは、LLM(Large Language Models)が真の並列推論能力を自己発展させることを可能にする、教師なしのフレームワークである。
NPRは、モデルをシーケンシャルエミュレーションから3つの重要な革新を通じてネイティブ並列認識に変換する。
論文 参考訳(メタデータ) (2025-12-08T11:39:43Z) - Intrinsic Training Signals for Federated Learning Aggregation [13.540945877050525]
フェデレートラーニング(FL)は、データプライバシを保持しながら、分散クライアント間で協調的なモデルトレーニングを可能にする。
この研究は、既存のトレーニング信号だけで効果的なモデルマージが達成できることを実証している。
論文 参考訳(メタデータ) (2025-07-09T13:03:23Z) - A Constructive Framework for Nondeterministic Automata via Time-Shared, Depth-Unrolled Feedforward Networks [0.0]
非決定論的有限オートマトン(NFA)の時間分割・深度制御型フィードフォワードネットワーク(TS-FFN)を用いたフォーマルで建設的なシミュレーションフレームワークを提案する。
我々の定式化は、二進ベクトルとしてのオートマトン状態、スパース行列変換としての遷移、および共有しきい値更新の合成としての$varepsilon$-closuresを含む非決定的分岐を含む非決定論的分岐を象徴的に符号化する。
論文 参考訳(メタデータ) (2025-05-30T01:18:35Z) - Kalman Filter for Online Classification of Non-Stationary Data [101.26838049872651]
オンライン連続学習(OCL)では、学習システムはデータのストリームを受け取り、予測とトレーニングの手順を順次実行する。
本稿では,線形予測量に対するニューラル表現と状態空間モデルを用いた確率ベイズオンライン学習モデルを提案する。
多クラス分類の実験では、モデルの予測能力と非定常性を捉える柔軟性を示す。
論文 参考訳(メタデータ) (2023-06-14T11:41:42Z) - Scalable Learning of Latent Language Structure With Logical Offline
Cycle Consistency [71.42261918225773]
概念的には、LOCCOは、トレーニング対象のセマンティクスを使用してラベルなしテキストのアノテーションを生成する、自己学習の一形態と見なすことができる。
追加ボーナスとして、LOCCOによって生成されたアノテーションは、神経テキスト生成モデルをトレーニングするために自明に再利用することができる。
論文 参考訳(メタデータ) (2023-05-31T16:47:20Z) - PDSketch: Integrated Planning Domain Programming and Learning [86.07442931141637]
我々は PDSketch という新しいドメイン定義言語を提案する。
これにより、ユーザーはトランジションモデルで柔軟にハイレベルな構造を定義できる。
移行モデルの詳細は、トレーニング可能なニューラルネットワークによって満たされる。
論文 参考訳(メタデータ) (2023-03-09T18:54:12Z) - Stabilizing Q-learning with Linear Architectures for Provably Efficient
Learning [53.17258888552998]
本研究では,線形関数近似を用いた基本的な$Q$-learningプロトコルの探索変種を提案する。
このアルゴリズムの性能は,新しい近似誤差というより寛容な概念の下で,非常に優雅に低下することを示す。
論文 参考訳(メタデータ) (2022-06-01T23:26:51Z) - Online Learning of a Probabilistic and Adaptive Scene Representation [31.02016059126335]
オンライン空間認識,解釈,行動のための一貫したシーンモデルを構築した。
提案手法は, 有望な効率で最先端の精度が得られることを示す。
論文 参考訳(メタデータ) (2021-03-31T06:22:05Z) - Conditional independence by typing [30.194205448457385]
確率型プログラミング言語(PPL)の中心的な目標は、推論からモデリングを分離することである。
パラメータ間の条件独立(CI)関係は確率論的モデルの重要な側面である。
システム内の十分に型付けされたプログラムでは、その実装するディストリビューションは特定のCI関連性を持つことが保証されている。
論文 参考訳(メタデータ) (2020-10-22T17:27:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。