論文の概要: On the Nonasymptotic Scaling Guarantee of Hyperparameter Estimation in Inhomogeneous, Weakly-Dependent Complex Network Dynamical Systems
- arxiv url: http://arxiv.org/abs/2601.15603v1
- Date: Thu, 22 Jan 2026 03:05:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-23 21:37:20.477841
- Title: On the Nonasymptotic Scaling Guarantee of Hyperparameter Estimation in Inhomogeneous, Weakly-Dependent Complex Network Dynamical Systems
- Title(参考訳): 不均一・弱依存型複雑ネットワーク力学系におけるハイパーパラメータ推定の漸近的スケーリング保証について
- Authors: Yi Yu, Yubo Hou, Yinchong Wang, Nan Zhang, Jianfeng Feng, Wenlian Lu,
- Abstract要約: 本研究は,階層的ベイズ法が大規模不均一系に対して統計的に整合であることを保証するための基礎理論を提案する。
私たちの主な成果は、この保証を、弱い依存ノードのより困難で現実的な設定にまで拡張します。
- 参考スコア(独自算出の注目度): 18.99308667176809
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Hierarchical Bayesian models are increasingly used in large, inhomogeneous complex network dynamical systems by modeling parameters as draws from a hyperparameter-governed distribution. However, theoretical guarantees for these estimates as the system size grows have been lacking. A critical concern is that hyperparameter estimation may diverge for larger networks, undermining the model's reliability. Formulating the system's evolution in a measure transport perspective, we propose a theoretical framework for estimating hyperparameters with mean-type observations, which are prevalent in many scientific applications. Our primary contribution is a nonasymptotic bound for the deviation of estimate of hyperparameters in inhomogeneous complex network dynamical systems with respect to network population size, which is established for a general family of optimization algorithms within a fixed observation duration. While we firstly establish a consistency result for systems with independent nodes, our main result extends this guarantee to the more challenging and realistic setting of weakly-dependent nodes. We validate our theoretical findings with numerical experiments on two representative models: a Susceptible-Infected-Susceptible model and a Spiking Neuronal Network model. In both cases, the results confirm that the estimation error decreases as the network population size increases, aligning with our theoretical guarantees. This research proposes the foundational theory to ensure that hierarchical Bayesian methods are statistically consistent for large-scale inhomogeneous systems, filling a gap in this area of theoretical research and justifying their application in practice.
- Abstract(参考訳): 階層ベイズモデルは、ハイパーパラメータが支配する分布から引き出されたパラメータをモデル化することによって、大規模で不均一な複雑なネットワーク力学系において、ますます使われている。
しかしながら、システムのサイズが大きくなるにつれて、これらの推定に対する理論的保証は欠如している。
重要な懸念は、ハイパーパラメータ推定がより大きなネットワークに分散し、モデルの信頼性を損なう可能性があることである。
計測輸送の観点からシステムの進化を定式化し,多くの科学的応用で広く用いられている平均型観測でハイパーパラメータを推定するための理論的枠組みを提案する。
我々の主な貢献は、固定観測時間内に最適化アルゴリズムの一般ファミリーとして確立されたネットワークサイズに関する不均質複雑ネットワーク力学系におけるハイパーパラメータ推定の偏差に対する漸近的境界である。
独立ノードを持つシステムの一貫性を最初に確立する一方で、主要な結果は、この保証を弱い依存ノードのより困難で現実的な設定にまで拡張する。
本稿では,2つの代表的なモデルについて数値実験を行い,その理論結果を検証した。
いずれの場合も,ネットワーク人口が増加するにつれて推定誤差が減少し,理論的保証と整合することを確認した。
本研究は,階層的ベイズ法が大規模不均一系に対して統計的に整合であることを保証するための基礎理論を提案し,この領域における理論研究のギャップを埋め,その適用を正当化する。
関連論文リスト
- From Overfitting to Reliability: Introducing the Hierarchical Approximate Bayesian Neural Network [3.632251954989679]
HABNNは、ガウス-逆ウィッシュアート分布をネットワークの重みのハイパープライアとして利用する、新しいアプローチである。
その結果、HABNNは適合するだけでなく、しばしば最先端のモデルよりも優れていることが示唆された。
論文 参考訳(メタデータ) (2025-12-15T09:08:42Z) - Accelerating Hamiltonian Monte Carlo for Bayesian Inference in Neural Networks and Neural Operators [0.6117371161379208]
ハミルトニアン・モンテカルロ (HMC) はベイジアンネットワークの後方分布をサンプリングするための強力で正確な手法である。
本稿では,安価なVI法と正確なHMC法を組み合わせて,ニューラルネットワークの不確かさを高精度に予測するハイブリッド手法を提案する。
論文 参考訳(メタデータ) (2025-07-19T14:57:54Z) - Latent Diffusion Model Based Denoising Receiver for 6G Semantic Communication: From Stochastic Differential Theory to Application [11.385703484113552]
生成人工知能(GAI)を利用した新しい意味コミュニケーションフレームワークを提案する。
意味的特徴抽出のための変分オートエンコーダを組み合わせた潜在拡散モデル(LDM)に基づくセマンティックコミュニケーションフレームワークを提案する。
提案システムはゼロショットの一般化をサポートし,低SNRおよびアウト・オブ・ディストリビューション条件下での優れた性能を実現する訓練自由フレームワークである。
論文 参考訳(メタデータ) (2025-06-06T03:20:32Z) - Certified Neural Approximations of Nonlinear Dynamics [51.01318247729693]
安全クリティカルな文脈では、神経近似の使用は、基礎となるシステムとの密接性に公式な境界を必要とする。
本稿では,認証された一階述語モデルに基づく新しい,適応的で並列化可能な検証手法を提案する。
論文 参考訳(メタデータ) (2025-05-21T13:22:20Z) - Extended Fiducial Inference for Individual Treatment Effects via Deep Neural Networks [7.916654052803723]
本研究は、個別処理効果推定の問題に対処する二重ニューラルネットワーク(Double-NN)手法を提案する。
ディープニューラルネットワークは治療と制御効果関数をモデル化し、追加のニューラルネットワークはパラメータを推定する。
数値計算により, 個別処理効果推定における共形量子回帰(CQR)法と比較して, 提案手法の優れた性能が示された。
論文 参考訳(メタデータ) (2025-05-04T05:40:45Z) - Structured Radial Basis Function Network: Modelling Diversity for
Multiple Hypotheses Prediction [51.82628081279621]
多重モード回帰は非定常過程の予測や分布の複雑な混合において重要である。
構造的放射基底関数ネットワークは回帰問題に対する複数の仮説予測器のアンサンブルとして提示される。
この構造モデルにより, このテッセルレーションを効率よく補間し, 複数の仮説対象分布を近似することが可能であることが証明された。
論文 参考訳(メタデータ) (2023-09-02T01:27:53Z) - A New PHO-rmula for Improved Performance of Semi-Structured Networks [0.0]
本研究では,SSNにおけるモデルコンポーネントのコントリビューションを適切に識別する手法が,最適ネットワーク推定に繋がることを示す。
モデルコンポーネントの識別性を保証し,予測品質を向上する非侵襲的ポストホック化(PHO)を提案する。
我々の理論的な知見は、数値実験、ベンチマーク比較、およびCOVID-19感染症に対する現実の応用によって裏付けられている。
論文 参考訳(メタデータ) (2023-06-01T10:23:28Z) - Post-mortem on a deep learning contest: a Simpson's paradox and the
complementary roles of scale metrics versus shape metrics [61.49826776409194]
我々は、ニューラルネットワーク(NN)モデルの一般化精度を予測するために、コンテストで公に利用可能にされたモデルのコーパスを分析する。
メトリクスが全体としてよく機能するが、データのサブパーティションではあまり機能しない。
本稿では,データに依存しない2つの新しい形状指標と,一連のNNのテスト精度の傾向を予測できるデータ依存指標を提案する。
論文 参考訳(メタデータ) (2021-06-01T19:19:49Z) - Understanding Overparameterization in Generative Adversarial Networks [56.57403335510056]
generative adversarial network (gans) は、非凹型ミニマックス最適化問題を訓練するために用いられる。
ある理論は、グローバル最適解に対する勾配降下 (gd) の重要性を示している。
ニューラルネットワークジェネレータと線形判別器を併用した多層GANにおいて、GDAは、基礎となる非凹面min-max問題の大域的なサドル点に収束することを示す。
論文 参考訳(メタデータ) (2021-04-12T16:23:37Z) - Network Diffusions via Neural Mean-Field Dynamics [52.091487866968286]
本稿では,ネットワーク上の拡散の推論と推定のための新しい学習フレームワークを提案する。
本研究の枠組みは, ノード感染確率の正確な進化を得るために, モリ・ズワンジッヒ形式から導かれる。
我々のアプローチは、基礎となる拡散ネットワークモデルのバリエーションに対して多用途で堅牢である。
論文 参考訳(メタデータ) (2020-06-16T18:45:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。