Fugu-MT 論文翻訳(概要): Local Stability and Gaussian Smoothing of Quantized Neural Networks

論文の概要: Local Stability and Gaussian Smoothing of Quantized Neural Networks

arxiv url: http://arxiv.org/abs/2607.20153v1
Date: Wed, 22 Jul 2026 13:52:42 GMT
ステータス: 翻訳完了
システム内更新日: 2026-07-23 18:51:38.09835
Title: Local Stability and Gaussian Smoothing of Quantized Neural Networks
Title（参考訳）: 量子化ニューラルネットワークの局所安定性とガウス平滑化
Abstract要約: 量子化ニューラルネットワークのスムーズなサロゲートとしてのガウス平均化について検討する。正規化線形単位(ReLU)と符号活性化関数の閉形式ガウス平均を計算する。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by-nc-nd/4.0/
Abstract: We study Gaussian averaging as a smooth surrogate for quantized neural models. Under bounded local oscillation, we derive a local dimension-dependent bound on |f-g|, linking Gaussian smoothing to the stability analysis of discontinuous networks. We compute closed-form Gaussian averages of the rectified linear unit (ReLU) and sign activation functions, and illustrate the mechanism on a high-dimensional binary perceptron, where layer-preactivation aggregation under an explicit quantization-noise surrogate yields the Gaussian envelope used in inference-side smoothing and training-side smooth surrogate gradients.
Abstract（参考訳）: 量子化ニューラルネットワークのスムーズなサロゲートとしてのガウス平均化について検討する。有界局所振動の下では、|f-g| 上の局所次元依存的境界を導出し、ガウス滑らか化と不連続ネットワークの安定性解析を結び付ける。正規化線形単位 (ReLU) と符号活性化関数の閉形式ガウス平均を計算し、高次元の2値パーセプトロンの機構を説明する。

関連論文リスト

A Riemannian Optimization Perspective of the Gauss-Newton Method for Feedforward Neural Networks [3.48097307252416]
我々は,スムーズな活性化関数を持つニューラルネットワークを学習するためのガウスニュートン力学の収束性を分析する。適切な減衰スケジュールが選択されたレバンス・マルカルト力学は、潜在的に条件の悪いニューラル・タンジェント・カーネル行列にも拘わらず、高速収束率が得られることを示す。
論文参考訳（メタデータ） (2024-12-18T16:51:47Z)
The non-stabilizerness of fermionic Gaussian states [0.0]
フェルミオンガウス状態の非安定化性を定量化する効率的な方法を提案する。対数的減算補正を施したハール乱数状態に匹敵する広範囲な先行挙動を明らかにする。 2次元自由フェルミオントポロジカルモデルにサンプリングアルゴリズムを適用し、位相境界における非安定化性の急激な遷移を明らかにする。
論文参考訳（メタデータ） (2024-12-06T19:00:16Z)
Semi-Implicit Functional Gradient Flow for Efficient Sampling [30.32233517392456]
本稿では,ガウス雑音を近似系とする摂動粒子を用いた関数勾配ParVI法を提案する。ニューラルネットワークと一致するスコアをデノナイズすることで推定できる機能的勾配流は,強い理論的収束保証を示す。さらに,サンプリング中の適切な雑音の大きさを自動的に選択する適応バージョンを提案する。
論文参考訳（メタデータ） (2024-10-23T15:00:30Z)
Gaussian approximation and its corrections for driven dissipative Kerr model [0.0]
ボソニック非線形モデルにおけるガウス近似とその摂動補正を構築する手法を開発した。外部駆動がない場合、モデルは低次元のフォック部分空間内で正確に解け、強い非ガウス状態をもたらす。
論文参考訳（メタデータ） (2024-10-12T14:38:12Z)
Stochastic Gradient Descent for Gaussian Processes Done Right [86.83678041846971]
emphdone right -- 最適化とカーネルコミュニティからの具体的な洞察を使用するという意味で -- が、勾配降下は非常に効果的であることを示している。本稿では,直感的に設計を記述し,設計選択について説明する。本手法は,分子結合親和性予測のための最先端グラフニューラルネットワークと同程度にガウス過程の回帰を配置する。
論文参考訳（メタデータ） (2023-10-31T16:15:13Z)
Convergence of mean-field Langevin dynamics: Time and space discretization, stochastic gradient, and variance reduction [49.66486092259376]
平均場ランゲヴィンダイナミクス(英: mean-field Langevin dynamics、MFLD)は、分布依存のドリフトを含むランゲヴィン力学の非線形一般化である。近年の研究では、MFLDは測度空間で機能するエントロピー規則化された凸関数を地球規模で最小化することが示されている。有限粒子近似,時間分散,勾配近似による誤差を考慮し,MFLDのカオスの均一時間伝播を示す枠組みを提供する。
論文参考訳（メタデータ） (2023-06-12T16:28:11Z)
Promises and Pitfalls of the Linearized Laplace in Bayesian Optimization [73.80101701431103]
線形化ラプラス近似(LLA)はベイズニューラルネットワークの構築に有効で効率的であることが示されている。ベイズ最適化におけるLLAの有用性について検討し,その性能と柔軟性を強調した。
論文参考訳（メタデータ） (2023-04-17T14:23:43Z)
Numerically Stable Sparse Gaussian Processes via Minimum Separation using Cover Trees [57.67528738886731]
誘導点に基づくスケーラブルスパース近似の数値安定性について検討する。地理空間モデリングなどの低次元タスクに対しては,これらの条件を満たす点を自動計算する手法を提案する。
論文参考訳（メタデータ） (2022-10-14T15:20:17Z)
NAG-GS: Semi-Implicit, Accelerated and Robust Stochastic Optimizer [45.47667026025716]
2つの重要な要素に依存した、新しく、堅牢で、加速された反復を提案する。 NAG-GSと呼ばれる手法の収束と安定性は、まず広範に研究されている。我々は、NAG-arityが、重量減衰を伴う運動量SGDや機械学習モデルのトレーニングのためのAdamWといった最先端の手法と競合していることを示す。
論文参考訳（メタデータ） (2022-09-29T16:54:53Z)
Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
論文参考訳（メタデータ） (2021-02-04T02:21:08Z)
A Contour Stochastic Gradient Langevin Dynamics Algorithm for Simulations of Multi-modal Distributions [17.14287157979558]
ビッグデータ統計学の学習のための適応重み付き勾配ランゲヴィン力学(SGLD)を提案する。提案アルゴリズムは、CIFAR100を含むベンチマークデータセットで検証される。
論文参考訳（メタデータ） (2020-10-19T19:20:47Z)
Local optimization on pure Gaussian state manifolds [63.76263875368856]
ボソニックおよびフェルミオンガウス状態の幾何学に関する洞察を利用して、効率的な局所最適化アルゴリズムを開発する。この手法は局所幾何学に適応した降下勾配の概念に基づいている。提案手法を用いて、任意の混合ガウス状態の精製の絡み合いを計算するのにガウス浄化が十分であるという予想の数値的および解析的証拠を収集する。
論文参考訳（メタデータ） (2020-09-24T18:00:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。