論文の概要: Automated Numerical Stability Analysis of Deep Learning Operators
- arxiv url: http://arxiv.org/abs/2607.25494v2
- Date: Wed, 05 Aug 2026 20:11:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-07 17:43:06.599336
- Title: Automated Numerical Stability Analysis of Deep Learning Operators
- Title(参考訳): ディープラーニング演算子の自動数値安定性解析
- Abstract要約: ディープラーニング演算子の数値安定性を検出するために,CESTACを統合した最初の統合ソフトウェアツールを紹介する。
開発したソフトウェアは,1回のパスで数値検証を行うだけでなく,数値不安定の原因を検出する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Finite-precision arithmetic unavoidably introduces numerical approximation errors. Numerical computations may use insufficient precision or an improper formulation, which leads to numerical instability. In this paper, we introduce the first unified software tool that integrates CESTAC for detecting the numerical stability of deep learning operators. Our developed software not only enables numerical validation with a single computation pass but also detects the sources of numerical instability and provides numerical stability monitoring during deep learning training and inference. We verified its effectiveness on the detection of polluted operators with injected numerical instabilities across various tasks. We believe that our developed method and tool provide valuable insights into developing numerically stable computing kernels, which are particularly critical for numerically stable and efficient deep learning training and inference.
- Abstract(参考訳): 有限精度算術は必然的に数値近似誤差を導入する。
数値計算は不十分な精度または不適切な定式化を用いており、数値的な不安定性をもたらす。
本稿では,ディープラーニング演算子の数値安定性を検出するための,CESTACを統合した最初の統合ソフトウェアツールを紹介する。
開発したソフトウェアは,1つの計算パスで数値検証を可能にするだけでなく,数値不安定の原因を検出し,深層学習訓練や推論の際の数値安定性モニタリングも提供する。
各種タスクにおける数値不安定性のある汚染されたオペレータの検出において,その有効性を検証する。
提案手法とツールは,数値的に安定なコンピュータカーネルの開発において,特に数値的に安定かつ効率的なディープラーニングのトレーニングと推論において重要な知見を提供すると信じている。
関連論文リスト
- FPScan: An Automated Constraint-Based Analyzer for Floating-Point Anomaly Detection [0.0]
FPScanは、浮動小数点プログラムにおける破滅的なキャンセルと吸収を正式に定義し、検出する新しいツールである。
提案手法は,プログラム変数の順序を推測する抽象的な解釈に基づいて,独自の静的解析器から始める。
オフザシェルフSMTソルバは、プログラムがこれらの重要な数値的な落とし穴のどれかを示すかどうかを決定するために使用される。
論文 参考訳(メタデータ) (2026-09-07T13:41:01Z) - StablePDENet: Enhancing Stability of Operator Learning for Solving Differential Equations [15.953048749834716]
演算子学習をmin-max最適化問題として定式化し、モデルが最悪の入力摂動に対してトレーニングされ、正規条件と逆条件の両方で一貫した性能を達成する。
その結果、オペレータ学習における安定性を考慮したトレーニングの重要性を強調し、現実のアプリケーションで信頼性の高いニューラルネットワークPDEソルバを開発するための基盤を提供する。
論文 参考訳(メタデータ) (2026-01-10T07:38:21Z) - Harnessing physics-informed operators for high-dimensional reliability analysis problems [0.8192907805418583]
信頼性分析(Reliability analysis)は、特に多数のパラメータを持つシステムにおいて、非常に難しいタスクである。
信頼性を定量化するための従来の手法は、しばしば広範なシミュレーションや実験データに依存している。
物理インフォームド演算子は,高次元信頼性解析問題を妥当な精度でシームレスに解くことができることを示す。
論文 参考訳(メタデータ) (2024-09-07T04:52:03Z) - Calibrated Uncertainty Quantification for Operator Learning via
Conformal Prediction [95.75771195913046]
本稿では, リスク制御型量子ニューラル演算子, 分布のない有限サンプル機能キャリブレーション等式予測法を提案する。
関数領域上の点の期待値として定義されるカバレッジ率に関する理論的キャリブレーションを保証する。
2次元ダーシー流と3次元自動車表面圧力予測タスクに関する実験結果から,我々の理論的結果が検証された。
論文 参考訳(メタデータ) (2024-02-02T23:43:28Z) - Weak Supervision Performance Evaluation via Partial Identification [46.73061437177238]
Programmatic Weak Supervision (PWS) は、地上の真理ラベルに直接アクセスすることなく、教師付きモデルトレーニングを可能にする。
本稿では,モデル評価を部分的同定問題としてフレーミングすることで,この問題に対処する新しい手法を提案する。
提案手法は,従来の弱監督評価手法において,ラベル付きデータを必要とせず,重要な指標に信頼性のあるバウンダリを導出する。
論文 参考訳(メタデータ) (2023-12-07T07:15:11Z) - U-PASS: an Uncertainty-guided deep learning Pipeline for Automated Sleep
Staging [61.6346401960268]
プロセスの各段階で不確実性推定を組み込んだ臨床応用に適した,U-PASSと呼ばれる機械学習パイプラインを提案する。
不確実性誘導型ディープラーニングパイプラインを睡眠ステージングの困難な問題に適用し、各ステージにおけるパフォーマンスを体系的に改善することを示す。
論文 参考訳(メタデータ) (2023-06-07T08:27:36Z) - Uncertainty Injection: A Deep Learning Method for Robust Optimization [16.13344685457395]
本稿では,頑健な最適化問題を解くために,ディープラーニングモデルを訓練するための不確実性注入のパラダイムを提案する。
我々は,無線通信を問題パラメータに不確実性が存在するアプリケーション分野として認識する。
提案手法の有効性を2つの応用例で示す。
論文 参考訳(メタデータ) (2023-02-23T19:59:24Z) - AttNS: Attention-Inspired Numerical Solving For Limited Data Scenarios [51.94807626839365]
限定データによる微分方程式の解法として,注目型数値解法(AttNS)を提案する。
AttNSは、モデル一般化とロバスト性の向上におけるResidual Neural Networks(ResNet)のアテンションモジュールの効果にインスパイアされている。
論文 参考訳(メタデータ) (2023-02-05T01:39:21Z) - The #DNN-Verification Problem: Counting Unsafe Inputs for Deep Neural
Networks [94.63547069706459]
#DNN-Verification問題は、DNNの入力構成の数を数えることによって安全性に反する結果となる。
違反の正確な数を返す新しい手法を提案する。
安全クリティカルなベンチマークのセットに関する実験結果を示す。
論文 参考訳(メタデータ) (2023-01-17T18:32:01Z) - DeepStability: A Study of Unstable Numerical Methods and Their Solutions
in Deep Learning [0.0]
ディープラーニング(DL)は、様々な重要な問題に対するソリューションの不可欠な部分となっている。
DLソフトウェアの信頼性と堅牢性を達成する上での課題の1つは、アルゴリズムの実装が数値的に安定であることを保証することである。
数値計算の簡単な実装は、誤った、あるいは不正確な学習結果をもたらす可能性のあるエラーにつながる可能性がある。
論文 参考訳(メタデータ) (2022-02-07T20:15:30Z) - Probabilistic robust linear quadratic regulators with Gaussian processes [73.0364959221845]
ガウス過程(GP)のような確率モデルは、制御設計に続く使用のためのデータから未知の動的システムを学ぶための強力なツールです。
本稿では、確率的安定性マージンに関して堅牢なコントローラを生成する線形化GPダイナミクスのための新しいコントローラ合成について述べる。
論文 参考訳(メタデータ) (2021-05-17T08:36:18Z) - A Survey of Quantization Methods for Efficient Neural Network Inference [75.55159744950859]
量子化は、必要なビット数を最小限に抑えるために、固定された離散数の集合に連続実数値を分散する問題である。
近年、コンピュータビジョン、自然言語処理、関連分野でのニューラルネットワークモデルの顕著な性能のために最前線に達しています。
浮動小数点表現から4ビット以下の低精度固定整数値への移行は、メモリフットプリントとレイテンシを16倍削減する可能性を秘めている。
論文 参考訳(メタデータ) (2021-03-25T06:57:11Z) - Instability, Computational Efficiency and Statistical Accuracy [101.32305022521024]
我々は,人口レベルでのアルゴリズムの決定論的収束率と,$n$サンプルに基づく経験的対象に適用した場合の(不安定性)の間の相互作用に基づいて,統計的精度を得るフレームワークを開発する。
本稿では,ガウス混合推定,非線形回帰モデル,情報的非応答モデルなど,いくつかの具体的なモデルに対する一般結果の応用について述べる。
論文 参考訳(メタデータ) (2020-05-22T22:30:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。