論文の概要: Fuzzy PyTorch: Rapid Numerical Variability Evaluation for Deep Learning Models
- arxiv url: http://arxiv.org/abs/2605.25991v1
- Date: Mon, 25 May 2026 16:10:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-26 19:50:20.45955
- Title: Fuzzy PyTorch: Rapid Numerical Variability Evaluation for Deep Learning Models
- Title(参考訳): Fuzzy PyTorch:ディープラーニングモデルの高速数値変数評価
- Authors: Inés Gonzalez-Pepe, Hiba Akhaddar, Tristan Glatard, Yohan Chatelain,
- Abstract要約: Fuzzy PyTorchは、ディープラーニング(DL)モデルにおける数値変数の迅速な評価のためのフレームワークである。
Probabilistic Rounding と Instruction Set Management を通じて PyTorch に算術を統合する。
図書館には丸めモードと新しいモードがあり、上向きの丸めがある。
- 参考スコア(独自算出の注目度): 1.137457877869062
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We introduce Fuzzy PyTorch, a framework for rapid evaluation of numerical variability in deep learning (DL) models. As DL is increasingly applied to diverse tasks, understanding variability from floating-point arithmetic is essential to ensure robust and reliable performance. Tools assessing such variability must be scalable, efficient, and integrate seamlessly with existing frameworks while minimizing code modifications. Fuzzy PyTorch enables this by integrating stochastic arithmetic into PyTorch through Probabilistic Rounding with Instruction Set Management, a novel library interfacing with Verificarlo, a numerical analysis compiler. The library offers stochastic rounding mode and a novel mode; up-down rounding. Comparative evaluations show Fuzzy PyTorch maintains model performance and achieves runtime reductions of 5x to 60x versus Verrou, a state-of-the-art tool. We further demonstrate scalability by running models from 1 to 341 million parameters, confirming applicability across small and large DL architectures. Overall, Fuzzy PyTorch provides an efficient, scalable, and practical solution for assessing numerical variability in deep learning, enabling researchers and practitioners to quantify and manage floating-point uncertainty without compromising performance or computational efficiency.
- Abstract(参考訳): 本稿では,ディープラーニング(DL)モデルにおける数値変数の迅速評価フレームワークであるFuzzy PyTorchを紹介する。
DLは多様なタスクにますます適用されつつあるため、浮動小数点演算から可変性を理解することは、堅牢で信頼性の高い性能を保証するために不可欠である。
このような可変性を評価するツールは、スケーラブルで効率的で、コード修正を最小限にしながら、既存のフレームワークとシームレスに統合する必要がある。
Fuzzy PyTorchは、数値解析コンパイラのVerificarloと対話する新しいライブラリであるProbabilistic Rounding with Instruction Set Managementを通じて、確率演算をPyTorchに統合することで、これを実現している。
この図書館は、確率的な丸めモードと、新しいモード、上向きの丸めを提供する。
比較評価によると、Fuzzy PyTorchはモデル性能を維持し、5倍から60倍のランタイム削減を実現している。
1~3100万のパラメータからモデルを実行し、小規模かつ大規模なDLアーキテクチャに適用可能であることを確認することによって、スケーラビリティをさらに実証する。
全体として、Fuzzy PyTorchはディープラーニングにおける数値変数を評価するための効率的でスケーラブルで実用的なソリューションを提供する。
関連論文リスト
- Self-Route: Automatic Mode Switching via Capability Estimation for Efficient Reasoning [36.470695895695044]
Self-Routeは、一般的な推論モードと推論モードを自動的に選択する動的推論フレームワークである。
トークン消費量を30~55%削減しながら,自己ルートが推論モデルに匹敵する精度を実現していることを示す。
論文 参考訳(メタデータ) (2025-05-27T03:18:31Z) - Pychop: Emulating Low-Precision Arithmetic in Numerical Methods and Neural Networks [0.0]
低精度算術は、より効率的な計算とメモリとエネルギー消費の削減を可能にし、ディープラーニングに革命をもたらした。
我々はPychopライブラリを開発し、Pythonでカスタマイズ可能な浮動小数点形式と包括的な丸めモードをサポートする。
本稿では,Pychopの設計,実装,検証,実用化の総合的な解説を行う。
論文 参考訳(メタデータ) (2025-04-10T15:12:29Z) - ZO-DARTS++: An Efficient and Size-Variable Zeroth-Order Neural Architecture Search Algorithm [13.271262526855212]
微分可能なニューラルネットワーク探索(NAS)は、ディープラーニング(DL)モデルの複雑な設計を自動化するための有望な道を提供する。
ZO-DARTS++は、パフォーマンスとリソースの制約を効果的にバランスさせる新しいNAS手法である。
医用画像データセットの広範なテストにおいて、ZO-DARTS++は標準的なDARTSベースの手法よりも平均精度を1.8%向上させる。
論文 参考訳(メタデータ) (2025-03-08T06:43:33Z) - Cumulative Hazard Function Based Efficient Multivariate Temporal Point Process Learning [0.0]
本稿では、ニューラルネットワークを用いてフレキシブルだが適切に定義されたCHFをモデル化する。
提案手法は,データフィッティングおよびイベント予測タスクにおける最先端性能を実現する。
論文 参考訳(メタデータ) (2024-04-21T13:51:31Z) - Uncertainty Guided Adaptive Warping for Robust and Efficient Stereo
Matching [77.133400999703]
相関に基づくステレオマッチングは優れた性能を達成した。
固定モデルによる現在のメソッドは、さまざまなデータセットで均一に動作しない。
本稿では,ロバストなステレオマッチングのための相関を動的に計算する新しい視点を提案する。
論文 参考訳(メタデータ) (2023-07-26T09:47:37Z) - Confident Adaptive Language Modeling [95.45272377648773]
CALMは、入力と生成時間ごとに異なる量の計算を動的に割り当てるフレームワークである。
ハイパフォーマンスを確実に維持しつつ、計算能力、潜在的スピードアップを最大3ドルまで削減する上で、我々のフレームワークの有効性を実証する。
論文 参考訳(メタデータ) (2022-07-14T17:00:19Z) - Robust Implicit Networks via Non-Euclidean Contractions [63.91638306025768]
暗黙のニューラルネットワークは、精度の向上とメモリ消費の大幅な削減を示す。
彼らは不利な姿勢と収束の不安定さに悩まされる。
本論文は,ニューラルネットワークを高機能かつ頑健に設計するための新しい枠組みを提供する。
論文 参考訳(メタデータ) (2021-06-06T18:05:02Z) - Self Normalizing Flows [65.73510214694987]
本稿では,各層における学習された近似逆数により,勾配の高価な項を置き換えることで,フローの正規化を訓練するための柔軟なフレームワークを提案する。
これにより、各レイヤの正確な更新の計算複雑性が$mathcalO(D3)$から$mathcalO(D2)$に削減される。
実験により,これらのモデルは非常に安定であり,正確な勾配値と類似したデータ可能性値に最適化可能であることが示された。
論文 参考訳(メタデータ) (2020-11-14T09:51:51Z) - Meta-Learned Confidence for Few-shot Learning [60.6086305523402]
数ショットのメトリックベースのアプローチのための一般的なトランスダクティブ推論手法は、最も確実なクエリ例の平均で、各クラスのプロトタイプを更新することである。
本稿では,各クエリの信頼度をメタラーニングして,ラベルのないクエリに最適な重みを割り当てる手法を提案する。
4つのベンチマークデータセットに対してメタ学習の信頼度で、少数ショットの学習モデルを検証した。
論文 参考訳(メタデータ) (2020-02-27T10:22:17Z) - Triple Wins: Boosting Accuracy, Robustness and Efficiency Together by
Enabling Input-Adaptive Inference [119.19779637025444]
深層ネットワークは、(クリーンな自然画像の場合)正確さと(敵対的な摂動画像の場合)頑健さの相違に直面することを最近提案された。
本稿では,入力適応推論に関連するマルチエグジットネットワークについて検討し,モデル精度,ロバスト性,効率の最適化において「スイートポイント」を達成する上での強い期待を示す。
論文 参考訳(メタデータ) (2020-02-24T00:40:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。