論文の概要: Novel Aspects of IEEE SA P3109 Arithmetic Formats for Machine Learning
- arxiv url: http://arxiv.org/abs/2606.04028v1
- Date: Mon, 01 Jun 2026 19:27:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-04 20:44:18.248357
- Title: Novel Aspects of IEEE SA P3109 Arithmetic Formats for Machine Learning
- Title(参考訳): IEEE SA P3109の新しい機械学習用算術形式
- Authors: Andrew Fitzgibbon, Christoph M. Wintersteiger, Jeffrey Sarnoff,
- Abstract要約: IEEE P3109ドラフト標準は、バイナリ浮動小数点フォーマットと関連する操作のパラメータ化されたファミリーを定義する。
これらのフォーマットは、少数のビットにおける値の効率的で一貫した表現を可能にする。
- 参考スコア(独自算出の注目度): 0.26088788776470156
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The IEEE P3109 draft standard defines a parameterized family of binary floating-point formats and associated operations, with a focus on facilitating machine learning. These formats allow efficient and consistent representation of values in a small number of bits. The defined formats are parameterized over width and precision in bits, signedness, and the presence of infinities. Operations are defined by decoding floating-point values to the set of closed extended reals: the reals augmented with positive and negative infinity and NaN (Not a Number). Explicit treatment of NaN and infinite operands ensures that only real arithmetic is invoked in operation definitions. Extensive rounding and saturation modes are defined; stochastic rounding is included. Operations are exception-free, accelerating throughput, with exceptional situations communicated through return values, e.g., NaN. Operations on blocks of values sharing a common scale factor are defined in terms of the underlying operations in a uniform manner. System vendors may describe approximate implementations via a novel scale-invariant measure, akin to units in the last place, called kappa-approximation. Standard function definitions and various other properties are mechanically verified and generated using formal specifications.
- Abstract(参考訳): IEEE P3109ドラフト標準は、機械学習を促進することに焦点を当て、バイナリ浮動小数点フォーマットと関連する操作のパラメータ化されたファミリを定義する。
これらのフォーマットは、少数のビットにおける値の効率的で一貫した表現を可能にする。
定義されたフォーマットはビットの幅と精度、符号性、無限大の存在に対してパラメータ化される。
演算は、浮動小数点値を、正および負の無限大で拡張された実数とNaN(Not a Number)の集合に復号することで定義される。
NaNと無限オペランドの明示的な処理により、演算定義において実際の演算のみが呼び出されることが保証される。
急激な丸めと飽和モードが定義され、確率的な丸めも含む。
オペレーションは例外のない、スループットの加速であり、例外的な状況は戻り値、例えばNaNを介して通信される。
共通のスケールファクターを共有する値ブロックの操作は、基礎となる操作を一様に定義する。
システムベンダーは、カッパ近似(kappa-approximation)と呼ばれる最終段階の単位と同様に、新しいスケール不変測度によって近似的な実装を記述することができる。
標準的な関数の定義やその他の様々な特性は機械的に検証され、正式な仕様を用いて生成される。
関連論文リスト
- NeuMatC: A General Neural Framework for Fast Parametric Matrix Operation [75.91285900600549]
我々は、一般的なパラメトリック行列演算タスクをエレガントに扱うtextbftextitNeural Matrix Computation Framework (NeuMatC)を提案する。
NeuMatCは、パラメータから対応する行列演算結果への低ランクかつ連続的なマッピングを教師なしで学習する。
合成と実世界の両方のデータセットの実験結果は、NeuMatCの有望な性能を示している。
論文 参考訳(メタデータ) (2025-11-28T07:21:17Z) - Geometry-induced Implicit Regularization in Deep ReLU Neural Networks [0.0]
暗黙の正則化現象は、まだよく理解されていないが、最適化中に起こる。
パラメータの異なる出力集合の幾何について検討する。
バッチ関数次元は隠蔽層内の活性化パターンによってほぼ確実に決定されることを示す。
論文 参考訳(メタデータ) (2024-02-13T07:49:57Z) - Expressive Power of ReLU and Step Networks under Floating-Point Operations [11.29958155597398]
二項しきい値単位またはReLUを用いたニューラルネットワークは、任意の有限入力/出力ペアを記憶可能であることを示す。
また,浮動小数点演算が有意および指数の両方に有限ビットを使用する場合,暗記および普遍近似に関する同様の結果を示す。
論文 参考訳(メタデータ) (2024-01-26T05:59:40Z) - Guaranteed Approximation Bounds for Mixed-Precision Neural Operators [83.64404557466528]
我々は、ニューラル演算子学習が本質的に近似誤差を誘導する直感の上に構築する。
提案手法では,GPUメモリ使用量を最大50%削減し,スループットを58%向上する。
論文 参考訳(メタデータ) (2023-07-27T17:42:06Z) - Set-based value operators for non-stationary Markovian environments [0.0]
本稿では,有限状態マルコフ決定過程(MDP)を,コンパクトな集合における不確実なパラメータで解析する。
我々は、集合ベースの固定点理論により、頑健なMDPの結果を再検討する。
惑星探査と成層圏ステーション維持における確率論的経路計画問題に対する新しい保証を導出する。
論文 参考訳(メタデータ) (2022-07-15T03:37:59Z) - Threshold size for the emergence of a classical-like behaviour [68.8204255655161]
システムを古典的な記述に適応できる最小サイズを推定する手法を設計する。
磁気システムの特定のケースについて検討し、ゲダンケン実験の詳細を提示し、徹底的にコメントする。
論文 参考訳(メタデータ) (2022-03-25T11:31:14Z) - A Functional Perspective on Learning Symmetric Functions with Neural
Networks [48.80300074254758]
本研究では,測定値に基づいて定義されたニューラルネットワークの学習と表現について検討する。
正規化の異なる選択の下で近似と一般化境界を確立する。
得られたモデルは効率よく学習でき、入力サイズにまたがる一般化保証を享受できる。
論文 参考訳(メタデータ) (2020-08-16T16:34:33Z) - NP-PROV: Neural Processes with Position-Relevant-Only Variances [113.20013269514327]
位置関連性オンリーバリアース(NP-PROV)を有するニューラルプロセスと呼ばれる新しいメンバーを提案する。
NP-PROVは、その位置の関数値に関係なく、コンテキストポイントに近いターゲットポイントが小さな不確実性を持つという仮説を立てている。
我々は, NP-PROVが有界分散を維持しつつ, 最先端の可能性を実現することができることを示す。
論文 参考訳(メタデータ) (2020-06-15T06:11:21Z) - Assignment Flows for Data Labeling on Graphs: Convergence and Stability [69.68068088508505]
本稿では、連続時間割当フローを積分代入(ラベル)に収束させることを保証する重みパラメータの条件を確立する。
いくつかの反例は、条件違反は、文脈データ分類に関する代入フローの好ましくない振る舞いを伴う可能性があることを示している。
論文 参考訳(メタデータ) (2020-02-26T15:45:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。