論文の概要: An 84-Format Numeric Catalog with Bit-Exact Conformance Vectors: A Vendor-Neutral Reference for FP8, BF16, MXFP4, and Microscaling Formats
- arxiv url: http://arxiv.org/abs/2606.09686v1
- Date: Mon, 08 Jun 2026 16:04:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-09 14:42:07.496476
- Title: An 84-Format Numeric Catalog with Bit-Exact Conformance Vectors: A Vendor-Neutral Reference for FP8, BF16, MXFP4, and Microscaling Formats
- Title(参考訳): FP8, BF16, MXFP4, マイクロスケーリングフォーマットのベンダー・ニュートラル参照
- Authors: Dmitrii Vasilev,
- Abstract要約: 本稿では,13のファミリーと6のビット仕様適合パックにまたがる84の数値フォーマットのカタログについて述べる。
パッケージはml_dtypes 0.5.4 (Google/JAX) に対してクロスバリデーションされる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Numeric format proliferation in machine learning hardware -- FP8 (E4M3 and E5M2), BF16, MXFP4, microscaling block formats, and dozens of research variants -- has outpaced the availability of vendor-neutral, bit-exact reference material. Engineers porting models across accelerators encounter silent divergences that are difficult to diagnose without a shared ruler. This paper describes a catalog of 84 numeric formats spanning 13 families, a suite of six bit-exact conformance packs covering GF16, MXFP4 element, BF16, FP8 E4M3, FP8 E5M2, and E8M0 block scale, and an IEEE P3109 v3.2.0 cross-walk that maps each pack to its corresponding standards-track configured format. Each pack is a self-contained JSON document with a SHA-256 fingerprint, a shared row schema, and an anchor vector that encodes 3.0 -- the identity phi^2 + 1/phi^2 = 3 -- as a cross-pack sanity check. Packs are cross-validated against ml_dtypes 0.5.4 (Google/JAX); any divergence is documented explicitly and interpreted as a spec-permitted interpretation gap rather than hidden. The work is framed as registry filling: it does not propose new formats, make model-accuracy claims, or assert superiority over any vendor's implementation. All artifacts are publicly available at https://github.com/gHashTag/t27 under an open license.
- Abstract(参考訳): 機械学習ハードウェア(FP8(E4M3とE5M2)、BF16、MXFP4、マイクロスケーリングブロックフォーマット、数十のリサーチ変種)における数値的なフォーマットの拡散は、ベンダーニュートラルでビット仕様のリファレンス資料の可用性を上回っている。
アクセラレーターにモデルを移植するエンジニアは、共有統治者なしでは診断が難しい静かな分岐に遭遇する。
本稿では、13のファミリーにまたがる84の数値フォーマットのカタログ、GF16、MXFP4要素、BF16、FP8 E4M3、FP8 E5M2、E8M0ブロックスケールをカバーする6つのビット適合パックのスイート、および各パックを対応する標準トラック構成フォーマットにマッピングするIEEE P3109 v3.2.0クロスウォークについて述べる。
各パックは、SHA-256フィンガープリント、共有行スキーマ、および3.0をエンコードするアンカーベクトルを備えた、自己完結型のJSONドキュメントである。
パッケージはml_dtypes 0.5.4 (Google/JAX) に対してクロスバリデーションされる。
新しいフォーマットを提案したり、モデル精度の主張をしたり、ベンダーの実装よりも優位性を主張したりしない。
すべてのアーティファクトは、オープンライセンスの下でhttps://github.com/gHashTag/t27で公開されている。
関連論文リスト
- How Far Is Document Parsing from Solved? PureDocBench: A Source-TraceableBenchmark across Clean, Degraded, and Real-World Settings [56.70440596502351]
昨年は20以上のオープンドキュメントパースモデルが見られたが、ベンチマークはほぼOmniDocBenchにのみ依存している。
HTML/CSSのドキュメントイメージをレンダリングするベンチマークであるPureDocBenchは、10のドメイン、66ページ、1,475ページをカバーしています。
論文 参考訳(メタデータ) (2026-05-08T09:30:31Z) - TSCG: Deterministic Tool-Schema Compilation for Agentic LLM Deployments [0.0]
生産エージェントフレームワークは、言語モデルによる解釈ではなく、機械解析用に設計されたフォーマットであるMPPとしてツールスキーマを送信する。
小型モデル(4B-14B)では、このプロトコルのミスマッチが、本番サイズでのツール使用障害の大部分の原因となっている。
本稿では,このミスマッチをAPI境界で解決する決定論的ツールスキーマコンパイラTSCGを提案する。
論文 参考訳(メタデータ) (2026-05-04T15:35:45Z) - Scaling DoRA: High-Rank Adaptation via Factored Norms and Fused Kernels [83.99688944263843]
DoRA(Weight-De Low-Rank Adaptation)は、LoRAを方向から分離することで拡張する。
d_in = 8192 とランク r = 384 では、単一のモジュールのノルムは bf16 で512MB の過渡的なワーキングメモリを必要とする。
因子ノルムは、二乗ノルムを O(d_out r + r2) 中間体を通して計算可能な基底、交差、およびグラマー項に分解し、密積を除去する。
論文 参考訳(メタデータ) (2026-03-23T17:57:24Z) - ExpanderGraph-128: A Novel Graph-Theoretic Block Cipher with Formal Security Analysis and Hardware Implementation [0.0]
128ビットのブロック暗号であるbfExpanderGraph-128(EGC128)を20ラウンドのバランスの取れたFeistelネットワークとして提案する。
セキュリティ分析はMILPベースの差分境界を組み合わせ、SCIPを介して10ラウンドで最適であることが証明され、147.3ビットの差分セキュリティを確立し、完全な暗号に対して413ビットに保守的に外挿する。
Xilinx Artix-7上のFPGA合成は380 LUTで100MHzで261Mbpsを達成するが、ARM Cortex-M4Fソフトウェアは25.8KBのFlashと1.66msの暗号化を必要とする。
論文 参考訳(メタデータ) (2026-03-13T04:15:20Z) - The AetherFloat Family: Block-Scale-Free Quad-Radix Floating-Point Architectures for AI Accelerators [0.0]
IEEE 754 浮動小数点標準は現代のコンピューティングの基盤である。
8ビットフォーマットへのシフトは、新しいハードウェアペナルティを導入した。
AetherFloat Familyはパラメータ化可能なアーキテクチャ代替品である。
論文 参考訳(メタデータ) (2026-02-26T05:31:10Z) - INT v.s. FP: A Comprehensive Study of Fine-Grained Low-bit Quantization Formats [51.72056104795248]
NvidiaのBlackwellアーキテクチャのような現代のAIハードウェアは、低精度浮動小数点(FP)フォーマットをますます受け入れている。
本稿では,FPフォーマットと整数(INT)フォーマットのトレードオフを系統的に検討する。
FPは粗粒度量子化に優れるが、きめ細かい(ブロックワイド)レベルでの比較はよりニュアンスが高い。
論文 参考訳(メタデータ) (2025-10-29T15:11:53Z) - "Give Me BF16 or Give Me Death"? Accuracy-Performance Trade-Offs in LLM Quantization [67.3213104337679]
量子化は大規模言語モデル(LLM)推論を高速化するための強力なツールであるが、異なるフォーマット間での精度と性能のトレードオフは依然として不明である。
FP8,INT8,INT4の量子化を学術ベンチマークや実世界のタスクで評価し,これまでで最も包括的な実証的研究を行った。
論文 参考訳(メタデータ) (2024-11-04T18:21:59Z) - The case for 4-bit precision: k-bit Inference Scaling Laws [75.4335600212427]
量子化法は、モデル内の各パラメータを表すために必要なビット数を減少させる。
最終的なモデルサイズは、元のモデルのパラメータの数と圧縮率の両方に依存する。
我々は16ビットの入力とkビットのパラメータを持つ35,000以上のゼロショット実験を行い、どの量子化手法が3ビットから8ビットの精度でスケーリングを改善するかを検証した。
論文 参考訳(メタデータ) (2022-12-19T18:48:33Z) - FP8 Formats for Deep Learning [49.54015320992368]
2つのエンコーディングからなる8ビット浮動小数点(FP8)バイナリインターチェンジフォーマットを提案する。
E4M3のダイナミックレンジは無限大を表現せず、NaNに対して1つのマティーサビットパターンしか持たないことによって拡張される。
16ビットのトレーニングセッションで達成した結果の質を効果的にマッチングし,FP8フォーマットが様々な画像および言語タスクに対して有効であることを示す。
論文 参考訳(メタデータ) (2022-09-12T17:39:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。