論文の概要: Fast Forgiving Base64 Decoding with SIMD Instructions
- arxiv url: http://arxiv.org/abs/2610.17406v2
- Date: Wed, 14 Oct 2026 17:45:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.456604
- Title: Fast Forgiving Base64 Decoding with SIMD Instructions
- Title(参考訳): SIMD命令による高速鍛造Base64デコーディング
- Abstract要約: SIMDループ内の空白を除去するブロック指向デコードアルゴリズムを提案する。
我々のC++デコーダは、最近のAMD Zen 5プロセッサで94GB/sに達する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: On the Internet, we use the Base64 format to represent binary data (e.g., images or cryptographic keys) as text. The ES2026 JavaScript standard, following the WHATWG forgiving-base64 rules, requires decoders to ignore ASCII whitespace while rejecting other non-alphabet characters. Prior SIMD Base64 decoders assume whitespace-free input. We present a block-oriented decoding algorithm that removes whitespace inside the SIMD loop: clean 64-character blocks are decoded directly, while blocks with ignorable characters are compacted into a small stack buffer. We provide implementations for x64 (SSSE3 through AVX-512 VBMI2), ARM NEON, and LoongArch. Our C++ decoder reaches up to 94 GB/s on recent AMD Zen 5 processors. In Node 25, integration of our decoder raises Uint8Array.fromBase64 throughput by up to 6x compared with Node 19. The implementation has been adopted by major browsers and JavaScript runtimes.
- Abstract(参考訳): インターネットでは、Base64フォーマットを使ってバイナリデータ(画像や暗号鍵など)をテキストとして表現しています。
ES2026のJavaScript標準は、WHATWGのForgiving-base64ルールに従っており、デコーダは他の非アルファベット文字を拒絶しながらASCIIのホワイトスペースを無視する必要がある。
以前のSIMD Base64デコーダは、空白な入力を前提としている。
SIMDループ内の空白を除去するブロック指向デコードアルゴリズムを提案する: クリーンな64文字ブロックは直接デコードされる一方、無視可能な文字を持つブロックは小さなスタックバッファに圧縮される。
我々はx64(SSSE3 - AVX-512 VBMI2)、ARM NEON、LoongArchの実装を提供する。
我々のC++デコーダは、最近のAMD Zen 5プロセッサで94GB/sに達する。
Node 25では、デコーダの統合により、Uint8Array.fromBase64スループットが、Node 19と比べて最大6倍向上している。
この実装は主要なブラウザとJavaScriptランタイムで採用されている。
関連論文リスト
- Universal Byte-Level Encoding: UTF-8/UTF-16 Routing to Reduce Cross-Script Token-Budget Disparities [2.7286395031146067]
バイトコードレベルのバイトペア符号化(BBPE)は、Unicodeテキストをすべてカバーしているため、多言語大言語モデル(LLM)にとって魅力的である。
多くのスクリプトは英語よりも高いコストから始まる。
より高いフロアはトークン数を増やし、要求単位のコストを削減し、コンテキストを縮小することができる。
より効率的な英語トークンであるUniversal Byte-Level UBEを提案する。
論文 参考訳(メタデータ) (2026-10-01T16:26:10Z) - Beyond the Trace: Coupling an Interpretable Reasoning-State Readout to Native MoE Routing [61.695980784491475]
実験用混合推論のための2レベル内部読み出し手法を提案する。
ボキャブラリスケールのJ-空間を、モデル自身の推論状態から学習した64軸意味フレームであるJ64に初めて蒸留する。
そして、ネイティブの専門家による統計からJ64を再構築する。
論文 参考訳(メタデータ) (2026-08-18T10:56:31Z) - Token-Native Storage: Read and Write in your Agent's Language [0.0]
我々は、テキストのトークンネイティブ保存を、モデル独自のバイトペアエンコーディング(BPE)トークンIDとして論じる。
BPE番号トークンは周波数ではなく順にマージし、周波数ごとに再ランク付けすることで、通常の整数(ストリームvバイト)がエントロピーコーダの比率のほとんどを回復できる。
モデルはテキストではなくトークンIDを読み取るため、トークンネイティブストアは、読み取り毎に再起動するのではなく、IDを直接操作する。
論文 参考訳(メタデータ) (2026-08-03T15:20:36Z) - BitC-3DGS: High-Capacity 3D Gaussian Splatting Watermarking via Bit Compression [68.33622936663876]
高容量透かしは3Dガウススプラッティング(3DGS)資産が豊富な情報を埋め込むために必要である。
既存のビット・ツー・ケンの透かし方式は、CLIPの77ビットのコンテキスト長が固定されているため、77ビットのメッセージに制限されている。
トークン毎に複数のメッセージビットをエンコードするビット圧縮フレームワークBitC-3DGSを紹介する。
論文 参考訳(メタデータ) (2026-05-28T08:28:04Z) - Back to Bytes: Revisiting Tokenization Through UTF-8 [25.766926865651936]
我々は,テキストの8-8エンコーディングに対応するIDに,テキストを正確にマッピングする最小限のバイトレベルトークンを提供する。
我々の実装は決してアウト・オブ・レンジIDを導入しない。
論文 参考訳(メタデータ) (2025-10-19T20:06:12Z) - Compressed Real Numbers for AI: a case-study using a RISC-V CPU [2.0516276923852415]
我々は、機械学習アプリケーションにおいて、バイナリ32数値を圧縮する興味深い結果を得た2種類のフォーマットに焦点を当てる。
本稿では,計算直前に浮動小数点のテンソルを分解する方法を提案する。
論文 参考訳(メタデータ) (2023-09-11T07:54:28Z) - Graph Neural Networks for Channel Decoding [71.15576353630667]
低密度パリティチェック(LDPC)やBCH符号など、様々な符号化方式の競合復号性能を示す。
ニューラルネットワーク(NN)は、与えられたグラフ上で一般化されたメッセージパッシングアルゴリズムを学習する。
提案するデコーダを,従来のチャネル復号法および最近のディープラーニングに基づく結果と比較した。
論文 参考訳(メタデータ) (2022-07-29T15:29:18Z) - Small Lesion Segmentation in Brain MRIs with Subpixel Embedding [105.1223735549524]
ヒト脳のMRIスキャンを虚血性脳梗塞と正常組織に分割する方法を提案する。
本稿では,空間展開埋め込みネットワークによって予測を導出する標準エンコーダデコーダの形式でニューラルネットワークアーキテクチャを提案する。
論文 参考訳(メタデータ) (2021-09-18T00:21:17Z) - byteSteady: Fast Classification Using Byte-Level n-Gram Embeddings [77.6701264226519]
byteSteadyは,バイトレベルのn-gram埋め込みを用いた高速な分類モデルである。
byteSteadyの簡単な応用はテキスト分類である。
byteSteadyは1種類の非言語データ -- DNA配列を遺伝子分類に適用する。
論文 参考訳(メタデータ) (2021-06-24T20:14:48Z) - HyperSeg: Patch-wise Hypernetwork for Real-time Semantic Segmentation [95.47168925127089]
本稿では,エンコーダがデコーダのパラメータ(重み)をエンコードして生成する,新しいリアルタイムセマンティックセグメンテーションネットワークを提案する。
我々は、より高レベルなコンテキスト特徴を描画するためのネストされたU-Netからなる新しいタイプのハイパーネットワークを設計する。
論文 参考訳(メタデータ) (2020-12-21T18:58:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。