論文の概要: NativeTernary: A Self-Delimiting Binary Encoding with Unary Run-Length Hierarchy Markers for Ternary Neural Network Weights, Structured Data, and General Computing Infrastructure

• arxiv url: http://arxiv.org/abs/2604.03336v1
• Date: Fri, 03 Apr 2026 06:58:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-07 15:49:18.522129
• Title: NativeTernary: A Self-Delimiting Binary Encoding with Unary Run-Length Hierarchy Markers for Ternary Neural Network Weights, Structured Data, and General Computing Infrastructure
• Title（参考訳）: NativeTernary: ニューラルネットワークの3次重み、構造化データ、一般コンピューティングインフラストラクチャのための、Unary Run-Length Hierarchy Markerによる自己決定型バイナリエンコーディング
• Authors: Maharshi Savdhariya,
• Abstract要約: NativeTernaryは2ビットペア空間を3つの値を表す3つのデータシンボルに分割するバイナリスキームである。 中心的なコントリビューションは、セマンティック階層の深さに単一の実行長エンコーディングを使用することである。 11はエボディメントプライマリであり、単純なORゲート検出を提供する。 00は超低消費電力CMOSシステムの代替として最適化された実装である。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: BitNet b1.58 (Ma et al., 2024) demonstrates that large language models can operate entirely on ternary weights {-1, 0, +1}, yet no native binary wire format exists for such models. NativeTernary closes this gap. We present NativeTernary, a binary encoding scheme that partitions the 2-bit pair space into three data symbols representing ternary values -- either balanced {-1, 0, +1} or unsigned {0, 1, 2} -- and a reserved structural delimiter. The central contribution is the use of unary run-length encoding to represent semantic hierarchy depth: a sequence of N consecutive delimiter pairs denotes a boundary of level N, encoding character, word, sentence, paragraph, and topic boundaries at cost 2, 4, 6, 8, and 10 bits respectively -- proportional to boundary rarity. The choice of which 2-bit pair serves as the delimiter is a design parameter: {11} is the primary embodiment, offering simple OR-gate detection; {00} is an alternative embodiment optimised for ultra-low-power CMOS systems, minimising switching activity. All four bit-pair choices are covered by the patent claims. We present three encoding variants: (1) the primary scheme with {11} as sole delimiter; (2) a dual-starter variant where both {10} and {11} initiate distinct symbol namespaces; and (3) an analysis of unsigned versus balanced ternary data mappings. We describe a path toward ternary-native general computing infrastructure requiring no hardware changes, and outline applications spanning ternary neural network weight storage, hierarchical natural language encoding, edge computing, IoT and satellite telemetry, industrial sensors, automotive systems, medical devices, gaming, and financial tick data. The decoder is a 10-line stateless state machine resilient to bitstream corruption.
• Abstract（参考訳）: BitNet b1.58 (Ma et al , 2024) は、大きな言語モデルは3次重み {-1, 0, +1} で完全に動作するが、そのようなモデルにはネイティブなバイナリワイヤ形式は存在しないことを示した。 NativeTernaryはこのギャップを埋める。 2ビット対空間を3次値を表す3つのデータシンボルに分割するバイナリエンコーディングスキームであるNativeTernaryと、予約された構造デリミタを提示する。 N 連続デリミタペアのシーケンスは、レベル N の境界を表し、文字、単語、文、段落、およびトピック境界を、それぞれ2, 4, 6, 8, 10 ビットで符号化する。 2ビット対がデリミタとして機能するかという選択は、設計パラメータである: {11} は、単純なORゲート検出を提供する主要なエンボディメントであり、 {00} は超低消費電力CMOSシステム向けに最適化された代替エンボディメントであり、スイッチングアクティビティを最小化する。 4つのビットペア選択はすべて、特許請求によってカバーされている。 1) {11} を単独デリミタとする一次スキーム,(2) {10} と {11} の両方が異なるシンボル名空間を初期化する双対スターター変種,(3) 符号なしおよび平衡三元データマッピングの解析である。 ハードウェアの変更を必要とせず、三次ニューラルネットワークの重み付け、階層的自然言語エンコーディング、エッジコンピューティング、IoTおよび衛星テレメトリ、産業センサ、自動車システム、医療機器、ゲーム、ファイナンシャルティッチデータにまたがるアプリケーションの概要を述べる。 デコーダは10行のステートレスステートマシンであり、ビットストリームの破損に耐性がある。

関連論文リスト

• Latent Point Collapse on a Low Dimensional Embedding in Deep Neural Network Classifiers [0.0]
  同一クラスに属する潜在表現の崩壊を単一点に誘導する手法を提案する。 提案されたアプローチは実装が簡単で、非ネイティブな機能埋め込みを大幅に改善する。
  論文  参考訳（メタデータ） (2023-10-12T11:16:57Z)
• Input Layer Binarization with Bit-Plane Encoding [4.872439392746007]
  本稿では,入力データの8ビット表現を直接利用して,第1層をバイナライズする手法を提案する。 得られたモデルは完全にバイナライズされ、第1層バイナライズアプローチはモデル独立です。
  論文  参考訳（メタデータ） (2023-05-04T14:49:07Z)
• Towards Diverse Binary Segmentation via A Simple yet General Gated Network [71.19503376629083]
  本稿では,バイナリセグメンテーションタスクに対処するシンプルな汎用ネットワーク(GateNet)を提案する。 多段ゲートユニットの助けを借りて、エンコーダからの貴重なコンテキスト情報をデコーダに選択的に送信することができる。 我々は,アトーラスの畳み込みを改善し,新規な折り畳み畳み畳み畳み畳み込みを形成する「Fold」操作を導入した。
  論文  参考訳（メタデータ） (2023-03-18T11:26:36Z)
• Towards Accurate Binary Neural Networks via Modeling Contextual Dependencies [52.691032025163175]
  既存のバイナリニューラルネットワーク(BNN)は主にバイナライズ機能を備えた局所畳み込みで動作する。 本稿では,二元系ニューラルモジュールの設計を新たに提案し,二元系ニューラルモジュールを大きなマージンで導く。
  論文  参考訳（メタデータ） (2022-09-03T11:51:04Z)
• AdaBin: Improving Binary Neural Networks with Adaptive Binary Sets [27.022212653067367]
  本稿では,重みとアクティベーションを共に1ビット値に分割したBNN(Binary Neural Networks)について検討する。 最適二元集合を適応的に得るために、AdaBin と呼ばれる単純で効果的なアプローチを提案する。 ベンチマークモデルとデータセットの実験結果は、提案されたAdaBinが最先端のパフォーマンスを達成可能であることを示している。
  論文  参考訳（メタデータ） (2022-08-17T05:43:33Z)
• LegoNN: Building Modular Encoder-Decoder Models [117.47858131603112]
  最先端のエンコーダ・デコーダモデルは、原子単位として構築され、訓練されたエンドツーエンドである。 モデルのどのコンポーネントも他のコンポーネントなしでは(再)使用できないため、部品の共有は不可能です。 LegoNNは、エンコーダ-デコーダアーキテクチャを、微調整を必要とせずに、その部品を他のタスクに適用できる方法で構築する手順である。
  論文  参考訳（メタデータ） (2022-06-07T14:08:07Z)
• Quantized Neural Networks via {-1, +1} Encoding Decomposition and Acceleration [83.84684675841167]
  本稿では,量子化されたニューラルネットワーク(QNN)をマルチブランチバイナリネットワークに分解するために,-1,+1を用いた新しい符号化方式を提案する。 本稿では,大規模画像分類,オブジェクト検出,セマンティックセグメンテーションにおける提案手法の有効性を検証する。
  論文  参考訳（メタデータ） (2021-06-18T03:11:15Z)
• BATS: Binary ArchitecTure Search [56.87581500474093]
  ニューラルアーキテクチャ検索をバイナリドメインに直接適用すると、非常に貧弱な結果が得られることを示す。 具体的には、新しいバイナリ指向検索空間を導入し、設計する。 また、CIFAR10、CIFAR100、ImageNetデータセット上に、バイナリニューラルネットワークのための新しい最先端技術も設定しました。
  論文  参考訳（メタデータ） (2020-03-03T18:57:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。