論文の概要: Fiona: Accelerating FHE Inference with Packing-Aware Ternary Weights

• arxiv url: http://arxiv.org/abs/2609.35352v1
• Date: Mon, 28 Sep 2026 15:03:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-02 06:14:08.068809
• Title: Fiona: Accelerating FHE Inference with Packing-Aware Ternary Weights
• Title（参考訳）: Fiona: パッケージ対応の3重みによるFHE推論の高速化
• Abstract要約: 第三次量子化はマルチプリカチオンを加算と減算で置き換えることができるが、蓄えが充填された実行下では実現されることは滅多にない。 FIONAは、所定のパッキングレイアウト内で重みを選択的にテナライズするオフラインモデルである。 VGG11、ViT、BERTでは、FIONAはPMult操作を53.4-79.5%削減し、エンドツーエンドの暗号化推論を2.38x、1.68x、1.84xで高速化する。
• 参考スコア（独自算出の注目度）: 13.428037300225435
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Fully homomorphic encryption (FHE) enables neural network inference directly on encrypted inputs, but it remains orders of magnitude slower than plaintext in- ference. Applying the server's plaintext weights to encrypted activations involves plaintext-ciphertext multiplications (PMult) and accounts for more than half of inference time in recent systems. Ternary quantization can replace these multipli- cations with additions and subtractions, but the savings rarely materialize under packed execution. A single PMult applies a weight group fixed by the packing layout and can be avoided only when all its weights share the same ternary value. Ternarizing all groups, however, largely degrades accuracy. We present FIONA, an offline optimizer that selectively ternarizes weights within a given packing layout based on the estimated effect of ternary conversion on the model's performance. FIONA encourages a shared ternary value within each weight group and retains full-precision weights for sensitive groups, so ternar- ized and full-precision paths coexist within a layer. It then compiles these hybrid operators exactly, applying common scaling factors once to accumulated inputs and reusing sums across outputs. Weight ternarization can also narrow the input ranges of downstream polynomials. FIONA fits lower-degree replacements under a cumulative accuracy budget, reducing multiplicative depth and bootstrapping. On VGG11, ViT, and BERT, FIONA reduces PMult operations by 53.4-79.5% and accelerates end-to-end encrypted inference by 2.38x, 1.68x, and 1.84x, re- spectively, with less than 1% accuracy loss across all three models.
• Abstract（参考訳）: 完全同型暗号化(FHE)は、ニューラルネットワークを暗号化された入力に直接推論することを可能にするが、通常のテキストの推論よりも桁違いに遅い。 サーバの平文重みを暗号化されたアクティベーションに適用するには、平文-暗号文乗算(PMult)が必要で、最近のシステムでは推論時間の半分以上を占める。 第三次量子化はこれらの乗算カチオンを加算と減算で置き換えることができるが、貯蓄は充填された実行下で実現されることは滅多にない。 単一のPMultは、パッキングレイアウトによって固定された重み群を適用し、すべての重みが同じ三次値を共有する場合にのみ回避できる。 しかしながら、すべてのグループをターナライズすることは、ほとんど精度を低下させる。 本稿では, 3次変換がモデルの性能に与える影響を推定し, 所定のパッケージレイアウト内の重みを選択的に3次化するオフラインオプティマイザFIONAを提案する。 FIONAは、各重み群内の共有3次値の共有を奨励し、センシティブなグループに対する完全精度の重みを保持するため、三重みと完全精度のパスは層内に共存する。 その後、これらのハイブリッド演算子を正確にコンパイルし、一度共通のスケーリング要素を適用して入力を蓄積し、出力をまたいだ和を再利用する。 ウェイト三元化は下流多項式の入力範囲を狭めることもできる。 FIONAは累積精度の予算の下で低次の代替品に適合し、乗算深度とブートストラップを減らす。 VGG11、ViT、BERTでは、FIONAはPMult操作を53.4-79.5%削減し、エンドツーエンドの暗号化推論を2.38x、1.68x、1.84xで高速化する。

関連論文リスト

• HEAT: Faster Fully Homomorphic Inference via Approximations-Weights Co-Adaptation [56.14416807766864]
  同型暗号化により、サーバは暗号化されたユーザープロンプト上で言語モデルを直接実行することができる。 既存のアプローチでは、各サイトのエラー許容度を調整するのではなく、モデル全体のイテレーションカウントを均一に修正する。 非線形反復回数を学習可能にする微調整法であるHAT(Hymomorphic Encryption-Aware Training)を導入する。
  論文  参考訳（メタデータ） (2026-09-01T18:02:02Z)
• Low-Rank Ternary Adaptation for Fine-Tuning Transformers [54.3230438745856]
  3次変換器は、極端なメモリと計算効率を提供する。 既存のロービットのLoRAベースの手法では、3次重みを直接微調整することはできない。 3次重みの離散的な更新を表す3次乗法適応を提案する。
  論文  参考訳（メタデータ） (2026-08-25T12:15:56Z)
• SparseKAN: Compressing Kolmogorov--Arnold Networks Across Basis Functions, Neurons, and Bits [6.860988566886594]
  基本関数,ニューロン/チャネル,数値精度の3つの相補的軸に沿ってkanを圧縮する統一的アプローチである textbfSparseKAN を提案する。 SparseKANは、基本分岐、非線形基底分岐、および個別基底項に、異なるアクティブコストの目的の下で訓練された階層的な学習可能なゲートを装備する。
  論文  参考訳（メタデータ） (2026-08-01T20:42:41Z)
• PT$^2$-LLM: Post-Training Ternarization for Large Language Models [52.4629647715623]
  大きな言語モデル(LLM)は、様々なタスクにまたがる印象的な機能を示しているが、その大きなメモリと計算能力は、デプロイメントを妨げている。 PT$2$-LLMを提案する。 その中核は2段精製パイプラインを備えた非対称3次量子化器である。
  論文  参考訳（メタデータ） (2025-09-27T03:01:48Z)
• LoTA-QAF: Lossless Ternary Adaptation for Quantization-Aware Fine-Tuning [50.89500210372827]
  リソース制約のあるエッジデバイスに大規模言語モデル(LLM)をデプロイするには、量子化と微調整が不可欠である。 LoTA-QAFは量子化LDM用に特別に設計された新しい微調整法である。 MMLUベンチマークでは,16ビットLORAを最大5.14%越えて,量子化モデルの性能を効果的に回復する。
  論文  参考訳（メタデータ） (2025-05-24T14:47:28Z)
• IntLoRA: Integral Low-rank Adaptation of Quantized Diffusion Models [68.55148272295916]
  IntLoRAは、整数型低ランクパラメータを持つ量子化拡散モデルを適用し、チューニング中に推論効率を含める。 推論中、IntLoRA重みはPTQなしで直接量子化された下流重みを得るために、シームレスに事前訓練された重みにマージすることができる。
  論文  参考訳（メタデータ） (2024-10-29T05:50:17Z)
• Exact Backpropagation in Binary Weighted Networks with Group Weight Transformations [0.0]
  量子化に基づくモデル圧縮は、推論のためのハイパフォーマンスで高速なアプローチとして機能する。 重みをバイナリ値に制限するモデルは、ユビキタスドット製品の効率的な実装を可能にします。
  論文  参考訳（メタデータ） (2021-07-03T10:29:34Z)
• Sparsity-Control Ternary Weight Networks [34.00378876525579]
  我々は、乗算を回避し、メモリと要求を大幅に削減できる3次重み -1, 0, +1 ネットワークのトレーニングに重点を置いている。 既存の3次重みネットワークのトレーニングアプローチでは、3次重みの間隔を制御できない。 3次重みネットワークをトレーニングするための第一時空間制御手法(SCA)を提案する。
  論文  参考訳（メタデータ） (2020-11-01T18:06:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。