論文の概要: CipherGenome: Homomorphic Inference for Genomic Mixture-of-Experts
- arxiv url: http://arxiv.org/abs/2609.35883v2
- Date: Thu, 01 Oct 2026 22:15:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 00:14:29.938337
- Title: CipherGenome: Homomorphic Inference for Genomic Mixture-of-Experts
- Title（参考訳）: CipherGenome:Genomic Mixture-of-Expertsの同型推論
- Abstract要約: CipherGenomeは、パラメータの95.8%である全てのエキスパートプロジェクションを、モジュール-LWE暗号化の下で信頼されず、おそらくは解決するサーバにアウトソースする。
12個の細菌ゲノムから72個の窓に、暗号はKL分散CIのトークン当たり2.54ドル10-4ドルナットを3.95ドル10-4ドルとして追加する。
再利用可能なパブリックヒントは、エンドツーエンドのレイテンシを3.54倍削減し、ワイヤ圧縮はトラフィックを6.8倍削減し、層ごとのブートストラップはルーティングリークを54.9%から8.9%に削減する。
- 参考スコア（独自算出の注目度）: 4.564848621539382
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Genome foundation models are growing into sparse mixture-of-experts (MoE) networks whose expert weights no longer fit on the machines that hold the sequences, yet sending a private genome to rented accelerators exposes it: we show that a single server hosting one expert recovers the input nucleotides with 99.8% top-1 accuracy. We present CipherGenome, a protocol that keeps the embedding, attention and router of a 15.1B-parameter MoE genome model on a trusted thin client and outsources every expert projection, 95.8% of the parameters, to untrusted and possibly colluding GPU servers under module-LWE encryption. The design exploits three structural facts: expert layers are linear between two SwiGLU gates, expert weights are public, and GPU integer tensor cores can evaluate a ciphertext-weight product exactly modulo $2^{48}$ in a single GEMM. The client evaluates the nonlinearity exactly and re-encrypts with fresh secrets, so no polynomial approximation or bootstrapping is ever needed. On 72 windows from 12 bacterial genomes, encryption adds $2.54 \times 10^{-4}$ nats per token of KL divergence (95% CI upper bound $3.95 \times 10^{-4}$), below a pre-registered non-inferiority margin and indistinguishable from bf16 inference, while the same inversion attack falls to chance level. A reusable public hint cuts end-to-end latency by 3.54 times, wire compression reduces traffic 6.8 times, per-layer padding reduces routing leakage from 54.9% to 8.9% accuracy, and HE-compatible int4 experts remain non-inferior to their plaintext counterparts. Per expert and token, the server-side cost is more than six orders of magnitude below a CKKS baseline.
- Abstract（参考訳）: ゲノム基盤モデルはスパース・ミックス・オブ・エキスパート(MoE)ネットワークに成長しており、配列を保持するマシンに専門家の重みがもはや合わないが、レンタルされたアクセラレーターにプライベートゲノムを送ると、それが明らかになる: 専門家をホストする単一のサーバが99.8%のトップ1の精度で入力ヌクレオチドを回復する。
我々は、信頼できるシンクライアント上に15.1BパラメータMOEゲノムモデルの埋め込み、注意、ルータを保持し、パラメータの95.8%であるすべてのエキスパートプロジェクションをアウトソースするプロトコルであるCipherGenomeを、モジュール-LWE暗号化の下でGPUサーバーを信頼せず、おそらくは衝突させる。
専門家層は2つのSwiGLUゲートの間に線形であり、エキスパートウェイトはパブリックであり、GPU整数テンソルコアは1つのGEMMで正確に2〜48ドルという暗号文重み製品を評価することができる。
クライアントは非線形性を正確に評価し、新しいシークレットで再暗号化するので、多項式近似やブートストラッピングは不要である。
12個の細菌ゲノムから72個の窓に、暗号化によりKL分散トークン当たりのNatsが2.54ドル(95% CI上界3.95ドル)となり、bf16推論と区別できない非不妊率のマージンの下にある。
再利用可能な公開ヒントは、エンドツーエンドのレイテンシを3.54倍に削減し、ワイヤ圧縮はトラフィックを6.8倍削減し、層ごとのパディングはルーティングリークを54.9%から8.9%に削減し、HE互換のint4専門家は、平文のものとは相容れないままである。
専門家とトークンによると、サーバ側のコストはCKKSベースラインよりも6桁以上低い。
関連論文リスト
- GenomeOcean Anywhere: Private WebGPU Inference for Genome MoEs [4.564848621539382]
我々は、信頼されたコーディネータが注意を払ってルーティングを行うシステムを構築し、ブラウザワーカーはすべての専門家フィードフォワードネットワークを実行する。
プローブは、各深さで1つのベクトルからトークンを回収し、1人の作業員は、300個の未順序トークンから92%の精度でソースゲノムを識別できる。
Chromeでは、コード化されたデコーディングはトークンあたり220～376msで実行され、ルーティングのどれだけが隠されているかによって異なり、ワーカーが失敗してもレプリカなしで継続する。
論文 参考訳（メタデータ） (2026-09-27T00:21:26Z) - Training-Free Halving of Activated Experts in Fine-Grained Mixture-of-Experts Models [3.749501286035187]
再正規化は暗黙的に専門家のアウトプットゲインをトレーニングのトップ$k$に校正することを示す。
再正常化を完全に除去することは破滅的であり、適切な基準質量を維持することが重要であることを示す。
論文 参考訳（メタデータ） (2026-09-04T00:11:28Z) - Measuring the Checker: Mutation Analysis for GPU-Kernel Benchmark Oracles [86.41218924166775]
LLM生成のGPUカーネルのベンチマークは、ランダムな入力とゆるやかな浮動小数点耐性で正確性を決定する。
最近の研究は、これらのチェッカーは弱く、手動でパッチを当てることに同意している。
本稿では,カーネルベンチマークの精度指標として突然変異解析を導入する。
論文 参考訳（メタデータ） (2026-09-02T10:30:05Z) - Codebook Agent: Amortized Topology Design for LLM Multi-Agent Systems [67.04448659688579]
クエリ非依存の16エントリのコードブックを開発し、上位のデコード候補を1回のバッチフォワードパスでランク付けする。
反復検索がなく、テスト時にメッセージパッシングがないため、Codebook Agentは6つのベンチマークでもっとも正確な方法である。
論文 参考訳（メタデータ） (2026-09-02T08:10:22Z) - Tied Trit-Planes: Constraining PTQTP to a Uniform Nine-Level Quantizer, with a Persistent Folded Format for Disk-Streamed Mixture-of-Experts Serving [0.28304882054363123]
この研究はPTQTPの解法に制約としてそのアイデンティティを課した最初のものである。
我々は、284B-A13B混合エキスパートモデルであるDeepSeek-V4-Flash-0731のルートエキスパートに適用する。
すべてのコード、フォーマット、評価アーティファクトは、fucina推論スタックでオープンソースである。
論文 参考訳（メタデータ） (2026-08-09T20:53:47Z) - Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning [40.342912574072024]
大規模言語モデルは、旅行計画やコードソリューションのような構造化されたアウトプットを生成する。
個々の推論ステップは正しく見えるが、アウトプット全体が予算に違反したり、テストケースに失敗したり、あるいは以前の推論に矛盾することがある。
構造化LCM出力の検証のための決定論的解析制約付き学習品質スコアラを提案する。
論文 参考訳（メタデータ） (2026-05-15T17:08:27Z) - Position: AI Security Policy Should Target Systems, Not Models [2.741152471987327]
本稿では,複数の軽量LCMエージェントが共有メモリを介して協調する,オープンソースの逆テストフレームワークを提案する。
我々の結果は、フロンティアモデルの安全性回避とソフトウェア脆弱性発見の両方が、効果的にゼロコストで達成可能であることを実証している。
論文 参考訳（メタデータ） (2026-05-10T12:27:14Z) - Privacy-Aware Split Inference with Speculative Decoding for Large Language Models over Wide-Area Networks [0.0]
本稿では、信頼性のあるローカルGPUとクラウドGPUのトランスフォーマーを分割する、プライバシーに配慮した大規模言語モデル(LLM)の実用的なシステムを提案する。
我々のシステムは、高速広帯域ネットワーク(WAN)上での自己回帰LDM復号化の独特な課題に対処する。
システムは4.9GBのローカルVRAMと7Bのスループットしか持たない大型モデルに一般化される。
論文 参考訳（メタデータ） (2026-02-18T14:13:08Z) - SNNGX: Securing Spiking Neural Networks with Genetic XOR Encryption on RRAM-based Neuromorphic Accelerator [34.474841993360855]
スパイキングニューラルネットワーク(SNN)はスパイクスパシティを特徴とするもので、知的エッジデバイスや重要なバイオメディカル応用に対して大きな注目を集めている。
しかし、SNNからホワイトボックス情報を抽出しようとする悪意のある試みにはかなりのリスクがある。
我々は,SNNのIPを保護するために,セキュアなRRAMベースのニューロモルフィックアクセラレータを提案する。
論文 参考訳（メタデータ） (2024-07-21T13:08:05Z) - G$^2$uardFL: Safeguarding Federated Learning Against Backdoor Attacks
through Attributed Client Graph Clustering [116.4277292854053]
Federated Learning (FL)は、データ共有なしで協調的なモデルトレーニングを提供する。
FLはバックドア攻撃に弱いため、有害なモデル重みがシステムの整合性を損なう。
本稿では、悪意のあるクライアントの識別を属性グラフクラスタリング問題として再解釈する保護フレームワークであるG$2$uardFLを提案する。
論文 参考訳（メタデータ） (2023-06-08T07:15:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。