論文の概要: Hollow-LLM Attack: Computationally Trivial Weights in Zero-Knowledge Verification of LLM Inference

• arxiv url: http://arxiv.org/abs/2607.28884v1
• Date: Thu, 30 Jul 2026 23:00:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-03 14:29:40.51469
• Title: Hollow-LLM Attack: Computationally Trivial Weights in Zero-Knowledge Verification of LLM Inference
• Title（参考訳）: Hollow-LLM攻撃: LLM推論のゼロ知識検証における計算的トリビアルウェイト
• Abstract要約: 本稿では,不正直なプロバイダが宣言されたアーキテクチャとパラメータ数を保持するが,代数構造が有効証明を崩壊させるゴーストウェイトを埋め込むHollow-LLMアタックを紹介する。 これにより、プロバイダがモデルサイズを過大評価しながら、小さなモデルコストで証明可能な正確なアウトプットを提供するという利益の均衡が生まれる。 我々は,標準変圧器ブロックを構成するゴーストウェイトを具体化して,そのような中空配置により,同一の検証回路下で品質損失ゼロで供用コストを大幅に削減できることを示す。
• 参考スコア（独自算出の注目度）: 14.550609779533035
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As large language models (LLMs) grow in scale and are predominantly served from remote platforms, verifying faithful inference execution becomes critical (i.e., ensuring that a provider actually executes the advertised model and computational workload rather than a tampered or downsized variant). Zero-knowledge (ZK) LLM inference offers an appealing approach. It promises public verifiability and delivers per-instance guarantees of equational correctness by proving that an output is consistent with executing a public architecture under committed, private weights. Though, we show that it does not bind the effort expended to produce the output. In this paper, we formalize this overlooked effort gap and introduce the Hollow-LLM Attack, in which a dishonest provider retains the declared architecture and parameter count but embeds ghost weights whose algebraic structure collapses effective computation. These witnesses satisfy the verification circuit and yield valid proofs, even though the dishonest model owner, who serves as the prover, performs computation commensurate with a much smaller model than the declared public architecture. This creates a profitable equilibrium in which providers deliver provably correct outputs at small-model cost while overclaiming model size. Accordingly, we characterize concrete families of ghost weights that compose with standard transformer blocks and show that such hollow deployments substantially reduce serving cost with zero quality loss under the same verification circuit. These findings underscore that proof of correct inference is not proof of large-model execution and necessitate additional protections to bind correctness to verifiable computational work.
• Abstract（参考訳）: 大規模言語モデル(LLM)が大規模に成長し、主にリモートプラットフォームから提供されるようになると、忠実な推論実行の検証が重要になる(すなわち、プロバイダが改ざんされたり縮小されたりするのではなく、実際に宣伝されたモデルと計算ワークロードを実行することを保証する)。 Zero-knowledge (ZK) LLM推論は魅力的なアプローチである。 パブリック検証の可能性を約束し、アウトプットがコミットされたプライベートウェイトの下でパブリックアーキテクチャの実行と一貫性があることを証明することによって、インスタンス毎の正確性を保証する。 しかし、出力の生成に費やされた労力を束縛しないことが示される。 本稿では、この見過ごされた作業ギャップを形式化し、不適切なプロバイダが宣言されたアーキテクチャとパラメータ数を保持するが、代数構造が効率的な計算を分解するゴーストウェイトを埋め込むHollow-LLMアタックを導入する。 これらの証人は検証回路を満たし、証明を得るが、証明者を務める不正直なモデル所有者は、宣言された公開アーキテクチャよりもはるかに小さなモデルで計算計算を行う。 これにより、プロバイダがモデルサイズを過大評価しながら、小さなモデルコストで証明可能な正確なアウトプットを提供するという利益の均衡が生まれる。 そこで,本研究では,標準変圧器ブロックを構成するゴーストウェイトの具体的なファミリーを特徴付けるとともに,そのような中空配置により,同一の検証回路下で品質損失ゼロのサービスコストを大幅に削減できることを示す。 これらの結果は、正しい推論の証明は大規模なモデル実行の証明ではなく、検証可能な計算作業に正確性を加えるために追加の保護が必要であることを裏付けている。

関連論文リスト

• Open-Source LLM-Driven Formal Verification: A Multi-Agent Pipeline for RTL Repair [0.0]
  本稿では,LLMとオープンソースの形式的バックエンドを結合してRTLを修復するマルチエージェントパイプラインを提案する。 パイプラインが実際の機能的バグを検出・修復できることを示す。 境界被覆空白、仕様曖昧性、時間論理的バグ、マルチプロパティプレッシャーの4つの異なる障害モードを特徴付ける。
  論文  参考訳（メタデータ） (2026-07-30T22:43:33Z)
• TAPO: Tool-Aware Policy Optimization via Credit Transfer for Multimodal Search Agents [54.08846865906602]
  ツール強化マルチモーダルサーチエージェントにおいて,クレジットミス割り当てをGRPOの系統的障害モードとして特徴付ける。 本稿では,情報取得ツールのパラメータ決定性を利用したツール・アウェア・ポリシー・オプティマイズ(TAPO)を提案する。
  論文  参考訳（メタデータ） (2026-06-04T07:15:43Z)
• Information-Theoretic Limits of Reliability and Scaling in Language Models [6.658166782006281]
  大規模言語モデル(LLM)は、十分なスケールのタスクに対して、完全な信頼性が達成可能であるかのように評価される。 この仮定は情報理論的に不当であることを示す。 我々の研究は、ドメイン間のモデルパフォーマンスを管理するリソース・複雑さのトレードオフを形式化します。
  論文  参考訳（メタデータ） (2026-05-08T06:06:18Z)
• LiveFMBench: Unveiling the Power and Limits of Agentic Workflows in Specification Generation [75.05397479715576]
  大規模言語モデル(LLM)とエージェントは有望な進歩を示しているが、その真の能力と失敗モードは未だ不明である。 CプログラムのためのLCMおよびエージェントベースの形式仕様生成に関する、最初の体系的および汚染に配慮した研究を提案する。
  論文  参考訳（メタデータ） (2026-05-02T11:31:33Z)
• IMMACULATE: A Practical LLM Auditing Framework via Verifiable Computation [49.796717294455796]
  経済的なモチベーションのある逸脱を検出するための実践的な監査フレームワークIMMACULATEを提案する。 IMMACULATEは、検証可能な計算を用いて少数のリクエストを選択的に監査し、暗号オーバーヘッドを償却しながら強力な検出保証を達成する。
  論文  参考訳（メタデータ） (2026-02-26T07:21:02Z)
• CREDIT: Certified Ownership Verification of Deep Neural Networks Against Model Extraction Attacks [54.04030169323115]
  我々は、モデル抽出攻撃(MEA)に対する認証された所有権検証であるCREDITを紹介する。 DNNモデル間の類似性を定量化し、実用的な検証しきい値を提案し、このしきい値に基づいてオーナシップ検証を行うための厳密な理論的保証を提供する。 我々は、さまざまなドメインやタスクにまたがるいくつかの主流データセットに対するアプローチを広範囲に評価し、最先端のパフォーマンスを実現した。
  論文  参考訳（メタデータ） (2026-02-23T23:36:25Z)
• Privacy-Preserving Mechanisms Enable Cheap Verifiable Inference of LLMs [33.54139088666698]
  大規模言語モデル(LLM)は拡大を続けており、サードパーティホスティングサービスの利用が増加している。 既存の推論検証ツールは通常、ゼロ知識証明(ZKP)のような暗号の手法に依存している。 我々は、私的LLM推論を行う方法を考えると、限界余剰コストで検証された推論の形式を得ることができる新しい知見を開発する。
  論文  参考訳（メタデータ） (2026-02-19T10:15:51Z)
• On Calibration of Large Language Models: From Response To Capability [66.59139960234326]
  大規模言語モデル(LLM)は汎用的な問題解決手段として広くデプロイされている。 本稿では,クエリ上でモデルが期待する精度を目標とするキャリブレーションを提案する。 我々の結果は、キャパシティ校正された信頼度がpass@$k$予測と推論予算割り当てを改善することを示している。
  論文  参考訳（メタデータ） (2026-02-14T01:07:45Z)
• VeriLLM: A Lightweight Framework for Publicly Verifiable Decentralized Inference [3.8760740008451156]
  本稿では,分散言語モデル (LLM) 推論のための公開検証プロトコルであるVeriLLMを紹介する。 VeriLLMは、軽量な経験的再実行と暗号的なコミットメントを組み合わせることで、検証者は基礎となる推論コストの約1%で結果を検証することができる。 We show that VeriLLM achieve reliable public verifiability with least overhead。
  論文  参考訳（メタデータ） (2025-09-29T04:07:32Z)
• Disentanglement via Latent Quantization [60.37109712033694]
  本研究では,組織化された潜在空間からの符号化と復号化に向けた帰納的バイアスを構築する。 本稿では,基本データレコーダ (vanilla autoencoder) と潜時再構成 (InfoGAN) 生成モデルの両方に追加することで,このアプローチの広範な適用性を実証する。
  論文  参考訳（メタデータ） (2023-05-28T06:30:29Z)
• Proof-of-Learning: Definitions and Practice [15.585184189361486]
  トレーニングマシンラーニング(ML)モデルは通常、高価な反復最適化を伴う。 現在、これらのパラメータが実際にこの最適化手順の結果であることを証明するためにモデルを訓練したエンティティのメカニズムはありません。 本稿では,MLにおける学習の証明という概念を紹介する。
  論文  参考訳（メタデータ） (2021-03-09T18:59:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。