論文の概要: The Blind Spots of Detection: Adversarial Perturbation Attacks against Watchdogs in Distributed LLM Inference
- arxiv url: http://arxiv.org/abs/2611.01097v1
- Date: Sat, 31 Oct 2026 16:38:34 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-03 20:03:17.003638
- Title: The Blind Spots of Detection: Adversarial Perturbation Attacks against Watchdogs in Distributed LLM Inference
- Title（参考訳）: 盲点検出:分散LDM推論における時計犬に対する対向的摂動攻撃
- Abstract要約: Hush-Upは、分散大言語モデル(LLM)推論に対するステルスなアベイラビリティ攻撃である。
早期世代の終了とモデル機能の崩壊を効果的に強制する。
以上の結果から,局所的な数値検証とエンドツーエンドの説明責任の根本的なギャップが明らかとなった。
- 参考スコア（独自算出の注目度）: 17.76493407548317
- License:
- Abstract: Decentralizing large language model (LLM) inference across untrusted Web nodes requires robust verification to ensure computational integrity. Existing activation-based verification and detection mechanisms validate intermediate outputs against reference values, permitting bounded numerical deviations to accommodate benign cross-hardware discrepancies. However, a critical security question remains: what can a malicious worker achieve while operating within these tolerance bounds? In this work, we introduce Hush-Up, a stealthy availability attack against distributed LLM inference, where a single malicious worker halts generation while evading attribution. The attacker first profiles its local execution to model an empirical bound of benign hardware errors. Using this error bound as a feasibility constraint, the attacker optimizes an adversarial perturbation on its output activations to maximize the final-layer probability of the end-of-sequence (EOS) token, i.e., to hush up the model. Across diverse models and benchmarks, Hush-Up effectively forces premature generation termination and collapses model capabilities. Furthermore, the attack hushes up the watchdogs themselves: existing defenses often fail to detect the sabotage entirely or falsely attribute the amplified downstream anomalies to honest workers. Our findings expose a fundamental gap between local numerical verification and end-to-end accountability: perturbations too small to indict a worker locally can nevertheless be powerful enough to break distributed inference globally.
- Abstract（参考訳）: 大規模言語モデル(LLM)推論を信頼できないWebノードに分散させるには、計算の完全性を保証するための堅牢な検証が必要である。
既存のアクティベーションに基づく検証と検出機構は、基準値に対して中間出力を検証する。
しかし、重要なセキュリティ上の疑問が残る。悪意のあるワーカは、これらの許容範囲内で動作中に何を達成することができるのか?
本研究では、分散LLM推論に対するステルスなアベイラビリティ攻撃であるHush-Upを紹介し、悪意のある1人の作業者が属性を回避しながら生成を停止する。
攻撃者はまず、そのローカル実行をプロファイリングして、良質なハードウェアエラーの実証的な境界をモデル化する。
このエラーを実行可能性制約として使用することにより、攻撃者は出力アクティベーションの逆摂動を最適化し、エンド・オブ・シーケンス(EOS)トークンの最終層確率を最大化し、モデルをハッシュする。
多様なモデルとベンチマークにわたって、Hush-Upは、初期生成の終了とモデル機能の崩壊を効果的に強制する。
さらに、攻撃は監視犬たち自身を圧倒する。既存の防衛隊は、破壊を完全に検出できないことや、あるいは、増幅された下流の異常を正直な労働者に当てはめることがしばしばある。
局所的な数値検証とエンドツーエンドのアカウンタビリティの間には,根本的なギャップがあることが判明した: 局所的に労働者を起訴するには摂動が小さすぎるが,それでもグローバルに分散推論を破るには十分強力である。
関連論文リスト
- Only What You've Signed up For: Secure Workflows with Constrained Diffusion Agents [55.83789518862565]
政策制約型拡散剤(CoDA)について紹介する。
CoDAは、拡散言語モデルの認知プロセス内で、タスク依存のセキュリティポリシーを直接実施する。
我々は,静的かつ適応的なインジェクション攻撃の下で,最先端の拡散言語モデルファミリ間のCoDAを評価する。
論文 参考訳（メタデータ） (2026-10-10T20:58:01Z) - The Unseen Hand: Manipulating Model Fairness and SHAP with Targeted Identity Re-Association Attacks [0.0]
我々は、モデルの内部や特徴表現へのアクセスを必要とせずに、モデルの出力を操作する新しい攻撃ファミリーであるTIRAアタック(Targeted Identity Re-Association)を導入する。
我々は、TIRAアタックが、理想値へのフェアネス指標の押し付けに非常に効果的であることを実証的に実証した。重要なことに、TIRAアタックはSHAPベースの説明をうまく理解し、保護された特徴に対する事実上の残差属性を残し、前回の作業よりも大幅に改善した。
論文 参考訳（メタデータ） (2026-06-22T05:05:36Z) - Who Pays the Price? Stakeholder-Centric Prompt Injection Benchmarking for Real-world Web Agents [93.19140872946842]
大規模言語モデル(LLM)によって駆動されるWebエージェントは、現実の環境にますますデプロイされる。
これにより、一見良質なコンテンツがエージェントの振る舞いを操作する敵の命令を埋め込む、プロンプト・インジェクション・アタックに対して脆弱になる。
実世界のWebエージェントシステムにおいて,損害を体系的に分類し,属性付けするベンチマークである textbfsysname を導入する。
論文 参考訳（メタデータ） (2026-06-11T14:12:43Z) - VerifyMAS: Hypothesis Verification for Failure Attribution in LLM Multi-Agent Systems [79.51005192758262]
大規模言語モデル駆動型マルチエージェントシステムは複雑なタスクで優れている。
しかし、信頼性の低いエージェントは、システムレベルの信頼性にとって重要なボトルネックである。
本稿では,エージェント故障の帰属に関する仮説検証フレームワークを提案する。
論文 参考訳（メタデータ） (2026-05-17T14:09:35Z) - TwinGate: Stateful Defense against Decompositional Jailbreaks in Untraceable Traffic via Asymmetric Contrastive Learning [60.68349524623048]
分解されたジェイルブレイクは、大きな言語モデルにとって重大な脅威となる。
我々はステートフルなデュアルエンコーダ防御フレームワークであるTwinGateを紹介する。
我々は、8600の異なる悪意のある意図にまたがる360万以上の命令の包括的なデータセットを構築した。
論文 参考訳（メタデータ） (2026-04-30T13:44:01Z) - Sleeper Cell: Injecting Latent Malice Temporal Backdoors into Tool-Using LLMs [0.0]
オープンウェイト大規模言語モデル(LLM)はエージェントAIを民主化しているが、微調整されたウェイトは頻繁に共有され、リーダーボードのパフォーマンスを超えた限られた精査で採用されている。
これにより、サードパーティモデルが強力な行動保証なしで組み込まれるリスクが生じる。
有毒なモデルでは、良質なタスクに対して最先端のパフォーマンスを維持し、採用にインセンティブを与えていることを示す。
論文 参考訳（メタデータ） (2026-03-02T22:01:08Z) - A Coin Flip for Safety: LLM Judges Fail to Reliably Measure Adversarial Robustness [57.510025257780306]
既存の検証プロトコルは、レッドチーム固有の分散シフトを考慮できないことを示す。
我々は、より一貫して判断可能な振る舞いのベンチマークであるReliableBenchと、判断失敗を公開するために設計されたデータセットであるJiceStressTestを提案する。
論文 参考訳（メタデータ） (2026-02-04T15:13:35Z) - BadDet+: Robust Backdoor Attacks for Object Detection [10.393154496941527]
BadDet+は、Regional Misclassification Attacks(RMA)とObject Disappearance Attacks(ODA)を統合したペナルティベースのフレームワークである。
実世界のベンチマークでは、BadDet+は、クリーンなパフォーマンスを維持しながら既存のRMAやOdaベースラインよりも優れた合成と物理の転送を実現している。
これらの結果は、物体検出における重大な脆弱性と、特殊防御の必要性を浮き彫りにしている。
論文 参考訳（メタデータ） (2026-01-28T21:46:33Z) - VeriLLM: A Lightweight Framework for Publicly Verifiable Decentralized Inference [3.8760740008451156]
本稿では,分散言語モデル (LLM) 推論のための公開検証プロトコルであるVeriLLMを紹介する。
VeriLLMは、軽量な経験的再実行と暗号的なコミットメントを組み合わせることで、検証者は基礎となる推論コストの約1%で結果を検証することができる。
We show that VeriLLM achieve reliable public verifiability with least overhead。
論文 参考訳（メタデータ） (2025-09-29T04:07:32Z) - Uncertainty is Fragile: Manipulating Uncertainty in Large Language Models [79.76293901420146]
大規模言語モデル(LLM)は、出力の信頼性が不可欠である様々な高い領域で採用されている。
本研究では,不確実性推定の脆弱性を調査し,攻撃の可能性を探る。
攻撃者がLSMにバックドアを埋め込むことができ、入力中の特定のトリガーによって起動されると、最終的な出力に影響を与えることなくモデルの不確実性を操作できることを示す。
論文 参考訳（メタデータ） (2024-07-15T23:41:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。