論文の概要: Securing LLMs in the Wild: Privacy and Security Challenges at the Edge

• arxiv url: http://arxiv.org/abs/2607.13088v1
• Date: Mon, 13 Jul 2026 16:45:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-16 16:39:12.527744
• Title: Securing LLMs in the Wild: Privacy and Security Challenges at the Edge
• Title（参考訳）: LLMを野生でセキュアに - エッジにおけるプライバシとセキュリティの課題
• Abstract要約: 大規模言語モデル(LLM)は、研究環境から、エンタープライズインフラストラクチャ、パーソナルデバイス、エッジプラットフォームにデプロイされた野生のものに急速に移行しています。 このシフトは、量子化、プルーニング、モデルのパーティショニング、パラメータ効率の適応など、限られた計算力とメモリ力によるアグレッシブな最適化という、新たなセキュリティとプライバシの課題を導入している。 メモリウォール,クアドラティックウォール,コンピュートウォールという,3つのアーキテクチャ上の制約を中心に構成された,デプロイメント中心の分類を導入します。 このモデルに基づいて、安全操作効率スコア(SOES)を提案する。これは、タスクの正確性、ジェイルブレイク耐性、およびエネルギー、メモリ、およびプライバシに対するプライバシーの総合的なバランスをとる指標である。
• 参考スコア（独自算出の注目度）: 10.727102755903617
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) are rapidly moving from research settings into the wild, deployed on enterprise infrastructure, personal devices, and edge platforms. While cloud deployments offer scalable compute, concerns over data sovereignty, compliance, latency, and third-party dependence are driving organizations toward edge and on-premise LLMs. This shift introduces new security and privacy challenges: limited compute and memory force aggressive optimizations, including quantization, pruning, model partitioning, and parameter-efficient adaptation, each of which can introduce vulnerabilities and reshape the threat landscape. We describe this tension as the Security-Efficiency Paradox, mechanisms that improve efficiency may weaken robustness, expose new attack surfaces, or increase privacy risks. We examine how compression can degrade safety alignment, how partitioned inference enables reconstruction attacks, and how continuous local adaptation may cause privacy leakage and model drift. To analyze these risks, we introduce a deployment-centric taxonomy organized around three architectural constraints: the Memory Wall, the Quadratic Wall, and the Compute Wall. We derive a unified constraint model that quantifies when unsafe optimizations become unavoidable, linking each wall to specific attack surfaces. Building on this model, we propose the Secure Operational Efficiency Score (SOES), a holistic metric balancing task accuracy, jailbreak resistance, and privacy against energy, memory, and latency, enabling practitioners to configure edge LLMs under real-world hardware limits. We further present a practical decision procedure and targeted mitigations for each optimization-induced vulnerability. Together, these contributions provide a co-designed framework for jointly evaluating security, privacy, and efficiency, laying a foundation for securing edge-native intelligent systems.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、研究環境から、エンタープライズインフラストラクチャ、パーソナルデバイス、エッジプラットフォームにデプロイされた野生のものに急速に移行しています。 クラウドデプロイメントはスケーラブルなコンピューティングを提供するが、データ主権やコンプライアンス、レイテンシ、サードパーティ依存といった懸念は、組織をエッジとオンプレミスのLLMへと駆り立てている。 量子化、プルーニング、モデルのパーティショニング、パラメータ効率の適応など、コンピュータとメモリの力によるアグレッシブな最適化が制限され、それぞれが脆弱性を導入し、脅威のランドスケープを再構築することができる。 この緊張関係をセキュリティ効率パラドックス(Security-Efficiency Paradox)と呼んでいる。 本研究では, 圧縮が安全アライメントを低下させる方法, 分割推論がリコンストラクション攻撃を可能にする方法, 連続的な局所適応がプライバシリークやモデルドリフトを引き起こす可能性について検討する。 これらのリスクを分析するために,メモリウォール,クアドラティックウォール,コンピュートウォールという,3つのアーキテクチャ上の制約に基づいて構成されたデプロイメント中心の分類を導入する。 我々は、安全でない最適化が避けられないときを定量化し、各壁を特定の攻撃面にリンクする統一制約モデルを導出する。 本モデルに基づいて,タスクの正確性,ジェイルブレイク耐性,およびエネルギ,メモリ,レイテンシに対するプライバシを総合的にバランスさせ,実践者が現実のハードウェア制約下でエッジLSMを設定することを可能にするための,セキュアな操作効率スコア(SOES)を提案する。 さらに、最適化によって引き起こされる脆弱性に対して、実用的な決定手順と目標緩和を提案する。 これらのコントリビューションは、セキュリティ、プライバシ、効率を共同で評価するための、共同設計のフレームワークを提供し、エッジネイティブなインテリジェントシステムを保護する基盤を構築している。

関連論文リスト

• Byzantine-Robust and Differentially Private Federated Optimization under Weaker Assumptions [89.52532304099522]
  フェデレートラーニング(FL)は、クライアントが生データを集中せずに共有モデルを共同でトレーニングすることを可能にし、固有のプライバシーレベルを提供する。 グラデーションとモデル更新は機密情報を漏洩する可能性があるが、悪意のあるサーバはビザンティン操作のような敵攻撃をマウントする可能性がある。 これらの脆弱性は、統合されたフレームワーク内の差分プライバシー(DP)とビザンチンの堅牢性に対処する必要性を強調している。 Byz-Clip21-SGD2Mを提案する。
  論文  参考訳（メタデータ） (2026-03-24T17:39:09Z)
• BarrierSteer: LLM Safety via Learning Barrier Steering [83.12893815611052]
  BarrierSteerは、学習した非線形安全性制約を直接モデルの潜在表現空間に埋め込むことで、安全性を形式化する新しいフレームワークである。 BarrierSteerは、敵の成功率を大幅に低下させ、安全でない世代を減少させ、既存の手法より優れていることを示す。
  論文  参考訳（メタデータ） (2026-02-23T18:19:46Z)
• A Secure and Private Distributed Bayesian Federated Learning Design [56.92336577799572]
  DFL(Distributed Federated Learning)は、中央パラメータサーバを持たない大規模システム間の分散モデルトレーニングを可能にする。 DFLは、3つの重要な課題に直面している: 正直な隣人からのプライバシー漏洩、中央調整の欠如による収束の遅さ、モデルの精度の低下を目指すビザンティンの敵に対する脆弱性。 本稿では,ビザンチンの堅牢性,プライバシー保護,収束促進を統合した新しいDFLフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-02-23T16:12:02Z)
• YuFeng-XGuard: A Reasoning-Centric, Interpretable, and Flexible Guardrail Model for Large Language Models [36.084240131323824]
  我々はYuFeng-XGuardについて紹介する。YuFeng-XGuardは大規模言語モデル(LLM)のための論理中心ガードレールモデルである。 YuFeng-XGuardは不透明な二項判定を生成する代わりに、明確なリスクカテゴリや信頼性スコアを含む構造化されたリスク予測を生成する。 リスク認識を政策執行から切り離す動的政策機構を導入し、モデルの再訓練なしに安全政策を調整できるようにした。
  論文  参考訳（メタデータ） (2026-01-22T02:23:18Z)
• ALPINE: A Lightweight and Adaptive Privacy-Decision Agent Framework for Dynamic Edge Crowdsensing [34.752121524751466]
  ALPINEは軽量で適応的なフレームワークで、端末デバイスがリアルタイムに差分プライバシーレベルを調整できるようにする。 環境リスク評価に基づいて、プライバシゲイン、データユーティリティ、エネルギーコストのバランスをとる報酬関数を設計する。 協調リスクモデルと事前訓練されたTD3ベースのエージェントの両方が、低オーバーヘッドデプロイメント用に設計されている。
  論文  参考訳（メタデータ） (2025-10-20T05:03:25Z)
• UpSafe$^\circ$C: Upcycling for Controllable Safety in Large Language Models [67.91151588917396]
  大規模言語モデル(LLM)は、幅広いタスクで顕著な進歩を遂げているが、有害なコンテンツ生成やジェイルブレイク攻撃といった安全リスクに弱いままである。 安全に配慮したリサイクルによるLCMの安全性向上のための統合フレームワークであるUpSafe$circ$Cを提案する。 この結果から, 静的アライメントから動的, モジュール, 推論対応制御への移行という, LLMの安全性の新たな方向性が明らかになった。
  論文  参考訳（メタデータ） (2025-10-02T16:43:33Z)
• Anchoring Refusal Direction: Mitigating Safety Risks in Tuning via Projection Constraint [52.878820730054365]
  インストラクションファインチューニング(IFT)は,大規模言語モデル(LLM)の能力向上のための効果的なポストトレーニング戦略として広く採用されている。 LLMの内部機構に関する最近の研究は、隠蔽状態における拒絶方向(r方向)を同定し、拒絶行動の制御において重要な役割を担っている。 このようなドリフトを緩和するため,提案手法では,各トレーニングサンプルの隠れ状態のr方向への投射の大きさを規則化する投射制約損失項を導入する。
  論文  参考訳（メタデータ） (2025-09-08T15:24:33Z)
• Secure Distributed Learning for CAVs: Defending Against Gradient Leakage with Leveled Homomorphic Encryption [0.0]
  ホモモルフィック暗号化(HE)は、差分プライバシー(DP)とセキュアマルチパーティ計算(SMPC)に代わる有望な代替手段を提供する 資源制約のある環境において,フェデレートラーニング(FL)に最も適したHE方式の評価を行った。 我々は、モデル精度を維持しながら、Gradients (DLG)攻撃からのDeep Leakageを効果的に軽減するHEベースのFLパイプラインを開発した。
  論文  参考訳（メタデータ） (2025-06-09T16:12:18Z)
• FedShield-LLM: A Secure and Scalable Federated Fine-Tuned Large Language Model [0.48342038441006796]
  Federated Learning (FL)は、LLM(Large Language Models)のトレーニングと微調整のための分散フレームワークを提供する。 FLはプライバシとセキュリティの懸念に対処し、LLMの相当な計算要求に関連する課題をナビゲートする。 ローランド適応 (LoRA) パラメータに対して, 完全同型暗号化 (FHE) を用いたプルーニングを用いた新しいFedShield-LLMを提案する。
  論文  参考訳（メタデータ） (2025-06-06T00:05:05Z)
• Revisiting Locally Differentially Private Protocols: Towards Better Trade-offs in Privacy, Utility, and Attack Resistance [4.5282933786221395]
  ローカル微分プライバシー(LDP)は、特にデータを収集するサーバが信頼できない設定で、強力なプライバシ保護を提供する。 本稿では, LDPプロトコルを改良するための汎用多目的最適化フレームワークを提案する。 我々のフレームワークは、調整可能なプライバシ・ユーティリティ・トレードオフによるLPP機構のモジュール化とコンテキスト対応のデプロイを可能にする。
  論文  参考訳（メタデータ） (2025-03-03T12:41:01Z)
• A Middle Path for On-Premises LLM Deployment: Preserving Privacy Without Sacrificing Model Confidentiality [20.646221081945523]
  プライバシに敏感なユーザは、自身のインフラストラクチャ(オンプレミス)に大規模な言語モデル(LLM)をデプロイして、プライベートデータの保護とカスタマイズを可能にする必要がある。 小型モデルの従来の研究は、モデルの機密性とカスタマイズのバランスをとるために、ハードウェアがセキュアなデバイス内の出力層のみを確保することを模索してきた。 SOLIDはセキュアな環境下でいくつかのボトム層を確保する新しいデプロイメントフレームワークであり、トレードオフを最適化するための効率的なメトリクスを導入します。
  論文  参考訳（メタデータ） (2024-10-15T02:00:36Z)
• Enforcing Hard Constraints with Soft Barriers: Safe Reinforcement Learning in Unknown Stochastic Environments [84.3830478851369]
  本研究では,環境を協調的に学習し,制御ポリシーを最適化する安全な強化学習手法を提案する。 本手法は, 安全性の制約を効果的に適用し, シミュレーションにより測定したシステム安全率においてCMDPベースのベースライン法を著しく上回っている。
  論文  参考訳（メタデータ） (2022-09-29T20:49:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。