論文の概要: When Safety Checks Become Privacy Risks: A Privacy-Preserving Paradigm for LLM Agent Safety Auditing

• arxiv url: http://arxiv.org/abs/2610.41401v1
• Date: Fri, 30 Oct 2026 08:12:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.654956
• Title: When Safety Checks Become Privacy Risks: A Privacy-Preserving Paradigm for LLM Agent Safety Auditing
• Title（参考訳）: 安全チェックがプライバシーのリスクになるとき: LLMエージェントの安全監査のためのプライバシー保護パラダイム
• Abstract要約: 専門のプロバイダは、エージェントオペレーターに対して、事前実行の安全監査機能を提供し、維持することができる。 本稿では、委任された監査計算を平文アクセスと実行権限から分離するプライバシー保護型安全監査のパラダイムを提案する。 このパラダイムは、学習された監査表現、CKKSベースの暗号化類似性計算、および監査ツールコールにバインドされた実行制御を組み合わせたフレームワークであるSealCallでインスタンス化する。
• 参考スコア（独自算出の注目度）: 11.107983811665804
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language model agents interact with online services through tool calls that may access private data or perform sensitive actions. Specialized providers can supply and maintain pre-execution safety auditing capabilities for agent operators. However, sending task descriptions, call arguments, and interaction histories to an external auditor may expose sensitive user information. In this work, we propose a paradigm for privacy-preserving safety auditing that separates delegated audit computation from plaintext access and execution authority. Grounded in a three-domain auditing model, the paradigm connects trusted representation construction, encrypted audit computation, and trusted decision and execution through explicit interfaces. These interfaces accommodate alternative representations and scorers, while encrypted computation protects audit inputs from a semi-honest auditor. We instantiate this paradigm in SealCall, a framework combining learned audit representations, CKKS-based encrypted similarity computation, and execution control bound to audited tool calls. Evaluated on 1,252 public binary candidates, SealCall achieves a mean F1 score of 0.840 under grouped nested evaluation, while preserving plaintext audit decisions in all measured cases. A representative configuration completes each encrypted scoring operation in 0.176 s.
• Abstract（参考訳）: 大規模言語モデルエージェントは、プライベートデータにアクセスしたり、センシティブなアクションを実行するツールコールを通じて、オンラインサービスと対話する。 専門のプロバイダは、エージェントオペレーターに対して、事前実行の安全監査機能を提供し、維持することができる。 しかし、タスク記述、引数の呼び出し、インタラクション履歴を外部監査官に送信することは、機密性の高いユーザー情報を公開する可能性がある。 本研究では、委任された監査計算を平文アクセスと実行権限から分離するプライバシー保護型安全監査のパラダイムを提案する。 このパラダイムは、3ドメインの監査モデルに基づいており、信頼された表現の構成、暗号化された監査計算、明示的なインターフェースによる信頼された決定と実行を結びつける。 これらのインタフェースは代替表現とスコアラーに対応し、暗号化された計算は半正直な監査者からの監査入力を保護している。 このパラダイムは、学習された監査表現、CKKSベースの暗号化類似性計算、および監査ツールコールにバインドされた実行制御を組み合わせたフレームワークであるSealCallでインスタンス化する。 SealCallは1,252人の公的なバイナリー候補に基づいて評価され、グループ化ネスト評価の下で平均F1スコア0.840を達成し、測定されたすべてのケースで平文監査決定を保持する。 代表構成は、各暗号化スコアリング操作を0.176秒で完了する。

関連論文リスト

• CredLeakBench: Evaluating Credential Leakage and Recovery in LLM Agents [58.28055202832338]
  言語モデルエージェントは日々のデジタル雑用を自動化するためにますますデプロイされている。 この機能は、フィッシングに機密情報を公開する。 CredLeak-Benchは、ヒューマンタスクの効果的かつセキュアなエージェントの自動化を評価するために設計されたベンチマークである。
  論文  参考訳（メタデータ） (2026-10-06T05:07:33Z)
• Token-Flow Firewall: Semantic Runtime Auditing for Persistent AI Agents [76.4694046738862]
  TokenWallは、エージェントトークンフローのセマンティックファイアウォールとして機能するランタイム防衛フレームワークである。 TokenWallは攻撃成功率を12.5%に抑えつつ、97.4%の良質なパスレートを維持している。
  論文  参考訳（メタデータ） (2026-07-09T12:18:40Z)
• IMMACULATE: A Practical LLM Auditing Framework via Verifiable Computation [49.796717294455796]
  経済的なモチベーションのある逸脱を検出するための実践的な監査フレームワークIMMACULATEを提案する。 IMMACULATEは、検証可能な計算を用いて少数のリクエストを選択的に監査し、暗号オーバーヘッドを償却しながら強力な検出保証を達成する。
  論文  参考訳（メタデータ） (2026-02-26T07:21:02Z)
• Zero-Knowledge Audit for Internet of Agents: Privacy-Preserving Communication Verification with Model Context Protocol [2.503043323723241]
  我々は,メッセージが期待されるルールに従っていることを確認しながら,メッセージをプライベートに保持する,エージェント通信の監査フレームワークを導入する。 ゼロ知識証明を既存のモデルコンテキストプロトコル(MCP)と組み合わせることで、その内容を明らかにすることなくメッセージを検証することができる。 我々は、zk-MCPがデータの信頼性と通信のプライバシーを提供し、無視可能な遅延オーバーヘッドによる効率的な検証を実現していることを示す。
  論文  参考訳（メタデータ） (2025-12-11T19:18:07Z)
• SilentLedger: Privacy-Preserving Auditing for Blockchains with Complete Non-Interactivity [38.520950743840785]
  SilentLedgerは、監査と完全な非対話を備えたプライバシ保護トランザクションシステムである。 我々は、正当性、匿名性、機密性、健全性などのセキュリティ特性を正式に証明する。 我々の実装とベンチマークは、SilentLedgerが最先端のソリューションよりも優れたパフォーマンスを実現していることを示している。
  論文  参考訳（メタデータ） (2025-09-10T16:14:34Z)
• Beyond Jailbreaking: Auditing Contextual Privacy in LLM Agents [43.303548143175256]
  本研究では,リスクに対するエージェントの感受性を定量的に評価する,会話プライバシのための監査フレームワークを提案する。 CMPL(Conversational Manipulation for Privacy Leakage)フレームワークは、厳格なプライバシー命令を強制するエージェントをストレステストするために設計されている。
  論文  参考訳（メタデータ） (2025-06-11T20:47:37Z)
• Encrypted Federated Search Using Homomorphic Encryption [0.0]
  本稿では、法執行機関が暗号化された犯罪データベース上でクエリを実行できるプライバシー保護フェデレーション検索システムを提案する。 ここでの重要なイノベーションは、データの復号化なしに、分散データベース間で暗号化されたクエリを実行できることだ。
  論文  参考訳（メタデータ） (2025-05-05T07:03:30Z)
• FedGT: Identification of Malicious Clients in Federated Learning with Secure Aggregation [69.75513501757628]
  FedGTは、フェデレーション学習における悪意のあるクライアントを安全なアグリゲーションで識別するための新しいフレームワークである。 我々はPillutlaらによって最近提案された幾何的中央値に基づいて,FedGTがプライベートロバストアグリゲーションアプローチを著しく上回っていることを示す。
  論文  参考訳（メタデータ） (2023-05-09T14:54:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。