論文の概要: Enforcing Accountable Disclosure in Confidential AI

• arxiv url: http://arxiv.org/abs/2611.05971v1
• Date: Wed, 04 Nov 2026 05:05:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 03:25:57.948369
• Title: Enforcing Accountable Disclosure in Confidential AI
• Title（参考訳）: クレデンシャルAIにおける説明責任の開示
• Abstract要約: 本研究では,Confine や Declare の原理を満たすために設計された機密仮想マシン (CVM) システムを提案する。 データの“宣言”は、その正確な内容、受信者、および記載された理由を、ユーザアクセス可能で、曖昧な宣言ログに記録することである。 CORDEは、AIサービスにおける責任と透過的なデータ管理をサポートする、ユーザデータの説明可能な開示の基礎を提供する。
• 参考スコア（独自算出の注目度）: 5.099953098986464
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Advances in CPU and GPU confidential computing enable confidential AI, allowing LLMs to process user prompts without exposing them to service providers or infrastructure operators. However, AI agents often need to send prompt-derived information to external services, and providers may also require limited disclosure for safety monitoring and failure diagnosis. We propose CORDE, a system for confidential virtual machines (CVMs) designed to satisfy the principle of Confine or Declare: user-derived data is confined by default, but when necessary, it may leave the CVM only after being "declared." To "declare" data is to record its exact contents, recipient, and stated reason in a user-accessible, tamper-evident declaration log. To put this principle into practice, we present an integrated system design that combines per-user information-flow control in Rust with a TEE-based ledger and remote attestation. Our evaluation on an NVIDIA H100 GPU shows that declaration before disclosure adds little overhead in task latency, about 0.5% on the AppWorld agent benchmark. CORDE provides a basis for accountable disclosure of user data, supporting responsible and transparent data management in AI services.
• Abstract（参考訳）: CPUとGPUの機密コンピューティングの進歩により、機密AIが実現され、LLMはサービスプロバイダやインフラストラクチャオペレータに公開することなく、ユーザのプロンプトを処理できるようになる。 しかし、AIエージェントは、しばしば外部サービスにプロンプトから派生した情報を送信する必要がある。 我々は,Confine や Declare の原則を満たすために設計された機密仮想マシン (CVM) システムである CORDE を提案する。 データの“宣言”は、その正確な内容、受信者、および記載された理由を、ユーザアクセス可能で、曖昧な宣言ログに記録することである。 この原則を実践するために、Rustにおけるユーザごとの情報フロー制御とTEEベースの台帳とリモート検証を組み合わせた統合システム設計を提案する。 NVIDIA H100 GPUに対する我々の評価では、公開前の宣言は、AppWorldエージェントベンチマークで約0.5%のタスク遅延のオーバーヘッドをほとんど与えていない。 CORDEは、AIサービスにおける責任と透過的なデータ管理をサポートする、ユーザデータの説明可能な開示の基礎を提供する。

関連論文リスト

• OpenPCC: Open and Confidential LLM Serving on Commodity TEEs [9.964425648424017]
  セキュアでオープンなクラウド推論サービスを構築するための基本的な要件について分析する。 我々はオープンソースのプロトタイプを実装し、Llama-3 8B vLLMワークロード上でエンドツーエンドを特徴付ける。 分析と評価により,システムの実現可能性と安全性が示された。
  論文  参考訳（メタデータ） (2026-06-09T17:33:33Z)
• An AI Agent Execution Environment to Safeguard User Data [2.2986365465048024]
  本稿では,プライベートユーザデータの機密性を保証するAIエージェントの実行環境として,エージェントプライバシのための保証会計(Guaranteed Accounting for Agent Privacy)を提案する。 重要なことは、この保証を決定論的に提供し、エージェントをプライベートなユーザデータで信頼せず、AIモデルやユーザによる攻撃の許可を必要としない。
  論文  参考訳（メタデータ） (2026-04-21T16:45:30Z)
• CaMeLs Can Use Computers Too: System-level Security for Computer Use Agents [60.98294016925157]
  AIエージェントは、悪意のあるコンテンツがエージェントの行動をハイジャックして認証情報を盗んだり、金銭的損失を引き起こすような、インジェクション攻撃に弱い。 CUAのためのシングルショットプランニングでは、信頼できるプランナーが、潜在的に悪意のあるコンテンツを観察する前に、条件付きブランチで完全な実行グラフを生成する。 このアーキテクチャ分離は命令インジェクションを効果的に防止するが、ブランチステアリング攻撃を防ぐには追加の対策が必要であることを示す。
  論文  参考訳（メタデータ） (2026-01-14T23:06:35Z)
• Toward provably private analytics and insights into GenAI use [12.545209220189113]
  我々はAMD SEV-SNPやIntel TDXといった技術に基づく次世代フェデレーション分析システムを提案する。 我々のシステムでは、デバイスはデータを暗号化してアップロードし、限られたサーバ側処理ステップでタグ付けします。 オープンソースのTEEがホストするキー管理サービスは、データがこれらのステップにのみアクセス可能であることを保証します。
  論文  参考訳（メタデータ） (2025-10-24T17:40:12Z)
• VPI-Bench: Visual Prompt Injection Attacks for Computer-Use Agents [74.6761188527948]
  完全なシステムアクセスを持つコンピュータ利用エージェント(CUA)は、セキュリティとプライバシの重大なリスクを負う。 我々は、悪意のある命令がレンダリングされたユーザーインターフェイスに視覚的に埋め込まれた視覚的プロンプトインジェクション(VPI)攻撃について検討する。 実験により,現在のCUAとBUAは,それぞれのプラットフォーム上で最大51%,100%の速度で騙すことができることがわかった。
  論文  参考訳（メタデータ） (2025-06-03T05:21:50Z)
• AgentDAM: Privacy Leakage Evaluation for Autonomous Web Agents [66.29263282311258]
  我々は、AIウェブナビゲーションエージェントがデータ最小化のプライバシー原則に従うかどうかを測定する新しいベンチマークAgentDAMを紹介する。 我々のベンチマークは、現実的なWebインタラクションシナリオをエンドツーエンドでシミュレートし、既存のWebナビゲーションエージェントに適応する。
  論文  参考訳（メタデータ） (2025-03-12T19:30:31Z)
• Confidential Federated Computations [16.415880530250092]
  Federated Learning and Analytics (FLA)は、デバイス上の機密データを処理するためのテクノロジプラットフォームによって広く採用されている。 FLAシステムは必ずしも差分プライバシー(DP)のような匿名化機構を必要としない 本稿では,サーバサイドの計算の秘密性を確保するために,TEEとオープンソースを活用した新しいシステムアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2024-04-16T17:47:27Z)
• HasTEE+ : Confidential Cloud Computing and Analytics with Haskell [50.994023665559496]
  信頼性コンピューティングは、Trusted Execution Environments(TEEs)と呼ばれる特別なハードウェア隔離ユニットを使用して、コテナントクラウドデプロイメントにおける機密コードとデータの保護を可能にする。 低レベルのC/C++ベースのツールチェーンを提供するTEEは、固有のメモリ安全性の脆弱性の影響を受けやすく、明示的で暗黙的な情報フローのリークを監視するための言語構造が欠如している。 私たちは、Haskellに埋め込まれたドメイン固有言語(cla)であるHasTEE+を使って、上記の問題に対処します。
  論文  参考訳（メタデータ） (2024-01-17T00:56:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。