論文の概要: Towards Secure and Private AI: A Framework for Decentralized Inference

• arxiv url: http://arxiv.org/abs/2407.19401v2
• Date: Thu, 12 Dec 2024 18:10:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-13 17:01:34.441958
• Title: Towards Secure and Private AI: A Framework for Decentralized Inference
• Title（参考訳）: セキュアとプライベートAIを目指して - 分散推論のためのフレームワーク
• Authors: Hongyang Zhang, Yue Zhao, Claudio Angione, Harry Yang, James Buban, Ahmad Farhan, Fielding Johnston, Patrick Colangelo,
• Abstract要約: 大規模マルチモーダル基盤モデルは、スケーラビリティ、信頼性、潜在的な誤用に関する課題を提示する。 分散システムは、ワークロードの分散と障害の中心的なポイントの緩和によるソリューションを提供する。 これらの課題に対処するためには、AI開発に責任を負うように設計された包括的なフレームワークを使います。
• 参考スコア（独自算出の注目度）: 14.526663289437584
• License:
• Abstract: The rapid advancement of ML models in critical sectors such as healthcare, finance, and security has intensified the need for robust data security, model integrity, and reliable outputs. Large multimodal foundational models, while crucial for complex tasks, present challenges in scalability, reliability, and potential misuse. Decentralized systems offer a solution by distributing workload and mitigating central points of failure, but they introduce risks of unauthorized access to sensitive data across nodes. We address these challenges with a comprehensive framework designed for responsible AI development. Our approach incorporates: 1) Zero-knowledge proofs for secure model verification, enhancing trust without compromising privacy. 2) Consensus-based verification checks to ensure consistent outputs across nodes, mitigating hallucinations and maintaining model integrity. 3) Split Learning techniques that segment models across different nodes, preserving data privacy by preventing full data access at any point. 4) Hardware-based security through trusted execution environments (TEEs) to protect data and computations. This framework aims to enhance security and privacy and improve the reliability and fairness of multimodal AI systems. Promoting efficient resource utilization contributes to more sustainable AI development. Our state-of-the-art proofs and principles demonstrate the framework's effectiveness in responsibly democratizing artificial intelligence, offering a promising approach for building secure and private foundational models.
• Abstract（参考訳）: 医療、金融、セキュリティといった重要な分野におけるMLモデルの急速な進歩は、堅牢なデータセキュリティ、モデルの完全性、信頼性のあるアウトプットの必要性を増している。 大規模なマルチモーダル基盤モデルは、複雑なタスクには不可欠だが、スケーラビリティ、信頼性、潜在的な誤用に関する課題を提示する。 分散システムは、ワークロードの分散と障害点の緩和によるソリューションを提供するが、ノード間の機密データへの不正アクセスのリスクを導入する。 これらの課題に対処するためには、AI開発に責任を負うように設計された包括的なフレームワークを使います。 私たちのアプローチは以下のとおりです。 1) 安全なモデル検証のためのゼロ知識証明, プライバシーを損なうことなく信頼を高めること。 2)合意に基づく検証は,ノード間の一貫したアウトプットの確保,幻覚の緩和,モデルの整合性維持に有効である。 3) 異なるノード間でモデルをセグメンテーションし、任意の時点で完全なデータアクセスを防止してデータのプライバシを保存する、分割学習技術。 4) 信頼された実行環境(TEE)によるハードウェアベースのセキュリティにより、データと計算を保護する。 このフレームワークは、セキュリティとプライバシを強化し、マルチモーダルAIシステムの信頼性と公平性を改善することを目的としている。 効率的な資源利用を促進することは、より持続可能なAI開発に寄与する。 私たちの最先端の証明と原則は、人工知能を責任を持って民主化するフレームワークの有効性を示し、セキュアでプライベートな基礎モデルを構築するための有望なアプローチを提供します。

関連論文リスト

• Lancelot: Towards Efficient and Privacy-Preserving Byzantine-Robust Federated Learning within Fully Homomorphic Encryption [10.685816010576918]
  我々は,データプライバシを保ちながら悪意あるクライアント活動を保護するために,完全同型暗号化(FHE)を利用する,革新的で計算効率のよいBRFLフレームワークであるLancelotを提案する。 医用画像診断や広く使われている公開画像データセットを含む大規模なテストでは、Lancelotが既存の手法を著しく上回り、データのプライバシを維持しながら、処理速度を20倍以上に向上させています。
  論文  参考訳（メタデータ） (2024-08-12T14:48:25Z)
• Model Agnostic Hybrid Sharding For Heterogeneous Distributed Inference [11.39873199479642]
  Nesaは、分散AI推論用に設計されたモデルに依存しないシャーディングフレームワークを導入した。 私たちのフレームワークでは、ブロックチェーンベースのディープニューラルネットワークシャーディングを使用して、さまざまなノードネットワークに計算タスクを分散しています。 われわれの結果は、最先端のAI技術へのアクセスを民主化する可能性を強調している。
  論文  参考訳（メタデータ） (2024-07-29T08:18:48Z)
• PriRoAgg: Achieving Robust Model Aggregation with Minimum Privacy Leakage for Federated Learning [49.916365792036636]
  フェデレートラーニング(FL)は、大規模分散ユーザデータを活用する可能性から、最近大きな勢いを増している。 送信されたモデル更新は、センシティブなユーザ情報をリークする可能性があり、ローカルなトレーニングプロセスの集中的な制御の欠如は、モデル更新に対する悪意のある操作の影響を受けやすいグローバルモデルを残します。 我々は、Lagrange符号化計算と分散ゼロ知識証明を利用した汎用フレームワークPriRoAggを開発し、集約されたプライバシを満たすとともに、幅広いロバストな集約アルゴリズムを実行する。
  論文  参考訳（メタデータ） (2024-07-12T03:18:08Z)
• A Blockchain-based Model for Securing Data Pipeline in a Heterogeneous Information System [0.0]
  この記事では、異種情報システムにおけるデータパイプラインを保護するためのブロックチェーンベースのモデルを提案する。 このモデルは、データの完全性、機密性、信頼性を分散的に保証するように設計されている。
  論文  参考訳（メタデータ） (2024-01-17T14:40:09Z)
• Secure and Verifiable Data Collaboration with Low-Cost Zero-Knowledge Proofs [30.260427020479536]
  本稿では,セキュアかつ検証可能なデータコラボレーションのための新しい高効率ソリューションRiseFLを提案する。 まず,ZKP生成と検証のコストを大幅に削減する確率論的整合性検査法を提案する。 第3に,ビザンチンのロバスト性を満たすハイブリッドなコミットメントスキームを設計し,性能を向上する。
  論文  参考訳（メタデータ） (2023-11-26T14:19:46Z)
• DBFed: Debiasing Federated Learning Framework based on Domain-Independent [15.639705798326213]
  本稿では,ドメイン非依存に基づくデバイアス学習フレームワークを提案する。これは,クライアント側トレーニング中に機密属性を明示的に符号化することで,モデルバイアスを緩和する。 本稿では,3つの実データセットについて実験を行い,精度と公平性の5つの評価指標を用いてモデルの効果を定量的に評価する。
  論文  参考訳（メタデータ） (2023-07-10T14:39:57Z)
• Auditing and Generating Synthetic Data with Controllable Trust Trade-offs [54.262044436203965]
  合成データセットとAIモデルを包括的に評価する総合監査フレームワークを導入する。 バイアスや差別の防止、ソースデータへの忠実性の確保、実用性、堅牢性、プライバシ保護などに焦点を当てている。 多様なユースケースにまたがる様々な生成モデルを監査することにより,フレームワークの有効性を実証する。
  論文  参考訳（メタデータ） (2023-04-21T09:03:18Z)
• RL-DistPrivacy: Privacy-Aware Distributed Deep Inference for low latency IoT systems [41.1371349978643]
  本稿では,流通戦略の再考を通じて協調的深層推論の安全性を目標とするアプローチを提案する。 我々は、この手法を最適化として定式化し、コ推論のレイテンシとプライバシーレベルのデータのトレードオフを確立する。
  論文  参考訳（メタデータ） (2022-08-27T14:50:00Z)
• Decentralized Federated Learning Preserves Model and Data Privacy [77.454688257702]
  我々は、訓練されたモデル間で知識を共有することができる、完全に分散化されたアプローチを提案する。 生徒は、合成された入力データを通じて教師の出力を訓練する。 その結果,教師が学習した未学習学生モデルが,教師と同等のF1スコアに達することがわかった。
  論文  参考訳（メタデータ） (2021-02-01T14:38:54Z)
• Trustworthy AI [75.99046162669997]
  入力データの小さな敵対的変化への脆さ、決定の説明能力、トレーニングデータのバイアスに対処する能力は、最も顕著な制限である。 我々は,AIシステムに対するユーザおよび公的な信頼を高める上での6つの重要な問題に対処するために,信頼に値するAIに関するチュートリアルを提案する。
  論文  参考訳（メタデータ） (2020-11-02T20:04:18Z)
• Learning while Respecting Privacy and Robustness to Distributional Uncertainties and Adversarial Data [66.78671826743884]
  分散ロバストな最適化フレームワークはパラメトリックモデルのトレーニングのために検討されている。 目的は、逆操作された入力データに対して頑健なトレーニングモデルを提供することである。 提案されたアルゴリズムは、オーバーヘッドがほとんどない堅牢性を提供する。
  論文  参考訳（メタデータ） (2020-07-07T18:25:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。