論文の概要: How To Think About End-To-End Encryption and AI: Training, Processing, Disclosure, and Consent
- arxiv url: http://arxiv.org/abs/2412.20231v2
- Date: Sat, 22 Mar 2025 18:40:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-25 21:22:25.382931
- Title: How To Think About End-To-End Encryption and AI: Training, Processing, Disclosure, and Consent
- Title（参考訳）: エンドツーエンドの暗号化とAIについて考える - トレーニング、処理、開示、コンセント
- Authors: Mallory Knodel, Andrés Fábrega, Daniella Ferrari, Jacob Leiken, Betty Li Hou, Derek Yen, Sam de Alfaro, Kyunghyun Cho, Sunoo Park,
- Abstract要約: エンドツーエンド暗号化(E2EE)は、通信を保護するための金の標準となり、世界中の数十億のユーザに対して強力な機密性とプライバシ保証をもたらしている。
E2EEシステムを含む人工知能(AI)モデルの広範な統合に向けた動きは、深刻なセキュリティ上の懸念を提起している。
この研究は、AIモデルとE2EEアプリケーションの互換性について批判的な検証を行います。
- 参考スコア（独自算出の注目度）: 28.47014569555534
- License:
- Abstract: End-to-end encryption (E2EE) has become the gold standard for securing communications, bringing strong confidentiality and privacy guarantees to billions of users worldwide. However, the current push towards widespread integration of artificial intelligence (AI) models, including in E2EE systems, raises some serious security concerns. This work performs a critical examination of the (in)compatibility of AI models and E2EE applications. We explore this on two fronts: (1) the integration of AI "assistants" within E2EE applications, and (2) the use of E2EE data for training AI models. We analyze the potential security implications of each, and identify conflicts with the security guarantees of E2EE. Then, we analyze legal implications of integrating AI models in E2EE applications, given how AI integration can undermine the confidentiality that E2EE promises. Finally, we offer a list of detailed recommendations based on our technical and legal analyses, including: technical design choices that must be prioritized to uphold E2EE security; how service providers must accurately represent E2EE security; and best practices for the default behavior of AI features and for requesting user consent. We hope this paper catalyzes an informed conversation on the tensions that arise between the brisk deployment of AI and the security offered by E2EE, and guides the responsible development of new AI features.
- Abstract（参考訳）: エンドツーエンド暗号化(E2EE)は、通信を保護するための金の標準となり、世界中の数十億のユーザに対して強力な機密性とプライバシ保証をもたらしている。
しかしながら、E2EEシステムを含む人工知能(AI)モデルの広範な統合に向けた現在の取り組みは、深刻なセキュリティ上の懸念を提起している。
この研究は、AIモデルとE2EEアプリケーションの互換性について批判的な検証を行います。
1)E2EEアプリケーションにAI"アシスタント"を統合すること、2)AIモデルのトレーニングにE2EEデータを使用することである。
本研究は,E2EEのセキュリティ上の影響を解析し,E2EEのセキュリティ保証との矛盾を識別する。
そして、AI統合がE2EEが約束する機密性を損なう可能性があることを考慮し、E2EEアプリケーションにAIモデルを統合することの法的意味を分析する。
最後に、E2EEセキュリティを維持するために優先順位付けされる技術設計の選択、サービスプロバイダがE2EEセキュリティを正確に表現しなければならない方法、AI機能のデフォルト動作とユーザ同意の要求に関するベストプラクティスなど、技術的および法的分析に基づく詳細な推奨事項のリストを提供します。
本稿は、AIの不安定な展開とE2EEが提供するセキュリティとの間の緊張関係に関する情報的な会話を触媒し、新しいAI機能の開発に責任を負うことを願っている。
関連論文リスト
- Bridge the Gaps between Machine Unlearning and AI Regulation [13.42472216729373]
欧州連合(EU)の人工知能法(AIA)のような人工知能規制のインバウンド波は、機械学習のための重要な新しいユースケースを提供する可能性がある。
このポジションペーパーは、この機会が実現されるのは、政策立案者によって支援された研究者が、機械学習の最先端技術とAI規制への潜在的な応用とのギャップを積極的に橋渡ししている場合のみである、と論じている。
論文 参考訳（メタデータ） (2025-02-18T02:03:03Z) - AI Cards: Towards an Applied Framework for Machine-Readable AI and Risk Documentation Inspired by the EU AI Act [2.1897070577406734]
その重要性にもかかわらず、AI法に沿ったAIとリスクドキュメントの作成を支援するための標準やガイドラインが欠如している。
提案するAIカードは,AIシステムの意図した使用を表現するための,新しい総合的なフレームワークである。
論文 参考訳（メタデータ） (2024-06-26T09:51:49Z) - Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems [88.80306881112313]
我々は、AI安全性に対する一連のアプローチを紹介し、定義する。
これらのアプローチの中核的な特徴は、高保証の定量的安全性保証を備えたAIシステムを作ることである。
これら3つのコアコンポーネントをそれぞれ作成するためのアプローチを概説し、主な技術的課題を説明し、それらに対する潜在的なソリューションをいくつか提案します。
論文 参考訳（メタデータ） (2024-05-10T17:38:32Z) - The Ethics of Advanced AI Assistants [53.89899371095332]
本稿では,高度AIアシスタントがもたらす倫理的・社会的リスクについて論じる。
我々は、高度なAIアシスタントを自然言語インタフェースを持つ人工知能エージェントとして定義し、ユーザに代わってアクションのシーケンスを計画し実行することを目的としている。
先進的なアシスタントの社会規模での展開を考察し、協力、株式とアクセス、誤情報、経済的影響、環境、先進的なAIアシスタントの評価方法に焦点をあてる。
論文 参考訳（メタデータ） (2024-04-24T23:18:46Z) - Particip-AI: A Democratic Surveying Framework for Anticipating Future AI Use Cases, Harms and Benefits [54.648819983899614]
汎用AIは、一般大衆がAIを使用してそのパワーを利用するための障壁を下げたようだ。
本稿では,AI利用事例とその影響を推測し,評価するためのフレームワークであるPartICIP-AIを紹介する。
論文 参考訳（メタデータ） (2024-03-21T19:12:37Z) - The Security and Privacy of Mobile Edge Computing: An Artificial Intelligence Perspective [64.36680481458868]
Mobile Edge Computing (MEC)は、クラウドコンピューティングと情報技術(IT)サービスをネットワークのエッジで配信できるようにする新しいコンピューティングパラダイムである。
本稿では,人工知能(AI)の観点からMECのセキュリティとプライバシに関する調査を行う。
新たなセキュリティとプライバシの問題に加えて、AIの観点からの潜在的なソリューションにも重点を置いています。
論文 参考訳（メタデータ） (2024-01-03T07:47:22Z) - Model Reporting for Certifiable AI: A Proposal from Merging EU
Regulation into AI Development [2.9620297386658185]
ExplainableとSafe AIの大きな進歩にもかかわらず、実践者はAIの安全性に関する規制と標準の欠如に悩まされている。
我々は、開発プロセス全体を通してAIアプリケーションを文書化するための標準化されたカードの使用を提案する。
論文 参考訳（メタデータ） (2023-07-21T12:13:54Z) - Conformity Assessments and Post-market Monitoring: A Guide to the Role
of Auditing in the Proposed European AI Regulation [0.0]
欧州人工知能法(European Artificial Intelligence Act)において提案されている2つの主要な執行機構について解説し議論する。
我々はAI監査を行うためのヨーロッパ規模のエコシステムを確立するための提案としてAIAが解釈できると論じる。
論文 参考訳（メタデータ） (2021-11-09T11:59:47Z) - Trustworthy AI and Robotics and the Implications for the AEC Industry: A
Systematic Literature Review and Future Potentials [0.0]
この研究は、アーキテクチャ、エンジニアリング、建設(AEC)産業におけるAIとロボティクス(AIR)のアプリケーションに対する信頼に焦点を当てている。
同定された次元と既存のおよび潜在的AECアプリケーションとの接続を確定し、議論する。
最後に、AECの研究と実践において、信頼できるAIとロボティクスに関する主要な方向性について概説する。
論文 参考訳（メタデータ） (2021-09-27T22:33:56Z) - Trustworthy AI Inference Systems: An Industry Research View [58.000323504158054]
我々は、信頼できるAI推論システムの設計、展開、運用にアプローチするための業界調査ビューを提供する。
信頼された実行環境を用いたAIシステムの機会と課題を強調します。
我々は,産業,アカデミック,政府研究者のグローバルな集団的注意を必要とする,さらなる発展の分野を概説する。
論文 参考訳（メタデータ） (2020-08-10T23:05:55Z) - Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable
Claims [59.64274607533249]
AI開発者は、責任を負うことのできる検証可能な主張をする必要がある。
このレポートは、さまざまな利害関係者がAIシステムに関するクレームの妥当性を改善するための様々なステップを示唆している。
我々は、この目的のための10のメカニズム、すなわち、組織、ソフトウェア、ハードウェアを分析し、それらのメカニズムの実装、探索、改善を目的とした推奨を行う。
論文 参考訳（メタデータ） (2020-04-15T17:15:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。