論文の概要: The Privacy Pillar -- A Conceptual Framework for Foundation Model-based Systems

• arxiv url: http://arxiv.org/abs/2311.06998v1
• Date: Mon, 13 Nov 2023 00:44:06 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-18 23:32:03.949472
• Title: The Privacy Pillar -- A Conceptual Framework for Foundation Model-based Systems
• Title（参考訳）: プライバシ・ピラー - 基礎モデルに基づくシステムの概念的フレームワーク
• Authors: Tingting Bi, Guangsheng Yu, Qinghua Lu, Xiwei Xu, Nick Van Beest,
• Abstract要約: ファンデーションモデルは、大きな課題と素晴らしい機会の両方を示します。 現在、プライバシー評価プロセスが包含すべき技術的問題と非技術的問題の両方の包括的範囲について合意が得られていない。 本稿では、複数の視点から様々な責任あるAIパターンを統合する新しい概念的枠組みを紹介する。
• 参考スコア（独自算出の注目度）: 10.261775049562708
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI and its relevant technologies, including machine learning, deep learning, chatbots, virtual assistants, and others, are currently undergoing a profound transformation of development and organizational processes within companies. Foundation models present both significant challenges and incredible opportunities. In this context, ensuring the quality attributes of foundation model-based systems is of paramount importance, and with a particular focus on the challenging issue of privacy due to the sensitive nature of the data and information involved. However, there is currently a lack of consensus regarding the comprehensive scope of both technical and non-technical issues that the privacy evaluation process should encompass. Additionally, there is uncertainty about which existing methods are best suited to effectively address these privacy concerns. In response to this challenge, this paper introduces a novel conceptual framework that integrates various responsible AI patterns from multiple perspectives, with the specific aim of safeguarding privacy.
• Abstract（参考訳）: AIとその関連技術(機械学習、ディープラーニング、チャットボット、バーチャルアシスタントなど)は、現在、企業内における開発プロセスと組織プロセスの大幅な変革を進めている。 ファンデーションモデルは、大きな課題と素晴らしい機会の両方を示します。 この文脈では、基礎モデルに基づくシステムの品質特性を保証することが最重要であり、特にデータと関連する情報の機密性に起因するプライバシーの問題に焦点を当てている。 しかし、現在、プライバシー評価プロセスが包含すべき技術的問題と非技術的問題の両方の包括的範囲について合意が得られていない。 さらに、これらのプライバシーの懸念に効果的に対処するのにどの方法が最適かは不確実である。 この課題に対応するために,我々は,プライバシ保護を念頭に,複数の視点からさまざまな責任あるAIパターンを統合する,新しい概念的枠組みを提案する。

関連論文リスト

• Centering Policy and Practice: Research Gaps around Usable Differential Privacy [12.340264479496375]
  我々は、差分プライバシーは理論上はクリーンな定式化であるが、実際は重大な課題を提起していると論じている。 差分プライバシーの約束と現実世界のユーザビリティのギャップを埋めるために、研究者と実践者は協力しなければなりません。
  論文  参考訳（メタデータ） (2024-06-17T21:32:30Z)
• State-of-the-Art Approaches to Enhancing Privacy Preservation of Machine Learning Datasets: A Survey [0.0]
  本稿では、機械学習(ML)の進化する展望と、その様々な分野における大きな影響について考察する。 プライバシ保護機械学習(PPML)の新たな分野に焦点を当てている。 MLアプリケーションは、通信、金融技術、監視といった産業にとってますます不可欠なものになりつつあるため、プライバシー上の懸念が高まる。
  論文  参考訳（メタデータ） (2024-02-25T17:31:06Z)
• A Unified View of Differentially Private Deep Generative Modeling [60.72161965018005]
  プライバシー上の懸念のあるデータには、データアクセスとデータ共有を頻繁に禁止する厳格な規制が伴う。 これらの障害を克服することは、プライバシーに敏感なデータを含む多くの現実世界のアプリケーションシナリオにおいて、技術的進歩の鍵となる。 差分的プライベート(DP)データパブリッシングは、データの衛生化された形式のみを公開する、魅力的なソリューションを提供する。
  論文  参考訳（メタデータ） (2023-09-27T14:38:16Z)
• Advancing Differential Privacy: Where We Are Now and Future Directions for Real-World Deployment [100.1798289103163]
  差分プライバシ(DP)分野における現状と現状の方法論の詳細なレビューを行う。 論文のポイントとハイレベルな内容は,「認知プライバシ(DP:次のフロンティアへの挑戦)」の議論から生まれた。 この記事では、プライバシの領域におけるアルゴリズムおよび設計決定の基準点を提供することを目標とし、重要な課題と潜在的研究の方向性を強調します。
  論文  参考訳（メタデータ） (2023-04-14T05:29:18Z)
• A Survey of Trustworthy Federated Learning with Perspectives on Security, Robustness, and Privacy [47.89042524852868]
  Federated Learning (FL) は,さまざまな現実のシナリオに対して,有望なソリューションとして注目されている。 しかし、データの分離とプライバシーに関する課題は、FLシステムの信頼性を脅かす。
  論文  参考訳（メタデータ） (2023-02-21T12:52:12Z)
• New Challenges in Reinforcement Learning: A Survey of Security and Privacy [26.706957408693363]
  強化学習(Reinforcement Learning, RL)は、AIの最も重要な分野のひとつ。 RLは医療、データ市場、自動運転、ロボット工学など、さまざまな分野で広く採用されている。 これらのアプリケーションやシステムは、セキュリティやプライバシ攻撃に弱いことが示されている。
  論文  参考訳（メタデータ） (2022-12-31T12:30:43Z)
• 10 Security and Privacy Problems in Large Foundation Models [69.70602220716718]
  事前トレーニングされたファンデーションモデルは、AIエコシステムの'オペレーティングシステム'のようなものです。 事前訓練されたファンデーションモデルのセキュリティやプライバシの問題は、AIエコシステムの単一障害点につながる。 本章では、事前訓練された基礎モデルのセキュリティとプライバシに関する10の基本的な問題について論じる。
  論文  参考訳（メタデータ） (2021-10-28T21:45:53Z)
• Privacy and Robustness in Federated Learning: Attacks and Defenses [74.62641494122988]
  このトピックに関する最初の包括的な調査を実施します。 FLの概念の簡潔な紹介と、1脅威モデル、2堅牢性に対する中毒攻撃と防御、3プライバシーに対する推論攻撃と防御、というユニークな分類学を通じて、私たちはこの重要なトピックのアクセス可能なレビューを提供します。
  論文  参考訳（メタデータ） (2020-12-07T12:11:45Z)
• More Than Privacy: Applying Differential Privacy in Key Areas of Artificial Intelligence [62.3133247463974]
  差分プライバシーは、AIのプライバシー保護以上のことができることを示す。 また、セキュリティを改善し、学習を安定させ、公正なモデルを構築し、AIの選択領域にコンポジションを課すためにも使用できる。
  論文  参考訳（メタデータ） (2020-08-05T03:07:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。