論文の概要: Privacy Meets Explainability: Managing Confidential Data and Transparency Policies in LLM-Empowered Science

• arxiv url: http://arxiv.org/abs/2504.09961v1
• Date: Mon, 14 Apr 2025 07:58:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-15 16:50:03.245430
• Title: Privacy Meets Explainability: Managing Confidential Data and Transparency Policies in LLM-Empowered Science
• Title（参考訳）: プライバシーと説明可能性 - LLMを活用した科学における機密データと透明性ポリシーの管理
• Authors: Yashothara Shanmugarasa, Shidong Pan, Ming Ding, Dehai Zhao, Thierry Rakotoarivelo,
• Abstract要約: DataShield"は機密データ漏洩を検出し、プライバシポリシを要約し、データフローを可視化するように設計されたフレームワークである。 科学者とのユーザスタディは、現実世界のプライバシー問題に取り組む上で、フレームワークのユーザビリティ、信頼性、有効性を評価するために進行中である。
• 参考スコア（独自算出の注目度）: 9.990611505919208
• License:
• Abstract: As Large Language Models (LLMs) become integral to scientific workflows, concerns over the confidentiality and ethical handling of confidential data have emerged. This paper explores data exposure risks through LLM-powered scientific tools, which can inadvertently leak confidential information, including intellectual property and proprietary data, from scientists' perspectives. We propose "DataShield", a framework designed to detect confidential data leaks, summarize privacy policies, and visualize data flow, ensuring alignment with organizational policies and procedures. Our approach aims to inform scientists about data handling practices, enabling them to make informed decisions and protect sensitive information. Ongoing user studies with scientists are underway to evaluate the framework's usability, trustworthiness, and effectiveness in tackling real-world privacy challenges.
• Abstract（参考訳）: 大きな言語モデル(LLM)が科学的ワークフローに不可欠なものになると、機密データの機密性や倫理的扱いに関する懸念が浮上した。 本稿では,LLMを利用した科学ツールを用いて,知的財産権や独自データを含む機密情報を科学者の視点で不注意に漏洩させることのできるデータ露出リスクについて検討する。 機密データ漏洩を検知し、プライバシポリシを要約し、データフローを可視化し、組織的なポリシやプロシージャとの整合性を確保するために設計されたフレームワークである"DataShield"を提案する。 私たちのアプローチは、データ処理の実践について科学者に知らせることを目的としています。 科学者とのユーザスタディは、現実世界のプライバシー問題に取り組む上で、フレームワークのユーザビリティ、信頼性、有効性を評価するために進行中である。

関連論文リスト

• Navigating AI to Unpack Youth Privacy Concerns: An In-Depth Exploration and Systematic Review [0.0]
  この体系的な文献レビューは、人工知能(AI)システムにおけるプライバシーに関する若いデジタル市民の認識、関心、期待について調査する。 データ抽出は、プライバシの懸念、データ共有のプラクティス、プライバシとユーティリティのバランス、AIの信頼要因、個人データのユーザコントロールを強化する戦略に焦点を当てている。 発見は、個人情報のコントロールの欠如、AIによるデータの誤用の可能性、データ漏洩や不正アクセスの恐れなど、若いユーザーの間で重要なプライバシー上の懸念を浮き彫りにしている。
  論文  参考訳（メタデータ） (2024-12-20T22:00:06Z)
• Assessing Privacy Policies with AI: Ethical, Legal, and Technical Challenges [6.916147439085307]
  大きな言語モデル(LLM)は、ユーザのプライバシポリシを自動評価するために使用することができる。 このアプローチの課題を,技術的実現性,倫理的意味,法的適合性の3つの柱で検討する。 本研究は,今後の研究の可能性を特定し,LLM技術の利用に関する議論を促進することを目的としている。
  論文  参考訳（メタデータ） (2024-10-10T21:36:35Z)
• LLM-PBE: Assessing Data Privacy in Large Language Models [111.58198436835036]
  大規模言語モデル(LLM)は多くのドメインに不可欠なものとなり、データ管理、マイニング、分析におけるアプリケーションを大幅に進歩させた。 この問題の批判的な性質にもかかわらず、LLMにおけるデータプライバシのリスクを総合的に評価する文献は存在しない。 本稿では,LLMにおけるデータプライバシリスクの体系的評価を目的としたツールキットであるLLM-PBEを紹介する。
  論文  参考訳（メタデータ） (2024-08-23T01:37:29Z)
• Collection, usage and privacy of mobility data in the enterprise and public administrations [55.2480439325792]
  個人のプライバシーを守るためには、匿名化などのセキュリティ対策が必要である。 本研究では,現場における実践の洞察を得るために,専門家によるインタビューを行った。 我々は、一般的には最先端の差分プライバシー基準に準拠しない、使用中のプライバシー強化手法を調査した。
  論文  参考訳（メタデータ） (2024-07-04T08:29:27Z)
• State-of-the-Art Approaches to Enhancing Privacy Preservation of Machine Learning Datasets: A Survey [0.9208007322096533]
  本稿では、機械学習(ML)の進化する展望と、その様々な分野における大きな影響について考察する。 プライバシ保護機械学習(PPML)の新たな分野に焦点を当てている。 MLアプリケーションは、通信、金融技術、監視といった産業にとってますます不可欠なものになりつつあるため、プライバシー上の懸念が高まる。
  論文  参考訳（メタデータ） (2024-02-25T17:31:06Z)
• A Summary of Privacy-Preserving Data Publishing in the Local Setting [0.6749750044497732]
  統計開示制御は、機密情報を匿名化して暴露するリスクを最小限にすることを目的としている。 マイクロデータの復号化に使用される現在のプライバシ保存技術について概説し、様々な開示シナリオに適したプライバシ対策を掘り下げ、情報損失と予測性能の指標を評価する。
  論文  参考訳（メタデータ） (2023-12-19T04:23:23Z)
• PrivacyMind: Large Language Models Can Be Contextual Privacy Protection Learners [81.571305826793]
  コンテキストプライバシ保護言語モデル(PrivacyMind)を紹介する。 我々の研究はモデル設計に関する理論的分析を提供し、様々な手法をベンチマークする。 特に、肯定的な例と否定的な例の両方による命令チューニングは、有望な方法である。
  論文  参考訳（メタデータ） (2023-10-03T22:37:01Z)
• Auditing and Generating Synthetic Data with Controllable Trust Trade-offs [54.262044436203965]
  合成データセットとAIモデルを包括的に評価する総合監査フレームワークを導入する。 バイアスや差別の防止、ソースデータへの忠実性の確保、実用性、堅牢性、プライバシ保護などに焦点を当てている。 多様なユースケースにまたがる様々な生成モデルを監査することにより,フレームワークの有効性を実証する。
  論文  参考訳（メタデータ） (2023-04-21T09:03:18Z)
• Distributed Machine Learning and the Semblance of Trust [66.1227776348216]
  フェデレートラーニング(FL)により、データ所有者はデータを共有することなく、データガバナンスを維持し、モデルトレーニングをローカルで行うことができる。 FLと関連する技術は、しばしばプライバシー保護と表現される。 この用語が適切でない理由を説明し、プライバシの形式的定義を念頭に設計されていないプロトコルに対する過度な信頼に関連するリスクを概説する。
  論文  参考訳（メタデータ） (2021-12-21T08:44:05Z)
• Protecting Privacy and Transforming COVID-19 Case Surveillance Datasets for Public Use [0.4462475518267084]
  CDCは、個人レベルの未確認データを管轄区域から収集し、現在800万件以上の記録を保有している。 データ要素は、有用性、公開要求、およびプライバシーの影響に基づいて含まれた。 機密情報の再識別や暴露のリスクを低減するため、特定のフィールド値が抑制された。
  論文  参考訳（メタデータ） (2021-01-13T14:24:20Z)
• PCAL: A Privacy-preserving Intelligent Credit Risk Modeling Framework Based on Adversarial Learning [111.19576084222345]
  本稿では,PCAL(Adversarial Learning)に基づくプライバシ保護型信用リスクモデリングの枠組みを提案する。 PCALは、ターゲット予測タスクのパフォーマンスの重要なユーティリティ情報を維持しながら、元のデータセット内のプライベート情報を隠蔽することを目的としている。 結果は,PCALがユーザデータから効果的なプライバシフリー表現を学習し,信用リスク分析のためのプライバシ保存機械学習の基盤となることを示唆している。
  論文  参考訳（メタデータ） (2020-10-06T07:04:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。