論文の概要: The Right Tool for the Job: On the Selection of Mitigations for GenAI Privacy Threats

• arxiv url: http://arxiv.org/abs/2609.20884v1
• Date: Wed, 16 Sep 2026 21:36:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-21 18:40:16.73329
• Title: The Right Tool for the Job: On the Selection of Mitigations for GenAI Privacy Threats
• Title（参考訳）: 雇用のための正しいツール:GenAIプライバシの脅威に対する緩和の選択について
• Abstract要約: GenAIプライバシエンジニアリングの最大の課題は、プライバシの脅威や緩和技術に関する知識の欠如ではなく、それらの間の橋の欠如にある、と私たちは主張する。 我々は,GenAIベースのシステムにおいて,より体系的なプライバシ緩和選択に向けた研究課題を提案する。
• 参考スコア（独自算出の注目度）: 6.956211469139949
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Generative Artificial Intelligence (GenAI) has rapidly evolved from an experimental technology into a foundational component of modern software systems. However, as its adoption grows, protecting sensitive personal data becomes increasingly challenging. Specifically, GenAI systems not only amplify traditional privacy threats but also introduce new inference-based risks, such as constructing detailed user profiles from seemingly harmless inputs. In response, privacy threat modeling frameworks are beginning to capture GenAI-specific privacy threats with finer granularity. At the same time, a growing number of mitigation techniques have been proposed to address these threats. However, although knowledge of both threats and mitigations continues to mature, the problem- and solution-space have developed largely independently. This position paper argues that the primary challenge in GenAI privacy engineering is not the lack of knowledge about privacy threats or mitigation techniques, but the missing bridge between them. We decompose this gap into three sub-problems: (i) lack of fine-grained threat-to-mitigation mapping for GenAI systems, (ii) inapplicable solution-space assumptions in the GenAI context, and (iii) prioritization difficulty under GenAI constraints. We derive four recommendations for future mitigation-selection approaches, and outline a suggested approach that extends established threat-to-mitigation mapping methods to GenAI-specific threat characteristics. We propose a research agenda toward more systematic privacy mitigation selection for GenAI-based systems.
• Abstract（参考訳）: 生成人工知能(GenAI)は、実験技術から現代のソフトウェアシステムの基本コンポーネントへと急速に進化してきた。 しかし、採用が進むにつれて、機密性の高い個人情報を保護することはますます困難になっている。 具体的には、GenAIシステムは従来のプライバシーの脅威を増幅するだけでなく、一見無害な入力から詳細なユーザープロファイルを構築するなど、新たな推論ベースのリスクも導入する。 これに対し、プライバシ脅威モデリングフレームワークは、GenAI固有のプライバシ脅威をより細かい粒度で捉え始めている。 同時に、これらの脅威に対処するために、多くの緩和技術が提案されている。 しかしながら、脅威と緩和の両方に関する知識は成熟し続けているが、問題空間と解空間は独立して発展してきた。 このポジションペーパーでは、GenAIのプライバシエンジニアリングにおける最大の課題は、プライバシの脅威や緩和技術に関する知識の欠如ではなく、それらの間の橋の欠如であると主張している。 このギャップを3つのサブプロブレムに分解する。 (i)GenAIシステムにおけるきめ細かい脅威・軽減マッピングの欠如。 (ii)GenAIコンテキストにおける適用不可能な解空間仮定 (三)GenAI制約下での優先順位付けの難しさ。 我々は、今後の緩和・選択アプローチについて4つの勧告を導き、GenAI固有の脅威特性に対する脅威・緩和マッピング手法の確立を拡大するアプローチを概説する。 我々は,GenAIベースのシステムにおいて,より体系的なプライバシ緩和選択に向けた研究課題を提案する。

関連論文リスト

• Emerging Challenges in Threat Modeling for GenAI-Augmented Systems: A View from the Trenches [3.5141073261469202]
  脅威モデリングは、セキュアなソフトウェアエンジニアリングにおいて依然として中心的なタスクである。 従来の脅威モデリング手法は、GenAI固有のリスクを評価するには不十分である。 本稿では,中小企業におけるGenAI対応脅威モデリング手法の探索的評価から得られた最初の結果について述べる。
  論文  参考訳（メタデータ） (2026-07-30T16:08:33Z)
• Brainrot: Deskilling and Addiction are Overlooked AI Risks [48.33701084123215]
  生成的人工知能(GenAI)におけるAIの安全性とアライメント作業の範囲は、これまでほとんど差別やヘイトスピーチに関連する害に限られてきた。 AIに関する公的な会話は、認知、メンタルヘルス、福祉に対する脅威にも焦点を当てている。 例えば、認知的オフロードに関連するデスクイリングや、GenAIシステムへの過度な信頼の結果、批判的思考の萎縮などがある。
  論文  参考訳（メタデータ） (2026-05-05T08:49:51Z)
• A LINDDUN-based Privacy Threat Modeling Framework for GenAI [13.683645364910568]
  我々は,GenAIベースのアプリケーションのプライバシ脅威分析を支援するために,ドメイン固有の新たなプライバシ脅威モデリングフレームワークを導入する。 新しいフレームワークは、LINDDUNの7つのプライバシ脅威タイプのうち3つに影響し、知識ベースに100の新しいGenAIサンプルを導入している。 その効果はAI Agentシステムで検証されており、新しいフレームワークによって包括的なプライバシー分析がサポート可能であることを実証している。
  論文  参考訳（メタデータ） (2026-03-06T09:04:32Z)
• SoK: Privacy Risks and Mitigations in Retrieval-Augmented Generation Systems [53.51921540246166]
  Retrieval-Augmented Generation (RAG)技術は広く普及している。 RAGには、Large Language Models(LLM)とドメイン固有の知識ベースとの結合が含まれる。 RAGの普及は、データのプライバシに関する懸念を引き起こしている。
  論文  参考訳（メタデータ） (2026-01-07T14:50:41Z)
• Generative AI for Biosciences: Emerging Threats and Roadmap to Biosecurity [56.331312963880215]
  生物科学における生成人工知能(GenAI)は、バイオテクノロジー、医学、合成生物学を変革している。 この概要は、バイオサイエンスにおけるGenAIの現状と、脱獄攻撃やプライバシーリスクから、自律的なAIエージェントによって引き起こされるデュアルユースな課題まで、出現する脅威ベクターの概要を概説する。 我々は、厳格なデータフィルタリング、開発中の倫理原則との整合性、有害な要求をブロックするためのリアルタイム監視など、GenAIの安全性に対する多層的なアプローチを提唱する。
  論文  参考訳（メタデータ） (2025-10-13T00:24:41Z)
• "We are not Future-ready": Understanding AI Privacy Risks and Existing Mitigation Strategies from the Perspective of AI Developers in Europe [56.1653658714305]
  ヨーロッパを拠点とする25人のAI開発者を対象にインタビューを行い、ユーザ、開発者、ビジネスに最もリスクをもたらすと彼らが信じているプライバシの脅威を理解しました。 プライバシリスクの相対的なランク付けに関して、AI開発者の間ではほとんど合意が得られていないことが分かっています。 AI開発者はこれらのリスクに対処するために提案された緩和戦略を認識しているが、彼らは最小限の現実的採用を報告した。
  論文  参考訳（メタデータ） (2025-10-01T13:51:33Z)
• SoK: Watermarking for AI-Generated Content [112.9218881276487]
  ウォーターマーキングスキームは、AI生成コンテンツに隠された信号を埋め込んで、信頼性の高い検出を可能にする。 透かしは、誤情報や偽造と戦ってAIの安全性と信頼性を高める上で重要な役割を果たす。 本研究の目的は、研究者が透かし法や応用の進歩を指導し、GenAIの幅広い意味に対処する政策立案者を支援することである。
  論文  参考訳（メタデータ） (2024-11-27T16:22:33Z)
• Impacts and Risk of Generative AI Technology on Cyber Defense [0.0]
  我々は,サイバー攻撃のライフサイクルを理解するために,CKC(Cyber Kill Chain)を活用することを提案する。 本稿では,GenAI手法の攻撃的利用によるリスク領域の包括的分析を行うことを目的とする。 我々はまた、脅威俳優が採用する戦略を分析し、サイバー防衛の意義を強調した。
  論文  参考訳（メタデータ） (2023-06-22T16:51:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。