論文の概要: Authenticity Debt and the Synthetic Content Threat Landscape: A Layered Framework for Trust, Provenance, and IP Governance in the Generative AI Era
- arxiv url: http://arxiv.org/abs/2606.00621v1
- Date: Sat, 30 May 2026 08:51:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:28.561826
- Title: Authenticity Debt and the Synthetic Content Threat Landscape: A Layered Framework for Trust, Provenance, and IP Governance in the Generative AI Era
- Title(参考訳): 認証負債と合成コンテンツ脅威ランドスケープ: ジェネレーティブAI時代の信頼、証明、IPガバナンスのための階層化されたフレームワーク
- Abstract要約: 生成的人工知能は、コンテンツの作り方を根本的に変えた。
本稿では,生成AI害と攻撃ベクトルの包括的多次元分類法を提案する。
オープンで、敵対的で、進化している環境では、単一のメカニズムが不十分である、と我々は主張する。
- 参考スコア(独自算出の注目度): 2.113921717639734
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Generative artificial intelligence has fundamentally changed how content is now produced. It has enabled how high-fidelity text, images, audio, and videos are created, modified, and redistributed at near-zero marginal cost. This shift exposes enterprises and ecosystems to a number of risks across four reinforcing authenticity layers -- authenticity, provenance, integrity, and accountability -- that traditional controls are inadequate to address in isolation. We introduce the concept of authenticity debt: the cumulative institutional liability that accumulates when organizations deploy AI-generated content without preserving verifiable origin, integrity, and accountability, deferring exposure that surfaces under regulatory, legal, or market scrutiny. This paper presents a comprehensive, multi-dimensional taxonomy of generative AI harms and attack vectors, surveys the capabilities and failure modes of technical controls including digital watermarking, provenance frameworks (C2PA, Adobe CAI), and detection technologies, and argues that no single mechanism is sufficient in open, adversarial, and evolving environments. Drawing on Zero Trust Architecture principles and enterprise governance frameworks, we propose a layered reference architecture that integrates cryptographic provenance, human-in-the-loop verification, and continuous governance to sustain defensible authenticity at scale. We further examine the regulatory landscape (EU AI Act, U.S.\ FTC, NIST AI RMF) and identify practical guiding principles for organizations seeking to build authenticity as institutional infrastructure rather than an afterthought.
- Abstract(参考訳): 生成的人工知能は、コンテンツの制作方法を根本的に変えた。
高忠実なテキスト、画像、オーディオ、ビデオの作成、修正、再配布をほぼゼロの限界費用で実現している。
このシフトは、従来のコントロールが独立して対処するには不十分である、信頼性、証明、完全性、説明責任の4つの強化された信頼層にまたがるいくつかのリスクに、企業やエコシステムをさらけ出します。
組織がAI生成コンテンツをデプロイする際に蓄積する累積的機関的負債は、検証済みのオリジン、完全性、説明責任を保たず、規制、法的、または市場の精査の下で表面される露出を遅らせる。
本稿では、生成AIの害や攻撃ベクトルの包括的多次元分類法を提案し、デジタル透かし、前駆体フレームワーク(C2PA、Adobe CAI)、検出技術を含む技術制御の能力と失敗モードを調査し、オープンで敵対的で進化する環境では、単一のメカニズムが不十分であると主張している。
ゼロトラストアーキテクチャの原則とエンタープライズガバナンスのフレームワークに基づいて,暗号の証明,ヒューマン・イン・ザ・ループの検証,および継続的ガバナンスを統合して,保護可能な信頼性を大規模に維持する階層化された参照アーキテクチャを提案する。
さらに、規制の状況(EU AI Act, U.S.\ FTC, NIST AI RMF)について検討し、アフター思想ではなく、機関のインフラとして真正性を構築しようとする組織に対して、実践的な指針を定めている。
関連論文リスト
- On Automated and Explainable Provenance of AI-Generated Code [56.818202904805446]
次世代のCodeGenAIツールは、説明可能な証明の基礎の上に構築されなければならない、と我々は主張する。
本稿では,大規模実証研究とポストホック因果・解釈可能性技術を組み合わせた研究プログラムについて述べる。
論文 参考訳(メタデータ) (2026-08-03T14:50:31Z) - AI Identity: Standards, Gaps, and Research Directions for AI Agents [0.0]
AIエージェントは現在、人間の継続的な監督なしに、組織の境界を越えて実際のトランザクション、トランザクション、サブエージェントチェーンを実行している。
ボディがなく、永続的なメモリがなく、法的地位のないエンティティをどうやって識別し、検証し、保持するか。
AI Identityを、AIエージェントが宣言されるものと、それが何をするかという継続的な関係として定義します。
論文 参考訳(メタデータ) (2026-04-25T12:51:52Z) - AI Identification: An Integrated Framework for Sustainable Governance in Digital Enterprises [3.2625979527355784]
デジタルトランスフォーメーションされた企業では、長期的なサステナビリティは透明性、説明責任、ライフサイクル管理されたAIシステムに依存します。
本研究では,技術とガバナンスのメカニズムを組み合わせた,AI識別のための概念的およびアーキテクチャ的枠組みを提案する。
このフレームワークは、モデルフィンガープリント、暗号ハッシュ、ブロックチェーンベースの登録、ゼロ知識証明(ZKP)ベースの所有証明、デプロイ後構造変更スクリーニングの5つのコンポーネントを統合している。
論文 参考訳(メタデータ) (2026-04-12T05:59:47Z) - Sovereign-by-Design A Reference Architecture for AI and Blockchain Enabled Systems [2.9407799864652837]
我々は、主権は純粋に規制の対象ではなく、第一級の建築財産として扱われなければならないと論じる。
私たちは、自己主権のアイデンティティ、ブロックチェーンベースの信頼と監査性、主権データガバナンス、明示的なアーキテクチャ管理の下でデプロイされたジェネレーティブAIを統合するソブリン参照アーキテクチャを導入します。
論文 参考訳(メタデータ) (2026-02-05T09:49:04Z) - TAIBOM: Bringing Trustworthiness to AI-Enabled Systems [0.23332469289621785]
透明性とトレーサビリティを高めるために、SBOM(Software Bills of Materials)が重要になっている。
現在のフレームワークは、AIシステムのユニークな特徴を捉えていない。
我々は、SBOMの原則をAIドメインに拡張する新しいフレームワークであるTAIBOM(Trusted AI Bill of Materials)を紹介する。
論文 参考訳(メタデータ) (2025-10-02T16:17:07Z) - Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。
我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。
私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
論文 参考訳(メタデータ) (2025-08-12T09:42:56Z) - Rethinking Data Protection in the (Generative) Artificial Intelligence Era [138.07763415496288]
現代の(生産的な)AIモデルやシステムに生じる多様な保護ニーズを捉える4段階の分類法を提案する。
当社のフレームワークは、データユーティリティとコントロールのトレードオフに関する構造化された理解を提供し、AIパイプライン全体にわたっています。
論文 参考訳(メタデータ) (2025-07-03T02:45:51Z) - Watermarking Without Standards Is Not AI Governance [46.71493672772134]
現在の実装は、効果的な監視を提供するのではなく、象徴的なコンプライアンスとして機能するリスクがある、と私たちは主張する。
本稿では,技術標準,監査インフラストラクチャ,実施機構を含む3層フレームワークを提案する。
論文 参考訳(メタデータ) (2025-05-27T18:10:04Z) - Zero-Trust Foundation Models: A New Paradigm for Secure and Collaborative Artificial Intelligence for Internet of Things [61.43014629640404]
Zero-Trust Foundation Models (ZTFM)は、ゼロトラストセキュリティの原則をIoT(Internet of Things)システムの基盤モデル(FM)のライフサイクルに組み込む。
ZTFMは、分散、異質、潜在的に敵対的なIoT環境にわたって、セキュアでプライバシ保護のAIを可能にする。
論文 参考訳(メタデータ) (2025-05-26T06:44:31Z) - On the Trustworthiness of Generative Foundation Models: Guideline, Assessment, and Perspective [377.2483044466149]
Generative Foundation Models (GenFMs) がトランスフォーメーションツールとして登場した。
彼らの広く採用されていることは、次元の信頼に関する重要な懸念を提起する。
本稿では,3つの主要なコントリビューションを通じて,これらの課題に対処するための包括的枠組みを提案する。
論文 参考訳(メタデータ) (2025-02-20T06:20:36Z) - Meta-Sealing: A Revolutionizing Integrity Assurance Protocol for Transparent, Tamper-Proof, and Trustworthy AI System [0.0]
この研究は、AIシステムの整合性検証を根本的に変更する暗号フレームワークであるMeta-Sealingを紹介する。
このフレームワークは、高度な暗号と分散検証を組み合わせることで、数学的厳密さと計算効率の両方を達成する、暗黙の保証を提供する。
論文 参考訳(メタデータ) (2024-10-31T15:31:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。