論文の概要: Beyond AI-Generated Labels: Watermarking, Co-Creation, and Conflation of AI-Generation with Disinformation

• arxiv url: http://arxiv.org/abs/2607.13082v1
• Date: Mon, 13 Jul 2026 08:44:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-16 16:39:12.524559
• Title: Beyond AI-Generated Labels: Watermarking, Co-Creation, and Conflation of AI-Generation with Disinformation
• Title（参考訳）: AI生成ラベルを超えて - 透かし、コクレーション、偽情報によるAI生成の相関
• Abstract要約: 我々は、透かしに基づくアプローチを概念的にも実際的にも誤解されていると論じる。 本稿では,プロセスの透明性と情報リテラシーに着目した代替手法を提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Watermarking is often presented as a straightforward solution for distinguishing AI-generated from human-generated content, enabling platforms and regulators to trace synthetic content and detect AI-generated outputs at scale. This paper examines whether such mechanisms meaningfully address the epistemic and ethical challenges that arise in domains where the central concern is not the automation of content production, but the accuracy, intent, and deceptive potential of messages. We argue that extending watermark-based approaches to these settings is conceptually and practically misguided. Invisible watermarking encodes only model origin; when operationalized into visible AI-generated labels, it reduces complex creative processes to a misleading binary and provides no information about truthfulness. Such labels may stigmatize legitimate uses of generative tools while encouraging misplaced trust in unmarked content. Here we propose an alternative approach centered on process transparency and information literacy. We argue that these measures address the epistemic and ethical dimensions of AI-generated disinformation more effectively than visible watermark labels, reframing authorship as a transparent human practice rather than a binary indicator of machine involvement.
• Abstract（参考訳）: ウォーターマーキングは、人間の生成したコンテンツとAI生成したコンテンツを区別するための簡単なソリューションとして示され、プラットフォームや規制当局が合成コンテンツをトレースし、AI生成したアウトプットを大規模に検出することを可能にする。 本稿では, コンテンツ制作の自動化ではなく, メッセージの正確性, 意図, 虚偽の可能性を意識した領域において生じる, 認識的, 倫理的課題に, このようなメカニズムが有意義に対処するかどうかを考察する。 これらの設定への透かしに基づくアプローチの拡張は概念的にも実際的にも誤解されている。 可視性透かしはモデルの起源のみを符号化する; 可視性AI生成ラベルに運用されると、複雑な創造プロセスを誤解を招くバイナリに還元し、真理性に関する情報を提供しない。 このようなラベルは、意図しないコンテンツの不正な信頼を奨励しながら、生成ツールの合法的な使用を正当化する可能性がある。 本稿では,プロセスの透明性と情報リテラシーに着目した代替手法を提案する。 これらの尺度は、視覚的な透かしラベルよりも効果的にAIが生成する偽情報の認識的・倫理的次元に対処し、機械の関与のバイナリ指標というよりは透明な人間的実践としての著者シップを尊重する。

関連論文リスト

• Watermarks Without Verification: AI Text Watermarking After the EU AI Act [49.51124343181601]
  EU AI法第50条では、生成可能なAIプロバイダに対して、システムが生成したコンテンツをマークし、AI生成として検出することを要求している。 Anthropicは、その日後にリリースされたすべてのClaudeモデルが、すべての生成されたテキストにSynthID-Textに基づく透かしを埋め込んでいることを公表した。 我々は、現在、異議や保証は確認できないし、この不信は、それ自体を透かしではなく、実質的なガバナンスの失敗であると論じている。
  論文  参考訳（メタデータ） (2026-09-09T01:56:17Z)
• From Forensics to Ecosystems: Rethinking Watermarks for Generative AI Oversight [3.5885818925274715]
  AIガバナンスにデジタル透かしを使うことの課題と機会について検討する。 本稿では,合成コンテンツがメディアエコシステムに与える影響を理解するためのツールとして,デジタル透かしの再認識を提案する。
  論文  参考訳（メタデータ） (2026-08-07T15:32:04Z)
• DAVID-XR1: Detecting AI-Generated Videos with Explainable Reasoning [58.70446237944036]
  DAVID-Xは、AI生成ビデオに詳細な欠陥レベル、時間空間アノテーションと有理書を組み合わせた最初のデータセットである。 DAVID-XR1は、視覚的推論の解釈可能な連鎖を提供するために設計されたビデオ言語モデルである。 以上の結果から,AI生成ビデオコンテンツの信頼性確認のための説明可能な検出手法が期待できることを示す。
  論文  参考訳（メタデータ） (2025-06-13T13:39:53Z)
• On-Device Watermarking: A Socio-Technical Imperative For Authenticity In The Age of Generative AI [0.0]
  私たちは間違ったアプローチを採用しており、暗号署名による透かしに注力すべきだと論じています。 特に音声・視覚コンテンツについては、実際のコンテンツはすべて物理的世界に根ざし、ハードウェアセンサーを介してキャプチャされる。
  論文  参考訳（メタデータ） (2025-04-15T20:36:52Z)
• SoK: Watermarking for AI-Generated Content [112.9218881276487]
  ウォーターマーキングスキームは、AI生成コンテンツに隠された信号を埋め込んで、信頼性の高い検出を可能にする。 透かしは、誤情報や偽造と戦ってAIの安全性と信頼性を高める上で重要な役割を果たす。 本研究の目的は、研究者が透かし法や応用の進歩を指導し、GenAIの幅広い意味に対処する政策立案者を支援することである。
  論文  参考訳（メタデータ） (2024-11-27T16:22:33Z)
• Topic-Based Watermarks for Large Language Models [46.71493672772134]
  本稿では,Large Language Model (LLM) 出力のための軽量なトピック誘導型透かし方式を提案する。 本手法は,Google の SynthID-Text など,業界をリードするシステムに匹敵する難易度を実現する。
  論文  参考訳（メタデータ） (2024-04-02T17:49:40Z)
• Improving the Generation Quality of Watermarked Large Language Models via Word Importance Scoring [81.62249424226084]
  トークンレベルの透かしは、トークン確率分布を変更して生成されたテキストに透かしを挿入する。 この透かしアルゴリズムは、生成中のロジットを変化させ、劣化したテキストの品質につながる可能性がある。 We propose to improve the quality of texts generated by a watermarked language model by Watermarking with Importance Scoring (WIS)。
  論文  参考訳（メタデータ） (2023-11-16T08:36:00Z)
• Evading Watermark based Detection of AI-Generated Content [45.47476727209842]
  生成AIモデルは、非常に現実的なコンテンツを生成することができる。 WatermarkはAI生成コンテンツの検出に活用されている。 類似の透かしをデコードできれば、コンテンツはAI生成として検出される。
  論文  参考訳（メタデータ） (2023-05-05T19:20:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。