論文の概要: Beyond "Made with AI": Visualizing Provenance Density to Mitigate the Transparency Penalty
- arxiv url: http://arxiv.org/abs/2609.03460v1
- Date: Thu, 03 Sep 2026 07:18:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-04 18:28:38.966191
- Title: Beyond "Made with AI": Visualizing Provenance Density to Mitigate the Transparency Penalty
- Title（参考訳）: AIによるミード」を超えて - 透明性のペナルティを緩和するプロヴァンス密度の可視化
- Authors: Qing Zhang, Yifei Huang, Juyoung Lee, Thad Starner, Jun Rekimoto,
- Abstract要約: ジェネレーティブAIは、洗練された散文を安価に製造することができる。
私たちはこの障害モードを、Fluency Trapと呼んでいる。ユーザーは、AI生成されたコンテンツが開示されると、正確なコンテンツをディスカウントしながら、流動的な幻覚を信頼する。
本稿では,テキスト中の検証されたクレームの密度を示すエビデンス・ビジュアル化インタフェースであるProvenance Densityを提案する。
- 参考スコア（独自算出の注目度）: 28.22285512950749
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As generative AI makes polished prose cheap to produce, users can no longer rely on fluency as a proxy for truth. We call this failure mode the Fluency Trap: users trust fluent hallucinations while also discounting accurate content once it is disclosed as AI-generated. Binary ``Made with AI'' labels respond with authorship disclosure, but they do not show what supports a claim. We propose Provenance Density, an evidence-visualization interface that shows the density of verified claims in a text. In a user study with 81 participants, an idealized Provenance Density interface produced a large discernment gap between truth and fabrication ($+4.15$ points, $d=1.82$), whereas participants given no signal showed no detectable discrimination. A technical audit with 200 samples shows that retrieval density alone is insufficient; unexpectedly, the Consistency Veto carries most of the discriminative signal on dynamic queries. As AI-generated content becomes indistinguishable from human writing, effective transparency must move from authorship disclosure toward evidence visualization.
- Abstract（参考訳）: 生成的AIは、洗練された散文を安価に生産できるので、ユーザーはもはや真理の代用として流布に頼ることはできない。
私たちはこの障害モードを、Fluency Trapと呼んでいる。ユーザーは、AI生成されたコンテンツが開示されると、正確なコンテンツをディスカウントしながら、流動的な幻覚を信頼する。
バイナリ ``Made with AI'' ラベルは著者の開示に応答するが、クレームをサポートするものを示すものではない。
本稿では,テキスト中の検証されたクレームの密度を示すエビデンス・ビジュアル化インタフェースであるProvenance Densityを提案する。
81人の参加者によるユーザスタディにおいて、理想化されたプロヴァンス密度インタフェースは真理と製造の間に大きな違い(+4.15$ポイント、$d=1.82$)を生じさせた。
200のサンプルによる技術監査では、検索密度だけでは不十分であることが示されており、予期せぬことに、Consistency Vetoは動的クエリに識別シグナルの大部分を格納している。
AIが生成したコンテンツが人間の文章と区別できないようになると、効果的な透明性は著者の開示から証拠の可視化へと移行しなければなりません。
関連論文リスト
- Beyond AI-Generated Labels: Watermarking, Co-Creation, and Conflation of AI-Generation with Disinformation [0.0]
我々は、透かしに基づくアプローチを概念的にも実際的にも誤解されていると論じる。
本稿では,プロセスの透明性と情報リテラシーに着目した代替手法を提案する。
論文 参考訳（メタデータ） (2026-07-13T08:44:12Z) - "That's AI Slop, You Bot!" Studying Accusations, Evidence, and Credibility in Online Discourse Towards LLM-Generated Comments [0.0]
ジェネレーティブAI(Generative AI, ジェネレーティブAI, ジェネレーティブAI, ジェネレーティブAI, ジェネレーティブAI, ジェネレーティブAI, ジェネレーティブAI, ジェネレーティブAI, ジェネレーティブAI, ジェネレーティブAI, ジェネレーティブAI)
読者はどのように反応し、このことはアンチAIの態度を変える上で何を意味するのか?
われわれはHacker NewsとRedditから2500万件のコメントを分析した。
論文 参考訳（メタデータ） (2026-06-10T13:40:22Z) - AEGIS: From Clues to Verdicts -- Graph-Guided Deep Vulnerability Reasoning via Dialectics and Meta-Auditing [9.271196825503417]
大きな言語モデル(LLM)は、脆弱性検出にますます採用されているが、その推論は基本的には正しくない。
AEGISは、未解決の投機から、クローズドな事実ベース上の法医学的検証へ、検出をシフトする新しいマルチエージェントフレームワークである。
これは、主要なベースラインと比較して偽陽性率を最大54.40%削減し、1サンプルあたりの平均コストはタスク固有のトレーニングなしで0.09ドルである。
論文 参考訳（メタデータ） (2026-03-21T04:12:04Z) - Semantic Visual Anomaly Detection and Reasoning in AI-Generated Images [96.43608872116347]
AnomReasonは4倍のtextbfAnomAgentのような構造化アノテーションを備えた大規模ベンチマーク
AnomReasonとAnomAgentは、AI生成画像の意味的妥当性の測定と改善の基盤となっている。
論文 参考訳（メタデータ） (2025-10-11T14:09:24Z) - Unsupervised Hallucination Detection by Inspecting Reasoning Processes [53.15199932086543]
非教師付き幻覚検出は、ラベル付きデータに頼ることなく、大規模言語モデル(LLM)が生成する幻覚コンテンツを特定することを目的としている。
本稿では,非教師なし幻覚検出フレームワークIRISを提案する。
我々の手法は完全に教師なし、計算コストが低く、訓練データが少ない場合でもうまく機能し、リアルタイム検出に適しています。
論文 参考訳（メタデータ） (2025-09-12T06:58:17Z) - Hide or Highlight: Understanding the Impact of Factuality Expression on User Trust [1.2478643689100954]
我々は、事実性評価を伴うAI生成出力を開示する4つの異なる方法を試した。
その結果,不透明であいまいな戦略が,回答の品質を維持しながら,信頼度を高めていることがわかった。
論文 参考訳（メタデータ） (2025-08-09T20:45:21Z) - Penalizing Transparency? How AI Disclosure and Author Demographics Shape Human and AI Judgments About Writing [16.237684467706924]
本研究は,AI開示文が書字品質の知覚にどのように影響するかを考察する。
人間とLLMのラッカーは、明らかにAIの使用を一貫して罰する。
しかし、LLMのラテンダーだけが人口動態に影響を与えており、情報開示がない場合には、女性や黒人の作家による記事が好まれる。
論文 参考訳（メタデータ） (2025-07-02T07:18:09Z) - Almost AI, Almost Human: The Challenge of Detecting AI-Polished Writing [55.2480439325792]
本研究では、AI-Polished-Text Evaluationデータセットを用いて、12の最先端AIテキスト検出器を体系的に評価する。
我々の発見によると、検出器は、最小限に洗練されたテキストをAI生成としてフラグ付けし、AIの関与度を区別し、古いモデルや小さなモデルに対するバイアスを示す。
論文 参考訳（メタデータ） (2025-02-21T18:45:37Z) - AmbiFC: Fact-Checking Ambiguous Claims with Evidence [57.7091560922174]
実世界の情報ニーズから10kクレームを抽出したファクトチェックデータセットであるAmbiFCを提示する。
アンビFCの証拠に対する主張を比較する際に,曖昧さから生じる不一致を分析した。
我々は,このあいまいさをソフトラベルで予測するモデルを開発した。
論文 参考訳（メタデータ） (2021-04-01T17:40:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。