論文の概要: Can You Trust What You See? Human and AI Detection of Synthetic Legal Evidence

• arxiv url: http://arxiv.org/abs/2606.07613v1
• Date: Fri, 29 May 2026 16:47:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-15 07:09:36.780204
• Title: Can You Trust What You See? Human and AI Detection of Synthetic Legal Evidence
• Title（参考訳）: 人間とAIによる合成法的証拠の発見
• Abstract要約: この記事では、人間と大規模言語モデルが、AIが生成した写真と真正な写真とをいかに区別できるかを問う。 SLED-1400は,1200個の合成法則と組み合わせた200個の正当性証拠画像のデータセットである。 ヒトの精度は64.8%で、2つの最強発電機では48.5%と51.0%であった。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Visual evidence has long been treated as a reliable form of legal proof, but advances in artificial intelligence (AI) are undermining that assumption. This article asks how well humans and frontier multimodal large language models (MLLMs) can distinguish authentic evidentiary photographs from AI-generated counterparts in the object-centric scenarios typical of civil disputes. We built Synthetic Legal Evidence Detection (SLED-1400), a dataset of 200 authentic evidence images paired with 1,200 synthetic counterparts produced by six contemporary text-to-image generators across ten evidence categories. The same stimuli and response format were used in a controlled web experiment with 136 lay participants and in a standardized evaluation of four MLLMs (GPT-5.1, Gemini-3-Pro, Gemini-3-Flash, Qwen3-VL-235B). Human accuracy was 64.8% overall, and 48.5% and 51.0% on the two strongest generators (Gemini-3-Pro-Image and Flux-2-Max), indistinguishable from chance. MLLMs never misclassified an authentic image (100% specificity), but missed most synthetic outputs from the harder generators, with average MLLM detection at 5.9% on Gemini-3-Pro-Image outputs. Human and MLLM errors were largely uncorrelated, while the four MLLMs were strongly correlated with each other. Neither group is a reliable standalone authenticator. We argue that visual evidence in legal proceedings should be treated as inherently contestable, and that a workable procedural response must combine trained human review, MLLM screening, and provenance infrastructure such as C2PA Content Credentials.
• Abstract（参考訳）: 視覚的証拠は長い間、信頼できる法的証拠として扱われてきたが、人工知能(AI)の進歩は、その前提を損なっている。 本稿は,人間とフロンティアのマルチモーダル大言語モデル(MLLM)が,民事紛争の典型的対象中心のシナリオにおいて,AIが生成する真正の顕在写真とをいかに区別できるかを問うものである。 我々はSLED-1400(Synthetic Legal Evidence Detection)を作成した。SLED-1400は、10つの証拠カテゴリにまたがる6つの現代テキスト・画像生成装置が生成する1200の合成エビデンスと組み合わせた200の認証エビデンス画像のデータセットである。 同じ刺激と反応の形式は、136人のレイ参加者による制御されたウェブ実験や、4つのMLLM(GPT-5.1、Gemini-3-Pro、Gemini-3-Flash、Qwen3-VL-235B)の標準化された評価で使用された。 ヒトの精度は64.8%で、48.5%と51.0%の2つの強力な発電機(Gemini-3-Pro-ImageとFlux-2-Max)は偶然と区別できない。 MLLMは真のイメージ(100%特異性)を誤って分類することはなかったが、より硬いジェネレータからのほとんどの合成出力を見逃し、ジェミニ-3-プロ画像出力で平均5.9%のMLLM検出を行った。 ヒトとMLLMの誤差はほとんど相関が無く、4つのMLLMは互いに強く相関していた。 どちらのグループも信頼できるスタンドアロン認証器ではない。 我々は、法的手続における視覚的証拠は本質的には異議を申し立てるべきであり、かつ、実行可能な手続き的応答は、訓練された人間のレビュー、MLLMスクリーニング、C2PAコンテンツクレデンシャルなどの証明インフラを組み合わせる必要があると論じている。

関連論文リスト

• NovGauge: A Fine-Grained Benchmark for Diagnosing LLMs' Capability in Paper Novelty Assessment [54.4265627247104]
  大規模言語モデル(LLM)は、主要なAIカンファレンスでピアレビューでますます使用されている。 既存のベンチマークでは、ノベルティを1つの総合的なスコアとして評価している。 本報告では,詳細なノベルティアセスメント診断のための人手によるベンチマークであるNovGaugeについて述べる。
  論文  参考訳（メタデータ） (2026-09-10T08:34:56Z)
• Fusing Perceptual Vision Experts with Multimodal Large Language Models for Explainable Plant Disease Diagnosis: From Benchmark Imagery to Real-World Robotic Field Validation [3.7105561711383266]
  We present the Hybrid Hierarchical Multi-Agent Framework (H$2$MAF) which with decision-level fusion of EfficientNet-B3 and ConvNeXt-Tiny with semantic arbitration。 PlantDocでは、Gemmaは精度を63.9%から68.5%に改善し、41.7%のCNN競合サブセットで+7.6ポイントを達成した。 これらの結果はMLLM仲裁を、説明可能な農業AIとロボットフィールド決定支援のための、有望で校正に依存したアプローチとして確立する。
  論文  参考訳（メタデータ） (2026-08-23T17:20:20Z)
• SynCred-Bench: Benchmarking Synthetic Credibility in AI-Generated Visual Misinformation [82.22252244442744]
  SynCRED-Benchは、信頼できる6つのカテゴリと7つのきめ細かい循環スタイルでバランスをとる、600個のAI生成の誤情報画像のベンチマークである。 5%の偽陽性レートの制約の下で、15個のMLLMは10.5%の真正レート(TPR)しか達成せず、オープンソースのAIGC検出器は5%以下である。 また、ヒトのアノテーターは合成信頼性の同定にも苦労し、TPRはわずか63%に達した。
  論文  参考訳（メタデータ） (2026-06-02T08:57:38Z)
• FraudBench: A Multimodal Benchmark for Detecting AI-Generated Fraudulent Refund Evidence [36.982811727399984]
  FraudBenchは、AIが生成した不正な返金証拠を検出するためのマルチモーダルベンチマークである。 実際のユーザレビューのエビデンスから構築され、eコマース、フードデリバリー、旅行サービスのシナリオにまたがる。 我々は、MLLM、AI生成画像検出器、および人間の被験者を、同じ設定で評価する。
  論文  参考訳（メタデータ） (2026-05-09T09:11:15Z)
• Can Humans Tell? A Dual-Axis Study of Human Perception of LLM-Generated News [47.03825808787752]
  人間は、ニュース記事が人によって書かれたか、あるいは大きな言語モデル(LLM)によって書かれたかを知ることができますか? 本稿では,人間対機械(人間対機械)と正当性判定(正当性対偽判定)を連続的なスケールで測定する研究プラットフォームであるJiceGPTを用いて,この問題を考察する。 筆者らは,(1) 被験者が人文テキストから機械生成物を確実に識別できないこと,(2) 認知疲労による約30回の連続的な評価の後,その精度が低下すること,の5つを報告した。
  論文  参考訳（メタデータ） (2026-04-04T15:03:42Z)
• GPT4o-Receipt: A Dataset and Human Study for AI-Generated Document Forensics [12.448893104517808]
  GPT4o-Receiptは、GPT-4o生成レシートと、確立したデータセットからの認証レシートをペアリングした1,235レシート画像のベンチマークである。 人間のアノテータは評価器の最大の視覚的識別ギャップを示すが、バイナリ検出F1はClaude Sonnet 4より低く、Gemini 2.5 Flashより下にある。 5モデル評価では, 測定精度が不十分で検出精度が低い, 劇的な性能差とキャリブレーション差がみられた。
  論文  参考訳（メタデータ） (2026-03-12T02:05:27Z)
• Explainable AI-Generated Image Detection RewardBench [31.232580254401924]
  本稿では,画像が本物かAI生成かという説明の質を判断する,現在のMLLMの能力を評価するために設計された最初のベンチマークを示す。 その結果,今日のMLLMの推論能力と人間レベルのパフォーマンスとの間には,目に見えるギャップが残っていることがわかった。
  論文  参考訳（メタデータ） (2025-11-15T21:51:13Z)
• ForenX: Towards Explainable AI-Generated Image Detection with Multimodal Large Language Models [82.04858317800097]
  ForenXは画像の真正性を識別するだけでなく、人間の思考に共鳴する説明を提供する新しい手法である。 ForenXは、強力なマルチモーダル大言語モデル(MLLM)を使用して、法医学的な手がかりを分析し、解釈する。 本稿では,AI生成画像における偽証拠の記述専用のデータセットであるForgReasonを紹介する。
  論文  参考訳（メタデータ） (2025-08-02T15:21:26Z)
• MMSI-Bench: A Benchmark for Multi-Image Spatial Intelligence [74.51213082084428]
  MMSI-Benchは、マルチイメージ空間インテリジェンスに特化したVQAベンチマークである。 我々は、大規模な実験を行い、34のオープンソースおよびプロプライエタリMLLMを徹底的に評価する。 最も強力なオープンソースモデルはおよそ30%の精度に達し、OpenAIのo3推論モデルは40%に達し、人間は97%である。
  論文  参考訳（メタデータ） (2025-05-29T17:59:52Z)
• LENS: Multi-level Evaluation of Multimodal Reasoning with Large Language Models [59.0256377330646]
  Lensは3.4Kの現代画像と8つのタスクと12の日次シナリオをカバーする60K以上の人間による質問のベンチマークである。 このデータセットは本質的に、基本的な知覚から構成的推論に至るまで、画像不変のプロンプトを処理するためのMLLMの評価をサポートする。 我々は,Qwen2.5-VL-72B,InternVL3-78B,GPT-4oおよび2つの推論モデルQVQ-72B-previewとKim-VLなどの15以上のフロンティアMLLMを評価する。
  論文  参考訳（メタデータ） (2025-05-21T15:06:59Z)
• VideoHallu: Evaluating and Mitigating Multi-modal Hallucinations on Synthetic Video Understanding [70.00000053847738]
  物理的な世界と対話するAIシステムには、真の視覚的理解が不可欠である。 現在の評価では、主にトレーニングデータと同様の実際のビデオを使用する。 物理的に不可能または論理的に矛盾する事象を描写するビデオを用いた負制御テストを提案する。
  論文  参考訳（メタデータ） (2025-05-02T15:58:38Z)
• FakeBench: Probing Explainable Fake Image Detection via Large Multimodal Models [62.66610648697744]
  我々は人間の知覚に関する生成的視覚的偽造の分類を導入し、人間の自然言語における偽造記述を収集する。 FakeBenchは、検出、推論、解釈、きめ細かい偽造分析の4つの評価基準でLMMを調べている。 本研究は,偽画像検出領域における透明性へのパラダイムシフトを示す。
  論文  参考訳（メタデータ） (2024-04-20T07:28:55Z)
• The Instinctive Bias: Spurious Images lead to Illusion in MLLMs [34.91795817316696]
  MLLMは、非常に関連性が高いが、応答に矛盾する画像で構成されている。 本稿では,スプリアス画像の視覚錯視レベルを評価する最初のベンチマークである相関QAを提案する。 我々は9つの主流MLLMについて徹底的な分析を行い、これらの本能バイアスが様々な程度に普遍的に悩まされていることを指摘した。
  論文  参考訳（メタデータ） (2024-02-06T06:48:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。