論文の概要: Can We Still Trust Disaster Social Sensing? Empirical Evidence on Detecting AI-Generated Social Media Posts

• arxiv url: http://arxiv.org/abs/2609.35821v1
• Date: Mon, 21 Sep 2026 21:20:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:46.852284
• Title: Can We Still Trust Disaster Social Sensing? Empirical Evidence on Detecting AI-Generated Social Media Posts
• Title（参考訳）: 災害時のソーシャルセンシングを信頼できるのか?AIによるソーシャルメディア投稿の検出に関する実証的証拠
• Abstract要約: 災害社会センシングは、公共のソーシャルメディア投稿を状況認識と人道的ニーズの証拠に変換する。 本研究では、テキストベースのAI検出器が、AIによる災害投稿から人間を確実に識別できるかどうかを検討する。
• 参考スコア（独自算出の注目度）: 4.0219068239028655
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Disaster social sensing converts public social-media posts into evidence for situational awareness and humanitarian needs, but generative artificial intelligence (AI) can produce plausible messages that resemble eyewitness reports. This study investigates whether text-based AI detectors can reliably distinguish human-authored from AI-generated disaster posts. We construct a dataset of 12,000 texts organised into 3,000 matched semantic units from nine disasters: original human posts (H0), minimally LLM-proofread human posts (H1), factual AI-generated posts based on the same verified facts (A0), and affectively framed versions of those AI posts (A1). A separate 6,000-text corpus from 42 events supports model selection and threshold calibration. We evaluate OSM-Det, Fast-DetectGPT, Binoculars, and direct large language model (LLM) judges across five model families, then test disaster-domain calibration, a frozen-encoder linear readout, paired transformation sensitivity, and dataset artifact controls. Across fourteen frozen cross-family configurations, AUROC is 0.402-0.517 and the best prospective recall at a calibration-derived low-false-positive operating point is 3.6%; OSM-Det reaches AUROC 0.521 and 10.4% recall at a realised 6.7% false-positive rate. A disaster-trained linear head reaches AUROC 0.817, but a seven-feature surface classifier reaches 0.784 on the H0-versus-A0 contrast, and neutralising identified surface asymmetries reduces the head from 0.733 to 0.594. The head also separates A0 from A1 even though provenance is unchanged. The results show that text-based detection is not reliable enough to serve as an operational trust gate; multimodal claims, accountable sources, and other contextual evidence should be rested on to safeguard trust in disaster social sensing.
• Abstract（参考訳）: 災害社会的センシングは、公共のソーシャルメディア投稿を状況認識と人道的ニーズの証拠に変換するが、生成的人工知能(AI)は目撃者の報告に類似した有望なメッセージを生成することができる。 本研究では、テキストベースのAI検出器が、AIによる災害投稿から人間を確実に識別できるかどうかを検討する。 我々は、元の人間投稿(H0)、最小限のLLM対応人間投稿(H1)、同じ確証された事実に基づく事実AI生成投稿(A0)、それらのAI投稿の感情的なフレーム化バージョン(A1)の9つの災害から、3000の一致したセマンティックユニットに編成された12,000のテキストのデータセットを構築した。 42のイベントから6000テキストのコーパスが分離され、モデルの選択としきい値の校正がサポートされている。 OSM-Det, Fast-DetectGPT, Binoculars, direct large language model (LLM) judges across five model family, then test disaster-domain calibration, a frozen-encoder linear readout, paired transformation sensitivity, and data artifact control。 14の凍結したクロスファミリー構成で、AUROCは0.402-0.517であり、キャリブレーション由来の低偽陽性の動作点での最良のリコールは3.6%、OSM-DetはAUROC0.521、10.4%のリコールは6.7%である。 災害訓練された線形ヘッドはAUROC 0.817に達するが、H0対A0コントラストで7機能表面分類器は0.784に達し、識別された表面の非対称性を中和すると、頭部は0.733から0.594に減少する。 ヘッドはまた、A0とA1を分離するが、証明は変わらない。 その結果、テキストによる検出は、運用上の信頼ゲートとして機能するほど信頼性が低いことが示され、マルチモーダルクレーム、説明可能な情報源、その他の文脈的証拠は、災害社会センシングにおける信頼を守るために守るべきである。

関連論文リスト

• SynCred-Bench: Benchmarking Synthetic Credibility in AI-Generated Visual Misinformation [82.22252244442744]
  SynCRED-Benchは、信頼できる6つのカテゴリと7つのきめ細かい循環スタイルでバランスをとる、600個のAI生成の誤情報画像のベンチマークである。 5%の偽陽性レートの制約の下で、15個のMLLMは10.5%の真正レート(TPR)しか達成せず、オープンソースのAIGC検出器は5%以下である。 また、ヒトのアノテーターは合成信頼性の同定にも苦労し、TPRはわずか63%に達した。
  論文  参考訳（メタデータ） (2026-06-02T08:57:38Z)
• Let the Results Speak: A Replication-First Paradigm for LLM Behavioral Benchmarking [22.825786049667602]
  本稿では,1つのヒト・ラタのコンセンサスに有効性を確保するために,複製第一パラダイムを提案する。 楽器を4つの特性で認証する - Kランの信頼性、アーキテクチャ的に異なる審査員間のクロスインストラクトレプリケーション、以前のトレーニングコホートからの審査員による歴史的フットプリントキャリブレーション、事前登録された予測。 本研究は, 自己発達型データ駆動による情緒的伴奏で, 次元は事前に決められず, 手順は9次元に安定化する。
  論文  参考訳（メタデータ） (2026-05-27T03:41:11Z)
• Amplifying, Not Learning: Fine-Tuned AI Text Detectors Amplify a Pretrained Direction [51.56484100374058]
  テキスト検出器は、事前訓練された典型軸を増幅する。 タスク監督前の生エンコーダでは、3つのアーキテクチャでNYT-vs-HC3 AUROC 0.806/0.944/0.834を達成する。 RoBERTaベースでは、生のプロジェクションは微調整を超えるが、RoBERTaベースでは、フル微調整は、試験された流線型人口の双方で生よりも識別を小さくする。
  論文  参考訳（メタデータ） (2026-05-20T19:08:38Z)
• PHANTOM: Polymorphic Honeytoken Adaptation with Narrative-Tailored Organisational Mimicry [0.2538209532048867]
  ハネトケンは、不正な属性アクセスを検出するために植えられたデコイデジタル資産である。 PHANTOMは,組織固有の知識を符号化することで,文脈的に説得力のあるハネトケンを生成するフレームワークである。 結果は外部のAPIコールなしで再現されるため、パイプラインは空調された環境で完全にデプロイできる。
  論文  参考訳（メタデータ） (2026-05-04T17:14:13Z)
• HalluScan: A Systematic Benchmark for Detecting and Mitigating Hallucinations in Instruction-Following LLMs [0.0]
  大規模言語モデル(LLM)は、様々な自然言語処理タスクにまたがる顕著な機能を示している。 しかし、それらは幻覚に影響を受けやすい - 事実的に不正確で、提供されたコンテキストに反するコンテンツを生成したり、ユーザ指示に反する。 本稿では,72構成の幻覚検出と緩和を体系的に評価する総合ベンチマークフレームワークであるHaluScanを紹介する。
  論文  参考訳（メタデータ） (2026-05-04T10:43:27Z)
• From Black Box to Glass Box: Cross-Model ASR Disagreement to Prioto Review in Ambient AI Scribe Documentation [43.148402136307716]
  異種ASRシステム間のクロスモデル不一致は、基準のない不確実性信号として機能する。 商用APIとオープンソースエンジンにまたがる8つのASRシステムを備えた,50の公開医療用オーディオクリップを転写した。 低アグリメント領域は内容の不一致に富み、高リスク質量のクインタイル全体では53.9%から73.9%に増加した。
  論文  参考訳（メタデータ） (2026-03-02T13:02:13Z)
• The Necessity of Imperfection:Reversing Model Collapse via Simulating Cognitive Boundedness [0.284279467589473]
  本稿では,データの表面特性を模倣する代わりに,人間のテキストを生成する認知過程をシミュレートするパラダイムシフトを提案する。 本稿では、非構造化テキストを構造化認知ベクトルにリバースエンジニアリングするPrompt-driven Cognitive Computing Framework(PMCSF)を紹介する。 表面データのコピーではなく、人間の認知的限界をモデル化することで、真の機能的ゲインを持つ合成データが実現できることが、我々の研究で示されています。
  論文  参考訳（メタデータ） (2025-12-01T07:09:38Z)
• Group-Adaptive Threshold Optimization for Robust AI-Generated Text Detection [58.419940585826744]
  本稿では,確率的AIテキスト検出のためのグループ固有しきい値最適化アルゴリズムであるFairOPTを紹介する。 属性(例えば、テキストの長さと書き込みスタイル)に基づいてデータをサブグループに分割し、FairOPTを実装して、各グループに対する決定しきい値の学習を行い、不一致を低減しました。 我々のフレームワークは、後処理によるAI生成コンテンツ検出において、より堅牢な分類の道を開く。
  論文  参考訳（メタデータ） (2025-02-06T21:58:48Z)
• Paraphrasing evades detectors of AI-generated text, but retrieval is an effective defense [56.077252790310176]
  本稿では,パラフレーズ生成モデル(DIPPER)を提案する。 DIPPERを使って3つの大きな言語モデル(GPT3.5-davinci-003)で生成されたテキストを言い換えると、透かしを含むいくつかの検出器を回避できた。 我々は,言語モデルAPIプロバイダによって維持されなければならない,意味論的に類似した世代を検索するシンプルなディフェンスを導入する。
  論文  参考訳（メタデータ） (2023-03-23T16:29:27Z)
• Can AI-Generated Text be Reliably Detected? [50.95804851595018]
  大規模言語モデル(LLM)は、様々なアプリケーションで非常によく機能します。 盗作、偽ニュースの発生、スパムなどの活動においてこれらのモデルが誤用される可能性があることは、彼らの責任ある使用に対する懸念を引き起こしている。 我々は、攻撃者の存在下で、これらのAIテキスト検出装置の堅牢性を強調テストする。
  論文  参考訳（メタデータ） (2023-03-17T17:53:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。