論文の概要: Interrupting the Chain: Human Perception of AI-Generated Disinformation Through a Kill Chain Lens

• arxiv url: http://arxiv.org/abs/2608.21389v1
• Date: Sun, 26 Jul 2026 15:40:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-31 05:49:59.222583
• Title: Interrupting the Chain: Human Perception of AI-Generated Disinformation Through a Kill Chain Lens
• Title（参考訳）: 鎖を断ち切る:キラー・チェーン・レンズでAIが生成した情報の人間の知覚
• Abstract要約: 本研究は,ニュースの断片を原点(人間対機械)と真偽(本物対偽)で分類する人間-対象研究から得られた経験的知見を提示する。 我々は、介入のための分類として、適応されたサイバーセキュリティキルチェーンを用いて、認知的攻撃ライフサイクルの段階に知覚データをマッピングする結果を編成する。 3つの主要な発見は,(1)疑念の高揚が検出を改善しない知覚精度のギャップ,(2)現代のLSMは人間の識別不可能なテキストを頻繁に生成する,(3)偽ニュース検出が持続的暴露下で10.2ポイント低下し,AI-オリジン検出が安定している不斉認知疲労効果である。
• 参考スコア（独自算出の注目度）: 47.03825808787752
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Generative AI enables customized misinformation at scale, yet defenses remain largely reactive. We present empirical findings from a human-subject study (n=504 participants, n=2,438 judgments) in which users classified news fragments by origin (human vs. machine) and veracity (real vs. fake). We organize results using an adapted cybersecurity kill chain as a taxonomy for intervention, mapping perception data onto stages of a cognitive attack lifecycle. Three key findings emerge: (1) a perception-accuracy gap where heightened suspicion does not improve detection; (2) modern LLMs frequently produce human-indistinguishable text; and (3) an asymmetric cognitive fatigue effect where fake-news detection degrades by 10.2 percentage points under sustained exposure while AI-origin detection remains stable. These findings identify candidate intervention points for proactive defense against AI-driven disinformation.
• Abstract（参考訳）: ジェネレーティブAIは、大規模にカスタマイズされた誤情報を可能にするが、防御はほとんどリアクティブである。 本研究は, 人的対象(n=504人, n=2,438人)を対象に, ニューズフラグメントを原点(人間対機械)と真偽(本物対偽)に分類した経験的知見を提示する。 我々は、介入のための分類として、適応されたサイバーセキュリティキルチェーンを用いて、認知的攻撃ライフサイクルの段階に知覚データをマッピングする結果を編成する。 3つの主要な発見は,(1)疑念の高揚が検出を改善しない知覚精度のギャップ,(2)現代のLCMは人間の識別不可能なテキストを頻繁に生成する,(3)偽ニュース検出が持続曝露下で10.2ポイント低下し,AI-オリジン検出が安定している不斉認知疲労効果である。 これらの結果から,AIによる偽情報に対する予防的防御のための候補的介入点が同定された。

関連論文リスト

• Honeyquest for LLMs: Rethinking Cyber Deception for AI Attackers [0.0]
  本研究では,ハニークエストを用いた自動評価フレームワークを導入し,LLM攻撃者の判断を大規模に評価する。 21-LLMのコホートは10のプロバイダ、多様なアーキテクチャと特殊化、オープンおよびクローズドウェイトモデル、パラメータスケールが8Bから1T以上でした。 これらの結果は、人間中心の偽装仮説がAI攻撃者に確実に伝達されないことを示している。
  論文  参考訳（メタデータ） (2026-06-19T02:01:50Z)
• Can Humans Tell? A Dual-Axis Study of Human Perception of LLM-Generated News [47.03825808787752]
  人間は、ニュース記事が人によって書かれたか、あるいは大きな言語モデル(LLM)によって書かれたかを知ることができますか? 本稿では,人間対機械(人間対機械)と正当性判定(正当性対偽判定)を連続的なスケールで測定する研究プラットフォームであるJiceGPTを用いて,この問題を考察する。 筆者らは,(1) 被験者が人文テキストから機械生成物を確実に識別できないこと,(2) 認知疲労による約30回の連続的な評価の後,その精度が低下すること,の5つを報告した。
  論文  参考訳（メタデータ） (2026-04-04T15:03:42Z)
• Can You Tell It's AI? Human Perception of Synthetic Voices in Vishing Scenarios [3.2976205772213123]
  大規模言語モデルと商用音声合成システムにより、高度にリアルなAI生成音声スカム(ビッシング)が可能になった しかし、現実的な詐欺の文脈でAIが生成した音声と人間の音声を確実に区別できるかどうかは不明だ。 その結果,22名の被験者がバイシングスタイルの音声クリップを16本評価し,それぞれ人間かAIに分類した。
  論文  参考訳（メタデータ） (2026-02-23T17:17:53Z)
• The AI Cognitive Trojan Horse: How Large Language Models May Bypass Human Epistemic Vigilance [0.0]
  大規模言語モデル(LLM)に基づく会話型AIシステムは、人間の認識に挑戦する。 本稿では,会話型AIによる有意なてんかんリスクは,不正確さや意図的な騙しではなく,より根本的なものであることを示唆する。
  論文  参考訳（メタデータ） (2026-01-11T22:28:56Z)
• Investigating Human-Identifiable Features Hidden in Adversarial Perturbations [54.39726653562144]
  我々の研究では、最大5つの攻撃アルゴリズムを3つのデータセットにわたって探索する。 対人摂動における人間の識別可能な特徴を同定する。 画素レベルのアノテーションを用いて、そのような特徴を抽出し、ターゲットモデルに妥協する能力を実証する。
  論文  参考訳（メタデータ） (2023-09-28T22:31:29Z)
• Illusory Attacks: Information-Theoretic Detectability Matters in Adversarial Attacks [76.35478518372692]
  エプシロン・イリューソリー(epsilon-illusory)は、シーケンシャルな意思決定者に対する敵対的攻撃の新たな形態である。 既存の攻撃と比較して,エプシロン・イリューソリーの自動検出は極めて困難である。 以上の結果から, より優れた異常検知器, 効果的なハードウェアおよびシステムレベルの防御の必要性が示唆された。
  論文  参考訳（メタデータ） (2022-07-20T19:49:09Z)
• Towards Adversarial Patch Analysis and Certified Defense against Crowd Counting [61.99564267735242]
  安全クリティカルな監視システムの重要性から、群衆のカウントは多くの注目を集めています。 近年の研究では、ディープニューラルネットワーク(DNN)の手法が敵の攻撃に弱いことが示されている。 群衆カウントモデルのロバスト性を評価するために,Momentumを用いた攻撃戦略としてAdversarial Patch Attackを提案する。
  論文  参考訳（メタデータ） (2021-04-22T05:10:55Z)
• Adversarial vs behavioural-based defensive AI with joint, continual and active learning: automated evaluation of robustness to deception, poisoning and concept drift [62.997667081978825]
  人工知能(AI)の最近の進歩は、サイバーセキュリティのための行動分析(UEBA)に新たな能力をもたらした。 本稿では、検出プロセスを改善し、人間の専門知識を効果的に活用することにより、この攻撃を効果的に軽減するソリューションを提案する。
  論文  参考訳（メタデータ） (2020-01-13T13:54:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。