論文の概要: AI-Enabled Human Memory Manipulation: Misleading AI-Generated Summaries Distort Human Memory

• arxiv url: http://arxiv.org/abs/2609.28820v1
• Date: Wed, 23 Sep 2026 21:55:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 21:10:09.58996
• Title: AI-Enabled Human Memory Manipulation: Misleading AI-Generated Summaries Distort Human Memory
• Title（参考訳）: AIで実現可能なヒューマンメモリ操作:AIで生成されたサプライヤが人間のメモリを歪ませる
• Abstract要約: 我々は、AI要約出力の分析を行い、大言語モデルに動画の要約を生成するよう促した。 この分析は、AI要約がエラーやこれらのエラーのカテゴリを含む頻度を定量化した。 人間の記憶に及ぼすAI生成サマリーにおける誤解を招く情報の影響を調べるために,人物体実験を行った。
• 参考スコア（独自算出の注目度）: 10.317941198532916
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: AI-generated summaries are increasingly used in high-stakes settings, like policing, despite considerable evidence that AI often generates misleading or inaccurate information. This research asked: do errors in AI-generated summaries distort human memory? To answer this question, we adopted two methodological approaches. First, we conducted an analysis of AI summary output, prompting large language models to generate summaries of videos. This analysis quantified how often AI summaries contain errors and the categories of these errors, revealing the kinds of misleading information that may distort human memory. Second, we conducted a human-subjects experiment to test the impact of misleading information in AI-generated summaries on human memory. Participants were first exposed to an event via watching a video of a car-pedestrian accident, and later read an AI-generated summary describing the video that either contained misleading or accurate information. Participants' memory for the original event was assessed in a memory recognition test. In the AI analysis, we found a high frequency of mistakes in AI summaries, and particularly frequent omissions of critical details. For instance, the majority of summaries omitted the most central event of the video, a critical error which is likely to be impactful. We also observed a strong effect of AI misinformation on human memory. People who read a misleading AI summary were significantly less likely to accurately recall the original event, compared to people who read an accurate AI summary. These findings have implications for how AI should be used in critical settings. Though "humans-in-the-loop" are often expected to correct for AI's mistakes, our work suggests human memory can instead be distorted by these mistakes. AI has the potential to generate misinformation, even absent any adversarial intent, which can meaningfully impact human memory.
• Abstract（参考訳）: AIが生成する要約は、しばしば誤った情報や不正確な情報を生成するというかなりの証拠があるにもかかわらず、警察のような高レベルな設定でますます使われている。 この研究は、AI生成サマリーのエラーは人間の記憶を歪ませるのか? この質問に答えるために、我々は2つの方法論的アプローチを採用した。 まず、AI要約出力の分析を行い、大言語モデルに動画の要約を生成するよう促した。 この分析は、AIの要約がエラーやこれらのエラーのカテゴリを含む頻度を定量化し、人間の記憶を歪ませる可能性のある誤解を招く情報の種類を明らかにした。 第2に、AI生成サマリーにおける誤解を招く情報が人間の記憶に与える影響をテストするために、人物体実験を行った。 参加者は最初、自動車歩行者の事故のビデオを見てイベントに晒され、その後、誤解を招く情報や正確な情報を含むビデオを記述するAI生成の要約を読んだ。 元のイベントに対する参加者の記憶は、メモリ認識テストで評価された。 AI分析では、AIサマリーに間違いの頻度が高く、特に重要な詳細が欠落していることがわかりました。 例えば、ほとんどの要約は、ビデオの最も中心的なイベントを省略した。 また,AI誤報が人間の記憶に強い影響を与えることも見いだした。 誤解を招くAI要約を読む人は、正確なAI要約を読む人に比べて、元の出来事を正確に思い出す可能性が著しく低い。 これらの発見は、AIがクリティカルセッティングでどのように使われるべきかに影響を及ぼす。 はAIの誤りを正すことがしばしば期待されているが、我々の研究は、人間の記憶がこれらの誤りによって歪められることを示唆している。 AIは誤報を発生させる可能性があり、敵対的な意図がなくても、人間の記憶に有意義に影響を及ぼす可能性がある。

関連論文リスト

• One AI Signal, Many Human Judgments: A Bayesian Cascade Analysis of AI-based Credibility Indicators in Online Information Spread [39.0786847687173]
  ソーシャルメディアプラットフォームは、ユーザーが誤情報を判断するのに役立つAIベースの信頼性指標をますます利用している。 本稿では,従来のベイズカスケードモデルを共有公開信号としてAIインジケータで拡張することにより,この設定のためのソーシャルラーニングレンズを提案する。 我々は、AIが公的な歴史の意味を変えることを示す。この視点を通して、AIが公的な歴史の意味を変えることを示す。
  論文  参考訳（メタデータ） (2026-08-31T06:27:21Z)
• The AI Memory Gap: Users Misremember What They Created With AI or Without [20.73082257013802]
  我々は,AIを用いてコンテンツソースを正確に記憶する方法について検討する。 AIの使用後、正しい帰属の確率は低下し、混在するAIが最も急激な減少となった。
  論文  参考訳（メタデータ） (2025-09-15T12:31:00Z)
• Hallucination vs interpretation: rethinking accuracy and precision in AI-assisted data extraction for knowledge synthesis [0.9898534984111934]
  我々は,大規模言語モデル(LLM)を用いてデータ抽出を自動化する抽出プラットフォームを開発した。 我々は、AIを187の出版物で人間の反応と比較し、スコーピングレビューから17の質問を抽出した。 AIの多様性は幻覚よりも解釈可能性に依存している。
  論文  参考訳（メタデータ） (2025-08-13T03:33:30Z)
• Almost AI, Almost Human: The Challenge of Detecting AI-Polished Writing [55.2480439325792]
  本研究では、AI-Polished-Text Evaluationデータセットを用いて、12の最先端AIテキスト検出器を体系的に評価する。 我々の発見によると、検出器は、最小限に洗練されたテキストをAI生成としてフラグ付けし、AIの関与度を区別し、古いモデルや小さなモデルに対するバイアスを示す。
  論文  参考訳（メタデータ） (2025-02-21T18:45:37Z)
• Human Bias in the Face of AI: Examining Human Judgment Against Text Labeled as AI Generated [48.70176791365903]
  本研究では、偏見がAIと人為的コンテンツの知覚をどう形成するかを考察する。 ラベル付きおよびラベルなしコンテンツに対するヒトのラッカーの反応について検討した。
  論文  参考訳（メタデータ） (2024-09-29T04:31:45Z)
• Seeing is not always believing: Benchmarking Human and Model Perception of AI-Generated Images [66.20578637253831]
  人工知能(AI)技術の進歩が偽写真を生み出すのではないかという懸念が高まっている。 本研究の目的は、最先端のAI生成視覚コンテンツを識別するためのエージェントを包括的に評価することである。
  論文  参考訳（メタデータ） (2023-04-25T17:51:59Z)
• Does Explainable Artificial Intelligence Improve Human Decision-Making? [17.18994675838646]
  我々は、AI(制御)を使わずに客観的な人間の意思決定精度を、AI予測(説明なし)とAI予測(説明なし)とを比較して評価する。 あらゆる種類のAI予測は、ユーザの判断精度を改善する傾向がありますが、説明可能なAIが有意義な影響を与えるという決定的な証拠はありません。 我々の結果は、少なくともいくつかの状況において、説明可能なAIが提供する「なぜ」情報は、ユーザの意思決定を促進することができないことを示唆している。
  論文  参考訳（メタデータ） (2020-06-19T15:46:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。