論文の概要: How Artificial Intelligence LLM Engines Shape the Global Conflict Information Environment
- arxiv url: http://arxiv.org/abs/2607.14197v1
- Date: Wed, 15 Jul 2026 16:42:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-17 17:01:32.860876
- Title: How Artificial Intelligence LLM Engines Shape the Global Conflict Information Environment
- Title（参考訳）: 人工知能LLMエンジンが世界紛争情報環境をいかに形作るか
- Abstract要約: 大きな言語モデル(LLM)は特定の条件下で幻覚化することが知られているが、これらのエラーは競合について尋ねられると識別可能なパターンを持つだろうか?
まず最初に、28のコンフリクトについて5つの主要な回答エンジンに質問し、5,460の回答を文書化された証拠に対して獲得しました。
与えられた紛争を取り巻く検索可能な記録を薄くすればするほど、エンジンの発明、誤属性、誤算が大きくなることがわかりました。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Artificial Intelligence (AI) answer engines now field a growing share of the questions that analysts, scholars, and the public ask about issues of peace and conflict. Large Language Models (LLMs) are known to hallucinate under certain conditions, but do these errors have discernible patterns when they are asked about conflicts, and if so what can that teach us about the changing global conflict information environment? To answer, we first asked a battery of questions about 28 conflicts to five leading answer engines and scored their 5,460 answers against documented evidence. We found that the thinner the retrievable record around a given conflict, the more the engines invent, misattribute, and miscount. Thin records don't just encourage hallucination, but create structural exposure to mis- and disinformation, because they are the easiest records to warp through Generative Engine Optimization (GEO) to bias engine responses. Through an analysis of 1,048 websites that the AI LLMs pulled conflict facts from, we found that GEO source optimization is already happening, and while state-partisan digital capture remains incipient it is rapidly growing. We explain what these findings mean for scholarship with the rise of GEO information warfare, and for policy argue for a return to the deep local monitoring and translation-based research that AI tools cannot replicate, closing with a discussion of future research opportunities and challenges in this fast-moving space.
- Abstract（参考訳）: 人工知能(AI)は今や、アナリスト、学者、一般大衆が平和と紛争の問題について問う質問のシェアを拡大している。
大きな言語モデル(LLM)は、特定の条件下で幻覚化することが知られているが、これらのエラーは、競合について尋ねられたときに識別可能なパターンを持つだろうか。
まず最初に、28のコンフリクトについて5つの主要な回答エンジンに質問し、5,460の回答を文書化された証拠に対して獲得しました。
与えられた紛争を取り巻く検索可能な記録を薄くすればするほど、エンジンの発明、誤属性、誤算が大きくなることがわかりました。
薄いレコードは幻覚を奨励するだけでなく、誤った情報や偽情報に対する構造的な露出を生み出す。
AI LLMがコンフリクト事実を抽出した1,048のWebサイトの分析により、GEOのソース最適化はすでに行われており、国家のパーティショナリズムによるデジタルキャプチャはまだ初期段階にあるが、急速に成長していることがわかった。
これらの発見は、GEO情報戦の台頭に伴う奨学金にとって何を意味するのかを説明し、政策は、AIツールが複製できない深いローカルモニタリングと翻訳ベースの研究への回帰を主張し、この速い動きの空間における将来の研究機会と課題に関する議論を締めくくった。
関連論文リスト
- Synthetic Sources?: Auditing Generative Search Engine Citations for Evidence of AI-Generated Sources [3.2065257821139195]
生成検索エンジンが合成源を引用して確実に省略できるかどうかは不明である。
本研究は,実世界の712件の人間生成クエリを用いた4つの生成検索エンジンのオーディションを示す。
以上の結果から,AI生成源が4つの生成検索エンジンにまたがって引用されている証拠が得られた。
論文 参考訳（メタデータ） (2026-05-22T14:33:52Z) - Impact of AI Search Summaries on Website Traffic: Evidence from Google AI Overviews and Wikipedia [0.0]
ウィキペディアのトラフィックに対するGoogleのAI概要の因果的影響を推定する。
161,382人を超える記事言語対が一致し、AIOの露出は、英語記事への日々のトラフィックを約15%削減する。
これらの知見は、検索エンジンにおける生成的検索機能が、情報出版者からの注意を実質的に再配置できるという、初期の因果関係の証拠である。
論文 参考訳（メタデータ） (2026-02-05T01:31:44Z) - Conflicts in Texts: Data, Implications and Challenges [58.03478157713084]
矛盾は、状況の複雑さ、説明と対処が必要な変更、データアノテーションの難しさ、生成された出力の誤りを反映する可能性がある。
本調査ではこれらの矛盾を,(1)事実的矛盾,主観的偏見,および複数の視点が矛盾を生じさせるWeb上の自然テキスト,(2)注釈者がモデルトレーニングに影響を及ぼす注釈付きデータ,(3)幻覚と知識の衝突が発生するモデルインタラクションの3つの重要な領域に分類する。
我々は、対立する情報をより効果的に推論し、調整できる紛争対応NLPシステムの開発における重要な課題と今後の方向性を強調した。
論文 参考訳（メタデータ） (2025-04-28T04:24:01Z) - Retrieval-Augmented Generation with Conflicting Evidence [57.66282463340297]
大規模言語モデル (LLM) エージェントは、応答の事実性を改善するために、検索強化世代 (RAG) をますます採用している。
実際には、これらのシステムは曖昧なユーザクエリを処理し、複数のソースからの情報に衝突する可能性がある。
RAMDocs(Retrieval with Ambiguity and Misinformation in Documents)は,ユーザクエリのエビデンスを矛盾させるような,複雑で現実的なシナリオをシミュレートする新しいデータセットである。
論文 参考訳（メタデータ） (2025-04-17T16:46:11Z) - DoYouTrustAI: A Tool to Teach Students About AI Misinformation and Prompt Engineering [2.3020018305241337]
DoYouTrustAIは、学生が主要な歴史人物に関するLLM応答で誤解を招く情報を識別することで批判的思考を強化するウェブベースのアプリケーションである。
このツールは、ユーザーがテストに慣れ親しんだ個人を選び、ランダムな推測を減らし、既知の事実と共に誤情報を提示し、信頼性を維持する。
また、AI応答に異なるプロンプトがどのように影響するかを示すために、事前に設定されたプロンプト命令も提供する。
論文 参考訳（メタデータ） (2025-03-22T19:11:57Z) - Open Domain Question Answering with Conflicting Contexts [55.739842087655774]
あいまいでオープンなドメインの質問の25%は、Google Searchを使って検索すると、コンフリクトのあるコンテキストにつながります。
我々はアノテータに正しい回答の選択についての説明を依頼する。
論文 参考訳（メタデータ） (2024-10-16T07:24:28Z) - ECon: On the Detection and Resolution of Evidence Conflicts [56.89209046429291]
大規模言語モデル(LLM)の台頭は意思決定システムにおける情報の質に大きな影響を与えている。
本研究では,実世界の誤情報シナリオをシミュレートするために,多様で検証された証拠衝突を生成する手法を提案する。
論文 参考訳（メタデータ） (2024-10-05T07:41:17Z) - Quriosity: Analyzing Human Questioning Behavior and Causal Inquiry through Curiosity-Driven Queries [92.1651731484397]
本稿では,3つの情報源から自然発生の13.5Kの質問を集めたQuriosityを紹介する。
分析の結果,データセットに因果的疑問(最大42%)が存在することが明らかとなった。
論文 参考訳（メタデータ） (2024-05-30T17:55:28Z) - Untangle the KNOT: Interweaving Conflicting Knowledge and Reasoning Skills in Large Language Models [51.72963030032491]
大規模言語モデル(LLM)の知識文書は、時代遅れや誤った知識のためにLLMの記憶と矛盾する可能性がある。
我々は,知識紛争解決のための新しいデータセットKNOTを構築した。
論文 参考訳（メタデータ） (2024-04-04T16:40:11Z) - Search Engines Post-ChatGPT: How Generative Artificial Intelligence
Could Make Search Less Reliable [2.7557703490816268]
我々は、生成人工知能(GenAI)が生成したコンテンツを生成、インデックス化、配布し始めるにつれて、検索エンジンの進化する性質について議論する。
我々の議論は、GenAI統合の初期段階、特に事実上の矛盾とバイアスに関する課題を強調します。
論文 参考訳（メタデータ） (2024-02-18T21:10:18Z) - War and Peace (WarAgent): Large Language Model-based Multi-Agent
Simulation of World Wars [40.489161847202325]
LLMを利用したマルチエージェントAIシステムである textbfWarAgent を提案する。
シミュレーションの有効性を評価することにより,最先端AIシステムの能力の進歩と限界を検討する。
我々の発見は、紛争解決と平和維持戦略にどのようにアプローチするかを再定義する、データ駆動およびAIによる洞察を提供する。
論文 参考訳（メタデータ） (2023-11-28T20:59:49Z) - On the Risk of Misinformation Pollution with Large Language Models [127.1107824751703]
本稿では,現代大規模言語モデル (LLM) の誤用の可能性について検討する。
本研究は, LLMが効果的な誤情報発生器として機能し, DOQAシステムの性能が著しく低下することを明らかにする。
論文 参考訳（メタデータ） (2023-05-23T04:10:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。