論文の概要: Is Deep Research Reliable? Misleading Knowledge Induces False Conclusions
- arxiv url: http://arxiv.org/abs/2607.20891v2
- Date: Thu, 30 Jul 2026 04:45:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-31 12:52:12.24519
- Title: Is Deep Research Reliable? Misleading Knowledge Induces False Conclusions
- Title（参考訳）: 深層研究は信頼できるか? 誤解を招く知識は偽の結束を引き起こす
- Authors: Pengyu Zhu, Lijun Li, Longju Yang, Sen Su, Jing Shao,
- Abstract要約: ディープ・リサーチ・エージェントは、反復的に計画し、証拠を回収し、報告を作成することで、長期調査を行う。
明らかに信用できるが、事実としてこれらの防衛に導入された偽情報に抵抗できるかどうかは不明だ。
MisKnow-Agentは、手作業による偽結論の監査を支援するタスク固有文書を構築するフレームワークである。
- 参考スコア（独自算出の注目度）: 29.22067195388263
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep Research agents conduct long-horizon investigations by iteratively planning, retrieving evidence, and generating reports. However, it remains unclear whether they can resist apparently credible but factually false information introduced into these workflows. To study this failure mode, we introduce MisKnow-Agent, a controlled evaluation framework that constructs task-specific documents supporting manually audited false conclusions with controlled authority cues and source styles. Applied to the tasks from DeepResearch Bench, it generates 5,933 misleading documents after filtering. We evaluate DeerFlow and WebThinker with three backbone LLMs, together with Gemini Deep Research, using a report-level false-conclusion adoption rate (FCAR) that counts only reports endorsing the false conclusion. Across the configurations, introducing one misleading document increases the mean FCAR from 0\% in the no-injection control to 54.7\%. FCAR varies substantially with lifecycle stage and framework design, and also with source authority and presentation style, whereas search-result rank and additional documents beyond the first have limited influence. Although cross-model verification consistently classifies retained instances as misleading, Deep Research agents can still adopt the corresponding false conclusions during long-horizon research. Pre- and post-research defenses reduce FCAR but do not eliminate adoption, motivating continuous verification when evidence enters intermediate research states and final synthesis. To facilitate reproducibility, our code and dataset are publicly available at https://github.com/whfeLingYu/MisKnow-Agent and https://huggingface.co/datasets/whfeLingYu/Misleading_Knowledge, respectively.
- Abstract（参考訳）: ディープ・リサーチ・エージェントは、反復的に計画し、証拠を回収し、報告を作成することで、長期調査を行う。
しかし、それらが明らかに信頼できるが、実際にこれらのワークフローに導入された情報に抵抗できるかどうかは不明だ。
この障害モードを研究するために、MisKnow-Agentという、制御された権威とソーススタイルで手動で偽結論を監査するタスク固有文書を構築する制御評価フレームワークを紹介した。
DeepResearch Benchのタスクに適用すると、フィルタリング後に5,933の誤解を招くドキュメントを生成する。
我々は,3つのバックボーンLLMを用いてDeerFlowとWebThinkerを評価し,報告レベルの偽コンクルージョン適用率(FCAR)を用いて,偽結論を裏付ける報告のみを数えた。
構成全体にわたって、1つの誤解を招く文書を導入すると、非注入制御における平均FCARは0\%から54.7\%に増加する。
FCARは、ライフサイクルステージやフレームワーク設計、ソースオーソリティやプレゼンテーションスタイルなどによって大きく異なるが、検索のリサートやドキュメントの追加は影響を限定している。
クロスモデル検証は、保持されているインスタンスを誤解を招くものとして一貫して分類するが、Deep Researchのエージェントは、長期的な研究において、対応する偽の結論を採用することができる。
事前および後の研究防御はFCARを減少させるが、FCARの採用を排除せず、証拠が中間研究状態に入り最終合成が始まると継続的な検証を動機づける。
再現性を促進するため、私たちのコードとデータセットはhttps://github.com/whfeLingYu/MisKnow-Agentとhttps://huggingface.co/datasets/whfeLingYu/Misleading_Knowledgeで公開されています。
関連論文リスト
- DeepStress: Stress-Testing Deep Search Agents [0.0]
本稿では,探索エージェントの検索モジュールを制御された合成環境に置き換えることで,挑戦的証拠の頻度を制御するストレステストフレームワークを提案する。
このフレームワークは、信頼性、妥当性、事実性という、ドキュメントの信頼性に影響を与える3つの次元を制御するために使われます。
エージェントは信頼できない情報を扱う能力にかなりの違いを示し、システムの結果を文書化する新しい指標を提案する。
論文 参考訳（メタデータ） (2026-07-15T14:59:29Z) - Dont Stop Early: Scalable Enterprise Deep Research with Controlled Information Flow and Evidence-Aware Termination [48.39579693613492]
エンタープライズディープリサーチは、不均一な情報カバレッジ、コンテキストの爆発、早めの停止によって、意思決定可能なレポートを作成できないことが多い。
これらの障害に対処するスケーラブルなエンタープライズディープリサーチアーキテクチャを提案する。
論文 参考訳（メタデータ） (2026-04-27T20:31:27Z) - Towards Trustworthy Report Generation: A Deep Research Agent with Progressive Confidence Estimation and Calibration [2.8268726984243497]
本稿では,レポート生成パイプライン内でのプログレッシブな信頼度推定とキャリブレーションを取り入れた新しいディープリサーチエージェントを提案する。
実験結果とケーススタディにより,本手法は解釈可能性を大幅に向上し,ユーザ信頼を著しく向上させることが示された。
論文 参考訳（メタデータ） (2026-04-07T14:46:26Z) - Leveraging LLM Parametric Knowledge for Fact Checking without Retrieval [60.25608870901428]
信頼性は、大規模言語モデル(LLM)上に構築されたエージェントAIシステムの中核研究課題である
本研究では,任意の自然言語クレームの検証に焦点をあて,検索なしで事実チェックを行うタスクを提案する。
論文 参考訳（メタデータ） (2026-03-05T18:42:51Z) - From Fluent to Verifiable: Claim-Level Auditability for Deep Research Agents [8.49451413641847]
研究生成が安価になるにつれて、監査可能性がボトルネックになる、と我々は主張する。
この観点からは,ディープリサーチエージェントの第一級設計および評価対象として,クレームレベルの監査性を提案する。
論文 参考訳（メタデータ） (2026-02-14T19:39:15Z) - AgentCPM-Report: Interleaving Drafting and Deepening for Open-Ended Deep Research [85.51475655916026]
AgentCPM-Reportは軽量だが高性能なローカルソリューションで、人間の記述プロセスを反映したフレームワークで構成されている。
我々のフレームワークは、モデルがアウトラインを動的に修正できるWARP(Writeing As Reasoning Policy)を使用している。
DeepResearch Bench、DeepConsult、DeepResearch Gymの実験は、AgentCPM-Reportが主要なクローズドソースシステムより優れていることを示した。
論文 参考訳（メタデータ） (2026-02-06T09:45:04Z) - How Far Are We from Genuinely Useful Deep Research Agents? [48.596990593729]
Deep Research Agents (DRA) は、反復的な情報検索と合成によってアナリストレベルのレポートを自動的に生成することを目的としている。
レポート合成の現在のベンチマークは、タスクの複雑さと主観的なメトリクスに悩まされている。
我々は,100個の人為的な研究タスクからなる改良されたベンチマークであるFINDER(FinDER)について述べる。
論文 参考訳（メタデータ） (2025-12-01T17:58:59Z) - DeepTRACE: Auditing Deep Research AI Systems for Tracking Reliability Across Citations and Evidence [50.97612134791782]
生成検索エンジンと深層研究のLLMエージェントは、信頼できるソース・グラウンドの合成を約束するが、ユーザーは常に過剰な自信、弱いソーシング、紛らわしい引用の慣行に遭遇する。
DeepTRACEは、社会技術的に基礎をおく新しい監査フレームワークで、コミュニティが特定した失敗事例を、回答テキスト、情報源、引用にまたがる8つの測定可能な次元に変換する。
論文 参考訳（メタデータ） (2025-09-02T00:32:38Z) - Information Retrieval Induced Safety Degradation in AI Agents [52.15553901577888]
本研究では,検索アクセスの拡大がモデル信頼性,バイアス伝搬,有害コンテンツ生成に与える影響について検討した。
整列 LLM 上に構築された検索可能なエージェントは、検索なしでの無検閲モデルよりも安全でない振る舞いをすることが多い。
これらの発見は、検索可能でますます自律的なAIシステムの公正性と信頼性を確保するための堅牢な緩和戦略の必要性を浮き彫りにしている。
論文 参考訳（メタデータ） (2025-05-20T11:21:40Z) - Deepfake Detection: A Comprehensive Survey from the Reliability Perspective [20.873480187150804]
キノコ入りのDeepfake合成材料がインターネット上に流通し、政治家、有名人、そして世界中の個人に深刻な社会的影響を与えている。
現在のDeepfake検出領域では、トランスファービリティ、解釈可能性、堅牢性という、信頼性を重視した3つの研究課題を識別する。
論文 参考訳（メタデータ） (2022-11-20T06:31:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。