論文の概要: Is Deep Research Reliable? Misleading Knowledge Induces False Conclusions
- arxiv url: http://arxiv.org/abs/2607.20891v1
- Date: Thu, 23 Jul 2026 03:28:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-24 18:26:25.270524
- Title: Is Deep Research Reliable? Misleading Knowledge Induces False Conclusions
- Title（参考訳）: 深層研究は信頼できるか? 誤解を招く知識は偽の結束を引き起こす
- Abstract要約: MisKnow-Agentは、Deep Researchタスクのための誤解を招く知識の構築と検証のためのフレームワークである。
最終報告では,誤解を招く知識の露出に制限がある場合さえも,虚偽の結束が引き起こされることが示唆された。
以上の結果から,信頼性の高いDeep Researchには,モデルレベルとフレームワークレベルの両方で証拠検証と修正能力が必要であることが示唆された。
- 参考スコア（独自算出の注目度）: 9.637869857678925
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep Research agents extend LLM-based assistants into long-horizon workflows involving planning, retrieval, evidence synthesis, and report generation, yet their reliability in open information environments remains underexplored. A key concern is whether apparently credible but factually misleading knowledge encountered in such environments can propagate through these workflows and be adopted as false conclusions in final reports. To study this failure mode, we introduce MisKnow-Agent, a framework for constructing and validating misleading knowledge for Deep Research tasks. MisKnow-Agent generates misleading instances with controllable authority levels and styles, yielding 5,933 quality-controlled instances built on DeepResearch Benchmark tasks. Extensive experiments across open-source and closed-source Deep Research agents show that even limited exposure to misleading knowledge can induce false-conclusion adoption in final reports, revealing a broad reliability vulnerability in current Deep Research agents. Although search-enabled verifier models consistently identify the retained instances as misleading during focused corpus validation, the same instances can still be adopted during long-horizon research, revealing a disconnect between focused verification and workflow-level evidence use. Finally, we evaluate pre- and post-research defenses, both individually and in combination, finding that all three configurations mitigate but do not fully prevent false-conclusion adoption. Our findings suggest that reliable Deep Research requires evidence verification and correction capabilities at both the model and framework levels, beyond improvements in planning, retrieval, evidence integration, or report-generation abilities.
- Abstract（参考訳）: Deep ResearchのエージェントはLSMベースのアシスタントを、計画、検索、エビデンス合成、レポート生成を含む長期のワークフローに拡張するが、オープンな情報環境における信頼性は未調査である。
重要な懸念は、そのような環境で遭遇した事実的に誤解を招く知識が、これらのワークフローを通じて伝播し、最終報告で誤った結論として採用されるかどうかである。
この障害モードを研究するために,Deep Researchタスクの誤解を招く知識の構築と検証を行うフレームワークであるMisKnow-Agentを紹介した。
MisKnow-Agentはコントロール可能な権限レベルとスタイルを持つ誤解を招くインスタンスを生成し、DeepResearch Benchmarkタスク上に構築された5,933の品質管理インスタンスを生成する。
オープンソースおよびクローズドソースのDeep Researchエージェントにわたる大規模な実験は、誤解を招く知識に限定しても最終報告では偽の結束を招きかねないことを示し、現在のDeep Researchエージェントの幅広い信頼性の脆弱性を明らかにしている。
検索可能な検証モデルは、保持されているインスタンスを、集中型コーパス検証において誤解を招くものとして一貫して識別するが、同じインスタンスは、長期にわたる研究で採用され、集中型検証とワークフローレベルのエビデンスの使用との間に断絶が明らかになる。
最後に,3つの構成がすべて緩和されるが,偽結語導入を完全に防止できないことを発見した。
以上の結果から,信頼度の高いDeep Researchには,計画,検索,エビデンス統合,レポートジェネレーション能力以外の,モデルおよびフレームワークレベルでの証拠検証と補正能力が必要であることが示唆された。
関連論文リスト
- DRNOISE: Benchmarking Deep Research Agents in Misleading Evidence Environments [51.049999642138]
誤解を招く証拠の下で、回答回復のための100タスクのベンチマークであるDRNOISEを紹介する。
それぞれのタスクは、2つの間接的レコードチェーンが支持する固有の金の答えを持ち、ペアのノイズ条件は競合する答えを直接記述する1つのもっともらしい文書を付加する。
強いクリーンタスク性能を持つエージェント全体で、この単一の介入は66-88ポイントの精度低下を引き起こす。
論文 参考訳（メタデータ） (2026-07-19T15:20:40Z) - DeepStress: Stress-Testing Deep Search Agents [0.0]
本稿では,探索エージェントの検索モジュールを制御された合成環境に置き換えることで,挑戦的証拠の頻度を制御するストレステストフレームワークを提案する。
このフレームワークは、信頼性、妥当性、事実性という、ドキュメントの信頼性に影響を与える3つの次元を制御するために使われます。
エージェントは信頼できない情報を扱う能力にかなりの違いを示し、システムの結果を文書化する新しい指標を提案する。
論文 参考訳（メタデータ） (2026-07-15T14:59:29Z) - Where Do Deep-Research Agents Go Wrong? Span-Level Error Localization in Agent Trajectories [51.22051230894794]
最終回答に基づく評価は、エージェントが成功するかどうかを示すが、どの部分の軌道が答えを信頼できないかを示すものではない。
2つのエージェントフレームワーク、3つのバックボーンモデル、3つのベンチマークから2,790の実際のトラジェクトリを収集し、生ログをセマンティックスパンに変換し、エキスパートレビューを通じて有害なエラースパンを注釈付けします。
我々は,エージェントの主張を追跡するクレーム中心の監査フレームワークであるDRIFTを提案する。
論文 参考訳（メタデータ） (2026-06-01T10:50:26Z) - Dont Stop Early: Scalable Enterprise Deep Research with Controlled Information Flow and Evidence-Aware Termination [48.39579693613492]
エンタープライズディープリサーチは、不均一な情報カバレッジ、コンテキストの爆発、早めの停止によって、意思決定可能なレポートを作成できないことが多い。
これらの障害に対処するスケーラブルなエンタープライズディープリサーチアーキテクチャを提案する。
論文 参考訳（メタデータ） (2026-04-27T20:31:27Z) - Towards Trustworthy Report Generation: A Deep Research Agent with Progressive Confidence Estimation and Calibration [2.8268726984243497]
本稿では,レポート生成パイプライン内でのプログレッシブな信頼度推定とキャリブレーションを取り入れた新しいディープリサーチエージェントを提案する。
実験結果とケーススタディにより,本手法は解釈可能性を大幅に向上し,ユーザ信頼を著しく向上させることが示された。
論文 参考訳（メタデータ） (2026-04-07T14:46:26Z) - FactReview: Evidence-Grounded Reviews with Literature Positioning and Execution-Based Claim Verification [57.196748998757954]
本稿では,クレーム抽出,文献位置決定,実行に基づくクレーム検証を組み合わせたエビデンスベースレビューシステムであるFactReviewを紹介する。
FactReviewは論文を提出すると、主要なクレームを特定し、その結果を報告し、論文の技術的な位置を明らかにするために近くの作業を取り出し、コードが利用可能であれば、リリースされたリポジトリを実行する。
その後、簡潔なレビューと、主要な請求を5つのラベルのうち1つに割り当てるエビデンスレポートを生成する。
論文 参考訳（メタデータ） (2026-04-05T11:45:22Z) - Leveraging LLM Parametric Knowledge for Fact Checking without Retrieval [60.25608870901428]
信頼性は、大規模言語モデル(LLM)上に構築されたエージェントAIシステムの中核研究課題である
本研究では,任意の自然言語クレームの検証に焦点をあて,検索なしで事実チェックを行うタスクを提案する。
論文 参考訳（メタデータ） (2026-03-05T18:42:51Z) - Multi-Sourced, Multi-Agent Evidence Retrieval for Fact-Checking [47.47518672198846]
インターネット上に拡散する誤報は、社会と個人の両方に重大な脅威をもたらす。
これまでの方法は、トレーニングデータから学んだ意味的パターンと社会的コンテキスト的パターンに依存していた。
我々は、証拠のコアリソースとして認証されたオープンナレッジグラフを利用するWKGFCを提案する。
論文 参考訳（メタデータ） (2026-02-27T19:29:01Z) - From Fluent to Verifiable: Claim-Level Auditability for Deep Research Agents [8.49451413641847]
研究生成が安価になるにつれて、監査可能性がボトルネックになる、と我々は主張する。
この観点からは,ディープリサーチエージェントの第一級設計および評価対象として,クレームレベルの監査性を提案する。
論文 参考訳（メタデータ） (2026-02-14T19:39:15Z) - AgentCPM-Report: Interleaving Drafting and Deepening for Open-Ended Deep Research [85.51475655916026]
AgentCPM-Reportは軽量だが高性能なローカルソリューションで、人間の記述プロセスを反映したフレームワークで構成されている。
我々のフレームワークは、モデルがアウトラインを動的に修正できるWARP(Writeing As Reasoning Policy)を使用している。
DeepResearch Bench、DeepConsult、DeepResearch Gymの実験は、AgentCPM-Reportが主要なクローズドソースシステムより優れていることを示した。
論文 参考訳（メタデータ） (2026-02-06T09:45:04Z) - How Far Are We from Genuinely Useful Deep Research Agents? [48.596990593729]
Deep Research Agents (DRA) は、反復的な情報検索と合成によってアナリストレベルのレポートを自動的に生成することを目的としている。
レポート合成の現在のベンチマークは、タスクの複雑さと主観的なメトリクスに悩まされている。
我々は,100個の人為的な研究タスクからなる改良されたベンチマークであるFINDER(FinDER)について述べる。
論文 参考訳（メタデータ） (2025-12-01T17:58:59Z) - WebWeaver: Structuring Web-Scale Evidence with Dynamic Outlines for Open-Ended Deep Research [73.58638285105971]
本稿では,AIエージェントが膨大なWebスケール情報を洞察に富むレポートに合成しなければならない複雑な課題であるtextbfopen-ended Deep Research (OEDR) に取り組む。
人間の研究プロセスをエミュレートする新しいデュアルエージェントフレームワークである textbfWebWeaver を紹介する。
私たちのフレームワークは、DeepResearch Bench、DeepConsult、DeepResearchGymなど、主要なOEDRベンチマークにまたがる最先端の新たなベンチマークを確立しています。
論文 参考訳（メタデータ） (2025-09-16T17:57:21Z) - DeepTRACE: Auditing Deep Research AI Systems for Tracking Reliability Across Citations and Evidence [50.97612134791782]
生成検索エンジンと深層研究のLLMエージェントは、信頼できるソース・グラウンドの合成を約束するが、ユーザーは常に過剰な自信、弱いソーシング、紛らわしい引用の慣行に遭遇する。
DeepTRACEは、社会技術的に基礎をおく新しい監査フレームワークで、コミュニティが特定した失敗事例を、回答テキスト、情報源、引用にまたがる8つの測定可能な次元に変換する。
論文 参考訳（メタデータ） (2025-09-02T00:32:38Z) - Information Retrieval Induced Safety Degradation in AI Agents [52.15553901577888]
本研究では,検索アクセスの拡大がモデル信頼性,バイアス伝搬,有害コンテンツ生成に与える影響について検討した。
整列 LLM 上に構築された検索可能なエージェントは、検索なしでの無検閲モデルよりも安全でない振る舞いをすることが多い。
これらの発見は、検索可能でますます自律的なAIシステムの公正性と信頼性を確保するための堅牢な緩和戦略の必要性を浮き彫りにしている。
論文 参考訳（メタデータ） (2025-05-20T11:21:40Z) - Contrastive Learning to Improve Retrieval for Real-world Fact Checking [84.57583869042791]
ファクト・チェッキング・リランカ(Contrastive Fact-Checking Reranker, CFR)を提案する。
我々はAVeriTeCデータセットを活用し、証拠文書からの人間による回答とクレームのサブクエストを注釈付けする。
データセットの精度は6%向上した。
論文 参考訳（メタデータ） (2024-10-07T00:09:50Z) - Deepfake Detection: A Comprehensive Survey from the Reliability Perspective [20.873480187150804]
キノコ入りのDeepfake合成材料がインターネット上に流通し、政治家、有名人、そして世界中の個人に深刻な社会的影響を与えている。
現在のDeepfake検出領域では、トランスファービリティ、解釈可能性、堅牢性という、信頼性を重視した3つの研究課題を識別する。
論文 参考訳（メタデータ） (2022-11-20T06:31:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。