論文の概要: How Much Can We Trust LLM Search Agents? Measuring Endorsement Vulnerability to Web Content Manipulation

• arxiv url: http://arxiv.org/abs/2606.16821v1
• Date: Mon, 15 Jun 2026 15:05:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-16 18:36:05.066337
• Title: How Much Can We Trust LLM Search Agents? Measuring Endorsement Vulnerability to Web Content Manipulation
• Title（参考訳）: LLM検索エージェントをどの程度信頼できるか? Webコンテンツ操作に対する許容脆弱性の測定
• Authors: Yimeng Chen, Zhe Ren, Firas Laakom, Yu Li, Dandan Guo, Jürgen Schmidhuber,
• Abstract要約: 大言語モデル(LLM)ベースの検索エージェントは、オープンウェブコンテンツをユーザに代わって実行可能なレコメンデーションに合成する。 本稿では,LLM ベースの Web-search エージェントの支持汚職評価フレームワークである SearchGEO について紹介する。
• 参考スコア（独自算出の注目度）: 33.222165585824925
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language model (LLM)-based search agents synthesize open-web content into actionable recommendations on behalf of users, creating a risk that attacker-published pages are transformed into endorsed claims. We introduce SearchGEO, a controlled evaluation framework for measuring endorsement corruption in LLM-based web-search agents, combining a web-evidence manipulation pipeline, a five-mode attack taxonomy, and multiple output-level metrics. We evaluate 13 LLM backends on 308 cases each. Results show that vulnerability patterns vary across backends: overall attack success rate (ASR) ranges from 0.0% on Claude-Sonnet-4.6 to 31.4% on Gemini-3-Flash, the strongest attack mode differs by model family, and the same deployment scaffold could amplify or decrease ASR on different backends. An auxiliary agent-skill probe, where endorsement becomes an install command, exposes a sharp split among otherwise robust backends: Claude over-rejects while GPT over-trusts. These findings argue for treating recommendation reliability under adversarial search content as a first-class dimension of backend safety evaluation.
• Abstract（参考訳）: 大規模言語モデル(LLM)ベースの検索エージェントは、オープンウェブコンテンツをユーザに代わって行動可能なレコメンデーションに合成し、攻撃者が発行したページが承認されたクレームに変換されるリスクを生み出す。 本稿では,LLM ベースの Web-search エージェントにおいて,Web-evidence 操作パイプライン,5モード攻撃分類,複数の出力レベルメトリクスを組み合わせて,保証の破損を測定するための制御された評価フレームワークである SearchGEO を紹介する。 それぞれの症例308例について13のLSMバックエンドを評価した。 全体的な攻撃成功率(ASR)はClude-Sonnet-4.6で0.0%から、Gemini-3-Flashで31.4%まで、最強の攻撃モードはモデルファミリによって異なり、同じデプロイメントスキャフォールドがバックエンド上でASRを増幅または縮小する可能性がある。 承認がインストールコマンドになる補助エージェントスキルプローブは、他の堅牢なバックエンド間でシャープな分割を露呈する。 これらの結果は,バックエンドの安全性評価の第一級次元として,敵対的検索コンテンツ下でのレコメンデーション信頼性を論じるものである。

関連論文リスト

• From Attack Simulation to SIEM Rule: Deterministic Detection-as-Code Synthesis with Probe-Level Traceability [51.56484100374058]
  セキュリティチームは、自身のシステムに対する攻撃をシミュレートして、監視が真の侵入者を捕まえるかどうかをチェックする。 人間はそのギャップを手でブリッジし、それぞれの発見を読み、対応するシグマルールを書きます。 ロックされたコーパスからプローブが引き出されると,この変換が部分的に自動化されることを示す。
  論文  参考訳（メタデータ） (2026-06-03T14:26:25Z)
• Relevance as a Vulnerability: How Web Retrieval Degrades Safety Alignment in LLM Agents [2.905751301655124]
  本稿では,LLMエージェントの検索による安全性劣化を診断するフレームワークであるAgentREVEALを紹介する。 警告を含むページやリスク宣言を含むページなど,反対あるいは安全指向のソースであっても,有害なコンプライアンスを平均25%増加させることができることを示す。 関連性も検索に役立つので、これらの結果は検索可能なエージェントの安全利用トレードオフを露呈する。
  論文  参考訳（メタデータ） (2026-05-28T01:23:48Z)
• ClawSafety: "Safe" LLMs, Unsafe Agents [25.729388843970014]
  OpenClawのようなパーソナルAIエージェントは、ユーザのローカルマシンで高機能で動作する。 ClawSAFETYは、3次元(ハームドメイン、アタックベクター、有害アクションタイプ)に沿って編成された120の逆テストシナリオのベンチマークである。 各テストケースは、通常の作業中にエージェントが遭遇する3つのチャネルのうちの1つに、相手のコンテンツを埋め込む。
  論文  参考訳（メタデータ） (2026-04-01T22:24:24Z)
• The Trojan Knowledge: Bypassing Commercial LLM Guardrails via Harmless Prompt Weaving and Adaptive Tree Search [58.8834056209347]
  大規模言語モデル(LLM)は、有害な出力を誘導するために安全ガードレールをバイパスするジェイルブレイク攻撃に弱いままである。 CKA-Agent(Correlated Knowledge Attack Agent)は、ターゲットモデルの知識基盤の適応的木構造探索としてジェイルブレイクを再構成する動的フレームワークである。
  論文  参考訳（メタデータ） (2025-12-01T07:05:23Z)
• BrowserArena: Evaluating LLM Agents on Real-World Web Navigation Tasks [51.803138848305814]
  我々はBrowserArenaを紹介した。BrowserArenaは、ユーザから送信されたタスクを収集するオープンソースのエージェント評価プラットフォームである。 Captcha解決、ポップアップバナー削除、URLへのダイレクトナビゲーションの3つの一貫した障害モードを特定します。 本研究は,Webエージェントの多様性と脆性の両方を明らかにする。
  論文  参考訳（メタデータ） (2025-10-02T15:22:21Z)
• SafeSearch: Automated Red-Teaming for the Safety of LLM-Based Search Agents [63.70653857721785]
  我々は、低品質な検索結果の出現率と、エージェントの動作を誤る可能性を実証する2つの実験を行った。 この脅威に対処するため、私たちは、体系的、スケーラブルで、コスト効率のよい自動化されたレッドチームフレームワークを導入しました。
  論文  参考訳（メタデータ） (2025-09-28T07:05:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。