論文の概要: Counter-GEO-Bench: Evaluating Defenses Against Information-Distorting Generative Engine Optimization

• arxiv url: http://arxiv.org/abs/2609.02316v1
• Date: Wed, 02 Sep 2026 09:01:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-03 17:53:18.208728
• Title: Counter-GEO-Bench: Evaluating Defenses Against Information-Distorting Generative Engine Optimization
• Title（参考訳）: Counter-GEO-Bench: 情報歪み生成エンジン最適化に対する防御評価
• Abstract要約: 生成エンジン最適化(GEO)により、コンテンツ制作者は生成検索エンジンにおけるWebページの可視性を高めることができる。 同じ手法は、敵が通常のGEO最適化文書を公開する際に、ターゲットとなる偽情報を提供することができる。 我々は,情報保存と情報歪曲GEO書き換えを合わせて,247個の人間認証された高品質なクエリをペアリングする防衛ベンチマークであるCounter-GEO-Benchを提案する。
• 参考スコア（独自算出の注目度）: 48.93628521719709
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Generative engine optimization (GEO) enables content producers to increase the visibility of their web pages in generative search engines, but the same techniques can deliver targeted misinformation when adversaries publish ordinary-looking GEO-optimized documents that victim large language models (LLMs) retrieve and synthesize into distorted answers. No existing benchmark evaluates defenses against this threat under controlled conditions. Therefore, we present Counter-GEO-Bench, a defense benchmark that pairs 247 human-verified, quality-gated queries with information-preserving and information-distorting GEO rewrites, and evaluates defenses on attack success rate (ASR), false positive rate, and answer quality across three victim LLMs. Under Counter-GEO-Bench, three off-the-shelf defenses (Granite Guardian, Llama Guard 3, and NeMo Self-Check Fact-Checking) reduce ASR by at most 5.7% relative, while Granite Guardian's reduction is not statistically significant. Safety-taxonomy guardrails target policy violations, while GEO misinformation passes through them as fluent informational content. To this end, a lightweight benchmark baseline, C-GEO Guard, is proposed, reducing ASR by 47.6% relative with near-zero utility loss, which proves threat tractable.
• Abstract（参考訳）: 生成エンジン最適化(GEO)により、コンテンツ制作者は、生成検索エンジンにおけるWebページの可視性を高めることができるが、敵が通常見えやすいGEO最適化文書を公開して、大きな言語モデル(LLM)を犠牲にし、歪んだ回答を合成することで、ターゲットの誤情報を配信することができる。 既存のベンチマークでは、制御された条件下でのこの脅威に対する防御を評価していません。 そこで本研究では,情報保存および情報歪曲型GEOリライトと,247個の人体認証された高品質なクエリを組み合わせ,攻撃成功率(ASR),偽陽性率,回答品質を3つのLLMで評価する防衛ベンチマークであるCounter-GEO-Benchを提案する。 反GEOベンチの下では、3つのオフ・ザ・シェルフ・ディフェンス(グラナイト・ガーディアン、ラマ・ガード3、ネモ・セルフチェック・ファクト・チェッキング)がASRを少なくとも5.7%減少させ、グラナイト・ガーディアンの削減は統計的に有意なものではない。 安全タコノミー・ガードレールは政策違反を標的としており、GEOの誤報は、それらを通して流動的な情報コンテンツとして受け継がれている。 この目的のために、軽量なベンチマークベースラインであるC-GEO Guardが提案されている。

関連論文リスト

• When Optimization Becomes Manipulation: Defending Generative Search against Malicious Generative Engine Optimization [3.9144095238039855]
  本稿では,悪意のある生成エンジン最適化(GEO)に対する生成検索エンジンの防御に焦点をあてる。 近年のGEO法は手作りの書き換えから自動およびエージェント最適化まで進歩している。 本稿では,攻撃チェーンに沿う2段階の防御機構であるGEO Defenderを提案する。
  論文  参考訳（メタデータ） (2026-09-02T07:13:40Z)
• RAGSentinel: Certifiable Geometric Consensus for Robust Retrieval-Augmented Generation [9.458292549037155]
  我々は,ブラックボックスRAGシステムのための,トレーニング不要でラベルのない防衛システムであるRAGSentinelを提案する。 RaGSentinelは、競争精度を維持しながら、攻撃の成功率の低下を一貫して達成する。
  論文  参考訳（メタデータ） (2026-08-25T01:44:07Z)
• SafeGEO: Understanding Generative Engine Optimization Risks in Recommendation Agents [13.658613657290166]
  本研究は,GEOにおいて,販売者が管理するソースを書き換えたときに,ユーティリティ・アラインな意思決定を推奨エージェントが保持するかどうかを検討する。 GEO攻撃が欠陥のあるターゲット製品を促進することを実証的に示す。 防御プロンプトや構造的証拠チェックを含む単純な防御は、有害な標的のプロモーションを最大39.2%削減する。
  論文  参考訳（メタデータ） (2026-06-08T22:40:08Z)
• GEO-Bench: Benchmarking Ranking Manipulation in Generative Engine Optimization [9.762893142689357]
  本稿では,GEOランキング操作攻撃を1つのプロトコルで評価するベンチマークであるGEO-Benchを提案する。 ブラックボックスのプロンプトベースの攻撃(TAP、ゼロショット)、ホワイトボックスのグラデーションベースの攻撃(STS、RAF、StealthRank)、ホワイトハットのC-SEO戦略を統一する。 固定されたオープンウェイトローダに対して、5つのデータセットですべてのメソッドをスコアします。
  論文  参考訳（メタデータ） (2026-05-27T21:10:43Z)
• AI Security Beyond Core Domains: Resume Screening as a Case Study of Adversarial Vulnerabilities in Specialized LLM Applications [71.27518152526686]
  大きな言語モデル(LLM)はテキストの理解と生成に優れており、コードレビューやコンテンツモデレーションといった自動タスクに最適である。 LLMは履歴書やコードなどの入力データに隠された「逆命令」で操作でき、意図したタスクから逸脱する。 本稿では,特定の攻撃タイプに対して80%以上の攻撃成功率を示すとともに,この脆弱性を再開スクリーニングで評価するためのベンチマークを提案する。
  論文  参考訳（メタデータ） (2025-12-23T08:42:09Z)
• External Data Extraction Attacks against Retrieval-Augmented Large Language Models [70.47869786522782]
  RAGは、大規模言語モデル(LLM)を拡張するための重要なパラダイムとして登場した。 RAGは外部データ抽出攻撃(EDEA)の新たなリスクを導入している。 本研究は, EDEA を検索拡張 LLM に対して形式化する最初の総合的研究である。
  論文  参考訳（メタデータ） (2025-10-03T12:53:45Z)
• Benchmarking Misuse Mitigation Against Covert Adversaries [80.74502950627736]
  既存の言語モデルの安全性評価は、オーバースト攻撃と低レベルのタスクに重点を置いている。 我々は、隠蔽攻撃と対応する防御の評価を自動化するデータ生成パイプラインである、ステートフルディフェンスのためのベンチマーク(BSD)を開発した。 評価の結果,分解攻撃は有効な誤用防止剤であり,その対策としてステートフルディフェンスを強調した。
  論文  参考訳（メタデータ） (2025-06-06T17:33:33Z)
• The Silent Saboteur: Imperceptible Adversarial Attacks against Black-Box Retrieval-Augmented Generation Systems [101.68501850486179]
  本稿では,RAGシステムに対する敵攻撃について検討し,その脆弱性を同定する。 このタスクは、ターゲット文書を検索する非知覚的な摂動を見つけることを目的としており、もともとはトップ$k$の候補セットから除外されていた。 本稿では、攻撃者とターゲットRAG間の相互作用を追跡する強化学習ベースのフレームワークであるReGENTを提案する。
  論文  参考訳（メタデータ） (2025-05-24T08:19:25Z)
• Hoist with His Own Petard: Inducing Guardrails to Facilitate Denial-of-Service Attacks on Retrieval-Augmented Generation of LLMs [8.09404178079053]
  Retrieval-Augmented Generation (RAG)は、Large Language Models (LLM)を外部の知識ベースと統合し、新たなセキュリティリスクを導入しながら出力品質を改善する。 RAGの脆弱性に関する既存の研究は、典型的には不正な知識や悪意のあるテキストを注入する検索メカニズムの活用に重点を置いており、誤った出力を誘導している。 本稿では, LLM の安全ガードレールの脆弱性を明らかにする。LLM の安全ガードレールは保護のために設計されているが, 敵による攻撃ベクトルとして利用することもできる。この脆弱性に基づいて, 本脆弱性を生かして, ガードレールの可利用性を損なうために, リバース・オブ・サービス・アタックである MutedRAG を提案する。
  論文  参考訳（メタデータ） (2025-04-30T14:18:11Z)
• SORRY-Bench: Systematically Evaluating Large Language Model Safety Refusal [64.9938658716425]
  SORRY-Benchは、安全でないユーザ要求を認識し拒否する大規模言語モデル(LLM)能力を評価するためのベンチマークである。 まず、既存の手法では、安全でないトピックの粗い分類を使い、いくつかのきめ細かいトピックを過剰に表現している。 第二に、プロンプトの言語的特徴とフォーマッティングは、様々な言語、方言など、多くの評価において暗黙的にのみ考慮されているように、しばしば見過ごされる。
  論文  参考訳（メタデータ） (2024-06-20T17:56:07Z)
• Improved Generation of Adversarial Examples Against Safety-aligned LLMs [72.38072942860309]
  勾配に基づく手法を用いて生成した敵対的プロンプトは、安全対応のLDMに対して自動ジェイルブレイク攻撃を行う際、優れた性能を示す。 本稿では,この問題に対する新たな視点を探求し,トランスファーベースの攻撃にインスパイアされたイノベーションを活用することで緩和できることを示唆する。 この組み合わせによって生成されたクエリ固有逆接接尾辞の87%がLlama-2-7B-Chatを誘導し、AdvBench上のターゲット文字列と正確に一致する出力を生成することを示した。
  論文  参考訳（メタデータ） (2024-05-28T06:10:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。