論文の概要: When Optimization Becomes Manipulation: Defending Generative Search against Malicious Generative Engine Optimization
- arxiv url: http://arxiv.org/abs/2609.02964v1
- Date: Wed, 02 Sep 2026 07:13:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-04 18:28:38.806273
- Title: When Optimization Becomes Manipulation: Defending Generative Search against Malicious Generative Engine Optimization
- Title（参考訳）: 最適化がマニピュレーションになるとき - 悪質な生成エンジン最適化に対するジェネレーティブ検索の回避
- Abstract要約: 本稿では,悪意のある生成エンジン最適化(GEO)に対する生成検索エンジンの防御に焦点をあてる。
近年のGEO法は手作りの書き換えから自動およびエージェント最適化まで進歩している。
本稿では,攻撃チェーンに沿う2段階の防御機構であるGEO Defenderを提案する。
- 参考スコア（独自算出の注目度）: 3.9144095238039855
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper focuses on defending generative search engines against malicious Generative Engine Optimization (GEO), which rewrites web documents to match engines' citation preferences and thereby manipulates generated answers. Recent GEO methods have advanced from hand-crafted rewriting to automated and agentic optimization, substantially increasing the visibility of target documents in generated answers. However, defending against such manipulation poses two major challenges: attack documents remain factually consistent with their originals, rendering fact verification and perplexity filtering ineffective, and the features they amplify equally characterize high-quality benign content. To address these limitations, we propose GEO Defender, a two-stage defense aligned with the attack chain that requires no fine-tuning of the target LLM. GEO Defender consists of Shield Reranker and Training-Free Shield Generation (TFSG). Specifically, Shield Reranker learns a preference-based defensive residual over a frozen base reranker, demoting GEO-rewritten documents while preserving relevance judgments, and TFSG distills defense outcomes into a natural-language experience library that guides the target LLM's source use at inference. Experiments on two state-of-the-art closed-source LLMs and three open-source LLMs across seven GEO attacks demonstrate that GEO Defender reduces the average attack success rate from 50.32% to 6.20%, retains 94.12% of benign-evidence use, preserves answer quality, and generalizes to unseen attacks from construction instances.
- Abstract（参考訳）: 本稿では,生成検索エンジンを悪意のある生成エンジン最適化 (GEO) から保護することに焦点を当て,Webドキュメントをエンジンの引用好みに合わせるように書き直し,生成した回答を操作する。
近年のGEO法は手書きの書き換えから自動的・エージェント的最適化へと進歩し,生成した回答における対象文書の視認性を大幅に向上させた。
しかし、このような操作に対する防御には2つの大きな課題がある:攻撃文書は元のものと事実上一致しておらず、事実検証とパープレキシティフィルタリングは効果がない。
これらの制限に対処するため,攻撃チェーンに整合した2段階の防御機構であるGEO Defenderを提案する。
GEO DefenderはShield RerankerとTraining-Free Shield Generation (TFSG)で構成されている。
具体的には、Shield Rerankerは、凍結したベースリランカ上の好みに基づく防御残差を学習し、関連性判定を保ちながらGEOで書き直された文書を復号し、TFSGは、目標LLMのソース使用を推論時にガイドする自然言語体験ライブラリに防衛結果を蒸留する。
GEO攻撃7件にわたる2つの最先端のクローズドソースLDMと3つのオープンソースLDMの実験では、GEO Defenderは平均攻撃成功率を50.32%から6.20%に下げ、良識使用の94.12%を維持し、回答の品質を保ち、建設現場からの未確認攻撃に一般化している。
関連論文リスト
- Counter-GEO-Bench: Evaluating Defenses Against Information-Distorting Generative Engine Optimization [48.93628521719709]
生成エンジン最適化(GEO)により、コンテンツ制作者は生成検索エンジンにおけるWebページの可視性を高めることができる。
同じ手法は、敵が通常のGEO最適化文書を公開する際に、ターゲットとなる偽情報を提供することができる。
我々は,情報保存と情報歪曲GEO書き換えを合わせて,247個の人間認証された高品質なクエリをペアリングする防衛ベンチマークであるCounter-GEO-Benchを提案する。
論文 参考訳（メタデータ） (2026-09-02T09:01:51Z) - AutoDojo: Adaptive Black-Box Attacks Reveal the Limits of IPI Defenses and Task-Specification Effects in LLM Agents [57.34566159148893]
間接的プロンプトインジェクション(IPI)は、LLMを動力とするエージェントに対する主要なセキュリティ脅威である。
我々は、特定の防御に対してIPIを最適化するAgentDojoの適応的な拡張であるAutoDojoを開発した。
論文 参考訳（メタデータ） (2026-06-13T02:09:08Z) - GEO-Bench: Benchmarking Ranking Manipulation in Generative Engine Optimization [9.762893142689357]
本稿では,GEOランキング操作攻撃を1つのプロトコルで評価するベンチマークであるGEO-Benchを提案する。
ブラックボックスのプロンプトベースの攻撃(TAP、ゼロショット)、ホワイトボックスのグラデーションベースの攻撃(STS、RAF、StealthRank)、ホワイトハットのC-SEO戦略を統一する。
固定されたオープンウェイトローダに対して、5つのデータセットですべてのメソッドをスコアします。
論文 参考訳（メタデータ） (2026-05-27T21:10:43Z) - TwinGate: Stateful Defense against Decompositional Jailbreaks in Untraceable Traffic via Asymmetric Contrastive Learning [60.68349524623048]
分解されたジェイルブレイクは、大きな言語モデルにとって重大な脅威となる。
我々はステートフルなデュアルエンコーダ防御フレームワークであるTwinGateを紹介する。
我々は、8600の異なる悪意のある意図にまたがる360万以上の命令の包括的なデータセットを構築した。
論文 参考訳（メタデータ） (2026-04-30T13:44:01Z) - Immunizing 3D Gaussian Generative Models Against Unauthorized Fine-Tuning via Attribute-Space Traps [54.68389949880821]
本稿では,3次元生成モデルを微調整攻撃から守るためのフレームワークであるGaussLockを提案する。
GassLockは、認可された蒸留と、位置、スケール、回転、不透明度、色をターゲットにした属性対応トラップ損失を統合する。
実験により、ガウスロックは無許可の微調整攻撃を効果的に中和することが示された。
論文 参考訳（メタデータ） (2026-04-06T09:30:49Z) - Investigating the Vulnerability of LLM-as-a-Judge Architectures to Prompt-Injection Attacks [0.0]
大規模言語モデル (LLM) は、機械生成テキストの品質を評価するための評価器 (LLM-as-a-Judge) としてますます採用されている。
本稿では,LPM-as-a-Judgeアーキテクチャの早期注入攻撃に対する脆弱性について検討する。
論文 参考訳（メタデータ） (2025-05-19T16:51:12Z) - Towards Copyright Protection for Knowledge Bases of Retrieval-augmented Language Models via Reasoning [58.57194301645823]
大規模言語モデル(LLM)は、現実のパーソナライズされたアプリケーションにますます統合されている。
RAGで使用される知識基盤の貴重かつしばしばプロプライエタリな性質は、敵による不正使用のリスクをもたらす。
これらの知識基盤を保護するための透かし技術として一般化できる既存の方法は、一般的に毒やバックドア攻撃を含む。
我々は、無害な」知識基盤の著作権保護の名称を提案する。
論文 参考訳（メタデータ） (2025-02-10T09:15:56Z) - TrustRAG: Enhancing Robustness and Trustworthiness in Retrieval-Augmented Generation [31.231916859341865]
TrustRAGは、生成のために取得される前に、悪意のある、無関係なコンテンツを体系的にフィルタリングするフレームワークである。
TrustRAGは、検索精度、効率、攻撃抵抗を大幅に改善する。
論文 参考訳（メタデータ） (2025-01-01T15:57:34Z) - ShadowCode: Towards (Automatic) External Prompt Injection Attack against Code LLMs [56.46702494338318]
本稿では,コード指向の大規模言語モデルに対する(自動)外部プロンプトインジェクションという,新たな攻撃パラダイムを紹介する。
コードシミュレーションに基づいて誘導摂動を自動生成する,シンプルで効果的な方法であるShadowCodeを提案する。
3つの人気のあるプログラミング言語にまたがる31の脅威ケースを発生させるため、13の異なる悪意のある目標に対して本手法を評価した。
論文 参考訳（メタデータ） (2024-07-12T10:59:32Z) - Phantom: General Backdoor Attacks on Retrieval Augmented Language Generation [44.74112207662136]
Retrieval Augmented Generation (RAG)は、現代の大規模言語モデル(LLM)の機能を拡張する
本稿では,RAGシステムの知識ベースに悪意ある文書を1つだけ注入し,バックドア中毒攻撃を実施できる新たな攻撃法を提案する。
論文 参考訳（メタデータ） (2024-05-30T21:19:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。