論文の概要: SafeGEO: Understanding Generative Engine Optimization Risks in Recommendation Agents
- arxiv url: http://arxiv.org/abs/2606.28356v1
- Date: Mon, 08 Jun 2026 22:40:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-05 17:01:29.594805
- Title: SafeGEO: Understanding Generative Engine Optimization Risks in Recommendation Agents
- Title（参考訳）: SafeGEO: 推奨エージェントにおける生成エンジン最適化リスクの理解
- Abstract要約: 本研究は,GEOにおいて,販売者が管理するソースを書き換えたときに,ユーティリティ・アラインな意思決定を推奨エージェントが保持するかどうかを検討する。
GEO攻撃が欠陥のあるターゲット製品を促進することを実証的に示す。
防御プロンプトや構造的証拠チェックを含む単純な防御は、有害な標的のプロモーションを最大39.2%削減する。
- 参考スコア（独自算出の注目度）: 13.658613657290166
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Generative Engine Optimization (GEO) lets content owners rewrite web content to increase their visibility in generative systems. In recommendation agents, this creates a risk that seller-controlled sources make flawed products appear better supported than they are. We study this risk by asking whether recommendation agents preserve utility-aligned decisions when seller-controlled sources are rewritten for GEO. To make this question measurable, we construct SafeGEO, an evaluation suite with 22 GEO attack variants across 600 recommendation cases. We empirically show that GEO attacks can promote flawed target products. On average, they increase the rate at which such flawed products enter the recommendation set by up to 83.2%. We further study whether agent-side design choices can mitigate this risk and show that simple defenses, including defensive prompting and structured evidence checks, reduce harmful target promotion by up to 39.2%. These gains are substantial but do not restore the no-GEO performance, showing that GEO remains a serious risk despite developer-side mitigation.
- Abstract（参考訳）: Generative Engine Optimization (GEO) は、コンテンツ所有者がWebコンテンツを書き換え、生成システムにおける可視性を高める。
レコメンデーションエージェントでは、これは売り手が管理するソースが、欠陥のある製品がそれよりもうまくサポートされているように見えるリスクを生じさせる。
本研究は,GEOにおいて,販売者が管理するソースを書き換えた場合に,リコメンデーション・エージェントがユーティリティ・アラインな意思決定を維持できるかどうかを問うことで,このリスクについて検討する。
この問題を測定可能にするために,600件の勧告事例を対象とした22のGEO攻撃変種を用いた評価スイートであるSafeGEOを構築した。
GEO攻撃が欠陥のあるターゲット製品を促進することを実証的に示す。
平均すると、これらの欠陥商品が83.2%まで設定されたレコメンデーションに入る確率が上がる。
さらに、エージェント側の設計選択がこのリスクを軽減することができるかどうかを検証し、防御的プロンプトや構造的エビデンスチェックを含む単純な防御策により、有害なターゲットの促進を最大39.2%削減できることを示す。
これらの利益は相当なものだが、非GEOのパフォーマンスは回復せず、開発者側による緩和にもかかわらず、GEOは深刻なリスクであることを示している。
関連論文リスト
- Counter-GEO-Bench: Evaluating Defenses Against Information-Distorting Generative Engine Optimization [48.93628521719709]
生成エンジン最適化(GEO)により、コンテンツ制作者は生成検索エンジンにおけるWebページの可視性を高めることができる。
同じ手法は、敵が通常のGEO最適化文書を公開する際に、ターゲットとなる偽情報を提供することができる。
我々は,情報保存と情報歪曲GEO書き換えを合わせて,247個の人間認証された高品質なクエリをペアリングする防衛ベンチマークであるCounter-GEO-Benchを提案する。
論文 参考訳（メタデータ） (2026-09-02T09:01:51Z) - When Optimization Becomes Manipulation: Defending Generative Search against Malicious Generative Engine Optimization [3.9144095238039855]
本稿では,悪意のある生成エンジン最適化(GEO)に対する生成検索エンジンの防御に焦点をあてる。
近年のGEO法は手作りの書き換えから自動およびエージェント最適化まで進歩している。
本稿では,攻撃チェーンに沿う2段階の防御機構であるGEO Defenderを提案する。
論文 参考訳（メタデータ） (2026-09-02T07:13:40Z) - GEO-Flag: Detecting and Measuring GEO-Optimized Web Content [21.05216177234399]
ジェネレーティブエンジン最適化(GEO)は、ジェネレーティブ検索エンジンによって選択され、引用される可能性を高めるために、Webコンテンツを変更する。
これにより、戦略的に最適化されたページが、その権威や関連性に不釣り合いに見え、弱い情報や偽の情報も十分にサポートされているように見える。
これらの懸念にもかかわらず、GEOに最適化されたWebページを検出する体系的手法はいまだ検討されていない。
論文 参考訳（メタデータ） (2026-08-17T17:12:11Z) - On-Policy Self-Evolution via Failure Trajectories for Agentic Safety Alignment [54.30690671490447]
既存の安全アライメント信号は、主に応答レベルまたは政治外である。
FATEは、検証済みの失敗を専門家のデモンストレーションなしで修復管理に変換する。
FATEは攻撃成功率を33.5%、有害なコンプライアンスを82.6%削減し、外的軌道安全診断を6.5%改善する。
論文 参考訳（メタデータ） (2026-05-12T09:56:28Z) - External Data Extraction Attacks against Retrieval-Augmented Large Language Models [70.47869786522782]
RAGは、大規模言語モデル(LLM)を拡張するための重要なパラダイムとして登場した。
RAGは外部データ抽出攻撃(EDEA)の新たなリスクを導入している。
本研究は, EDEA を検索拡張 LLM に対して形式化する最初の総合的研究である。
論文 参考訳（メタデータ） (2025-10-03T12:53:45Z) - Privacy Risks of LLM-Empowered Recommender Systems: An Inversion Attack Perspective [8.243745783644359]
従来のレコメンデーションシステムの限界に対処するために,LLM(Large Language Model)を利用したレコメンデーションパラダイムが提案されている。
この研究は、LLMが推奨システムに権限を与えると、システムとユーザのプライバシの両方を公開できるリコンストラクション攻撃に弱いことを明らかにした。
論文 参考訳（メタデータ） (2025-07-20T05:03:02Z) - WebGuard: Building a Generalizable Guardrail for Web Agents [59.31116061613742]
WebGuardは、Webエージェントアクションリスクの評価をサポートするために設計された最初のデータセットである。
その中には、22のドメインにわたる193のWebサイトからの4,939の人手によるアノテートアクションが含まれている。
論文 参考訳（メタデータ） (2025-07-18T18:06:27Z) - RiskRAG: A Data-Driven Solution for Improved AI Model Risk Reporting [4.375071270418409]
モデルカードのわずか14%がリスクについて言及しており、そのうち96%が小さなカードからコンテンツをコピーしている。
RiskRAGはRetrieval Augmented Generationベースのリスクレポートソリューションで、5つの設計要件がガイドされている。
RiskRAGは450Kのモデルカードと600の現実世界のインシデントから作成され、コンテキスト化されたリスクレポートをプリポレートする。
論文 参考訳（メタデータ） (2025-04-11T20:10:15Z) - Unsafe LLM-Based Search: Quantitative Analysis and Mitigation of Safety Risks in AI Web Search [20.796363884152466]
7 つの生産 AIPSE の安全リスク定量化を行う。
その結果,AIPSEは悪質なURLを含む有害なコンテンツを頻繁に生成することがわかった。
GPT-4.1ベースのコンテンツリファインメントツールとURL検出機能を備えたエージェントベースディフェンスを開発した。
論文 参考訳（メタデータ） (2025-02-07T14:15:46Z) - Towards More Robust Retrieval-Augmented Generation: Evaluating RAG Under Adversarial Poisoning Attacks [45.07581174558107]
Retrieval-Augmented Generation (RAG) システムは幻覚を緩和するための有望な解決策として登場した。
RAGシステムは、検索コーパスに注入された悪意のある通路が、モデルに誤った結果をもたらす可能性がある、敵の毒殺攻撃に対して脆弱である。
本稿では、RAGシステムがこのような攻撃下でどのように振る舞うか、その堅牢性がどのように改善されるかについて、厳密に制御された実証研究を示す。
論文 参考訳（メタデータ） (2024-12-21T17:31:52Z) - C-RAG: Certified Generation Risks for Retrieval-Augmented Language Models [57.10361282229501]
RAGモデルの生成リスクを認証する最初のフレームワークであるC-RAGを提案する。
具体的には、RAGモデルに対して共形リスク分析を行い、生成リスクの上限以上の信頼度を認定する。
検索モデルと変圧器の品質が非自明な場合, RAG は単一の LLM よりも低い共形生成リスクを達成できることを示す。
論文 参考訳（メタデータ） (2024-02-05T16:46:16Z) - Efficient Risk-Averse Reinforcement Learning [79.61412643761034]
リスク逆強化学習(RL)では、リターンのリスク測定を最適化することが目標である。
特定の条件下では、これは必然的に局所最適障壁につながることを証明し、それを回避するためのソフトリスク機構を提案する。
迷路ナビゲーション,自律運転,資源配分ベンチマークにおいて,リスク回避の改善を示す。
論文 参考訳（メタデータ） (2022-05-10T19:40:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。