論文の概要: Assessing Attack Surfaces in Generative Search Engines through Publisher Attributes: A Case Study in Political Domains

• arxiv url: http://arxiv.org/abs/2608.15814v1
• Date: Sun, 16 Aug 2026 15:43:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-18 19:59:03.431593
• Title: Assessing Attack Surfaces in Generative Search Engines through Publisher Attributes: A Case Study in Political Domains
• Title（参考訳）: 出版社属性による生成検索エンジンの攻撃面の評価--政治領域を事例として
• Abstract要約: 生成検索エンジン(GSE)の政治的領域における中毒攻撃に対する攻撃面について検討した。 GSEは,大規模言語モデル(LLM)を用いたWeb検索と回答生成をユーザの好みと背景と統合する 本稿では,Web上に任意のコンテンツを所定のレベルの出版者権限で注入することの難しさを定量化する,新しいメトリクスであるEmphcontent-injection barrierを提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We characterize the attack surface of generative search engines (GSEs) against poisoning attacks in the political domain, from the perspectives of citation selection and personalization. GSEs integrate web search and answer generation with user preferences and backgrounds using large language models (LLMs). They play a crucial role in how users access information on the web. Because anyone can publish content on the web, GSEs are vulnerable to poisoning attacks that manipulate citations to undermine reliable information delivery. Existing studies on citation evaluation focus on how faithfully answers reflect cited content. However, they leave unexamined the two critical aspects to capture the attack surface of GSEs against poisoning attacks: which publishers GSEs prefer to cite, and how personalization affects citation behavior. To fill this gap, we introduce an evaluation framework that characterizes the attack surface of GSEs against poisoning attacks. Our contributions are twofold: (1) we propose a novel metric, \emph{content-injection barrier}, which quantifies the difficulty of injecting arbitrary content onto the web with a given level of publisher authority; and (2) we reveal how personalization affects citation behavior by embedding user profiles into GSEs. We conduct experiments on three major GSEs in the political domain of the United States and Japan. Our results show that (a) the attack surface differs across GSE models; (b) the web search functionality of GSEs shapes the attack surface; (c) ruling parties have a broader attack surface than opposition parties; and (d) user profiles have little influence on the attack surface.
• Abstract（参考訳）: 政治領域における毒殺に対する生成検索エンジン(GSE)の攻撃面を,引用選択とパーソナライゼーションの観点から特徴づける。 GSEは、大規模な言語モデル(LLM)を使用して、ユーザの好みやバックグラウンドとWeb検索と回答生成を統合している。 それらは、ユーザがWeb上の情報にアクセスする方法において、重要な役割を担っている。 誰でもウェブでコンテンツを公開できるので、GSEは信頼できる情報配信を損なうために引用を操作する有害な攻撃に弱い。 引用評価に関する既存の研究は、引用内容の忠実な回答がどのように反映されるかに焦点を当てている。 しかし、彼らはGSEの攻撃面を毒殺攻撃から捉えるための2つの重要な側面を未検討のまま残している。 このギャップを埋めるために,GSEの毒性攻撃に対する攻撃面を特徴付ける評価フレームワークを導入する。 我々は,(1) ユーザプロファイルをGSEに埋め込むことによって,個人化が引用行動にどう影響するかを明らかにするために, 任意のコンテンツをWebに所定のレベルのパブリッシャー権限で注入することの難しさを定量化する,新しいメトリクスである「emph{content-injection barrier}」を提案する。 我々は,米国と日本の政治領域における3つの主要なGSEについて実験を行った。 私たちの結果は (a)攻撃面はGSEモデルによって異なる。 b)GSEのWeb検索機能は、攻撃面を形作る。 (c)与党は、野党よりも幅広い攻撃面を持ち、かつ (d)ユーザプロファイルは攻撃面にはほとんど影響しない。

関連論文リスト

• Plant, Persist, Trigger: Sleeper Attack on Large Language Model Agents [64.80318459073526]
  敵のコンテンツは、同一のエージェントによって提供される相互作用にまたがって持続できることを示し、そのような脅威を検知し緩和することを困難にしている。 具体的には、敵対的コンテンツはエージェント状態に留まり、相互作用をまたいだ休眠状態に留まり、その後、良心的なユーザクエリによって活性化される。 我々は、このタイプの安全脅威をスリーパー攻撃として形式化し、評価するために、現実世界の有害な結果6つ、攻撃戦略3つ、エージェント状態の目標3つをカバーする1,896件のベンチマークを構築した。
  論文  参考訳（メタデータ） (2026-05-27T09:25:37Z)
• Bias Injection Attacks on RAG Databases and Sanitization Defenses [9.638140849760108]
  本稿では,検索強化世代(RAG)システムにおけるベクトルデータベースに対する攻撃と防御について検討する。 バイアス注入攻撃は、事実的に正しいが、意味的に偏ったパスを知識ベースに挿入する。
  論文  参考訳（メタデータ） (2025-11-30T09:27:18Z)
• Exposing Citation Vulnerabilities in Generative Engines [0.0]
  我々は,生成エンジン(GE)が生成する回答を,引用パブリッシャとコンテンツ注入障壁の観点から分析する。 誰でもウェブで情報を公開できるので、GEは毒攻撃に弱い。
  論文  参考訳（メタデータ） (2025-10-08T09:47:48Z)
• Illusions of Relevance: Using Content Injection Attacks to Deceive Retrievers, Rerankers, and LLM Judges [52.96987928118327]
  検索,リランカー,大型言語モデル(LLM)の埋め込みモデルは,コンテンツインジェクション攻撃に対して脆弱であることがわかった。 主な脅威は,(1) 意味不明な内容や有害な内容の挿入,(2) 関連性を高めるために,問合せ全体あるいはキークエリ用語の挿入,の2つである。 本研究は, 注射内容の配置や関連物質と非関連物質とのバランスなど, 攻撃の成功に影響を与える要因を系統的に検討した。
  論文  参考訳（メタデータ） (2025-01-30T18:02:15Z)
• EIA: Environmental Injection Attack on Generalist Web Agents for Privacy Leakage [40.82238259404402]
  敵環境におけるジェネラリストWebエージェントのプライバシーリスクに関する最初の研究を行う。 まず,Webサイト上での攻撃に対する現実的な脅威モデルを提示し,ユーザ固有のPIIを盗むか,あるいはユーザ要求全体に対して,敵対的な2つのターゲットを検討する。 我々は、Mind2Webから様々なPIIカテゴリを含む177のアクションステップを収集し、これまでで最も有能なジェネラリストWebエージェントフレームワークの1つを使用して実験を行う。
  論文  参考訳（メタデータ） (2024-09-17T15:49:44Z)
• Relaxing Graph Transformers for Adversarial Attacks [49.450581960551276]
  グラフトランスフォーマー(GT)は、いくつかのベンチマークでMessage-Passing GNNを上回り、その逆の堅牢性は明らかにされていない。 本研究では,(1)ランダムウォークPE,(2)ペアワイドショートパス,(3)スペクトル摂動に基づく3つの代表的なアーキテクチャを対象とすることで,これらの課題を克服する。 評価の結果, 破滅的に脆弱であり, 作業の重要性と適応攻撃の必要性を浮き彫りにする可能性が示唆された。
  論文  参考訳（メタデータ） (2024-07-16T14:24:58Z)
• Verifying the Robustness of Automatic Credibility Assessment [50.55687778699995]
  入力テキストにおける意味保存的変化がモデルを誤解させる可能性があることを示す。 また、誤情報検出タスクにおける被害者モデルと攻撃方法の両方をテストするベンチマークであるBODEGAについても紹介する。 我々の実験結果によると、現代の大規模言語モデルは、以前のより小さなソリューションよりも攻撃に対して脆弱であることが多い。
  論文  参考訳（メタデータ） (2023-03-14T16:11:47Z)
• User-Centered Security in Natural Language Processing [0.7106986689736825]
  自然言語処理(NLP)におけるユーザ中心のセキュリティの枠組みの提案 NLP内の2つのセキュリティドメインに重点を置いている。
  論文  参考訳（メタデータ） (2023-01-10T22:34:19Z)
• TASA: Deceiving Question Answering Models by Twin Answer Sentences Attack [93.50174324435321]
  本稿では,質問応答(QA)モデルに対する敵対的攻撃手法であるTASA(Twin Answer Sentences Attack)を提案する。 TASAは、金の回答を維持しながら、流動的で文法的な逆境を生み出す。
  論文  参考訳（メタデータ） (2022-10-27T07:16:30Z)
• Uncertainty-Aware Physically-Guided Proxy Tasks for Unseen Domain Face Anti-spoofing [128.32381246318954]
  Face Anti-Spoofing (FAS)は、偽の顔と偽の顔とを区別しようと試みている。 そこで本研究では,未確認領域のより高度な一般化を実現するために,物理手法を活用することを提案する。
  論文  参考訳（メタデータ） (2020-11-28T03:22:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。