論文の概要: A Failure-Mode Benchmark for Polymorphic Sybil Poisoning in RAG

• arxiv url: http://arxiv.org/abs/2607.03739v1
• Date: Sat, 04 Jul 2026 06:56:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-07 22:26:29.702207
• Title: A Failure-Mode Benchmark for Polymorphic Sybil Poisoning in RAG
• Title（参考訳）: RAGにおけるポリモルフィック・サイビイジングのためのフェールモードベンチマーク
• Abstract要約: そこで我々は, 接地型QAの評価フレームワークと評価フレームワークを, コーディネート検索中毒下でリリースした。 読み手出力を4つの排他的カテゴリ(emphgold, emphhijack, emphabstention, emphdrift)に分割するフレームワーク 本報告では,攻撃目標と攻撃目標を協調的に支援する攻撃クラスであるEmphpolymorphic sybil poisoningを導入する。
• 参考スコア（独自算出の注目度）: 4.879573049082894
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We release a benchmark and failure-mode-aware evaluation framework for grounded QA under coordinated retrieval poisoning. The framework partitions reader outputs into four mutually exclusive categories (\emph{gold}, \emph{hijack}, \emph{abstention}, \emph{drift}), with instance-level paired clean-to-poison transition matrices and a Forced Exposure protocol isolating reader-side conflict resolution from retrieval variance. We introduce \emph{polymorphic sybil poisoning}, a coordinated attack class in which $S$ lexically diverse passages jointly support an attacker-chosen target while evading lexical near-duplicate filters that fully detect monomorphic baselines (capturing the residual 14.2\% with E5 cosine raises false-positive rate 9$\times$ on legitimate same-topic pairs). A monomorphic-polymorphic ablation under Forced Exposure isolates the diversity dimension and reveals a $+$18.8pp hijack amplification (95\% paired bootstrap CI $[+15.4, +22.4]$, $B{=}5{,}000$): monomorphic copies register only 4.0\% as hijack while polymorphic surface diversity recovers 22.8\% -- a 5.7$\times$ amplification of the ASR-visible attack channel. ASR alone treats every non-target output identically; under attack, abstention and drift together hold 47-66\% of output mass, unmonitored by ASR+ACC, and two readers at nearly identical ASR (within 0.2pp) differ by 16.5pp on abstention and 17.2pp on drift -- failure profiles invisible to ASR. We release the frozen benchmark (3{,}145 questions, 2{,}982 retained sybil groups; $S{=}6$ chosen to dominate top-10 retrieval slots, §\ref{sec:setup}), the official four-way evaluator, paired-transition utilities, and the Forced Exposure harness across five readers (7B-120B), two retrievers, and two cross-validation datasets (TriviaQA, 2Wiki), under CC~BY-SA~4.0 (data) and MIT (software); release information in §\ref{sec:release}.
• Abstract（参考訳）: そこで我々は, 接地型QAの評価フレームワークと評価フレームワークを, コーディネート検索中毒下でリリースした。 このフレームワークは、読み取り出力を4つの排他的カテゴリ(\emph{gold}, \emph{hijack}, \emph{abstention}, \emph{drift})に分割する。 本報告では,モノモルフィックベースラインを完全検出する語彙的近傍重複フィルタ(E5コサインによる残差14.2\%は偽陽性率9$\times$)を回避しつつ,語彙的に多種多様なパスが攻撃目標を共同で支援するコーディネート攻撃クラスであるemph{polymorphic sybil poisoning}を紹介する。 強制曝露下でのモノモルフィック・ポリモーフィック・アブレーションは、多様性の次元を分離し、$+$18.8ppのハイジャック増幅(95\%のペアブートストラップCI$[+15.4, +22.4]$, $B{=}5{,}000$): モノモルフィックコピーはヒジャックとして4.0\%しか登録しないが、ポリモルフィック表面の多様性は22.8\% -- a 5.7$\times$増幅である。 ASRのみは全ての非目標出力を同一に扱い、攻撃下では、禁忌とドリフトが47-66 %の出力質量を保持し、ASR+ACCによって監視されず、ASR(0.2pp)とほぼ同一の2つの読者は、禁じられた場合16.5pp、ドリフト時17.2ppと異なる。 S{=}6$(トップ10検索スロットを支配)、公式4ウェイ評価器、ペア変換ユーティリティ、強制曝露ハーネス(TriviaQA, 2Wiki)、CC~BY-SA~4.0(データ)、MIT(ソフトウェア)を対象とし、凍結したベンチマーク (3{,}145 質問、2{,}982 保持シビルグループ、$S{=}6$(トップ10検索スロットを支配)、公式4ウェイ評価器、ペア変換ユーティリティ、および強制曝露ハーネス(TriviaQA, 2Wiki)、CC~BY-SA~4.0(データ)、MIT(ソフトウェア)をリリースする。

関連論文リスト

• The Recall Trap: A Recall-Maximizing Retriever Configuration Reduces Issue Resolution in Fixed-Budget Code Context [45.88028371034407]
  コード修復における制御ケーススタディを報告し,新しい現象ではない。 私たちは、同じスタック上の1つのフラグ(1チャンク毎の重複)を切り替えます。 BM25(3.2pp、重要なパラダイム間相互作用)を逆転させる。 厳格な固定予算では、ファイルごとのハードダイドプリケートや、タスクに対するA/Bパッケージングポリシは、メトリックフラグを調整しないことが示されます。
  論文  参考訳（メタデータ） (2026-08-14T19:22:50Z)
• DiffSafeMerge: Mitigating Backdoor Inheritance in Diffusion Model Merging [12.412925762132284]
  緩和は、妥協されたソース、トリガー、ターゲットを知ることなく困難である。 我々はDiffSafeMerge(DSM)を紹介し、これは小さなラベルのないクリーンなセットと固定された攻撃非依存のストレスプローブを使ってソースブロックをスコアリングする。
  論文  参考訳（メタデータ） (2026-08-10T11:20:35Z)
• HaloMark: A Spectral Threshold for Embedding-Vector Watermarking under C2PA [3.0458514384586404]
  暗号的にC2PAマニフェストに結び付けられたベクトルを埋め込むための透かしであるHaloMarkを提示する。 検証は、ベクトルあたり284usと24バイトのサイドカーで実行され、3つのC2PA参照SDKバインディングに対してエンドツーエンドで検証される。
  論文  参考訳（メタデータ） (2026-08-09T11:36:59Z)
• HERALD: Counterfactual Audits and Minimal Repairs for Proof-of-Retrieval Rewards [7.036896099993471]
  HERALDは、全く同じ調査介入を適用するオフライン監査である。 R[L]$はHotpotQAと2WikiのEM非偽りのゲートと出会うが、MuSiQueではない。
  論文  参考訳（メタデータ） (2026-08-06T13:15:54Z)
• Layer-Isolated Evaluation: Gating the Deterministic Scaffold of a Production LLM Agent with a No-LLM, Regression-Locked Test Harness [45.148328075418156]
  デプロイされた注文エージェントは、階層の固定された分類に分解される。 純粋なスイートは、ロックされたスライス単位のベースラインに対して、すべての変更でCIで動作する。 制御されたレグレッションインジェクションにより、安全でない7つの層に一度に1つの層を分解し、検証する。
  論文  参考訳（メタデータ） (2026-06-10T05:55:13Z)
• The Security Budget of Code-LLM Prompt Hardening: Provable Limits Under Pass-Only Acceptance [0.0]
  本稿では,emphTri-Audit Protocolとしてフロアを運用する。このプロトコルは,プロンプト側推論レジストリ属性をモデル側実証ログから分離する2軸レポーティングプロトコルである。 CodeLlama-7B, Qwen2.5-Coder-7B/1.5B and DeepSeek-Coder-6.7B at $n=164$ yields the emphCross-Model Tri-Audit Invariance: of 28 pass-serving rows, 12-changed-of-record learned-can
  論文  参考訳（メタデータ） (2026-06-02T08:22:14Z)
• When Do LLM Agents Treat Surface Noise Differently from Semantic Noise? A 68-Cell Measurement Study with a Held-Out Trace-Level Validation [9.055086193088083]
  10大言語モデルによって駆動されるチェーン・オブ・シンクとReActエージェントに経験的現象を記述した。 平均的な摂動は、同等の厳しさのプレゼンテーション摂動よりも、最終的な答えを頻繁に変更する。
  論文  参考訳（メタデータ） (2026-05-25T15:57:11Z)
• Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning [40.342912574072024]
  大規模言語モデルは、旅行計画やコードソリューションのような構造化されたアウトプットを生成する。 個々の推論ステップは正しく見えるが、アウトプット全体が予算に違反したり、テストケースに失敗したり、あるいは以前の推論に矛盾することがある。 構造化LCM出力の検証のための決定論的解析制約付き学習品質スコアラを提案する。
  論文  参考訳（メタデータ） (2026-05-15T17:08:27Z)
• GAMBIT: A Three-Mode Benchmark for Adversarial Robustness in Multi-Agent LLM Collectives [48.545980031973556]
  GAMBITは、インポスタ検出器を評価するための3つの評価モードと2つの独立したスコアを持つベンチマークである。 ベンチマークには、240の共進化型インポスタ戦略にまたがる27,804のラベル付きインスタンスのデータセットが付属している。
  論文  参考訳（メタデータ） (2026-05-09T16:07:23Z)
• MOSAIC-Bench: Measuring Compositional Vulnerability Induction in Coding Agents [2.1942030377331245]
  コーディングエージェントは、しばしばプロンプト毎の安全性レビューをパスするが、それらのタスクが通常のエンジニアリングチケットに分解されると、悪用可能なコードを出荷する。 199個の3段階攻撃チェーンのベンチマークであるMOSAIC-Benchを紹介する。 9つのプロダクションコーディングエージェントが53～86%の終末ASRで無害なチケットを構成しており、全ステージで2回しか拒否しないことを示す。
  論文  参考訳（メタデータ） (2026-05-05T16:38:23Z)
• VisInject: Disruption != Injection -- A Dual-Dimension Evaluation of Universal Adversarial Attacks on Vision-Language Models [15.373620817510727]
  普遍的敵攻撃は60-80%の範囲で攻撃の成功率で報告されている。 i)モデルの出力が乱れ(影響)、(ii)攻撃者の選択したターゲット概念が実際に放出された(Precise Injection)。 21のユニバーサルイメージ、147の敵対的な写真、6,615のレスポンスペア、v3のデュアル軸判定結果、および抱きしめるface.co/datasets/jeffliulab/visinjectのキャッシュです。
  論文  参考訳（メタデータ） (2026-05-02T13:56:50Z)
• When Agents Look the Same: Quantifying Distillation-Induced Similarity in Tool-Use Behaviors [66.18091962164219]
  既存のメトリクスは、タスクの成功に必要な義務的な振る舞いと、モデルの自律的な嗜好を反映した命令的でないパターンを区別することができない。 言語アライメントのための textbfResponse Pattern similarity (RPS) と、有向グラフとしてモデル化されたツール使用習慣のための textbfAction Graph similarity (AGS) である。
  論文  参考訳（メタデータ） (2026-04-23T03:48:56Z)
• CARE What Fails: Contrastive Anchored-REflection for Verifiable Multimodal [84.71254539482369]
  検証可能な報酬を伴うグループ相対的強化学習(RLVR)は、しばしば、すでに失敗している最も情報に富むデータを浪費する。 エラーを監督するマルチモーダル推論のための,障害中心のポストトレーニングフレームワークであるCAREを提案する。 CAREは正確さを改善し、スムーズさをトレーニングすると同時に、障害からの学習信号のシェアを明示的に増やします。
  論文  参考訳（メタデータ） (2025-12-22T16:34:21Z)
• Eigen-1: Adaptive Multi-Agent Refinement with Monitor-Based RAG for Scientific Reasoning [53.45095336430027]
  暗黙的な検索と構造化された協調を組み合わせた統合フレームワークを開発する。 Humanity's Last Exam (HLE) Bio/Chem Goldでは,48.3%の精度を実現している。 SuperGPQAとTRQAの結果はドメイン間の堅牢性を確認した。
  論文  参考訳（メタデータ） (2025-09-25T14:05:55Z)
• Optimal Membership Inference Bounds for Adaptive Composition of Sampled Gaussian Mechanisms [93.44378960676897]
  トレーニングされたモデルとデータサンプルが与えられた場合、メンバシップ推論(MI)アタックは、サンプルがモデルのトレーニングセットにあるかどうかを予測する。 MI攻撃に対する一般的な対策は、モデルトレーニング中に差分プライバシー(DP)を利用して個々の事例の存在を隠蔽することである。 本稿では,MI攻撃を装着した相手のテキスト・アドバンテージのバウンダリを導出し,広く利用されているガウス機構の厳密性を示す。
  論文  参考訳（メタデータ） (2022-04-12T22:36:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。