論文の概要: Factual Yet One-Sided: Stance Poisoning and Evidence Balancing in Retrieval-Augmented Generation

• arxiv url: http://arxiv.org/abs/2610.34294v1
• Date: Sun, 25 Oct 2026 13:50:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.574267
• Title: Factual Yet One-Sided: Stance Poisoning and Evidence Balancing in Retrieval-Augmented Generation
• Title（参考訳）: Factual but One-Sided:Stance Poisoning and Evidence Balancing in Retrieval-Augmented Generation
• Abstract要約: 本研究は,事実が正しいが議論を呼んでいる問題に対するスタンスが一方的であるインジェクション攻撃に焦点を当てた。 本稿では,レシーバとジェネレータの間に位置するスタンスバランシングミドルウェアを提案する。
• 参考スコア（独自算出の注目度）: 8.372231358018515
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The stance expressed in responses from retrieval-augmented generation systems is significantly influenced by the stance distribution of the retrieved materials. Existing research on knowledge poisoning has primarily targeted factual errors. In contrast, this study focuses on injection attacks in which the facts are correct but the stance on a controversial issue is one-sided. At a mean topic-level poisoning share of 18.9% within the post-injection ProCon documents, all four generation models from different vendors exhibited stance shifts aligned with the poisoning direction; across four concentration levels, the shifts increased monotonically. This paper proposes a Stance-Balancing Middleware positioned between the retriever and the generator. It consists of stance detection, fixed balancing (2 supporting + 2 opposing + 1 neutral), and a debiasing prompt, without introducing additional large language model calls. Across all eight concentration-direction settings, the complete method reduced the magnitude of stance deviation by an estimated 0.106 to 0.350; the six settings at poisoning shares of 11.9%-18.9% remained significant after Holm adjustment (adjusted p <= 0.009). In the cross-model experiment, all eight model-direction combinations moved along the stance axis in the corrective direction, and seven of eight showed a clearly detected reduction in absolute distance from 0. In the concentration sweep, the post-defense intervals included 0 in all eight settings, while the cross-model pro-poisoning results retained small positive residual point estimates of +0.045 to +0.063. For 20 candidate documents, stance detection took approximately 1.5% of the median generation time on a single GPU and approximately 16% on CPU.
• Abstract（参考訳）: 検索増強生成系からの応答で表される姿勢は, 得られた材料の姿勢分布に大きく影響される。 知識中毒に関する既存の研究は、主に事実の誤りを標的にしている。 対照的に,本研究では,事実が正しいが議論の余地のある問題に対するスタンスが一方的であるインジェクション攻撃に焦点を当てた。 ポストインジェクションのProCon文書では、平均18.9%のトピックレベルの中毒率で、異なるベンダーの4世代モデルは全て、毒の方向に合わせてスタンスシフトを示しており、4つの濃度レベルにおいて、シフトは単調に増加した。 本稿では,レシーバとジェネレータの間に位置するスタンスバランシングミドルウェアを提案する。 スタンス検出、固定バランシング(2つのサポート+2の反対+1の中立)、デバイアスのプロンプトで構成される。 8つの濃度方向設定全体では、完全な方法では姿勢偏差の程度を0.106から0.350に減らし、ホルム調整後(調整p <=0.009)も有意な11.9%-18.9%であった。 クロスモデル実験では,8つのモデル方向の組み合わせが正方向の姿勢軸に沿って移動し,8つのうち7つが0。 濃度調査では, 防御後間隔は全8設定で0, クロスモデル陽極は+0.045から+0.063の小さな正の残留点推定値を維持した。 20の候補文書に対して、スタンス検出は1つのGPU上での中央値生成時間の約1.5%、CPUで約16%を要した。

関連論文リスト

• MultiPartyTurnBench: Benchmarking Floor Control in Multi-Party Spoken Dialogue [67.07361089429757]
  本研究では, 主観的ターンテイクや終末行動について検討するが, 真のフロア・トランジションの統一的評価を, 難易度の高い非パーティ・セッティングに対して検討する。 我々は、240個の合成されたチャネル分離会話のベンチマークであるMultiPartyTurnBench (MPTB) について紹介する。 学習システムは82.2.6%のEOTリコールを4.3-11.8%の偽陽性率で達成し、Interruption (INT) 検出は失敗したテイクオーバーや過剰な偽のアクティベーションに悩まされる。
  論文  参考訳（メタデータ） (2026-10-14T13:20:14Z)
• When Sample-Splitting Choices Matter in TMLE and AIPW: Cross-Fitting, Targeting, and Repetition [0.0]
  機械学習ニュアンスモデルを用いた目標最大誤差推定(TMLE)と拡張逆確率重み付け(AIPW)の変数は,それぞれ異なる。 バイナリアウトカム平均処理効果の既知のトラスシミュレーションでは、8つのヘッドライン推定器がそれぞれの設定ライブラリ、内折り、トランケーションバウンドを共有した。
  論文  参考訳（メタデータ） (2026-10-12T05:17:09Z)
• KITE: Scaling Jev Population Experiments with Sparse Flagship Calibration [2.7946858992663586]
  KITEは、一意の状態ごとに型付き行動カーネルをクエリし、テーブルから任意のサイズの集団を実行する。 9,070人の参加者によるエプスタインの実験では、1.7%の状態をカバーするアンカーが効果誤差を41%削減した。 37回のSoc-outSci210実験では0.5-1.5%のアンカーカバレッジが0.27から0.39に上昇した。
  論文  参考訳（メタデータ） (2026-09-23T08:28:15Z)
• Reliable Benchmarking of Artifact Detection in Computational Pathology: A Reproducibility and Uncertainty Analysis [1.8864137667201766]
  メソッド: このプロトコルは、テストセットサンプリング、トレーニング性、パーティション構成、文書化前処理の4つの変数ソースを定量化する。 拡散型人工物検出装置を独立に再構築し, 元の24スライディング分割と教師付きベースラインに対して評価した。 結果: 本手法の中枢機構は、補助的コントラスト項は、プールされたF1を0.673から0.688に改善し、第2シードで複製する。
  論文  参考訳（メタデータ） (2026-08-31T14:07:15Z)
• Evidence-Type Competition: When Can Interventional Data Teach Language Models Causal Direction? [0.0]
  介入データは 因果推論の モデルを教えるための金の基準として 広く見なされている 我々は、この仮定を、因果効果に対する観察的相関を考慮し、完全に制御された合成環境において検証する。 介入証拠が使用されているかどうかを規定するものは、トレーニングミックスではなく、推論時に文脈に存在するエビデンスタイプである。
  論文  参考訳（メタデータ） (2026-07-31T14:49:18Z)
• From Black Box to Glass Box: Cross-Model ASR Disagreement to Prioto Review in Ambient AI Scribe Documentation [43.148402136307716]
  異種ASRシステム間のクロスモデル不一致は、基準のない不確実性信号として機能する。 商用APIとオープンソースエンジンにまたがる8つのASRシステムを備えた,50の公開医療用オーディオクリップを転写した。 低アグリメント領域は内容の不一致に富み、高リスク質量のクインタイル全体では53.9%から73.9%に増加した。
  論文  参考訳（メタデータ） (2026-03-02T13:02:13Z)
• BadCLIP++: Stealthy and Persistent Backdoors in Multimodal Contrastive Learning [73.46118996284888]
  マルチモーダル・コントラスト学習モデルに対するバックドア攻撃の研究は、ステルスネスと永続性という2つの大きな課題に直面している。 両課題に対処する統合フレームワークであるBadCLIP++を提案する。 ステルスネスのために,タスク関連領域付近に知覚不可能なパターンを埋め込むセマンティックフュージョンQRマイクロトリガーを導入する。 持続性については、半径縮小とセントロイドアライメントによるトリガ埋め込みを安定化する。
  論文  参考訳（メタデータ） (2026-02-19T08:31:16Z)
• Peak + Accumulation: A Proxy-Level Scoring Formula for Multi-Turn LLM Attack Detection [0.0]
  マルチターンプロンプトインジェクション攻撃は、複数の会話ターンに悪意のある意図を分散させる。 プロキシ層での会話レベルのリスクスコアにターン毎のパターンスコアを集約する公式は存在しない。 本稿では,ピークの単一ターンリスク,持続率,カテゴリの多様性を組み合わせ,ピーク+累積スコアリング法を提案する。
  論文  参考訳（メタデータ） (2026-02-11T17:53:41Z)
• Potion: Towards Poison Unlearning [47.00450933765504]
  悪意あるアクターによる機械学習システムに対する敵対的攻撃は重大なリスクをもたらす。 このような攻撃を解決する上での課題は、実際に有毒データのサブセットのみを特定できる場合である。 我々の研究は、有毒未学習の最先端を推し進めるための2つの重要な課題に対処する。
  論文  参考訳（メタデータ） (2024-06-13T14:35:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。