論文の概要: Who is in the Spotlight: The Hidden Bias Undermining Multimodal Retrieval-Augmented Generation

• arxiv url: http://arxiv.org/abs/2506.11063v1
• Date: Fri, 30 May 2025 06:48:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-22 23:32:14.533615
• Title: Who is in the Spotlight: The Hidden Bias Undermining Multimodal Retrieval-Augmented Generation
• Title（参考訳）: マルチモーダル・レトリーバル・アゲメンテッド・ジェネレーションを損なう隠れバイアス
• Authors: Jiayu Yao, Shenghua Liu, Yiwei Wang, Lingrui Mei, Baolong Bi, Yuyao Ge, Zhecheng Li, Xueqi Cheng,
• Abstract要約: 本稿では,マルチモーダルRAGシステムにおける位置バイアスの総合的研究について述べる。 以上の結果から,マルチモーダル相互作用によって位置バイアスが増大することが示唆された。 これらの知見は、より信頼性が高く公平な世代システムを構築するための証拠の整理やデバイアスの必要性を浮き彫りにしている。
• 参考スコア（独自算出の注目度）: 39.545788636148025
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multimodal Retrieval-Augmented Generation (RAG) systems have become essential in knowledge-intensive and open-domain tasks. As retrieval complexity increases, ensuring the robustness of these systems is critical. However, current RAG models are highly sensitive to the order in which evidence is presented, often resulting in unstable performance and biased reasoning, particularly as the number of retrieved items or modality diversity grows. This raises a central question: How does the position of retrieved evidence affect multimodal RAG performance? To answer this, we present the first comprehensive study of position bias in multimodal RAG systems. Through controlled experiments across text-only, image-only, and mixed-modality tasks, we observe a consistent U-shaped accuracy curve with respect to evidence position. To quantify this bias, we introduce the Position Sensitivity Index ($PSI_p$) and develop a visualization framework to trace attention allocation patterns across decoder layers. Our results reveal that multimodal interactions intensify position bias compared to unimodal settings, and that this bias increases logarithmically with retrieval range. These findings offer both theoretical and empirical foundations for position-aware analysis in RAG, highlighting the need for evidence reordering or debiasing strategies to build more reliable and equitable generation systems.
• Abstract（参考訳）: 知識集約型およびオープンドメインタスクにおいて,マルチモーダル検索・拡張生成(RAG)システムの重要性が高まっている。 検索の複雑さが増大するにつれて、これらのシステムの堅牢性を保証することが重要である。 しかしながら、現在のRAGモデルは証拠が提示される順序に非常に敏感であり、しばしば不安定な性能と偏りのある推論をもたらす。 これは、検索された証拠の位置がマルチモーダルRAGのパフォーマンスにどのように影響するかという、中心的な疑問を提起する。 これに対応するために,マルチモーダルRAGシステムにおける位置バイアスの総合的研究を行った。 テキストのみ、画像のみ、混合モダリティタスクの制御実験を通じて、証拠位置に関して一貫したU字型精度曲線を観察する。 このバイアスを定量化するために、位置感度指数(PSI_p$)を導入し、デコーダ層間の注意配置パターンをトレースする可視化フレームワークを開発する。 以上の結果から,マルチモーダル相互作用は単調な設定に比べて位置バイアスを増大させ,このバイアスは検索範囲と対数的に増加することが明らかとなった。 これらの発見は、RAGにおける位置認識分析の理論的および実証的な基盤を提供するとともに、より信頼性が高く公平な世代システムを構築するための証拠の並べ替えやデバイアスング戦略の必要性を強調している。

関連論文リスト

• UniversalRAG: Retrieval-Augmented Generation over Corpora of Diverse Modalities and Granularities [53.76854299076118]
  UniversalRAGは異種情報源からの知識を多様さと粒度で検索・統合するための新しいRAGフレームワークである。 本稿では,最も適切なモダリティ固有コーパスを動的に識別し,その内部でターゲット検索を行うモダリティ対応ルーティング機構を提案する。 マルチモーダル性にまたがる8つのベンチマークでUniversalRAGを検証する。
  論文  参考訳（メタデータ） (2025-04-29T13:18:58Z)
• Knowledge-Aware Iterative Retrieval for Multi-Agent Systems [0.0]
  本稿では,新しい大規模言語モデル (LLM) によるエージェントフレームワークを提案する。 動的に進化する知識を活用することで、クエリを反復的に洗練し、文脈的証拠をフィルタリングする。 提案システムは、更新されたコンテキストの競合的および協調的な共有をサポートする。
  論文  参考訳（メタデータ） (2025-03-17T15:27:02Z)
• Pistis-RAG: Enhancing Retrieval-Augmented Generation with Human Feedback [41.88662700261036]
  RAGシステムは、セマンティックな関連性だけでは生成品質の向上を保証していない場合に制限に直面している。 我々は、LLMと人間の嗜好をよりよく整合させるために、コンテンツ中心のアプローチで設計された新しいRAGフレームワークであるPristis-RAGを提案する。
  論文  参考訳（メタデータ） (2024-06-21T08:52:11Z)
• DIVERSIFY: A General Framework for Time Series Out-of-distribution Detection and Generalization [58.704753031608625]
  時系列は、機械学習研究における最も困難なモダリティの1つである。 時系列上でのOODの検出と一般化は、その非定常性によって悩まされる傾向がある。 時系列の動的分布のOOD検出と一般化のためのフレームワークであるDIVERSIFYを提案する。
  論文  参考訳（メタデータ） (2023-08-04T12:27:11Z)
• General Greedy De-bias Learning [163.65789778416172]
  本稿では,関数空間における勾配降下のような偏りのあるモデルとベースモデルを優雅に訓練する一般グリーディ・デバイアス学習フレームワーク(GGD)を提案する。 GGDは、事前知識を持つタスク固有バイアスモデルと、事前知識を持たない自己アンサンブルバイアスモデルの両方の設定の下で、より堅牢なベースモデルを学ぶことができる。
  論文  参考訳（メタデータ） (2021-12-20T14:47:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。