論文の概要: Robust Neural Information Retrieval: An Adversarial and Out-of-distribution Perspective

• arxiv url: http://arxiv.org/abs/2407.06992v2
• Date: Fri, 16 Aug 2024 08:18:19 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-19 17:59:12.104605
• Title: Robust Neural Information Retrieval: An Adversarial and Out-of-distribution Perspective
• Title（参考訳）: ロバスト・ニューラル・インフォメーション・検索 : 敵対的・アウト・オブ・ディストリビューション的視点
• Authors: Yu-An Liu, Ruqing Zhang, Jiafeng Guo, Maarten de Rijke, Yixing Fan, Xueqi Cheng,
• Abstract要約: ニューラルネットワーク検索モデル(IR)モデルの堅牢性は、大きな注目を集めている。 我々は、IRの堅牢性を多面的概念とみなし、敵攻撃、アウト・オブ・ディストリビューション(OOD)シナリオ、パフォーマンスのばらつきに対してその必要性を強調している。 我々は,既存の手法,データセット,評価指標について詳細な議論を行い,大規模言語モデルの時代における課題や今後の方向性に光を当てる。
• 参考スコア（独自算出の注目度）: 111.58315434849047
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recent advances in neural information retrieval (IR) models have significantly enhanced their effectiveness over various IR tasks. The robustness of these models, essential for ensuring their reliability in practice, has also garnered significant attention. With a wide array of research on robust IR being proposed, we believe it is the opportune moment to consolidate the current status, glean insights from existing methodologies, and lay the groundwork for future development. We view the robustness of IR to be a multifaceted concept, emphasizing its necessity against adversarial attacks, out-of-distribution (OOD) scenarios and performance variance. With a focus on adversarial and OOD robustness, we dissect robustness solutions for dense retrieval models (DRMs) and neural ranking models (NRMs), respectively, recognizing them as pivotal components of the neural IR pipeline. We provide an in-depth discussion of existing methods, datasets, and evaluation metrics, shedding light on challenges and future directions in the era of large language models. To the best of our knowledge, this is the first comprehensive survey on the robustness of neural IR models, and we will also be giving our first tutorial presentation at SIGIR 2024 \url{https://sigir2024-robust-information-retrieval.github.io}. Along with the organization of existing work, we introduce a Benchmark for robust IR (BestIR), a heterogeneous evaluation benchmark for robust neural information retrieval, which is publicly available at \url{https://github.com/Davion-Liu/BestIR}. We hope that this study provides useful clues for future research on the robustness of IR models and helps to develop trustworthy search engines \url{https://github.com/Davion-Liu/Awesome-Robustness-in-Information-Retrieval}.
• Abstract（参考訳）: ニューラル情報検索(IR)モデルの最近の進歩は、様々なIRタスクに対する有効性を著しく向上させてきた。 これらのモデルの堅牢性は、実際に信頼性を確保するのに不可欠であり、大きな注目を集めている。 ロバストIRに関する幅広い研究が提案されている中で、我々は、現状を整理し、既存の方法論から洞察を得て、今後の発展に向けた基礎を築き上げることが、機会であると信じている。 我々は、IRの堅牢性を多面的概念とみなし、敵攻撃、アウト・オブ・ディストリビューション(OOD)シナリオ、パフォーマンスのばらつきに対してその必要性を強調している。 本研究は,高密度検索モデル (DRM) とニューラルランキングモデル (NRM) の強靭性解をそれぞれ識別し,これらをニューラルIRパイプラインの重要成分として認識する。 我々は,既存の手法,データセット,評価指標について詳細な議論を行い,大規模言語モデルの時代における課題や今後の方向性に光を当てる。 SIGIR 2024 \url{https://sigir2024-robust-information-retrieval.github.io}での最初のチュートリアルも行います。 既存の作業の組織化とともに、ロバストな情報検索のための異種評価ベンチマークであるロバストなIR(BestIR)のためのベンチマーク(Benchmark for robust IR)を導入し、その公開は \url{https://github.com/Davion-Liu/BestIR} で行われている。 本稿では,IRモデルの堅牢性に関する今後の研究に有用な手がかりを提供し,信頼性の高い検索エンジンである \url{https://github.com/Davion-Liu/Awesome-Robustness-in-Information-Retrieval} の開発を支援することを期待する。

関連論文リスト

• Explainability of Point Cloud Neural Networks Using SMILE: Statistical Model-Agnostic Interpretability with Local Explanations [0.0]
  本研究は,深層ニューラルネットワーク用に設計された新たな説明可能性手法であるSMILEの実装を,ポイントクラウドベースモデルを用いて検討する。 このアプローチは、様々なカーネル幅、摂動数、クラスタリング構成における忠実度損失、R2スコア、ロバストネスの点で優れた性能を示す。 カテゴリの分類におけるデータセットバイアスをさらに特定し、安全クリティカルなアプリケーションにおいてより包括的なデータセットの必要性を強調した。
  論文  参考訳（メタデータ） (2024-10-20T12:13:59Z)
• Robust Information Retrieval [77.87996131013546]
  情報検索システムの堅牢性は ますます注目を集めています 本チュートリアルは、IRにおけるロバスト性問題に対するより広範な注意を喚起し、関連文献の理解を促進し、研究者や実践者の参入障壁を低くすることを目的としている。
  論文  参考訳（メタデータ） (2024-06-13T07:44:21Z)
• Black-box Adversarial Attacks against Dense Retrieval Models: A Multi-view Contrastive Learning Method [115.29382166356478]
  本稿では,敵探索攻撃(AREA)タスクを紹介する。 DRモデルは、DRモデルによって取得された候補文書の初期セットの外側にあるターゲット文書を取得するように、DRモデルを騙すことを目的としている。 NRM攻撃で報告された有望な結果は、DRモデルに一般化されない。 マルチビュー表現空間における対照的な学習問題として,DRモデルに対する攻撃を形式化する。
  論文  参考訳（メタデータ） (2023-08-19T00:24:59Z)
• Large Language Models for Information Retrieval: A Survey [58.30439850203101]
  情報検索は、項ベースの手法から高度なニューラルモデルとの統合へと進化してきた。 近年の研究では、大規模言語モデル(LLM)を活用してIRシステムの改善が試みられている。 LLMとIRシステムの合流点を探索し、クエリリライト、リトリバー、リランカー、リーダーといった重要な側面を含む。
  論文  参考訳（メタデータ） (2023-08-14T12:47:22Z)
• On the Robustness of Generative Retrieval Models: An Out-of-Distribution Perspective [65.16259505602807]
  本研究では,高密度検索モデルに対する生成的検索モデルのロバスト性について検討する。 実験結果から, 生成的検索モデルのOODロバスト性には強化が必要であることが示唆された。
  論文  参考訳（メタデータ） (2023-06-22T09:18:52Z)
• A Comprehensive Study on the Robustness of Image Classification and Object Detection in Remote Sensing: Surveying and Benchmarking [17.012502610423006]
  ディープニューラルネットワーク(DNN)は、リモートセンシング(RS)画像の解釈に広く応用されている。 従来の研究では、DNNは様々な種類のノイズ、特に敵対的なノイズに弱いことが示されている。 本研究は,RS課題における自然的頑健性と対角的頑健性の両方を包括的に検討した初めての事例である。
  論文  参考訳（メタデータ） (2023-06-21T08:52:35Z)
• Entity-Conditioned Question Generation for Robust Attention Distribution in Neural Information Retrieval [51.53892300802014]
  教師付きニューラル情報検索モデルでは,通過トークンよりも疎注意パターンを学習することが困難であることを示す。 目的とする新しい合成データ生成手法を用いて、与えられた通路内の全てのエンティティに対して、より均一で堅牢な参加をニューラルIRに教える。
  論文  参考訳（メタデータ） (2022-04-24T22:36:48Z)
• Continual Learning of Long Topic Sequences in Neural Information Retrieval [2.3846478553599098]
  まず,MSMarcoコーパスに基づいて,トピックの長いストリームをモデル化するデータセットを提案する。 次に、これらのストリームを継続的に学習しながら、最近のニューラルIRモデルの能力を詳細に分析する。
  論文  参考訳（メタデータ） (2022-01-10T14:19:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。