論文の概要: BoolQuestions: Does Dense Retrieval Understand Boolean Logic in Language?

• arxiv url: http://arxiv.org/abs/2411.12235v1
• Date: Tue, 19 Nov 2024 05:19:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-20 13:37:27.112652
• Title: BoolQuestions: Does Dense Retrieval Understand Boolean Logic in Language?
• Title（参考訳）: BoolQuestions:Dense Retrievalは言語におけるブール論理を理解するか?
• Authors: Zongmeng Zhang, Jinhua Zhu, Wengang Zhou, Xiang Qi, Peng Zhang, Houqiang Li,
• Abstract要約: まず,現在の検索システムが,言語に暗示されるブール論理を理解できるかを検討する。 広範な実験結果から,現在の高密度検索システムはブール論理を十分に理解していないという結論を導いた。 本研究では,研究コミュニティの強力な基盤となるコントラスト的連続学習手法を提案する。
• 参考スコア（独自算出の注目度）: 88.29075896295357
• License:
• Abstract: Dense retrieval, which aims to encode the semantic information of arbitrary text into dense vector representations or embeddings, has emerged as an effective and efficient paradigm for text retrieval, consequently becoming an essential component in various natural language processing systems. These systems typically focus on optimizing the embedding space by attending to the relevance of text pairs, while overlooking the Boolean logic inherent in language, which may not be captured by current training objectives. In this work, we first investigate whether current retrieval systems can comprehend the Boolean logic implied in language. To answer this question, we formulate the task of Boolean Dense Retrieval and collect a benchmark dataset, BoolQuestions, which covers complex queries containing basic Boolean logic and corresponding annotated passages. Through extensive experimental results on the proposed task and benchmark dataset, we draw the conclusion that current dense retrieval systems do not fully understand Boolean logic in language, and there is a long way to go to improve our dense retrieval systems. Furthermore, to promote further research on enhancing the understanding of Boolean logic for language models, we explore Boolean operation on decomposed query and propose a contrastive continual training method that serves as a strong baseline for the research community.
• Abstract（参考訳）: 任意のテキストの意味情報を高密度なベクトル表現や埋め込みにエンコードすることを目的としたDense Searchは、テキスト検索の効率的かつ効率的なパラダイムとして登場し、様々な自然言語処理システムにおいて欠かせない要素となっている。 これらのシステムは典型的には、テキストペアの関連性に対応することによって埋め込み空間の最適化に焦点を合わせ、言語固有のブール論理を見渡す。 本研究では,現在の検索システムが言語に暗示されるブール論理を理解できるかどうかを最初に検討する。 この質問に答えるために,Boolean Dense Retrievalのタスクを定式化し,基本的なBooleanロジックと対応する注釈付きパスを含む複雑なクエリをカバーするベンチマークデータセットBoolQuestionsを収集する。 提案したタスクとベンチマークデータセットの広範な実験結果から,現在の高密度検索システムは言語におけるブール論理を十分に理解していないという結論を導き,高密度検索システムを改善するための長い道のりをたどる。 さらに,言語モデルに対するブール論理の理解を深めるためのさらなる研究を促進するために,分解されたクエリに対するブール演算を探索し,研究コミュニティの強力な基盤となるコントラスト的な連続的学習手法を提案する。

関連論文リスト

• DISCERN: Decoding Systematic Errors in Natural Language for Text Classifiers [18.279429202248632]
  本稿では,テキスト分類器における系統的バイアスを言語説明を用いて解釈するフレームワークであるdisCERNを紹介する。 DISCERNは、2つの大きな言語モデル間の対話ループを用いて、体系的エラーの正確な自然言語記述を反復的に生成する。 本研究では, クラスタを例に挙げるよりも, 言語説明を通して, 系統的バイアスをより効果的に(25%以上相対的に) 効率的に解釈できることを示す。
  論文  参考訳（メタデータ） (2024-10-29T17:04:55Z)
• BOLD: Boolean Logic Deep Learning [1.4272256806865107]
  本稿では、ブール重みと入力からなるニューロンを、降下勾配や実算術の代わりにブール論理を用いてブール領域で効率的に訓練できるようなブール変動の概念を導入する。 提案手法は,ImageNet分類におけるベースライン完全精度を実現し,セマンティックセグメンテーションの最先端結果を上回った。 トレーニングと推論の双方において、エネルギー消費を著しく減少させる。
  論文  参考訳（メタデータ） (2024-05-25T19:50:23Z)
• Dense X Retrieval: What Retrieval Granularity Should We Use? [56.90827473115201]
  しばしば見過ごされる設計選択は、コーパスが索引付けされる検索単位である。 本稿では,高密度検索のための新しい検索ユニット,命題を提案する。 実験により、提案のような細粒度単位によるコーパスのインデックス付けは、検索タスクにおける通過レベル単位を著しく上回っていることが明らかとなった。
  論文  参考訳（メタデータ） (2023-12-11T18:57:35Z)
• Empower Nested Boolean Logic via Self-Supervised Curriculum Learning [67.46052028752327]
  大規模言語モデルを含む事前学習された言語モデルは、多言語論理に直面するランダムセレクタのように振る舞う。 この基本的能力で言語モデルを強化するために,本稿では,新たな自己教師付き学習手法であるtextitCurriculum Logical Reasoning (textscClr) を提案する。
  論文  参考訳（メタデータ） (2023-10-09T06:54:02Z)
• Modeling Hierarchical Reasoning Chains by Linking Discourse Units and Key Phrases for Reading Comprehension [80.99865844249106]
  本稿では,論理的推論の基盤として,対話レベルと単語レベルの両方の文脈を扱う総合グラフネットワーク(HGN)を提案する。 具体的には、ノードレベルの関係とタイプレベルの関係は、推論過程におけるブリッジと解釈できるが、階層的な相互作用機構によってモデル化される。
  論文  参考訳（メタデータ） (2023-06-21T07:34:27Z)
• Logic-Driven Context Extension and Data Augmentation for Logical Reasoning of Text [65.24325614642223]
  論理的な記号や表現をテキストで理解し、答えにたどり着くよう提案します。 このような論理的情報に基づいて,文脈拡張フレームワークとデータ拡張アルゴリズムを提案する。 本手法は最先端の性能を実現し,論理駆動コンテキスト拡張フレームワークとデータ拡張アルゴリズムの両方が精度向上に寄与する。
  論文  参考訳（メタデータ） (2021-05-08T10:09:36Z)
• LogicalFactChecker: Leveraging Logical Operations for Fact Checking with Graph Module Network [111.24773949467567]
  ファクトチェックに論理演算を活用するニューラルネットワークアプローチであるLogicalFactCheckerを提案する。 大規模なベンチマークデータセットであるTABFACT上での最先端のパフォーマンスを実現している。
  論文  参考訳（メタデータ） (2020-04-28T17:04:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。