論文の概要: Representation Decoupling for Open-Domain Passage Retrieval
- arxiv url: http://arxiv.org/abs/2110.07524v1
- Date: Thu, 14 Oct 2021 16:43:43 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-15 13:52:35.396805
- Title: Representation Decoupling for Open-Domain Passage Retrieval
- Title(参考訳): オープンドメイン経路検索のための表現デカップリング
- Authors: Bohong Wu, Zhuosheng Zhang, Jinyuan Wang, Hai Zhao
- Abstract要約: コントラッシブラーニング(CL)による高密度通路表現の訓練は,オープンドメインパス検索(ODPR)に有効であることが示されている。
この研究は、ODPRにおける広く使われているCL戦略における紛争の影響について研究することに専念している。
- 参考スコア(独自算出の注目度): 41.45092465380793
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Training dense passage representations via contrastive learning (CL) has been
shown effective for Open-Domain Passage Retrieval (ODPR). Recent studies mainly
focus on optimizing this CL framework by improving the sampling strategy or
extra pretraining. Different from previous studies, this work devotes itself to
investigating the influence of conflicts in the widely used CL strategy in
ODPR, motivated by our observation that a passage can be organized by multiple
semantically different sentences, thus modeling such a passage as a unified
dense vector is not optimal. We call such conflicts Contrastive Conflicts. In
this work, we propose to solve it with a representation decoupling method, by
decoupling the passage representations into contextual sentence-level ones, and
design specific CL strategies to mediate these conflicts. Experiments on widely
used datasets including Natural Questions, Trivia QA, and SQuAD verify the
effectiveness of our method, especially on the dataset where the conflicting
problem is severe. Our method also presents good transferability across the
datasets, which further supports our idea of mediating Contrastive Conflicts.
- Abstract(参考訳): コントラスト学習(cl)による密閉通路表現の訓練は,open-domain passage retrieval (odpr) に有効であることが示されている。
最近の研究は、サンプリング戦略の改善や追加事前学習により、このCLフレームワークの最適化に重点を置いている。
従来の研究と異なり、この研究は、複数の意味論的異なる文で節を整理できるという観察を動機として、ODPRにおける広く使われているCL戦略における紛争の影響を研究に力を入れており、そのような節を統一された密集ベクトルとしてモデル化することは最適ではない。
このような紛争を矛盾紛争と呼ぶ。
そこで本研究では,コンフリクトを媒介する特定のcl戦略を設計,文脈的文レベルでの表現を分離し,表現分離法を用いて解くことを提案する。
自然問題,トリビアqa,スクワッドなど,広く使用されているデータセットに関する実験により,特に競合問題に厳しいデータセットにおいて,本手法の有効性が検証された。
また,提案手法はデータセット間の良好な転送可能性を示し,コントラスト競合を媒介する考え方をさらに支持する。
関連論文リスト
- Towards Robust Uncertainty-Aware Incomplete Multi-View Classification [11.617211995206018]
不完全なMVCシナリオにおけるEDLに基づく手法を強化するために、Alternating Progressive Learning Network (APLN)を提案する。
APLNは、まず粗い計算を適用し、次にデータを潜在空間にマッピングすることで、破損した観測データからのバイアスを緩和する。
また、矛盾する証拠をよりよく扱うために、コンフリクト対応のDempster-Shaferコンビネーションルール(DSCR)を導入します。
論文 参考訳(メタデータ) (2024-09-10T07:18:57Z) - Contextrast: Contextual Contrastive Learning for Semantic Segmentation [9.051352746190448]
コントラスト学習に基づくセマンティックセグメンテーション手法であるContextrastを提案する。
提案手法は,文脈コントラスト学習 (CCL) と境界認識型負サンプリング (B) の2つの部分からなる。
我々のContextrastはセマンティックセグメンテーションネットワークの性能を大幅に向上させることを示した。
論文 参考訳(メタデータ) (2024-04-16T15:04:55Z) - READ: Improving Relation Extraction from an ADversarial Perspective [33.44949503459933]
関係抽出(RE)に特化して設計された対角的学習法を提案する。
提案手法では,シーケンスレベルの摂動とトークンレベルの摂動の両方をサンプルに導入し,個別の摂動語彙を用いてエンティティとコンテキストの摂動の探索を改善する。
論文 参考訳(メタデータ) (2024-04-02T16:42:44Z) - Standardized feature extraction from pairwise conflicts applied to the
train rescheduling problem [0.0]
本研究では,2つの列車間の衝突を同定し,最適に解決する解析手法を提案する。
これらの矛盾を考慮に入れた最も関連性の高い情報を特徴付ける観測空間を設計する。
この方法で得られたデータは、強化学習フレームワークのコンテキストにおけるアクションに変換される。
論文 参考訳(メタデータ) (2022-04-06T19:52:43Z) - Transductive Learning for Unsupervised Text Style Transfer [60.65782243927698]
教師なしスタイル転送モデルは、主に帰納的学習アプローチに基づいている。
本稿では,検索に基づく文脈認識スタイルの表現に基づく新しいトランスダクティブ学習手法を提案する。
論文 参考訳(メタデータ) (2021-09-16T08:57:20Z) - MCDAL: Maximum Classifier Discrepancy for Active Learning [74.73133545019877]
近年の最先端のアクティブラーニング手法は, 主にGAN(Generative Adversarial Networks)をサンプル取得に活用している。
本稿では,MCDAL(Maximum Discrepancy for Active Learning)と呼ぶ新しいアクティブラーニングフレームワークを提案する。
特に,両者の差分を最大化することにより,より厳密な決定境界を学習する2つの補助的分類層を利用する。
論文 参考訳(メタデータ) (2021-07-23T06:57:08Z) - Margin Preserving Self-paced Contrastive Learning Towards Domain
Adaptation for Medical Image Segmentation [51.93711960601973]
クロスモーダル医療画像セグメンテーションのための自己ペースコントラスト学習モデルを保存する新しいマージンを提案する。
プログレッシブに洗練されたセマンティックプロトタイプの指導により、埋め込み表現空間の識別性を高めるために、コントラスト損失を減少させる新しいマージンが提案される。
クロスモーダル心セグメンテーションタスクの実験は、MPSCLが意味セグメンテーション性能を大幅に改善することを示した。
論文 参考訳(メタデータ) (2021-03-15T15:23:10Z) - BriNet: Towards Bridging the Intra-class and Inter-class Gaps in
One-Shot Segmentation [84.2925550033094]
ほとんどショットのセグメンテーションは、限られたトレーニングサンプルで見えないオブジェクトインスタンスをセグメンテーションするためのモデルの一般化に焦点を当てている。
本稿では,クエリの抽出した特徴とサポートイメージのギャップを埋めるフレームワーク BriNet を提案する。
本フレームワークの有効性は,他の競合手法よりも優れる実験結果によって実証された。
論文 参考訳(メタデータ) (2020-08-14T07:45:50Z) - Contradictory Structure Learning for Semi-supervised Domain Adaptation [67.89665267469053]
現在の逆順応法は、クロスドメインの特徴を整列させようとする。
1)条件分布ミスマッチ、2)決定境界のソース領域へのバイアス。
本稿では,対向構造の学習を統一することで,半教師付きドメイン適応のための新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2020-02-06T22:58:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。