論文の概要: Multi-document Summarization with Maximal Marginal Relevance-guided
Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2010.00117v1
- Date: Wed, 30 Sep 2020 21:50:46 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-12 22:24:26.213313
- Title: Multi-document Summarization with Maximal Marginal Relevance-guided
Reinforcement Learning
- Title(参考訳): 最大Marginal Relevance-Guided Reinforcement Learningを用いた多文書要約
- Authors: Yuning Mao, Yanru Qu, Yiqing Xie, Xiang Ren, Jiawei Han
- Abstract要約: RL-MMRは、古典的MDSで使用される高度な神経SDS法と統計測度を統一する。
RL-MMRは、より少ない有望な候補にMMRガイダンスを投入し、探索空間を抑え、より良い表現学習をもたらす。
- 参考スコア(独自算出の注目度): 54.446686397551275
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: While neural sequence learning methods have made significant progress in
single-document summarization (SDS), they produce unsatisfactory results on
multi-document summarization (MDS). We observe two major challenges when
adapting SDS advances to MDS: (1) MDS involves larger search space and yet more
limited training data, setting obstacles for neural methods to learn adequate
representations; (2) MDS needs to resolve higher information redundancy among
the source documents, which SDS methods are less effective to handle. To close
the gap, we present RL-MMR, Maximal Margin Relevance-guided Reinforcement
Learning for MDS, which unifies advanced neural SDS methods and statistical
measures used in classical MDS. RL-MMR casts MMR guidance on fewer promising
candidates, which restrains the search space and thus leads to better
representation learning. Additionally, the explicit redundancy measure in MMR
helps the neural representation of the summary to better capture redundancy.
Extensive experiments demonstrate that RL-MMR achieves state-of-the-art
performance on benchmark MDS datasets. In particular, we show the benefits of
incorporating MMR into end-to-end learning when adapting SDS to MDS in terms of
both learning effectiveness and efficiency.
- Abstract(参考訳): ニューラルシークエンス学習法は,SDS(Single-document summarization)において大きな進歩を遂げているが,MDS(Multi-document summarization)では不十分な結果が得られた。
1) MDSはより広い検索空間とより限られた訓練データを持ち、ニューラルネットワークが適切な表現を学習するための障害を設定し、(2) MDSは、SDS手法が扱えないソース文書間の高い情報冗長性を解決する必要がある。
このギャップを埋めるために,古典的MDSで用いられる高度なニューラルネットワークSDS法と統計的尺度を統一したMDSのための最大Margin Relevance-Guided Reinforcement LearningであるRL-MMRを提案する。
RL-MMRは、より少ない有望な候補にMMRガイダンスを投入し、探索空間を抑え、より良い表現学習をもたらす。
さらに、MMRの明示的な冗長度測定は、要約の神経表現が冗長性をよりよく捉えるのに役立つ。
大規模な実験により、RL-MMRはベンチマークMDSデータセット上で最先端のパフォーマンスを達成することが示された。
特に、学習効率と効率の両面から、SDSをMDSに適応させる際に、MMRをエンドツーエンド学習に組み込むことの利点を示す。
関連論文リスト
- RADAR: Robust Two-stage Modality-incomplete Industrial Anomaly Detection [61.71770293720491]
本稿では,2段階のロバスト・モードアリティ不完全融合とFlaAmewoRkの検出について提案する。
我々のブートストラッピング哲学は、MIIADの2段階を強化し、マルチモーダルトランスの堅牢性を向上させることである。
実験の結果,提案手法は従来のMIAD法よりも有効性とロバスト性に優れていた。
論文 参考訳(メタデータ) (2024-10-02T16:47:55Z) - MMEvol: Empowering Multimodal Large Language Models with Evol-Instruct [148.39859547619156]
我々は,新しいマルチモーダル命令データ進化フレームワークであるMMEvolを提案する。
MMEvolは、きめ細かい知覚、認知的推論、相互作用の進化の洗練された組み合わせによって、データ品質を反復的に改善する。
提案手法は,9つのタスクにおいて,最先端モデルに比べて有意に少ない精度でSOTA(State-of-the-art)性能を実現する。
論文 参考訳(メタデータ) (2024-09-09T17:44:00Z) - Social Debiasing for Fair Multi-modal LLMs [55.8071045346024]
MLLM(Multi-modal Large Language Models)は、強力な視覚言語理解機能を提供する。
しかしながら、これらのモデルはトレーニングデータセットから深刻な社会的偏見を継承することが多く、人種や性別といった属性に基づいた不公平な予測につながります。
本稿では,MLLMにおける社会的バイアスの問題に対処する。i)多元的社会的概念(CMSC)を用いた包括的対実的データセットの導入,i)アンチステレオタイプデバイアス戦略(ASD)を提案する。
論文 参考訳(メタデータ) (2024-08-13T02:08:32Z) - Maximum Manifold Capacity Representations in State Representation Learning [8.938418994111716]
多様体に基づく自己教師付き学習(SSL)は、多様体仮説に基づいて構築される。
アンバランスなアトラス(DIM-UA)を備えたDeepInfomaxが強力なツールとして登場した。
MMCRは、多様体圧縮によるクラス分離性を最適化することにより、SSLの新たなフロンティアを提供する。
本稿では,既存のSSLメソッドへのMMCRの革新的な統合について述べる。
論文 参考訳(メタデータ) (2024-05-22T17:19:30Z) - ESP: Exploiting Symmetry Prior for Multi-Agent Reinforcement Learning [22.733348449818838]
マルチエージェント強化学習(MARL)は近年,有望な成果を上げている。
本稿では、データ拡張とよく設計された一貫性損失を統合することで、事前知識を活用するためのフレームワークを提案する。
論文 参考訳(メタデータ) (2023-07-30T09:49:05Z) - Feature Decomposition for Reducing Negative Transfer: A Novel Multi-task
Learning Method for Recommender System [35.165907482126464]
特徴分解ネットワーク(FDN)と呼ばれる新しいマルチタスク学習手法を提案する。
提案するFDNの鍵となる考え方は,特徴をタスク固有機能とタスク共有機能に明示的に分解することで,特徴冗長性の現象を小さくすることである。
実験結果から,提案するFDN法は最先端(SOTA)法よりも顕著なマージンで優れていることがわかった。
論文 参考訳(メタデータ) (2023-02-10T03:08:37Z) - From Cloze to Comprehension: Retrofitting Pre-trained Masked Language
Model to Pre-trained Machine Reader [130.45769668885487]
Pre-trained Machine Reader (PMR) は、ラベル付きデータを取得することなく、MLMを事前学習機械読解(MRC)モデルに適合させる新しい手法である。
提案したPMRを構築するために,多量の汎用および高品質なMRCスタイルのトレーニングデータを構築した。
PMRは、MRCの定式化における様々な抽出および分類タスクに対処するための統一モデルとして機能する可能性がある。
論文 参考訳(メタデータ) (2022-12-09T10:21:56Z) - Combining State-of-the-Art Models with Maximal Marginal Relevance for
Few-Shot and Zero-Shot Multi-Document Summarization [0.6690874707758508]
多文書要約(MDS)は、単一文書要約(SDS)によって生じるものよりも多くの課題を研究者にもたらす
我々は,MMR(Maximal marginal Relevance)を用いた最先端モデルの出力の組み合わせ戦略を提案する。
我々のMMRベースのアプローチは、少数ショットMDSアプリケーションとゼロショットMDSアプリケーションの両方において、現在の最先端の成果のいくつかの側面よりも改善されている。
論文 参考訳(メタデータ) (2022-11-19T21:46:31Z) - MMD-ReID: A Simple but Effective Solution for Visible-Thermal Person
ReID [20.08880264104061]
本稿では,モダリティギャップを明示的な差分低減制約によって低減する,シンプルで効果的なMDD-ReIDを提案する。
我々はMDD-ReIDの有効性を定性的かつ定量的に実証するための広範囲な実験を行った。
提案手法は,SYSU-MM01およびRegDBデータセットにおける最先端の手法よりも優れている。
論文 参考訳(メタデータ) (2021-11-09T11:33:32Z) - Modal Regression based Structured Low-rank Matrix Recovery for
Multi-view Learning [70.57193072829288]
近年、低ランクなマルチビューサブスペース学習は、クロスビューの分類において大きな可能性を示している。
既存のLMvSLベースの手法では、ビューの区別と差別を同時に扱うことができない。
本稿では,視差を効果的に除去し,識別性を向上する独自の方法であるStructured Low-rank Matrix Recovery (SLMR)を提案する。
論文 参考訳(メタデータ) (2020-03-22T03:57:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。