論文の概要: Optimizing Abstractive Summarization With Fine-Tuned PEGASUS

• arxiv url: http://arxiv.org/abs/2606.25462v1
• Date: Wed, 24 Jun 2026 06:43:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-25 17:05:30.2489
• Title: Optimizing Abstractive Summarization With Fine-Tuned PEGASUS
• Title（参考訳）: Fine-Tuned PEGASUS を用いた抽象要約の最適化
• Abstract要約: 本稿では,XLSum の英語コーパス上で PEG を微調整し,ベースライン mT5 モデルよりも優れた性能を実現する。 改善の定量化のために、ROUGE-1スコアは4.04%改善され、ROUGE-2スコアは15.25%改善され、ROUGE-Lスコアは3.39%改善された。
• 参考スコア（独自算出の注目度）: 1.0874100424278175
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Abstractive text summarization is the technique of generating a short and concise summary comprising the salient ideas of a source text without making a subset of the salient sentences from the source text. The introduction of transformer models such as BART, T5, and PEGASUS has made this sort of summarization process more efficient and accurate. The objective of this paper is to fine-tune PEGASUS on the XL-Sum English corpus to achieve a better performance compared to the baseline mT5 model. The performance of the generated summaries from the fine-tuned model is evaluated using the ROUGE metric, which basically compares the auto-generated summaries with human-created summaries. To the best of our knowledge, the results from our fine-tuned PEGASUS model give a state-of-the-art performance on the XL-Sum English Corpus. To quantify the improvement, there is a 4.04% improvement in the ROUGE-1 score, a 15.25% increase in the ROUGE-2 score, and a 3.39% improvement in the ROUGE-L score from the baseline model.
• Abstract（参考訳）: 抽象テキスト要約は、原文から有能な文のサブセットを作成することなく、原文の有能な考えを含む簡潔で簡潔な要約を生成する技術である。 BART、T5、PEGASUSなどのトランスフォーマーモデルの導入により、このような要約プロセスはより効率的かつ正確になった。 本研究の目的は,XL-Sum コーパス上で PEGASUS を微調整することで,ベースライン mT5 モデルよりも優れた性能を実現することである。 自動生成サマリーと人為的なサマリーを比較したROUGEメトリックを用いて, 微調整モデルから生成されたサマリーの性能を評価した。 我々の知る限り、我々の細調整されたPEGASUSモデルの結果は、XL-Sum English Corpusで最先端のパフォーマンスを提供する。 改善の定量化のために、ROUGE-1スコアは4.04%改善され、ROUGE-2スコアは15.25%向上し、ROUGE-Lスコアは3.39%改善された。

関連論文リスト

• MASF: A Multi-Model Adaptive Selection Framework for Abstractive Text summarization [0.2864713389096699]
  本稿では,抽象的テキスト要約の堅牢性と品質を向上させるために,多モデル適応要約フレームワークを提案する。 複数の微調整変換器に基づく要約モデルを統合し、適応的な選択機構を導入する。 BERTScoreのスコアは88.63%であり、全ての比較手法の中で最高である。
  論文  参考訳（メタデータ） (2026-06-03T22:34:40Z)
• Assessment of Transformer-Based Encoder-Decoder Model for Human-Like Summarization [0.05852077003870416]
  この研究は、トランスフォーマーベースのBARTモデルを利用して人間のような要約を行う。 エンコーダ・デコーダモデルの訓練および微調整において,多種多様なサンプル記事を用いて検証を行った。 微調整モデルの性能をベースライン事前訓練モデルと比較する。 BBC Newsの記事に載った実証的な結果は、人間によって書かれた金の標準要約の方が17%も現実的に一貫性があることを示している。
  論文  参考訳（メタデータ） (2024-10-22T09:25:04Z)
• Towards Enhancing Coherence in Extractive Summarization: Dataset and Experiments with LLMs [70.15262704746378]
  我々は,5つの公開データセットと自然言語ユーザフィードバックのためのコヒーレントな要約からなる,体系的に作成された人間アノテーションデータセットを提案する。 Falcon-40BとLlama-2-13Bによる予備的な実験では、コヒーレントなサマリーを生成するという点で大幅な性能向上(10%ルージュ-L)が見られた。
  論文  参考訳（メタデータ） (2024-07-05T20:25:04Z)
• Information-Theoretic Distillation for Reference-less Summarization [67.51150817011617]
  本稿では,要約のための情報理論的目的に基づいて,強力な要約器を蒸留する新しい枠組みを提案する。 我々は,教師モデルとしてPythia-2.8Bから出発する。 我々は,ChatGPTと競合する5億8800万のパラメータしか持たないコンパクトだが強力な要約器に到達した。
  論文  参考訳（メタデータ） (2024-03-20T17:42:08Z)
• Rank Your Summaries: Enhancing Bengali Text Summarization via Ranking-based Approach [0.0]
  本稿では,単純かつ効果的なランキングベースアプローチを用いて,与えられたテキストの最も正確かつ情報的な要約を特定することを目的とする。 事前学習した4つの要約モデルを用いて要約を生成し、次いでテキストランキングアルゴリズムを適用して最も適した要約を識別する。 実験結果から, 事前学習したトランスモデルの強度を利用して, ベンガル文字要約の精度と有効性を大幅に向上させることが示唆された。
  論文  参考訳（メタデータ） (2023-07-14T15:07:20Z)
• Text Embeddings by Weakly-Supervised Contrastive Pre-training [98.31785569325402]
  E5は最先端のテキスト埋め込みのファミリーであり、幅広いタスクにうまく転送される。 E5は、テキストの単一ベクトル表現を必要とするタスクに対して、汎用的な埋め込みモデルとして簡単に使用できる。
  論文  参考訳（メタデータ） (2022-12-07T09:25:54Z)
• COLO: A Contrastive Learning based Re-ranking Framework for One-Stage Summarization [84.70895015194188]
  コントラスト学習に基づく一段階要約フレームワークであるCOLOを提案する。 COLOはCNN/DailyMailベンチマークの1段階システムの抽出と抽象化結果を44.58と46.33ROUGE-1スコアに引き上げた。
  論文  参考訳（メタデータ） (2022-09-29T06:11:21Z)
• HETFORMER: Heterogeneous Transformer with Sparse Attention for Long-Text Extractive Summarization [57.798070356553936]
  HETFORMERはトランスフォーマーをベースとした事前学習モデルであり、抽出要約のための多粒度スパースアテンションを持つ。 単一文書と複数文書の要約タスクの実験から,HETFORMERがルージュF1の最先端性能を達成することが示された。
  論文  参考訳（メタデータ） (2021-10-12T22:42:31Z)
• MeetSum: Transforming Meeting Transcript Summarization using Transformers! [2.1915057426589746]
  本稿では,Transformer ベースの Pointer Generator Network を用いて要約文を生成する。 このモデルは、エンコーダとデコーダとして2つのLSTMを使用し、入力されたテキストから単語をコピーするポインタネットワークと、語彙外単語を生成するジェネレータネットワークを使用する。 本稿では,ニュース要約データセット上でモデルをトレーニングし,ゼロショット学習を用いてミーティングデータセット上でテストすることで,AMIミーティングデータセット上でのトレーニングよりも優れた結果が得られることを示す。
  論文  参考訳（メタデータ） (2021-08-13T16:34:09Z)
• Extractive Summarization as Text Matching [123.09816729675838]
  本稿では,ニューラル抽出要約システムの構築方法に関するパラダイムシフトを作成する。 抽出した要約タスクを意味テキストマッチング問題として定式化する。 我々はCNN/DailyMailの最先端抽出結果を新しいレベル(ROUGE-1の44.41)に推し進めた。
  論文  参考訳（メタデータ） (2020-04-19T08:27:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。