論文の概要: Loss-Based Active Learning for Neural Abstractive Summarization

• arxiv url: http://arxiv.org/abs/2608.25881v1
• Date: Wed, 26 Aug 2026 14:52:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-27 14:15:15.873423
• Title: Loss-Based Active Learning for Neural Abstractive Summarization
• Title（参考訳）: ニューラルネットワークの抽象的要約のためのロスベース能動学習
• Abstract要約: 微調整抽象要約モデルは高品質な注釈付きデータを必要とする。 LOss-BaSed acTivE leaRningは抽象的な要約のために設計された新しいアクティブラーニングフレームワークである。 LOss-BaSed acTivE leaRningは、現在の最先端のアプローチと一貫して一致し、性能を向上する。
• 参考スコア（独自算出の注目度）: 5.828450828547523
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Fine-tuning abstractive summarization models requires high-quality annotated data. However, obtaining such corpora is expensive and time-consuming, as it requires human annotators to read and comprehend long documents to create accurate summaries. Active learning mitigates this issue by selecting only the most informative instances for annotation, allowing models to achieve competitive results with significantly fewer labels. However, the application of active learning to summarization remains under-explored, and existing studies often suffer from instability and significant computational bottlenecks. To overcome these challenges, we propose LOBSTER (LOss-BaSed acTivE leaRning), a novel active learning framework designed specifically for abstractive summarization. LOBSTER improves performance by prioritizing unlabeled instances semantically similar to the model's current high-loss training examples, enabling the model to explicitly correct its specific weaknesses. Our empirical evaluation across three benchmark datasets and two summarization backbone models demonstrates that LOBSTER consistently matches or outperforms current state-of-the-art approaches while achieving a query selection speedup of up to 665x.
• Abstract（参考訳）: 微調整抽象要約モデルは高品質な注釈付きデータを必要とする。 しかし、このようなコーパスを得るには、人間の注釈者が長い文書を読んで理解し、正確な要約を作成する必要があるため、高価で時間を要する。 アクティブラーニング(Active Learning)は、アノテーションの最も情報に富むインスタンスだけを選択することでこの問題を軽減する。 しかし、能動学習の要約への応用は未解明のままであり、既存の研究は不安定性や計算のボトルネックに悩まされることが多い。 これらの課題を克服するために,抽象的な要約に特化した新しい能動的学習フレームワークLOBSTER(LOss-BaSed acTivE leaRning)を提案する。 LOBSTERは、現在の高損失トレーニングの例とセマンティックに類似したラベル付きインスタンスを優先順位付けすることで、パフォーマンスを改善し、モデルが特定の弱点を明示的に修正することを可能にする。 3つのベンチマークデータセットと2つの要約バックボーンモデルによる実証的な評価により、LOBSTERは、クエリ選択速度を最大665倍に向上しつつ、現在の最先端アプローチと一貫して一致または性能を向上することを示した。

関連論文リスト

• SPaRFT: Self-Paced Reinforcement Fine-Tuning for Large Language Models [51.74498855100541]
  大規模言語モデル(LLM)は、強化学習(RL)による微調整時に強い推論能力を示す。 トレーニング対象のモデルの性能に基づいて,効率的な学習を可能にする自己評価学習フレームワークである textbfSPaRFT を提案する。
  論文  参考訳（メタデータ） (2025-08-07T03:50:48Z)
• Representation Learning of Limit Order Book: A Comprehensive Study and Benchmarking [3.94375691568608]
  限界秩序書(LOB)は市場ダイナミクスの詳細なビューを提供する。 既存のアプローチはしばしば、エンド・ツー・エンドの方法で特定の下流タスクによる表現学習を密に結合する。 我々は、実際の中国のAシェア市場データを標準化したベンチマークであるLOBenchを紹介し、キュレートされたデータセット、統一された前処理、一貫した評価指標、強力なベースラインを提供する。
  論文  参考訳（メタデータ） (2025-05-04T15:00:00Z)
• Zero-shot Retrieval: Augmenting Pre-trained Models with Search Engines [83.65380507372483]
  大規模で事前訓練されたモデルは、問題を解決するのに必要なタスク固有のデータの量を劇的に削減するが、多くの場合、ドメイン固有のニュアンスを箱から取り出すのに失敗する。 本稿では,NLPとマルチモーダル学習の最近の進歩を活用して,検索エンジン検索による事前学習モデルを強化する方法について述べる。
  論文  参考訳（メタデータ） (2023-11-29T05:33:28Z)
• Active Learning for Abstractive Text Summarization [50.79416783266641]
  本稿では,抽象テキスト要約におけるアクティブラーニングのための最初の効果的なクエリ戦略を提案する。 ALアノテーションにおける私たちの戦略は、ROUGEと一貫性スコアの点からモデル性能を向上させるのに役立ちます。
  論文  参考訳（メタデータ） (2023-01-09T10:33:14Z)
• Temporal Output Discrepancy for Loss Estimation-based Active Learning [65.93767110342502]
  ラベルのないサンプルが高損失を伴っていると信じられている場合に,データアノテーションのオラクルに問い合わせる,新しいディープラーニングアプローチを提案する。 本手法は,画像分類やセマンティックセグメンテーションタスクにおける最先端の能動学習手法よりも優れた性能を実現する。
  論文  参考訳（メタデータ） (2022-12-20T19:29:37Z)
• What Makes Good Contrastive Learning on Small-Scale Wearable-based Tasks? [59.51457877578138]
  本研究では,ウェアラブル型行動認識タスクにおけるコントラスト学習について検討する。 本稿では,PyTorchライブラリのtextttCL-HAR について述べる。
  論文  参考訳（メタデータ） (2022-02-12T06:10:15Z)
• Semi-Supervised Active Learning with Temporal Output Discrepancy [42.01906895756629]
  ラベルのないサンプルが高損失を伴っていると信じられている場合に,データアノテーションのオラクルに問い合わせる,新しいディープラーニングアプローチを提案する。 本手法は,画像分類やセマンティックセグメンテーションタスクにおける最先端の能動学習手法よりも優れた性能を実現する。
  論文  参考訳（メタデータ） (2021-07-29T16:25:56Z)
• Learning from Noisy Labels for Entity-Centric Information Extraction [17.50856935207308]
  エンティティ中心の情報抽出のための単純な共正規化フレームワークを提案する。 これらのモデルはタスク固有の損失と共同最適化され、同様の予測を生成するために正規化される。 結局のところ、トレーニングされたモデルのいずれかを推論に利用できます。
  論文  参考訳（メタデータ） (2021-04-17T22:49:12Z)
• ReClor: A Reading Comprehension Dataset Requiring Logical Reasoning [85.33459673197149]
  標準化された大学院受験試験から抽出した論理的推論(ReClor)を必要とする新たな読解データセットを提案する。 本稿では、偏りのあるデータポイントを識別し、それらをEASY集合と残りをHARD集合に分離することを提案する。 実験結果によると、最先端のモデルでは、データセットに含まれるバイアスをEASYセット上で高精度にキャプチャする能力に優れていた。 しかし、彼らはランダムな推測に近い性能のHARDセットに苦慮しており、現在のモデルの論理的推論能力を本質的に向上させるためには、より多くの研究が必要であることを示している。
  論文  参考訳（メタデータ） (2020-02-11T11:54:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。