論文の概要: Towards Better Open-Ended Text Generation: A Multicriteria Evaluation Framework

• arxiv url: http://arxiv.org/abs/2410.18653v1
• Date: Thu, 24 Oct 2024 11:32:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-25 16:44:14.489595
• Title: Towards Better Open-Ended Text Generation: A Multicriteria Evaluation Framework
• Title（参考訳）: より良いオープンエンディングテキスト生成を目指して : マルチ基準評価フレームワーク
• Authors: Esteban Garces Arias, Hannah Blocher, Julian Rodemann, Meimingwei Li, Christian Heumann, Matthias Aßenmacher,
• Abstract要約: オープンエンドテキスト生成は自然言語処理において顕著な課題となっている。 復号法は、いくつかの指標で優れ、他の指標では性能が劣ることが多い。 本稿では,この多基準フレームワークにおける新たなランキング戦略を提案する。
• 参考スコア（独自算出の注目度）: 0.1979158763744267
• License:
• Abstract: Open-ended text generation has become a prominent task in natural language processing due to the rise of powerful (large) language models. However, evaluating the quality of these models and the employed decoding strategies remains challenging because of trade-offs among widely used metrics such as coherence, diversity, and perplexity. Decoding methods often excel in some metrics while underperforming in others, complicating the establishment of a clear ranking. In this paper, we present novel ranking strategies within this multicriteria framework. Specifically, we employ benchmarking approaches based on partial orderings and present a new summary metric designed to balance existing automatic indicators, providing a more holistic evaluation of text generation quality. Furthermore, we discuss the alignment of these approaches with human judgments. Our experiments demonstrate that the proposed methods offer a robust way to compare decoding strategies, exhibit similarities with human preferences, and serve as valuable tools in guiding model selection for open-ended text generation tasks. Finally, we suggest future directions for improving evaluation methodologies in text generation. Our codebase, datasets, and models are publicly available.
• Abstract（参考訳）: オープンエンドテキスト生成は、強力な(大規模な)言語モデルの台頭により、自然言語処理において顕著なタスクとなっている。 しかし、コヒーレンス、多様性、難易度といった広く使われている指標間のトレードオフのため、これらのモデルの品質と採用されている復号戦略を評価することは依然として困難である。 復号法はいくつかの指標で優れ、他の指標では性能が劣り、明確なランクの確立が複雑になる。 本稿では,この多基準フレームワークにおける新たなランキング戦略を提案する。 具体的には、部分順序付けに基づくベンチマーク手法を採用し、既存の自動指標のバランスをとるために設計された新しい要約尺度を提示し、テキスト生成品質をより包括的に評価する。 さらに、これらのアプローチと人間の判断との整合性についても論じる。 実験により,提案手法は,復号化戦略を比較し,人間の嗜好と類似性を示し,オープンエンドテキスト生成タスクのモデル選択を導く上で有用なツールであることを示す。 最後に,テキスト生成における評価手法の改善に向けた今後の方向性を提案する。 コードベース、データセット、モデルは公開されています。

関連論文リスト

• Adaptive Contrastive Search: Uncertainty-Guided Decoding for Open-Ended Text Generation [0.20971479389679337]
  コントラスト探索を拡張した新しい復号法であるアダプティブコントラスト探索を導入する。 この結果から,異なるモデルアーキテクチャとデータセットの両面でのパフォーマンス向上が示唆された。
  論文  参考訳（メタデータ） (2024-07-26T12:23:54Z)
• Retrieval is Accurate Generation [99.24267226311157]
  本稿では,支援文書の集合からコンテキスト認識句を選択する新しい手法を提案する。 本モデルでは,検索対象のベースラインの中で,最高の性能と低レイテンシを実現する。
  論文  参考訳（メタデータ） (2024-02-27T14:16:19Z)
• ToBlend: Token-Level Blending With an Ensemble of LLMs to Attack AI-Generated Text Detection [6.27025292177391]
  ToBlendはトークンレベルのアンサンブルテキスト生成手法であり、現在のAIコンテンツ検出アプローチの堅牢性に挑戦する。 ToBlendは、主要なAIコンテンツ検出手法の性能を著しく低下させる。
  論文  参考訳（メタデータ） (2024-02-17T02:25:57Z)
• Exploring Precision and Recall to assess the quality and diversity of LLMs [82.21278402856079]
  我々はtextscLlama-2 や textscMistral のような大規模言語モデル (LLM) のための新しい評価フレームワークを提案する。 このアプローチにより、コーパスの整合を必要とせず、生成したテキストの品質と多様性を微妙に評価できる。
  論文  参考訳（メタデータ） (2024-02-16T13:53:26Z)
• Language Model Decoding as Direct Metrics Optimization [87.68281625776282]
  現在の復号法は、異なる側面にわたる人間のテキストと整合するテキストを生成するのに苦労している。 本研究では,言語モデルからの復号化を最適化問題として,期待される性能と人間のテキストとの厳密なマッチングを目的とした。 この誘導分布は,人間のテキストの難易度を向上させることが保証されていることを証明し,人間のテキストの基本的な分布に対するより良い近似を示唆する。
  論文  参考訳（メタデータ） (2023-10-02T09:35:27Z)
• Large Language Models are Diverse Role-Players for Summarization Evaluation [82.31575622685902]
  文書要約の品質は、文法や正しさといった客観的な基準と、情報性、簡潔さ、魅力といった主観的な基準で人間の注釈者によって評価することができる。 BLUE/ROUGEのような自動評価手法のほとんどは、上記の次元を適切に捉えることができないかもしれない。 目的と主観の両面から生成されたテキストと参照テキストを比較し,総合的な評価フレームワークを提供するLLMに基づく新しい評価フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-03-27T10:40:59Z)
• Language Model Evaluation in Open-ended Text Generation [0.76146285961466]
  本研究では,機械生成テキストの品質,多様性,一貫性を評価するために提案されている評価指標について検討する。 そこで我々は,オープン・エンド・ジェネレーション・タスクにおいて,言語モデルを評価するための実用的なパイプラインを提案する。
  論文  参考訳（メタデータ） (2021-08-08T06:16:02Z)
• Data-to-text Generation with Macro Planning [61.265321323312286]
  本稿では,マクロ計画段階のニューラルモデルと,従来の手法を連想させる生成段階を提案する。 提案手法は, 自動評価と人的評価の両面で, 競争ベースラインを上回っている。
  論文  参考訳（メタデータ） (2021-02-04T16:32:57Z)
• Hierarchical Bi-Directional Self-Attention Networks for Paper Review Rating Recommendation [81.55533657694016]
  本稿では,階層型双方向自己注意ネットワークフレームワーク(HabNet)を提案する。 具体的には、文エンコーダ(レベル1)、レビュー内エンコーダ(レベル2)、レビュー間エンコーダ(レベル3)の3つのレベルで、論文レビューの階層構造を利用する。 我々は、最終的な受理決定を行う上で有用な予測者を特定することができ、また、数値的なレビュー評価とレビュアーが伝えるテキストの感情の不整合を発見するのに役立てることができる。
  論文  参考訳（メタデータ） (2020-11-02T08:07:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。