論文の概要: CaM-Gen:Causally-aware Metric-guided Text Generation

• arxiv url: http://arxiv.org/abs/2010.12795v2
• Date: Fri, 25 Mar 2022 23:06:47 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-03 12:51:56.686297
• Title: CaM-Gen:Causally-aware Metric-guided Text Generation
• Title（参考訳）: CaM-Gen:Causally-Aware Metric-Guided Text Generation
• Authors: Navita Goyal, Roodram Paneri, Ayush Agarwal, Udit Kalani, Abhilasha Sancheti, Niyati Chhaya
• Abstract要約: CaM-Gen: ユーザ定義のターゲットメトリクスでガイドされた生成ネットワークを因果認識する。 我々は因果推論手法を利用して、対象の指標となるテキストの因果的重要な側面を識別する。 本稿では,変分オートエンコーダとトランスフォーマーを用いた生成モデルを提案する。
• 参考スコア（独自算出の注目度）: 12.90631444928399
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Content is created for a well-defined purpose, often described by a metric or signal represented in the form of structured information. The relationship between the goal (metrics) of target content and the content itself is non-trivial. While large-scale language models show promising text generation capabilities, guiding the generated text with external metrics is challenging. These metrics and content tend to have inherent relationships and not all of them may be of consequence. We introduce CaM-Gen: Causally aware Generative Networks guided by user-defined target metrics incorporating the causal relationships between the metric and content features. We leverage causal inference techniques to identify causally significant aspects of a text that lead to the target metric and then explicitly guide generative models towards these by a feedback mechanism. We propose this mechanism for variational autoencoder and Transformer-based generative models. The proposed models beat baselines in terms of the target metric control while maintaining fluency and language quality of the generated text. To the best of our knowledge, this is one of the early attempts at controlled generation incorporating a metric guide using causal inference.
• Abstract（参考訳）: コンテンツは明確に定義された目的のために作成され、しばしば構造化情報の形で表される計量や信号によって記述される。 ターゲットコンテンツの目標(メトリクス)とコンテンツ自体の関係は自明ではありません。 大規模言語モデルは有望なテキスト生成能力を示すが、生成したテキストを外部メトリクスで導くことは難しい。 これらのメトリクスとコンテンツは固有の関係を持つ傾向があり、それらすべてが結果であるとは限らない。 cam-gen: メトリクスとコンテンツ特徴の因果関係を組み込んだ,ユーザ定義のターゲットメトリクスによる因果認識生成ネットワークについて紹介する。 我々は因果推論手法を利用して、対象の計量に導かれるテキストの因果的重要な側面を特定し、フィードバック機構により生成モデルをこれらに向けて明示的に導く。 本稿では,変分オートエンコーダとトランスフォーマーを用いた生成モデルを提案する。 提案モデルは,生成したテキストの流束性と言語品質を維持しつつ,ターゲットのメトリック制御の観点からベースラインを打ち負かした。 我々の知る限りでは、これは因果推論を用いたメートル法ガイドを取り入れた制御生成の初期の試みの1つである。

関連論文リスト

• CEV-LM: Controlled Edit Vector Language Model for Shaping Natural Language Generations [5.148810760938979]
  CEV-LMは,制約付き編集ベクトルを用いて3つの相補的メトリクスを制御する軽量な半自己回帰型言語モデルである。 我々は,CEV-LMがこれらの3つの指標に対して,よりターゲット的かつ正確な制御を提供することを示す。
  論文  参考訳（メタデータ） (2024-02-22T05:07:31Z)
• Optimizing Factual Accuracy in Text Generation through Dynamic Knowledge Selection [71.20871905457174]
  言語モデル(LM)は、私たちが情報と対話する方法に革命をもたらしたが、しばしば非現実的なテキストを生成する。 従来の手法では、外部知識をテキスト生成の参照として使用して事実性を高めるが、無関係な参照の知識の混在に苦慮することが多い。 本稿では,テキスト生成プロセスを反復処理に分割するDKGenを提案する。
  論文  参考訳（メタデータ） (2023-08-30T02:22:40Z)
• On the Limitations of Reference-Free Evaluations of Generated Text [64.81682222169113]
  基準のないメトリクスは本質的にバイアスがあり、生成したテキストを評価する能力に制限があることを示す。 機械翻訳や要約といったタスクの進捗を計測するために使用するべきではない、と我々は主張する。
  論文  参考訳（メタデータ） (2022-10-22T22:12:06Z)
• RSTGen: Imbuing Fine-Grained Interpretable Control into Long-FormText Generators [26.27412809287025]
  RSTGenは、生成されたテキストの談話構造、セマンティクス、トピックを制御するフレームワークである。 オープンジェネレーション評価において、生成したテキストの構造的言論と意味的特徴を制御できるモデルの能力を実証する。
  論文  参考訳（メタデータ） (2022-05-25T09:06:04Z)
• Bidimensional Leaderboards: Generate and Evaluate Language Hand in Hand [117.62186420147563]
  リーダーボード, 二次元リーダーボード(ビルボード)の一般化を提案する。 従来の一次元のリーダーボードがシステムに所定の基準でソートするのとは異なり、ビルボードはジェネレータと評価指標の両方を競合するエントリとして受け入れる。 いくつかの異なるメトリクスの線形アンサンブルが、場合によっては既存のメトリクスを独立して大幅に上回っていることを実証する。
  論文  参考訳（メタデータ） (2021-12-08T06:34:58Z)
• Compression, Transduction, and Creation: A Unified Framework for Evaluating Natural Language Generation [85.32991360774447]
  自然言語生成(NLG)は幅広いタスクにまたがっており、それぞれが特定の目的のために機能する。 NLGタスクにおける情報変化の性質に基づく統一的な視点を提案する。 我々は,異なるNLGタスクの重要な側面を評価するのに適した,解釈可能なメトリクスのファミリーを開発する。
  論文  参考訳（メタデータ） (2021-09-14T01:00:42Z)
• GO FIGURE: A Meta Evaluation of Factuality in Summarization [131.1087461486504]
  本稿では,現実性評価指標を評価するメタ評価フレームワークGO FIGUREを紹介する。 10個の実測値のベンチマーク分析により、我々のフレームワークが堅牢で効率的な評価を提供することが明らかとなった。 また、QAメトリクスは、ドメイン間の事実性を測定する標準的なメトリクスよりも一般的に改善されているが、パフォーマンスは、質問を生成する方法に大きく依存していることも明らかにしている。
  論文  参考訳（メタデータ） (2020-10-24T08:30:20Z)
• Towards Faithful Neural Table-to-Text Generation with Content-Matching Constraints [63.84063384518667]
  そこで本研究では,トランスフォーマーをベースとした新たな生成フレームワークを提案する。 忠実度を強制する手法の中核となる技術は、テーブル-テキストの最適トランスポート・マッチング・ロスである。 忠実度を評価するため,テーブル・ツー・テキスト生成問題に特化した新しい自動尺度を提案する。
  論文  参考訳（メタデータ） (2020-05-03T02:54:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。