Fugu-MT 論文翻訳(概要): Causal Intervention for Abstractive Related Work Generation

論文の概要: Causal Intervention for Abstractive Related Work Generation

arxiv url: http://arxiv.org/abs/2305.13685v1
Date: Tue, 23 May 2023 04:48:30 GMT
ステータス: 処理完了
システム内更新日: 2023-05-24 18:53:40.464986
Title: Causal Intervention for Abstractive Related Work Generation
Title（参考訳）: 抽象的作業生成のための因果干渉
Authors: Jiachang Liu, Qi Zhang, Chongyang Shi, Usman Naseem, Shoujin Wang, Ivor Tsang
Abstract要約: 関連作業生成のためのCaM(Causal Intervention Module)を提案する。まず、因果グラフを用いて、関連作業生成における文順、文書関係、遷移内容の関係をモデル化する。次に,通常の条件付き確率の導出とCaMによる因果効果の同定にdo-calculusを用いた。
参考スコア（独自算出の注目度）: 16.7515135295061
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Abstractive related work generation has attracted increasing attention in generating coherent related work that better helps readers grasp the background in the current research. However, most existing abstractive models ignore the inherent causality of related work generation, leading to low quality of generated related work and spurious correlations that affect the models' generalizability. In this study, we argue that causal intervention can address these limitations and improve the quality and coherence of the generated related works. To this end, we propose a novel Causal Intervention Module for Related Work Generation (CaM) to effectively capture causalities in the generation process and improve the quality and coherence of the generated related works. Specifically, we first model the relations among sentence order, document relation, and transitional content in related work generation using a causal graph. Then, to implement the causal intervention and mitigate the negative impact of spurious correlations, we use do-calculus to derive ordinary conditional probabilities and identify causal effects through CaM. Finally, we subtly fuse CaM with Transformer to obtain an end-to-end generation model. Extensive experiments on two real-world datasets show that causal interventions in CaM can effectively promote the model to learn causal relations and produce related work of higher quality and coherence.
Abstract（参考訳）: 抽象的関連ワーク生成は、現在の研究の背景を理解するのに役立つコヒーレントな関連ワークの生成に注目が集まっている。しかし、既存の抽象モデルの多くは、関連するワーク生成の固有の因果性を無視し、生成された関連作業の品質が低くなり、モデルの一般化性に影響を与えるスプリアス相関が発生する。本研究では, 因果介入がこれらの限界に対処し, 生成した関連作品の品質とコヒーレンスを向上させることを論じる。そこで本稿では, 生成過程における因果関係を効果的に捉え, 生成関連作品の品質と一貫性を向上させるための, 関連ワークジェネレーション(cam)のための新しい因果介入モジュールを提案する。具体的には,まず,因果グラフを用いた関連作業生成における文順序,文書関係,経過内容の関係をモデル化する。次に, 因果介入の実施と, 素因果相関の負の影響を軽減するために, 通常の条件付き確率の導出とCaMによる因果効果の同定にdo-calculusを用いた。最後に,CaM を Transformer と微視的に融合させ,エンドツーエンド生成モデルを得る。 2つの実世界のデータセットに対する大規模な実験により、CaMの因果介入は因果関係を学習し、より高い品質と一貫性の関連作業を生成するために効果的にモデルを促進することが示されている。

関連論文リスト

Deep Causal Generative Models with Property Control [11.604321459670315]
我々は相関対応因果変分自動エンコーダ(C2VAE)と呼ばれる新しい深層生成フレームワークを提案する。 C2VAEは、非絡み付き潜在ベクトルを用いて特性間の相関関係と因果関係を同時に回復する。
論文参考訳（メタデータ） (2024-05-25T13:07:27Z)
Rethinking Radiology Report Generation via Causal Inspired Counterfactual Augmentation [11.266364967223556]
放射線医学報告生成(RRG)は、生体医学分野の視覚・言語相互作用として注目されている。従来の言語生成タスクのイデオロギーは、レポートとして高い可読性を持つ段落を生成することを目的として、従来の言語生成タスクのイデオロギーを継承した。 RRGの特定の性質である病気間の独立性は無視され、偏りのあるデータ分布によって引き起こされる病気の共起によってモデルが混乱する結果となった。
論文参考訳（メタデータ） (2023-11-22T10:55:36Z)
Identifiable Latent Polynomial Causal Models Through the Lens of Change [82.14087963690561]
因果表現学習は、観測された低レベルデータから潜在的な高レベル因果表現を明らかにすることを目的としている。主な課題の1つは、識別可能性(identifiability)として知られるこれらの潜伏因果モデルを特定する信頼性の高い保証を提供することである。
論文参考訳（メタデータ） (2023-10-24T07:46:10Z)
From Identifiable Causal Representations to Controllable Counterfactual Generation: A Survey on Causal Generative Modeling [17.074858228123706]
基本的な理論、方法論、欠点、データセット、メトリクスに重点を置いています。フェアネス、プライバシ、アウト・オブ・ディストリビューションの一般化、精密医療、生物科学における因果生成モデルの応用について述べる。
論文参考訳（メタデータ） (2023-10-17T05:45:32Z)
Inducing Causal Structure for Abstractive Text Summarization [76.1000380429553]
要約データの因果構造を誘導する構造因果モデル(SCM)を導入する。本稿では因果的要因を模倣できる因果的表現を学習するための因果性インスピレーション付き系列列列モデル(CI-Seq2Seq)を提案する。 2つの広く使われているテキスト要約データセットの実験結果は、我々のアプローチの利点を示している。
論文参考訳（メタデータ） (2023-08-24T16:06:36Z)
Less is More: Mitigate Spurious Correlations for Open-Domain Dialogue Response Generation Models by Causal Discovery [52.95935278819512]
本研究で得られたCGDIALOGコーパスに基づくオープンドメイン応答生成モデルのスプリアス相関に関する最初の研究を行った。因果探索アルゴリズムに着想を得て,反応生成モデルの学習と推論のための新しいモデル非依存手法を提案する。
論文参考訳（メタデータ） (2023-03-02T06:33:48Z)
CausalDialogue: Modeling Utterance-level Causality in Conversations [83.03604651485327]
クラウドソーシングを通じて、CausalDialogueという新しいデータセットをコンパイルし、拡張しました。このデータセットは、有向非巡回グラフ(DAG)構造内に複数の因果効果対を含む。ニューラル会話モデルの訓練における発話レベルにおける因果性の影響を高めるために,Exponential Average Treatment Effect (ExMATE) と呼ばれる因果性強化手法を提案する。
論文参考訳（メタデータ） (2022-12-20T18:31:50Z)
De-Biasing Generative Models using Counterfactual Methods [0.0]
我々はCausal Counterfactual Generative Model (CCGM) と呼ばれる新しいデコーダベースのフレームワークを提案する。提案手法は,因果関係の忠実さを強調するために,因果関係の潜在空間VAEモデルと特定の修正を加えたものである。因果的学習と符号化/復号化が因果的介入の質をいかに高めるかを検討する。
論文参考訳（メタデータ） (2022-07-04T16:53:20Z)
Active Bayesian Causal Inference [72.70593653185078]
因果発見と推論を統合するための完全ベイズ能動学習フレームワークであるアクティブベイズ因果推論(ABCI)を提案する。 ABCIは因果関係のモデルと関心のクエリを共同で推論する。我々のアプローチは、完全な因果グラフの学習のみに焦点を当てた、いくつかのベースラインよりも、よりデータ効率が高いことを示す。
論文参考訳（メタデータ） (2022-06-04T22:38:57Z)
Amortized Causal Discovery: Learning to Infer Causal Graphs from Time-Series Data [63.15776078733762]
本稿では,時系列データから因果関係を推定する新しいフレームワークであるAmortized Causal Discoveryを提案する。本研究では,本手法が変分モデルとして実装され,因果発見性能が大幅に向上することを示した。
論文参考訳（メタデータ） (2020-06-18T19:59:12Z)
Resolving Spurious Correlations in Causal Models of Environments via Interventions [2.836066255205732]
本稿では,強化学習環境の因果モデル推定の問題について考察する。提案手法は,因果モデルにおける誤り発見のための介入を行うエージェントにインセンティブを与える報酬関数を設計する。グリッドワールド環境における実験結果から,本手法はベースラインよりも因果モデルが優れていることが示された。
論文参考訳（メタデータ） (2020-02-12T20:20:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。