論文の概要: Less is More: Mitigate Spurious Correlations for Open-Domain Dialogue
Response Generation Models by Causal Discovery
- arxiv url: http://arxiv.org/abs/2303.01962v1
- Date: Thu, 2 Mar 2023 06:33:48 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-06 14:49:23.118089
- Title: Less is More: Mitigate Spurious Correlations for Open-Domain Dialogue
Response Generation Models by Causal Discovery
- Title(参考訳): less is more:causal discoveryによるオープンドメイン対話応答生成モデルのスプリアス相関の緩和
- Authors: Tao Feng, Lizhen Qu, Gholamreza Haffari
- Abstract要約: 本研究で得られたCGDIALOGコーパスに基づくオープンドメイン応答生成モデルのスプリアス相関に関する最初の研究を行った。
因果探索アルゴリズムに着想を得て,反応生成モデルの学習と推論のための新しいモデル非依存手法を提案する。
- 参考スコア(独自算出の注目度): 52.95935278819512
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this paper, we conduct the first study on spurious correlations for
open-domain response generation models based on a corpus CGDIALOG curated in
our work. The cur rent models indeed suffer from spurious correlations and have
a tendency of generating irrelevant and generic responses. Inspired by causal
discovery algorithms, we propose a novel model-agnostic method for training and
inference of response generation model using a conditional independence
classifier. The classifier is trained by a constrained self-training method,
coined CONSTRAIN, to overcome data scarcity. The experimental results based on
both human and automatic evaluation show that our method significantly
outperforms the competitive baselines in terms of relevance, informativeness,
and fluency.
- Abstract(参考訳): 本稿では,本研究で収集したコーパスcgダイアログに基づいて,オープンドメイン応答生成モデルに対するスプリアス相関に関する最初の研究を行う。
カーレンタルモデルは、確かに急激な相関に悩まされ、無関係で一般的な反応を生み出す傾向にある。
因果発見アルゴリズムに着想を得て,条件付き独立分類器を用いた応答生成モデルの訓練と推定のための新しいモデル非依存手法を提案する。
分類器は、データ不足を克服するために、ConSTRAINと呼ばれる制約付き自己学習法で訓練される。
人的評価と自動評価の両方に基づく実験結果から,本手法は関連性,情報性,流布性において競争ベースラインを著しく上回ることがわかった。
関連論文リスト
- Causal Customer Churn Analysis with Low-rank Tensor Block Hazard Model [4.694536172504849]
本研究は, 顧客への様々な介入が顧客へ与える影響を, 潜在的な成果の枠組みを用いて分析する革新的な手法を提案する。
本稿では,顧客チャーンを因果解析するためのテンソル補完手法を取り入れた新しい因果モデルであるテンソル化潜在要因ブロックハザードモデルを提案する。
論文 参考訳(メタデータ) (2024-05-18T19:54:14Z) - Sample Complexity Bounds for Score-Matching: Causal Discovery and
Generative Modeling [82.36856860383291]
我々は,標準深部ReLUニューラルネットワークをトレーニングすることにより,スコア関数の正確な推定が可能であることを実証した。
スコアマッチングに基づく因果発見手法を用いて因果関係の回復の誤差率の限界を確立する。
論文 参考訳(メタデータ) (2023-10-27T13:09:56Z) - Differentiable Retrieval Augmentation via Generative Language Modeling
for E-commerce Query Intent Classification [8.59563091603226]
本稿では,この問題を解決するために,ジェネレーティブなLanguageモデリング(Dragan)による識別可能な検索拡張を提案する。
本稿では,eコマース検索における難解なNLPタスク,すなわちクエリ意図分類における提案手法の有効性を示す。
論文 参考訳(メタデータ) (2023-08-18T05:05:35Z) - Learning Data Representations with Joint Diffusion Models [20.25147743706431]
データの合成と分類を可能にする統合機械学習モデルは、多くの場合、それらのタスク間の不均一なパフォーマンスを提供するか、トレーニングが不安定である。
それらの目的間のパラメータ化を共用した安定な連立エンドツーエンドトレーニングを可能にする分類器を用いて,バニラ拡散モデルを拡張した。
結果として得られた共同拡散モデルは、評価された全てのベンチマークにおいて、分類と生成品質の両方の観点から、最近の最先端のハイブリッド手法よりも優れている。
論文 参考訳(メタデータ) (2023-01-31T13:29:19Z) - Characterization and Greedy Learning of Gaussian Structural Causal
Models under Unknown Interventions [3.441021278275805]
本研究は,各実験における介入対象が不明な場合の観察に基づく因果構造回復の問題について考察する。
干渉対象の知識のないデータ生成モデルの同値クラスを復元するために,GnIESと呼ばれるグリーディアルゴリズムを導出する。
我々は,この手法を活用し,合成,実,半合成のデータセット上でのGnIESの性能を評価する。
論文 参考訳(メタデータ) (2022-11-27T17:37:21Z) - Causal Inference via Nonlinear Variable Decorrelation for Healthcare
Applications [60.26261850082012]
線形および非線形共振の両方を扱う可変デコリレーション正規化器を用いた新しい手法を提案する。
我々は、モデル解釈可能性を高めるために、元の特徴に基づくアソシエーションルールマイニングを用いた新しい表現として、アソシエーションルールを採用する。
論文 参考訳(メタデータ) (2022-09-29T17:44:14Z) - Estimation of Bivariate Structural Causal Models by Variational Gaussian
Process Regression Under Likelihoods Parametrised by Normalising Flows [74.85071867225533]
因果機構は構造因果モデルによって記述できる。
最先端の人工知能の大きな欠点の1つは、説明責任の欠如である。
論文 参考訳(メタデータ) (2021-09-06T14:52:58Z) - Improving the Reconstruction of Disentangled Representation Learners via Multi-Stage Modeling [54.94763543386523]
現在の自己エンコーダに基づく非絡み合い表現学習法は、(集合体)後部をペナルティ化し、潜伏因子の統計的独立を促進することで、非絡み合いを実現する。
本稿では,不整合因子をペナルティに基づく不整合表現学習法を用いて学習する,新しい多段階モデリング手法を提案する。
次に、低品質な再構成を、欠落した関連潜伏変数をモデル化するために訓練された別の深層生成モデルで改善する。
論文 参考訳(メタデータ) (2020-10-25T18:51:15Z) - Control as Hybrid Inference [62.997667081978825]
本稿では、反復推論と償却推論のバランスを自然に仲介するCHIの実装について述べる。
連続的な制御ベンチマークでアルゴリズムのスケーラビリティを検証し、強力なモデルフリーおよびモデルベースラインを上回る性能を示す。
論文 参考訳(メタデータ) (2020-07-11T19:44:09Z) - Resolving Spurious Correlations in Causal Models of Environments via
Interventions [2.836066255205732]
本稿では,強化学習環境の因果モデル推定の問題について考察する。
提案手法は,因果モデルにおける誤り発見のための介入を行うエージェントにインセンティブを与える報酬関数を設計する。
グリッドワールド環境における実験結果から,本手法はベースラインよりも因果モデルが優れていることが示された。
論文 参考訳(メタデータ) (2020-02-12T20:20:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。