論文の概要: Emerging Synergies in Causality and Deep Generative Models: A Survey
- arxiv url: http://arxiv.org/abs/2301.12351v3
- Date: Thu, 14 Sep 2023 18:41:03 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-18 18:57:38.139493
- Title: Emerging Synergies in Causality and Deep Generative Models: A Survey
- Title(参考訳): 因果関係における新たなシナジーと深層生成モデル--調査
- Authors: Guanglin Zhou and Shaoan Xie and Guangyuan Hao and Shiming Chen and
Biwei Huang and Xiwei Xu and Chen Wang and Liming Zhu and Lina Yao and Kun
Zhang
- Abstract要約: 深部生成モデル (DGM) は複雑なデータ分布を捉えるのに適することが証明されているが、一般化と解釈可能性に欠けることが多い。
因果性は、データ生成を駆動するメカニズムを理解するための構造化レンズを提供し、これらのプロセスに固有の因果効果のダイナミクスを強調する。
我々は、DGMにおける因果原理の統合を解明し、DGMを用いた因果同定を調査し、大規模生成モデルにおける因果関係の新たな研究フロンティアを探索する。
- 参考スコア(独自算出の注目度): 35.62192474181619
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In the field of artificial intelligence (AI), the quest to understand and
model data-generating processes (DGPs) is of paramount importance. Deep
generative models (DGMs) have proven adept in capturing complex data
distributions but often fall short in generalization and interpretability. On
the other hand, causality offers a structured lens to comprehend the mechanisms
driving data generation and highlights the causal-effect dynamics inherent in
these processes. While causality excels in interpretability and the ability to
extrapolate, it grapples with intricacies of high-dimensional spaces.
Recognizing the synergistic potential, we delve into the confluence of
causality and DGMs. We elucidate the integration of causal principles within
DGMs, investigate causal identification using DGMs, and navigate an emerging
research frontier of causality in large-scale generative models, particularly
generative large language models (LLMs). We offer insights into methodologies,
highlight open challenges, and suggest future directions, positioning our
comprehensive review as an essential guide in this swiftly emerging and
evolving area.
- Abstract(参考訳): 人工知能(AI)の分野では、データ生成プロセス(DGP)の理解とモデル化が最重要となる。
深層生成モデル(dgms)は複雑なデータ分布を捉えるのに向いているが、しばしば一般化や解釈に不足している。
一方、因果性は、データ生成を駆動するメカニズムを理解するための構造化レンズを提供し、これらのプロセスに固有の因果効果のダイナミクスを強調する。
因果性は解釈可能性や外挿能力に優れるが、高次元空間の複雑な性質を持つ。
相乗的ポテンシャルを認識して、因果関係とDGMの合流点を掘り下げる。
我々は、DGMにおける因果原理の統合を解明し、DGMを用いた因果同定を調査し、大規模生成モデル、特に生成的大言語モデル(LLM)における因果関係の新たな研究フロンティアを探索する。
私たちは方法論に関する洞察を提供し、オープンな課題を強調し、今後の方向性を提案し、この急速に発展し進化する領域において、包括的レビューが不可欠なガイドとして位置づけています。
関連論文リスト
- A Survey of Out-of-distribution Generalization for Graph Machine Learning from a Causal View [5.651037052334014]
グラフ機械学習(GML)は、幅広いタスクでうまく適用されている。
GMLは、アウト・オブ・ディストリビューション(OOD)データを一般化する上で大きな課題に直面している。
近年の進歩は、これらの一般化の課題を克服する上で、因果関係によるアプローチの重要な役割を浮き彫りにしている。
論文 参考訳(メタデータ) (2024-09-15T20:41:18Z) - Deep Generative Models through the Lens of the Manifold Hypothesis: A Survey and New Connections [15.191007332508198]
本研究では,低内在次元のデータモデリングにおいて,高周囲次元の確率の数値的不安定性は避けられないことを示す。
次に、オートエンコーダの学習表現上のDGMは、ワッサーシュタイン距離をほぼ最小化するものとして解釈できることを示す。
論文 参考訳(メタデータ) (2024-04-03T18:00:00Z) - On the Challenges and Opportunities in Generative AI [135.2754367149689]
現在の大規模生成AIモデルは、ドメイン間で広く採用されるのを妨げるいくつかの基本的な問題に十分対応していない、と我々は主張する。
本研究は、現代の生成型AIパラダイムにおける重要な未解決課題を特定し、その能力、汎用性、信頼性をさらに向上するために取り組まなければならない。
論文 参考訳(メタデータ) (2024-02-28T15:19:33Z) - The Essential Role of Causality in Foundation World Models for Embodied AI [102.75402420915965]
身体的なAIエージェントは、さまざまな現実世界環境で新しいタスクを実行する能力を必要とします。
現在の基礎モデルは物理的相互作用を正確にモデル化することができないため、Embodied AIには不十分である。
因果関係の研究は、検証世界モデルの構築に寄与する。
論文 参考訳(メタデータ) (2024-02-06T17:15:33Z) - Targeted Reduction of Causal Models [55.11778726095353]
因果表現学習(Causal Representation Learning)は、シミュレーションで解釈可能な因果パターンを明らかにするための有望な道を提供する。
本稿では、複雑な相互作用可能なモデルを因果因子の簡潔な集合に凝縮する方法であるTCR(Targeted Causal Reduction)を紹介する。
複雑なモデルから解釈可能な高レベルな説明を生成する能力は、玩具や機械システムで実証されている。
論文 参考訳(メタデータ) (2023-11-30T15:46:22Z) - Causal machine learning for single-cell genomics [94.28105176231739]
単細胞ゲノミクスへの機械学習技術の応用とその課題について論じる。
まず, 単一細胞生物学における現在の因果的アプローチの基盤となるモデルについて述べる。
次に、単一セルデータへの因果的アプローチの適用におけるオープンな問題を特定する。
論文 参考訳(メタデータ) (2023-10-23T13:35:24Z) - From Identifiable Causal Representations to Controllable Counterfactual Generation: A Survey on Causal Generative Modeling [17.074858228123706]
基本的な理論、方法論、欠点、データセット、メトリクスに重点を置いています。
フェアネス、プライバシ、アウト・オブ・ディストリビューションの一般化、精密医療、生物科学における因果生成モデルの応用について述べる。
論文 参考訳(メタデータ) (2023-10-17T05:45:32Z) - On the causality-preservation capabilities of generative modelling [0.0]
GANの因果保存能力と生成した合成データが因果質問に確実に答えられるかどうかを検討する。
これは、GANによって生成される合成データの因果解析を、より寛大な仮定で行うことによって行われる。
論文 参考訳(メタデータ) (2023-01-03T14:09:15Z) - Understanding Overparameterization in Generative Adversarial Networks [56.57403335510056]
generative adversarial network (gans) は、非凹型ミニマックス最適化問題を訓練するために用いられる。
ある理論は、グローバル最適解に対する勾配降下 (gd) の重要性を示している。
ニューラルネットワークジェネレータと線形判別器を併用した多層GANにおいて、GDAは、基礎となる非凹面min-max問題の大域的なサドル点に収束することを示す。
論文 参考訳(メタデータ) (2021-04-12T16:23:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。