論文の概要: SSL Framework for Causal Inconsistency between Structures and Representations

• arxiv url: http://arxiv.org/abs/2310.18634v1
• Date: Sat, 28 Oct 2023 08:29:49 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-31 17:33:53.489332
• Title: SSL Framework for Causal Inconsistency between Structures and Representations
• Title（参考訳）: 構造と表現の因果不整合のためのSSLフレームワーク
• Authors: Hang Chen and Xinyu Yang and Keqing Du
• Abstract要約: 深層学習と因果発見のクロスポリン化は、画像、ビデオ、テキストなどの統計的でないデータ形式における因果関係の解明を目指す、急成長する研究分野を触媒している。 我々は、不確定データに適した介入戦略を理論的に開発し、因果一貫性条件(CCC)を導出する。 CCCは様々な分野で重要な役割を果たす可能性がある。
• 参考スコア（独自算出の注目度）: 23.035761299444953
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The cross-pollination of deep learning and causal discovery has catalyzed a burgeoning field of research seeking to elucidate causal relationships within non-statistical data forms like images, videos, and text. Such data, often being named `indefinite data', exhibit unique challenges-inconsistency between causal structure and representation, which are not common in conventional data forms. To tackle this issue, we theoretically develop intervention strategies suitable for indefinite data and derive causal consistency condition (CCC). Moreover, we design a self-supervised learning (SSL) framework that considers interventions as `views' and CCC as a `philosophy' with two implement examples on Supervised Specialized Models (SSMs) and Large Language Models (LLMs), respectively. To evaluate pure inconsistency manifestations, we have prepared the first high-quality causal dialogue dataset-Causalogue. Evaluations are also performed on three other downstream tasks. Extensive experimentation has substantiated the efficacy of our methodology, illuminating how CCC could potentially play an influential role in various fields.
• Abstract（参考訳）: ディープラーニングと因果発見のクロスポーリゼーションは、画像やビデオ、テキストといった非統計データ形式における因果関係を解明しようとする、急成長する研究分野を触媒している。 このようなデータはしばしば'不定値データ'と命名され、因果構造と表現との間に独特の矛盾を示し、従来のデータ形式では一般的ではない。 本研究では,不定値データに適した介入戦略を理論的に開発し,因果一貫性条件(ccc)を導出する。 さらに,介入を「ビュー」,CCCを「哲学」とみなす自己教師型学習(SSL)フレームワークを設計し,SSM(Supervised Specialized Models)とLLM(Large Language Models)の2つの実装例を示した。 純粋不整合性の発現を評価するため,第1次高品質因果対話データセットCausalogueを作成した。 他の3つの下流タスクでも評価が行われる。 本手法の有効性を実証し, CCCが様々な分野でどのような役割を果たせるかを明らかにした。

関連論文リスト

• Causal Modeling in Multi-Context Systems: Distinguishing Multiple Context-Specific Causal Graphs which Account for Observational Support [12.738813972869528]
  複数のコンテキストからのデータによる因果構造学習は、機会と課題の両方をもたらす。 本稿では,文脈間の観察支援の違いが因果グラフの識別可能性に及ぼす影響について検討する。 構造因果モデルにおける文脈固有の独立性をモデル化する枠組みを提案する。
  論文  参考訳（メタデータ） (2024-10-27T10:34:58Z)
• From Pre-training Corpora to Large Language Models: What Factors Influence LLM Performance in Causal Discovery Tasks? [51.42906577386907]
  本研究では,因果発見タスクにおけるLarge Language Models(LLM)の性能に影響を与える要因について検討する。 因果関係の頻度が高いことは、より良いモデル性能と相関し、トレーニング中に因果関係の情報に広範囲に暴露することで、因果関係の発見能力を高めることを示唆している。
  論文  参考訳（メタデータ） (2024-07-29T01:45:05Z)
• Cause and Effect: Can Large Language Models Truly Understand Causality? [1.2334534968968969]
  本研究では,CARE CA(Content Aware Reasoning Enhancement with Counterfactual Analysis)フレームワークという新しいアーキテクチャを提案する。 提案するフレームワークには,ConceptNetと反ファクト文を備えた明示的な因果検出モジュールと,大規模言語モデルによる暗黙的な因果検出が組み込まれている。 ConceptNetの知識は、因果的発見、因果的識別、反事実的推論といった複数の因果的推論タスクのパフォーマンスを向上させる。
  論文  参考訳（メタデータ） (2024-02-28T08:02:14Z)
• Multi-modal Causal Structure Learning and Root Cause Analysis [67.67578590390907]
  根本原因局所化のためのマルチモーダル因果構造学習手法であるMulanを提案する。 ログ選択言語モデルを利用してログ表現学習を行い、ログシーケンスを時系列データに変換する。 また、モダリティの信頼性を評価し、最終因果グラフを共同学習するための新しいキーパフォーマンスインジケータ対応アテンション機構も導入する。
  論文  参考訳（メタデータ） (2024-02-04T05:50:38Z)
• Inducing Causal Structure for Abstractive Text Summarization [76.1000380429553]
  要約データの因果構造を誘導する構造因果モデル(SCM)を導入する。 本稿では因果的要因を模倣できる因果的表現を学習するための因果性インスピレーション付き系列列列モデル(CI-Seq2Seq)を提案する。 2つの広く使われているテキスト要約データセットの実験結果は、我々のアプローチの利点を示している。
  論文  参考訳（メタデータ） (2023-08-24T16:06:36Z)
• How to Enhance Causal Discrimination of Utterances: A Case on Affective Reasoning [22.11437627661179]
  本稿では,会話プロセスにテクスティ.i.d.ノイズ項を組み込むことにより,構造因果モデル(SCM)を構築することを提案する。 ディープラーニングの実装を容易にするため,非構造化会話データを扱うためのcognフレームワークを導入し,非可観測ノイズを学習可能な「単純な原因」とみなすオートエンコーダアーキテクチャを採用した。
  論文  参考訳（メタデータ） (2023-05-04T07:45:49Z)
• Uncovering Main Causalities for Long-tailed Information Extraction [14.39860866665021]
  データセットの選択バイアスによって引き起こされる長い尾の分布は、誤った相関をもたらす可能性がある。 これは、データの背後にある主な因果関係を明らかにすることを目的とした、新しいフレームワークである。
  論文  参考訳（メタデータ） (2021-09-11T08:08:24Z)
• Learning Neural Causal Models with Active Interventions [83.44636110899742]
  本稿では,データ生成プロセスの根底にある因果構造を素早く識別する能動的介入ターゲット機構を提案する。 本手法は,ランダムな介入ターゲティングと比較して,要求される対話回数を大幅に削減する。 シミュレーションデータから実世界のデータまで,複数のベンチマークにおいて優れた性能を示す。
  論文  参考訳（メタデータ） (2021-09-06T13:10:37Z)
• Everything Has a Cause: Leveraging Causal Inference in Legal Text Analysis [62.44432226563088]
  因果推論は変数間の因果関係を捉えるプロセスである。 本論文では,事実記述から因果グラフを構築するための新たなグラフベース因果推論フレームワークを提案する。 GCIに含まれる因果知識を強力なニューラルネットワークに効果的に注入することで、パフォーマンスと解釈性が向上します。
  論文  参考訳（メタデータ） (2021-04-19T16:13:10Z)
• CausalVAE: Structured Causal Disentanglement in Variational Autoencoder [52.139696854386976]
  変分オートエンコーダ(VAE)の枠組みは、観測から独立した因子をアンタングルするために一般的に用いられる。 本稿では, 因果内因性因子を因果内因性因子に変換する因果層を含むVOEベースの新しいフレームワークCausalVAEを提案する。 その結果、CausalVAEが学習した因果表現は意味論的に解釈可能であり、DAG(Directed Acyclic Graph)としての因果関係は精度良く同定された。
  論文  参考訳（メタデータ） (2020-04-18T20:09:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。