論文の概要: SSL Framework for Causal Inconsistency between Structures and Representations

• arxiv url: http://arxiv.org/abs/2310.18634v1
• Date: Sat, 28 Oct 2023 08:29:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2023-10-31 17:33:53.489332
• Title: SSL Framework for Causal Inconsistency between Structures and Representations
• Title（参考訳）: 構造と表現の因果不整合のためのSSLフレームワーク
• Authors: Hang Chen and Xinyu Yang and Keqing Du
• Abstract要約: 深層学習と因果発見のクロスポリン化は、画像、ビデオ、テキストなどの統計的でないデータ形式における因果関係の解明を目指す、急成長する研究分野を触媒している。 我々は、不確定データに適した介入戦略を理論的に開発し、因果一貫性条件(CCC)を導出する。 CCCは様々な分野で重要な役割を果たす可能性がある。
• 参考スコア（独自算出の注目度）: 23.035761299444953
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The cross-pollination of deep learning and causal discovery has catalyzed a burgeoning field of research seeking to elucidate causal relationships within non-statistical data forms like images, videos, and text. Such data, often being named `indefinite data', exhibit unique challenges-inconsistency between causal structure and representation, which are not common in conventional data forms. To tackle this issue, we theoretically develop intervention strategies suitable for indefinite data and derive causal consistency condition (CCC). Moreover, we design a self-supervised learning (SSL) framework that considers interventions as `views' and CCC as a `philosophy' with two implement examples on Supervised Specialized Models (SSMs) and Large Language Models (LLMs), respectively. To evaluate pure inconsistency manifestations, we have prepared the first high-quality causal dialogue dataset-Causalogue. Evaluations are also performed on three other downstream tasks. Extensive experimentation has substantiated the efficacy of our methodology, illuminating how CCC could potentially play an influential role in various fields.
• Abstract（参考訳）: ディープラーニングと因果発見のクロスポーリゼーションは、画像やビデオ、テキストといった非統計データ形式における因果関係を解明しようとする、急成長する研究分野を触媒している。 このようなデータはしばしば'不定値データ'と命名され、因果構造と表現との間に独特の矛盾を示し、従来のデータ形式では一般的ではない。 本研究では,不定値データに適した介入戦略を理論的に開発し,因果一貫性条件(ccc)を導出する。 さらに,介入を「ビュー」,CCCを「哲学」とみなす自己教師型学習(SSL)フレームワークを設計し,SSM(Supervised Specialized Models)とLLM(Large Language Models)の2つの実装例を示した。 純粋不整合性の発現を評価するため,第1次高品質因果対話データセットCausalogueを作成した。 他の3つの下流タスクでも評価が行われる。 本手法の有効性を実証し, CCCが様々な分野でどのような役割を果たせるかを明らかにした。

関連論文リスト

• SALAD: Improving Robustness and Generalization through Contrastive Learning with Structure-Aware and LLM-Driven Augmented Data [15.366930934639838]
  モデルロバスト性と一般化を向上する新しいアプローチであるSALADを提案する。 提案手法は,コントラスト学習のための構造認識および非実効的拡張データを生成する。 本研究のアプローチは,感性分類,性行為検出,自然言語推論の3つのタスクを用いて検証する。
  論文  参考訳（メタデータ） (2025-04-16T15:40:10Z)
• Causal Modeling in Multi-Context Systems: Distinguishing Multiple Context-Specific Causal Graphs which Account for Observational Support [12.738813972869528]
  複数のコンテキストからのデータによる因果構造学習は、機会と課題の両方をもたらす。 本稿では,文脈間の観察支援の違いが因果グラフの識別可能性に及ぼす影響について検討する。 構造因果モデルにおける文脈固有の独立性をモデル化する枠組みを提案する。
  論文  参考訳（メタデータ） (2024-10-27T10:34:58Z)
• From Pre-training Corpora to Large Language Models: What Factors Influence LLM Performance in Causal Discovery Tasks? [51.42906577386907]
  本研究では,因果発見タスクにおけるLarge Language Models(LLM)の性能に影響を与える要因について検討する。 因果関係の頻度が高いことは、より良いモデル性能と相関し、トレーニング中に因果関係の情報に広範囲に暴露することで、因果関係の発見能力を高めることを示唆している。
  論文  参考訳（メタデータ） (2024-07-29T01:45:05Z)
• Cause and Effect: Can Large Language Models Truly Understand Causality? [1.2334534968968969]
  本研究では,CARE CA(Content Aware Reasoning Enhancement with Counterfactual Analysis)フレームワークという新しいアーキテクチャを提案する。 提案するフレームワークには,ConceptNetと反ファクト文を備えた明示的な因果検出モジュールと,大規模言語モデルによる暗黙的な因果検出が組み込まれている。 ConceptNetの知識は、因果的発見、因果的識別、反事実的推論といった複数の因果的推論タスクのパフォーマンスを向上させる。
  論文  参考訳（メタデータ） (2024-02-28T08:02:14Z)
• Multi-modal Causal Structure Learning and Root Cause Analysis [67.67578590390907]
  根本原因局所化のためのマルチモーダル因果構造学習手法であるMulanを提案する。 ログ選択言語モデルを利用してログ表現学習を行い、ログシーケンスを時系列データに変換する。 また、モダリティの信頼性を評価し、最終因果グラフを共同学習するための新しいキーパフォーマンスインジケータ対応アテンション機構も導入する。
  論文  参考訳（メタデータ） (2024-02-04T05:50:38Z)
• Towards Causal Relationship in Indefinite Data: Baseline Model and New Datasets [23.035761299444953]
  「不確定データ」は多構造データと多値表現を特徴とする。 高品質なデータセットとして、CausalogueとCausactionの2つをリリースしています。 このギャップに3つの設計されたハイライトを取り入れた確率的フレームワークをベースラインとして提案する。
  論文  参考訳（メタデータ） (2024-01-16T09:15:43Z)
• Causal Representation Learning Made Identifiable by Grouping of Observational Variables [8.157856010838382]
  因果表現学習(Causal Representation Learning)は、データ駆動型で隠れた機能の因果モデルを学ぶことを目的としている。 ここでは、新規で弱い制約に基づく識別可能性を示す。 また,モデルに整合した新たな自己教師付き推定フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-10-24T10:38:02Z)
• Towards Causal Foundation Model: on Duality between Causal Inference and Attention [18.046388712804042]
  治療効果推定のための因果認識基盤モデルの構築に向けて第一歩を踏み出す。 我々はCInA(Causal Inference with Attention)と呼ばれる新しい理論的に正当化された手法を提案する。
  論文  参考訳（メタデータ） (2023-10-01T22:28:34Z)
• Inducing Causal Structure for Abstractive Text Summarization [76.1000380429553]
  要約データの因果構造を誘導する構造因果モデル(SCM)を導入する。 本稿では因果的要因を模倣できる因果的表現を学習するための因果性インスピレーション付き系列列列モデル(CI-Seq2Seq)を提案する。 2つの広く使われているテキスト要約データセットの実験結果は、我々のアプローチの利点を示している。
  論文  参考訳（メタデータ） (2023-08-24T16:06:36Z)
• Advancing Counterfactual Inference through Nonlinear Quantile Regression [77.28323341329461]
  ニューラルネットワークで実装された効率的かつ効果的な対実的推論のためのフレームワークを提案する。 提案手法は、推定された反事実結果から見つからないデータまでを一般化する能力を高める。 複数のデータセットで実施した実証実験の結果は、我々の理論的な主張に対する説得力のある支持を提供する。
  論文  参考訳（メタデータ） (2023-06-09T08:30:51Z)
• Learning a Structural Causal Model for Intuition Reasoning in Conversation [20.243323155177766]
  NLP研究の重要な側面である推論は、一般的なモデルによって適切に対処されていない。 我々は、各発話がどのように情報チャネルを受信し、活性化するかを説明する会話認知モデル(CCM)を開発した。 変分推論を利用することで、暗黙的な原因の代用を探索し、その観測不可能性の問題に対処し、証拠の低い境界を通して発話の因果表現を再構築する。
  論文  参考訳（メタデータ） (2023-05-28T13:54:09Z)
• Causal Triplet: An Open Challenge for Intervention-centric Causal Representation Learning [98.78136504619539]
  Causal Tripletは、視覚的に複雑なシーンを特徴とする因果表現学習ベンチマークである。 この結果から,不整合表現やオブジェクト中心表現の知識によって構築されたモデルが,分散表現よりもはるかに優れていることを示す。
  論文  参考訳（メタデータ） (2023-01-12T17:43:38Z)
• Effect Identification in Cluster Causal Diagrams [51.42809552422494]
  クラスタ因果図(略してC-DAG)と呼ばれる新しいタイプのグラフィカルモデルを導入する。 C-DAGは、限定された事前知識に基づいて変数間の関係を部分的に定義することができる。 我々はC-DAGに対する因果推論のための基礎と機械を開発する。
  論文  参考訳（メタデータ） (2022-02-22T21:27:31Z)
• Towards Robust and Adaptive Motion Forecasting: A Causal Representation Perspective [72.55093886515824]
  本稿では,3つの潜伏変数群からなる動的過程として,運動予測の因果的形式化を導入する。 我々は、因果グラフを近似するために、不変なメカニズムやスタイルの共創者の表現を分解するモジュラーアーキテクチャを考案する。 合成および実データを用いた実験結果から,提案した3つの成分は,学習した動き表現の頑健性と再利用性を大幅に向上することが示された。
  論文  参考訳（メタデータ） (2021-11-29T18:59:09Z)
• Uncovering Main Causalities for Long-tailed Information Extraction [14.39860866665021]
  データセットの選択バイアスによって引き起こされる長い尾の分布は、誤った相関をもたらす可能性がある。 これは、データの背後にある主な因果関係を明らかにすることを目的とした、新しいフレームワークである。
  論文  参考訳（メタデータ） (2021-09-11T08:08:24Z)
• Learning Neural Causal Models with Active Interventions [83.44636110899742]
  本稿では,データ生成プロセスの根底にある因果構造を素早く識別する能動的介入ターゲット機構を提案する。 本手法は,ランダムな介入ターゲティングと比較して,要求される対話回数を大幅に削減する。 シミュレーションデータから実世界のデータまで,複数のベンチマークにおいて優れた性能を示す。
  論文  参考訳（メタデータ） (2021-09-06T13:10:37Z)
• Everything Has a Cause: Leveraging Causal Inference in Legal Text Analysis [62.44432226563088]
  因果推論は変数間の因果関係を捉えるプロセスである。 本論文では,事実記述から因果グラフを構築するための新たなグラフベース因果推論フレームワークを提案する。 GCIに含まれる因果知識を強力なニューラルネットワークに効果的に注入することで、パフォーマンスと解釈性が向上します。
  論文  参考訳（メタデータ） (2021-04-19T16:13:10Z)
• On Disentangled Representations Learned From Correlated Data [59.41587388303554]
  相関データに対する最も顕著な絡み合うアプローチの挙動を解析することにより、現実のシナリオにギャップを埋める。 本研究では,データセットの体系的相関が学習され,潜在表現に反映されていることを示す。 また、トレーニング中の弱い監督や、少数のラベルで事前訓練されたモデルを修正することで、これらの潜伏相関を解消する方法を実証する。
  論文  参考訳（メタデータ） (2020-06-14T12:47:34Z)
• CausalVAE: Structured Causal Disentanglement in Variational Autoencoder [52.139696854386976]
  変分オートエンコーダ(VAE)の枠組みは、観測から独立した因子をアンタングルするために一般的に用いられる。 本稿では, 因果内因性因子を因果内因性因子に変換する因果層を含むVOEベースの新しいフレームワークCausalVAEを提案する。 その結果、CausalVAEが学習した因果表現は意味論的に解釈可能であり、DAG(Directed Acyclic Graph)としての因果関係は精度良く同定された。
  論文  参考訳（メタデータ） (2020-04-18T20:09:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。