論文の概要: Causality is all you need

• arxiv url: http://arxiv.org/abs/2311.12307v1
• Date: Tue, 21 Nov 2023 02:53:40 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-23 02:20:25.699413
• Title: Causality is all you need
• Title（参考訳）: 因果関係は必要なだけ
• Authors: Ning Xu, Yifei Gao, Hongshuo Tian, Yongdong Zhang, An-An Liu
• Abstract要約: 因果グラフルーティング(Causal Graph Routing, CGR)は、データに隠された原因影響力を明らかにするための介入機構を完全に依存した統合因果スキームである。 CGRは、Visual Question AnswerとLong Document Classificationタスクの両方において、最先端のメソッドを超越することができる。
• 参考スコア（独自算出の注目度）: 63.10680366545293
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In the fundamental statistics course, students are taught to remember the well-known saying: "Correlation is not Causation". Till now, statistics (i.e., correlation) have developed various successful frameworks, such as Transformer and Pre-training large-scale models, which have stacked multiple parallel self-attention blocks to imitate a wide range of tasks. However, in the causation community, how to build an integrated causal framework still remains an untouched domain despite its excellent intervention capabilities. In this paper, we propose the Causal Graph Routing (CGR) framework, an integrated causal scheme relying entirely on the intervention mechanisms to reveal the cause-effect forces hidden in data. Specifically, CGR is composed of a stack of causal layers. Each layer includes a set of parallel deconfounding blocks from different causal graphs. We combine these blocks via the concept of the proposed sufficient cause, which allows the model to dynamically select the suitable deconfounding methods in each layer. CGR is implemented as the stacked networks, integrating no confounder, back-door adjustment, front-door adjustment, and probability of sufficient cause. We evaluate this framework on two classical tasks of CV and NLP. Experiments show CGR can surpass the current state-of-the-art methods on both Visual Question Answer and Long Document Classification tasks. In particular, CGR has great potential in building the "causal" pre-training large-scale model that effectively generalizes to diverse tasks. It will improve the machines' comprehension of causal relationships within a broader semantic space.
• Abstract（参考訳）: 基本的な統計学コースでは、学生はよく知られた言葉「相関は因果ではない」を覚えるように教えられる。 現在、統計学(すなわち相関)はTransformerやPre-training Large-scale Modelといった様々なフレームワークを開発しており、これは様々なタスクを模倣するために複数の並列自己注意ブロックを積み重ねている。 しかし、causationコミュニティでは、優れた介入能力にもかかわらず、統合因果フレームワークをどのように構築するかはまだ未修正のドメインである。 本稿では,データに隠された因果効果を解明するために,介入機構に完全に依存した統合因果スキームであるcausal graph routing(cgr)フレームワークを提案する。 具体的には、CGRは因果層からなる。 各層は、異なる因果グラフから平行に分離されたブロックの集合を含む。 これらのブロックを,提案する十分な原因の概念と組み合わせることで,モデルが各層で適切な分解方法を動的に選択できるようにする。 CGRはスタックネットワークとして実装されており、共同設立者、バックドア調整、フロントドア調整、そして十分な原因の確率を統合することはできない。 CVとNLPの2つの古典的課題に対して,この枠組みを評価する。 実験により、CGRはビジュアル質問回答とロングドキュメント分類のタスクにおいて、最先端の手法を超越できることが示された。 特に、CGRは多様なタスクに効果的に一般化する「因果学習」された大規模モデルを構築する大きな可能性を秘めている。 より広い意味空間における因果関係の機械の理解を改善する。

関連論文リスト

• Causal Mean Field Multi-Agent Reinforcement Learning [10.767740092703777]
  平均場強化学習(MFRL)と呼ばれるフレームワークは、平均場理論を用いることでスケーラビリティの問題を軽減することができる。 このフレームワークには、非定常環境下での本質的な相互作用を識別する能力がない。 拡張性問題に対処するために,因果平均Q-ラーニング (CMFQ) と呼ばれるアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-02-20T02:15:58Z)
• Vintix: Action Model via In-Context Reinforcement Learning [72.65703565352769]
  In-context reinforcement learning を通じて振る舞いを学習できる固定されたクロスドメインモデルを導入することで ICRL のスケールアップに向けた第一歩を提示する。 ICRLを促進するために設計されたフレームワークであるアルゴリズム蒸留は、多目的な作用モデルを構築するために、専門家蒸留に代わる魅力的な、競争力のある代替手段を提供することを示した。
  論文  参考訳（メタデータ） (2025-01-31T18:57:08Z)
• Causal Graphs Meet Thoughts: Enhancing Complex Reasoning in Graph-Augmented LLMs [4.701165676405066]
  関連情報を検索するだけでなく、因果推論や説明可能性の提供も重要である。 本稿では,大きな知識グラフをフィルタして原因効果エッジを強調する新しいパイプラインを提案する。 医学的質問応答タスクの実験では、一貫した利得を示し、最大10%の絶対的な改善がある。
  論文  参考訳（メタデータ） (2025-01-24T19:31:06Z)
• Self-Clustering Hierarchical Multi-Agent Reinforcement Learning with Extensible Cooperation Graph [9.303181273699417]
  本稿では階層型協調グラフ学習(HCGL)と呼ばれる新しい階層型MARLモデルを提案する。 HCGLには3つのコンポーネントがある: 自己クラスタ化協調を実現する動的協調グラフ(ECG)、ECGのトポロジを調整するグラフ演算子のグループ、これらのグラフ演算子のトレーニングのためのMARL。 実験では, HCGLモデルは, スパース報酬を伴うマルチエージェントベンチマークにおいて, 優れた性能を示した。
  論文  参考訳（メタデータ） (2024-03-26T19:19:16Z)
• CORE: Towards Scalable and Efficient Causal Discovery with Reinforcement Learning [2.7446241148152253]
  COREは、因果発見と介入計画のための強化学習に基づくアプローチである。 その結果,COREは未知のグラフに一般化し,因果構造を効率的に発見できることがわかった。 COREは最大10変数のグラフにスケールし、構造推定精度とサンプル効率において既存のアプローチより優れている。
  論文  参考訳（メタデータ） (2024-01-30T12:57:52Z)
• Counterfactual Intervention Feature Transfer for Visible-Infrared Person Re-identification [69.45543438974963]
  視覚赤外人物再識別タスク(VI-ReID)におけるグラフベースの手法は,2つの問題により,悪い一般化に悩まされている。 十分に訓練された入力特徴は、グラフトポロジーの学習を弱め、推論過程において十分に一般化されない。 本稿では,これらの問題に対処するためのCIFT法を提案する。
  論文  参考訳（メタデータ） (2022-08-01T16:15:31Z)
• Comprehensive Graph Gradual Pruning for Sparse Training in Graph Neural Networks [52.566735716983956]
  本稿では,CGPと呼ばれるグラフの段階的プルーニングフレームワークを動的にGNNに提案する。 LTHに基づく手法とは異なり、提案手法では再学習を必要とせず、計算コストを大幅に削減する。 提案手法は,既存の手法の精度を一致させたり,あるいは超えたりしながら,トレーニングと推論の効率を大幅に向上させる。
  論文  参考訳（メタデータ） (2022-07-18T14:23:31Z)
• Explainable Sparse Knowledge Graph Completion via High-order Graph Reasoning Network [111.67744771462873]
  本稿では,スパース知識グラフ(KG)のための新しい説明可能なモデルを提案する。 高次推論をグラフ畳み込みネットワーク、すなわちHoGRNに結合する。 情報不足を緩和する一般化能力を向上させるだけでなく、解釈可能性も向上する。
  論文  参考訳（メタデータ） (2022-07-14T10:16:56Z)
• Effect Identification in Cluster Causal Diagrams [51.42809552422494]
  クラスタ因果図(略してC-DAG)と呼ばれる新しいタイプのグラフィカルモデルを導入する。 C-DAGは、限定された事前知識に基づいて変数間の関係を部分的に定義することができる。 我々はC-DAGに対する因果推論のための基礎と機械を開発する。
  論文  参考訳（メタデータ） (2022-02-22T21:27:31Z)
• Neural Stochastic Block Model & Scalable Community-Based Graph Learning [8.00785050036369]
  本稿では,グラフ学習のためのスケーラブルなコミュニティベースニューラルネットワークを提案する。 このフレームワークは,コミュニティ検出とリンク予測のタスクを通じて,グラフトポロジを学習する。 グラフアライメントと異常相関検出の2つの応用について検討する。
  論文  参考訳（メタデータ） (2020-05-16T03:28:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。