論文の概要: Do Not Marginalize Mechanisms, Rather Consolidate!
- arxiv url: http://arxiv.org/abs/2310.08377v1
- Date: Thu, 12 Oct 2023 14:47:51 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-14 09:15:25.335135
- Title: Do Not Marginalize Mechanisms, Rather Consolidate!
- Title(参考訳): メカニズムを合理化してはいけません。
- Authors: Moritz Willig (1), Matej Ze\v{c}evi\'c (1), Devendra Singh Dhami (4),
Kristian Kersting (1,2,3) (Technical University of Darmstadt, (2) Hessian
Center for AI, (3) German Research Center for AI (4) Eindhoven University of
Technology)
- Abstract要約: 構造因果モデル (Structure causal model, SCM) は、多くの現実世界のシステムを支える複雑な因果関係を理解する強力なツールである。
これらのシステムのサイズが大きくなるにつれて、変数の数や相互作用の複雑さも増加します。
コンソリデーションは,SCMを単純化し,計算複雑性の低減について議論し,統合されたSCMの能力を一般化するための強力な手法であることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Structural causal models (SCMs) are a powerful tool for understanding the
complex causal relationships that underlie many real-world systems. As these
systems grow in size, the number of variables and complexity of interactions
between them does, too. Thus, becoming convoluted and difficult to analyze.
This is particularly true in the context of machine learning and artificial
intelligence, where an ever increasing amount of data demands for new methods
to simplify and compress large scale SCM. While methods for marginalizing and
abstracting SCM already exist today, they may destroy the causality of the
marginalized model. To alleviate this, we introduce the concept of
consolidating causal mechanisms to transform large-scale SCM while preserving
consistent interventional behaviour. We show consolidation is a powerful method
for simplifying SCM, discuss reduction of computational complexity and give a
perspective on generalizing abilities of consolidated SCM.
- Abstract(参考訳): 構造因果モデル(scms)は、多くの実世界のシステムを支える複雑な因果関係を理解するための強力なツールである。
これらのシステムのサイズが大きくなるにつれて、変数の数や相互作用の複雑さも増加します。
そのため、複雑化して分析が困難になる。
これは、機械学習と人工知能のコンテキストにおいて特に当てはまり、大規模なSCMを単純化し圧縮するための新しい方法に対するデータ要求が、ますます増えている。
SCMの疎外化と抽象化の手法はすでに存在するが、その疎外化モデルの因果性を破壊する可能性がある。
これを軽減するために,一貫した介入行動を維持しつつ,大規模SCMを変革するための因果機構の統合という概念を導入する。
コンソリデーションは,SCMを単純化し,計算複雑性の低減について議論し,統合されたSCMの能力を一般化するための強力な手法であることを示す。
関連論文リスト
- On the Role of Information Structure in Reinforcement Learning for
Partially-Observable Sequential Teams and Games [65.268245109828]
情報構造の明示的表現は、強化学習問題を解析・解決する重要な要素であると主張する。
これにより、シーケンシャルな意思決定問題のよりリッチな分析が可能となり、より適切なアルゴリズム設計が可能となる。
論文 参考訳(メタデータ) (2024-03-01T21:28:19Z) - Inducing Systematicity in Transformers by Attending to Structurally
Quantized Embeddings [60.698130703909804]
トランスフォーマーは、複雑なデータセットでトレーニングされた後、構造と実体の新規な構成に一般化する。
本稿では,SQ-Transformerを提案する。
SQ-Transformerは,複数の低複雑さ意味解析および機械翻訳データセット上で,バニラ変換器よりも強い構成一般化を実現することを示す。
論文 参考訳(メタデータ) (2024-02-09T15:53:15Z) - Can Large Language Models Learn Independent Causal Mechanisms? [9.950033005734165]
大きな言語モデル(LLM)は、一般的でない設定や分散シフトで同じタスクで不足する。
我々は,複数の疎相互作用言語モデリングモジュールからなる新しいLLMアーキテクチャを開発した。
このような因果的制約は、抽象的および因果的推論タスクにおけるアウト・オブ・ディストリビューション性能を向上させることができることを示す。
論文 参考訳(メタデータ) (2024-02-04T23:04:02Z) - Causality is all you need [63.10680366545293]
因果グラフルーティング(Causal Graph Routing, CGR)は、データに隠された原因影響力を明らかにするための介入機構を完全に依存した統合因果スキームである。
CGRは、Visual Question AnswerとLong Document Classificationタスクの両方において、最先端のメソッドを超越することができる。
論文 参考訳(メタデータ) (2023-11-21T02:53:40Z) - iSCAN: Identifying Causal Mechanism Shifts among Nonlinear Additive
Noise Models [48.33685559041322]
本稿では,同一変数集合上の2つ以上の関連するデータセットにおける因果メカニズムシフトの同定に焦点をあてる。
提案手法を実装したコードはオープンソースであり、https://github.com/kevinsbello/iSCAN.comで公開されている。
論文 参考訳(メタデータ) (2023-06-30T01:48:11Z) - Causal Coupled Mechanisms: A Control Method with Cooperation and
Competition for Complex System [4.829957501538467]
新たな制御手法である因果結合機構(Causal Coupled Mechanisms)を提案する。
合成システムと実世界の生物規制システムの両方において、予測不能なランダムノイズであっても、CCM法は頑健で最先端の制御結果が得られる。
論文 参考訳(メタデータ) (2022-09-15T15:32:16Z) - Causal Inference Through the Structural Causal Marginal Problem [17.91174054672512]
本稿では,複数のデータセットからの情報をマージする手法を提案する。
応答関数の定式化による分類的SCMに対するこのアプローチの形式化と,それが許容される辺縁および関節SCMの空間を減少させることを示す。
論文 参考訳(メタデータ) (2022-02-02T21:45:10Z) - Transformers with Competitive Ensembles of Independent Mechanisms [97.93090139318294]
隠れた表現とパラメータを複数のメカニズムに分割し、注意を通して情報を交換する新しいトランスフォーマー層を提案する。
TIM を大規模 BERT モデル、画像変換器、および音声強調について研究し、意味的に意味のある専門化とパフォーマンスの向上の証拠を見つけます。
論文 参考訳(メタデータ) (2021-02-27T21:48:46Z) - Revealing the Invisible with Model and Data Shrinking for
Composite-database Micro-expression Recognition [49.463864096615254]
入力複雑性とモデル複雑性を含む学習複雑性の影響を分析する。
より浅層構造と低分解能入力データを探索する再帰畳み込みネットワーク(RCN)を提案する。
学習可能なパラメータを増やさなくてもRCNと統合できる3つのパラメータフリーモジュールを開発した。
論文 参考訳(メタデータ) (2020-06-17T06:19:24Z) - Learning Multivariate Hawkes Processes at Scale [17.17906360554892]
提案手法は, 基礎となるネットワークの周囲次元とは無関係に, MHP の精度と勾配を計算可能であることを示す。
合成および実世界のデータセットについて、我々のモデルは最先端の予測結果を達成するだけでなく、実行時の性能を桁違いに改善することを示した。
論文 参考訳(メタデータ) (2020-02-28T01:18:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。