論文の概要: Concept-free Causal Disentanglement with Variational Graph Auto-Encoder
- arxiv url: http://arxiv.org/abs/2311.10638v1
- Date: Fri, 17 Nov 2023 16:50:00 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-20 13:52:06.068241
- Title: Concept-free Causal Disentanglement with Variational Graph Auto-Encoder
- Title(参考訳): 変分グラフオートエンコーダを用いた概念自由因果解離
- Authors: Jingyun Feng, Lin Zhang, Lili Yang
- Abstract要約: 本稿では, 最適因子を近似した理論的に証明可能な高次境界上に構築した, 概念自由因果解(concept-free causal disentanglement)を提案する。
本研究では,新しい因果不整合層を変分グラフオートエンコーダに組み込むことで,概念自由因果VGAE(Concept-free Causal VGAE)を提案する。
そこで我々は,概念自由因果不整合(concept-free causal disentanglement)フレームワークにおいて概念整合性を証明し,概念自由因果メタグラフ(concept-free causal Meta-Graph)と呼ばれるメタラーニングフレームワークを強化する。
- 参考スコア(独自算出の注目度): 4.171080633895958
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In disentangled representation learning, the goal is to achieve a compact
representation that consists of all interpretable generative factors in the
observational data. Learning disentangled representations for graphs becomes
increasingly important as graph data rapidly grows. Existing approaches often
rely on Variational Auto-Encoder (VAE) or its causal structure learning-based
refinement, which suffer from sub-optimality in VAEs due to the independence
factor assumption and unavailability of concept labels, respectively. In this
paper, we propose an unsupervised solution, dubbed concept-free causal
disentanglement, built on a theoretically provable tight upper bound
approximating the optimal factor. This results in an SCM-like causal structure
modeling that directly learns concept structures from data. Based on this idea,
we propose Concept-free Causal VGAE (CCVGAE) by incorporating a novel causal
disentanglement layer into Variational Graph Auto-Encoder. Furthermore, we
prove concept consistency under our concept-free causal disentanglement
framework, hence employing it to enhance the meta-learning framework, called
concept-free causal Meta-Graph (CC-Meta-Graph). We conduct extensive
experiments to demonstrate the superiority of the proposed models: CCVGAE and
CC-Meta-Graph, reaching up to $29\%$ and $11\%$ absolute improvements over
baselines in terms of AUC, respectively.
- Abstract(参考訳): 不整合表現学習では、観測データ中のすべての解釈可能な生成因子からなるコンパクトな表現を実現することが目的である。
グラフデータの急速な増加に伴い,グラフの非絡み合い表現の学習がますます重要になる。
既存のアプローチは変分オートエンコーダ(VAE)またはその因果構造学習に基づく改良に依存しており、それぞれ独立要因の仮定と概念ラベルの適用不可能により、VAEの準最適性に悩まされている。
本稿では,最適因子を近似した理論的に証明可能な強い上界上に構築した,概念自由因果解法を提案する。
これにより、データから概念構造を直接学習するSCMのような因果構造モデリングが実現される。
本研究では,新しい因果不整合層を変分グラフオートエンコーダに組み込むことで,概念自由因果VGAE(Concept-free Causal VGAE)を提案する。
さらに,概念自由因果不絡合フレームワークを用いて概念整合性を証明し,概念自由因果メタグラフ(CC-Meta-Graph)と呼ばれるメタラーニングフレームワークを強化する。
ccvgae と cc-meta-graph は,auc の基準値に対して最大$29\%$ と $11\%$ の絶対値向上を達成している。
関連論文リスト
- Structure Your Data: Towards Semantic Graph Counterfactuals [1.9939549451457024]
概念に基づく対実的説明(CE)は、モデル予測にどの高レベルな意味的特徴が寄与するかを理解するための代替シナリオを考える説明である。
本研究では,入力データに付随する意味グラフに基づくCEを提案する。
論文 参考訳(メタデータ) (2024-03-11T08:40:37Z) - Learning Network Representations with Disentangled Graph Auto-Encoder [1.9750912882697567]
Disentangled Graph Auto-Encoder (DGA) と Disentangled Variational Graph Auto-Encoder (DVGA)
本稿では,DGA(Disentangled Graph Auto-Encoder)とDVGA(Disentangled Variational Graph Auto-Encoder)を紹介する。
本稿では,まず,複数チャネルのメッセージパッシング層を有する不整合グラフ畳み込みネットワークを設計し,各不整合潜在因子に関する情報を集約するエンコーダを設計し,その後,不整合グラフオートエンコーダの表現能力を高めるために,各チャネルにコンポーネントワイドフローを適用した。
論文 参考訳(メタデータ) (2024-02-02T04:52:52Z) - Auxiliary Losses for Learning Generalizable Concept-based Models [5.4066453042367435]
コンセプト・ボトルネック・モデル (Concept Bottleneck Models, CBM) は導入以来人気を集めている。
CBMは基本的に、モデルの潜在空間を人間に理解可能な高レベルな概念に制限する。
本稿では,協調型コンセプション・ボトルネックモデル(coop-CBM)を提案し,性能トレードオフを克服する。
論文 参考訳(メタデータ) (2023-11-18T15:50:07Z) - Beyond spectral gap (extended): The role of the topology in
decentralized learning [58.48291921602417]
機械学習モデルのデータ並列最適化では、労働者はモデルの推定値を改善するために協力する。
現在の理論では、コラボレーションはトレーニング単独よりも学習率が大きいことを説明していない。
本稿では,疎結合分散最適化の正確な図面を描くことを目的とする。
論文 参考訳(メタデータ) (2023-01-05T16:53:38Z) - Encoding Concepts in Graph Neural Networks [6.129235861306906]
本稿では,グラフネットワークにおける最初の差別化可能な概念発見手法であるConcept Moduleを紹介する。
提案手法は,まずグラフの概念を発見し,それを用いてタスクを解くことにより,グラフネットワークを設計により説明可能にする。
提案手法により,グラフネットワークは等価なバニラバージョンと同等の精度でモデルの精度が得られることを示す。
論文 参考訳(メタデータ) (2022-07-27T15:34:14Z) - Deep Manifold Learning with Graph Mining [80.84145791017968]
グラフマイニングのための非段階的決定層を持つ新しいグラフ深層モデルを提案する。
提案モデルでは,現行モデルと比較して最先端性能を実現している。
論文 参考訳(メタデータ) (2022-07-18T04:34:08Z) - Explainable Sparse Knowledge Graph Completion via High-order Graph
Reasoning Network [111.67744771462873]
本稿では,スパース知識グラフ(KG)のための新しい説明可能なモデルを提案する。
高次推論をグラフ畳み込みネットワーク、すなわちHoGRNに結合する。
情報不足を緩和する一般化能力を向上させるだけでなく、解釈可能性も向上する。
論文 参考訳(メタデータ) (2022-07-14T10:16:56Z) - Let Invariant Rationale Discovery Inspire Graph Contrastive Learning [98.10268114789775]
ハイパフォーマンスな拡張は、インスタンス識別に関するアンカーグラフの健全な意味を保存すべきである。
新たなフレームワーク Rationale-aware Graph Contrastive Learning (RGCL) を提案する。
RGCLは有理数生成器を使用して、グラフのインスタンス識別に関する健全な特徴を論理として明らかにし、対照的な学習のための有理数認識ビューを生成する。
論文 参考訳(メタデータ) (2022-06-16T01:28:40Z) - Navigating Neural Space: Revisiting Concept Activation Vectors to
Overcome Directional Divergence [14.071950294953005]
概念活性化ベクトル (Concept Activation Vectors, CAV) は、潜在空間における人間の理解可能な概念をモデル化するための一般的なツールである。
本稿では、そのような分離性指向の解が、概念の方向性を正確にモデル化する実際の目標から逸脱する可能性があることを示す。
パターンベースのCAVを導入し、概念信号のみに着目し、より正確な概念指示を提供する。
論文 参考訳(メタデータ) (2022-02-07T19:40:20Z) - CausalVAE: Structured Causal Disentanglement in Variational Autoencoder [52.139696854386976]
変分オートエンコーダ(VAE)の枠組みは、観測から独立した因子をアンタングルするために一般的に用いられる。
本稿では, 因果内因性因子を因果内因性因子に変換する因果層を含むVOEベースの新しいフレームワークCausalVAEを提案する。
その結果、CausalVAEが学習した因果表現は意味論的に解釈可能であり、DAG(Directed Acyclic Graph)としての因果関係は精度良く同定された。
論文 参考訳(メタデータ) (2020-04-18T20:09:34Z) - Embedding Graph Auto-Encoder for Graph Clustering [90.8576971748142]
グラフ自動エンコーダ(GAE)モデルは、半教師付きグラフ畳み込みネットワーク(GCN)に基づく
我々は、グラフクラスタリングのための特定のGAEベースのモデルを設計し、その理論、すなわち、埋め込みグラフオートエンコーダ(EGAE)と整合する。
EGAEは1つのエンコーダと2つのデコーダで構成される。
論文 参考訳(メタデータ) (2020-02-20T09:53:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。