論文の概要: DeHIN: A Decentralized Framework for Embedding Large-scale Heterogeneous
Information Networks
- arxiv url: http://arxiv.org/abs/2201.02757v1
- Date: Sat, 8 Jan 2022 04:08:36 GMT
- ステータス: 処理完了
- システム内更新日: 2022-01-11 14:40:25.969364
- Title: DeHIN: A Decentralized Framework for Embedding Large-scale Heterogeneous
Information Networks
- Title(参考訳): DeHIN: 大規模な異種情報ネットワークを組み込む分散型フレームワーク
- Authors: Mubashir Imran, Hongzhi Yin, Tong Chen, Zi Huang, Kai Zheng
- Abstract要約: 本稿では,異種情報ネットワーク(DeHIN)のための分散埋め込みフレームワークについて述べる。
DeHINは、大きなHINをハイパーグラフとして革新的に定式化するコンテキスト保存分割機構を提供する。
当社のフレームワークでは,木のようなパイプラインを採用することで,効率よくHINを分割する分散戦略を採用しています。
- 参考スコア(独自算出の注目度): 64.62314068155997
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Modeling heterogeneity by extraction and exploitation of high-order
information from heterogeneous information networks (HINs) has been attracting
immense research attention in recent times. Such heterogeneous network
embedding (HNE) methods effectively harness the heterogeneity of small-scale
HINs. However, in the real world, the size of HINs grow exponentially with the
continuous introduction of new nodes and different types of links, making it a
billion-scale network. Learning node embeddings on such HINs creates a
performance bottleneck for existing HNE methods that are commonly centralized,
i.e., complete data and the model are both on a single machine. To address
large-scale HNE tasks with strong efficiency and effectiveness guarantee, we
present \textit{Decentralized Embedding Framework for Heterogeneous Information
Network} (DeHIN) in this paper. In DeHIN, we generate a distributed parallel
pipeline that utilizes hypergraphs in order to infuse parallelization into the
HNE task. DeHIN presents a context preserving partition mechanism that
innovatively formulates a large HIN as a hypergraph, whose hyperedges connect
semantically similar nodes. Our framework then adopts a decentralized strategy
to efficiently partition HINs by adopting a tree-like pipeline. Then, each
resulting subnetwork is assigned to a distributed worker, which employs the
deep information maximization theorem to locally learn node embeddings from the
partition it receives. We further devise a novel embedding alignment scheme to
precisely project independently learned node embeddings from all subnetworks
onto a common vector space, thus allowing for downstream tasks like link
prediction and node classification.
- Abstract(参考訳): 異種情報ネットワーク(HIN)からの高次情報抽出・活用による異種性モデリングが近年,注目されている。
このようなヘテロジニアスネットワーク埋め込み(HNE)法は、小規模HINの均一性を効果的に活用する。
しかし、現実世界では、新しいノードと異なるタイプのリンクが連続的に導入され、HINのサイズが指数関数的に増加し、数十億規模のネットワークとなる。
このようなHINへのノード埋め込みの学習は、一般的に中央集権的な既存のHNEメソッドのパフォーマンスボトルネックを生み出す。
本稿では, 大規模HNEタスクを高効率かつ有効性保証で処理するために, 異種情報ネットワークのためのtextit{Decentralized Embedding Framework for Heterogeneous Information Network} (DeHIN) を提案する。
DeHINでは、HNEタスクに並列化を注入するためにハイパーグラフを利用する分散並列パイプラインを生成する。
DeHINは、ハイパーグラフとして大きなHINを革新的に定式化し、ハイパーエッジが意味的に類似したノードを接続するコンテキスト保存分割機構を提供する。
当社のフレームワークでは,木のようなパイプラインを採用して効率よくHINを分割する分散戦略を採用しています。
次に、各サブネットワークは、受信したパーティションからノード埋め込みをローカルに学習するためにディープ情報最大化定理を使用する分散ワーカーに割り当てられる。
さらに,すべてのサブネットワークから学習したノード埋め込みを共通のベクトル空間に正確に投影する新しい埋め込みアライメントスキームを考案し,リンク予測やノード分類などの下流タスクを可能にした。
関連論文リスト
- Heterogenous Memory Augmented Neural Networks [84.29338268789684]
ニューラルネットワークのための新しいヘテロジニアスメモリ拡張手法を提案する。
学習可能なメモリトークンをアテンション機構付きで導入することにより、膨大な計算オーバーヘッドを伴わずに性能を効果的に向上させることができる。
In-distriion (ID) と Out-of-distriion (OOD) の両方の条件下での様々な画像およびグラフベースのタスクに対するアプローチを示す。
論文 参考訳(メタデータ) (2023-10-17T01:05:28Z) - Collaborative Graph Neural Networks for Attributed Network Embedding [63.39495932900291]
グラフニューラルネットワーク(GNN)は、属性付きネットワーク埋め込みにおいて顕著な性能を示している。
本稿では,ネットワーク埋め込みに適したGNNアーキテクチャであるCulaborative graph Neural Networks-CONNを提案する。
論文 参考訳(メタデータ) (2023-07-22T04:52:27Z) - Self-Ensembling GAN for Cross-Domain Semantic Segmentation [107.27377745720243]
本稿では,セマンティックセグメンテーションのためのクロスドメインデータを利用した自己理解型生成逆数ネットワーク(SE-GAN)を提案する。
SE-GANでは、教師ネットワークと学生ネットワークは、意味分節マップを生成するための自己組織化モデルを構成する。
その単純さにもかかわらず、SE-GANは敵の訓練性能を大幅に向上させ、モデルの安定性を高めることができる。
論文 参考訳(メタデータ) (2021-12-15T09:50:25Z) - Attention-driven Graph Clustering Network [49.040136530379094]
我々は、注意駆動グラフクラスタリングネットワーク(AGCN)という新しいディープクラスタリング手法を提案する。
AGCNは、ノード属性特徴とトポロジグラフ特徴を動的に融合するために、不均一な融合モジュールを利用する。
AGCNは、教師なしの方法で特徴学習とクラスタ割り当てを共同で行うことができる。
論文 参考訳(メタデータ) (2021-08-12T02:30:38Z) - A Framework for Joint Unsupervised Learning of Cluster-Aware Embedding
for Heterogeneous Networks [6.900303913555705]
Heterogeneous Information Network (HIN) は、HINの構造と意味を保存しているHINノードの低次元投影を指す。
本稿では,クラスタ埋め込みとクラスタ認識HIN埋め込みの併用学習を提案する。
論文 参考訳(メタデータ) (2021-08-09T11:36:36Z) - GAHNE: Graph-Aggregated Heterogeneous Network Embedding [32.44836376873812]
異種ネットワーク埋め込みは、ノードを低次元ベクトルに埋め込み、異種ネットワークの豊富な本質的な情報を捕捉することを目的としている。
既存のモデルは、手動でメタパスを設計するか、異なるセマンティクス間の相互効果を無視するか、あるいはグローバルネットワークからの情報のいくつかの側面を省略する。
GAHNEモデルでは、異なる単一タイプのサブネットワークからのセマンティック表現を集約する機構を開発し、グローバル情報を最終埋め込みに融合させる。
論文 参考訳(メタデータ) (2020-12-23T07:11:30Z) - Deep Kernel Supervised Hashing for Node Classification in Structural
Networks [39.459721876872266]
本稿では,ノード分類のためのハッシュ表現を学習するための新しいDeep Kernel Supervised Hashing (DKSH)法を提案する。
提案手法は3つの実世界のベンチマークデータセットに対して最先端のベースラインを大幅に上回る。
論文 参考訳(メタデータ) (2020-10-26T13:38:23Z) - DINE: A Framework for Deep Incomplete Network Embedding [33.97952453310253]
本稿では,ディープ不完全ネットワーク埋め込み,すなわちDINEを提案する。
まず、期待最大化フレームワークを用いて、部分的に観測可能なネットワーク内のノードとエッジの両方を含む欠落部分を完成させる。
マルチラベル分類およびリンク予測タスクにおいて,DINEを3つのネットワーク上で評価する。
論文 参考訳(メタデータ) (2020-08-09T04:59:35Z) - EPINE: Enhanced Proximity Information Network Embedding [2.257737378757467]
本研究では,隣接行列における貴重な情報をより深く掘り下げることに尽力した。
同じ目的のもと、多くのNE法は隣接行列のパワーによって高次近接を計算する。
より直感的に高次近接性を再定義することを提案する。
論文 参考訳(メタデータ) (2020-03-04T15:57:17Z) - Dense Residual Network: Enhancing Global Dense Feature Flow for
Character Recognition [75.4027660840568]
本稿では,すべての畳み込み層から階層的特徴をフルに活用することにより,局所的・大域的特徴フローを改善する方法について検討する。
技術的には、テキスト認識のための効率的で効果的なCNNフレームワークであるFDRN(Fast Dense Residual Network)を提案する。
論文 参考訳(メタデータ) (2020-01-23T06:55:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。