論文の概要: Local2Global: A distributed approach for scaling representation learning
on graphs
- arxiv url: http://arxiv.org/abs/2201.04729v1
- Date: Wed, 12 Jan 2022 23:00:22 GMT
- ステータス: 処理完了
- システム内更新日: 2022-01-15 02:29:44.104591
- Title: Local2Global: A distributed approach for scaling representation learning
on graphs
- Title(参考訳): Local2Global: グラフ上で表現学習をスケールするための分散アプローチ
- Authors: Lucas G. S. Jeub, Giovanni Colavizza, Xiaowen Dong, Marya Bazzi, Mihai
Cucuringu
- Abstract要約: 本稿では,グラフ表現学習における分散型「ローカル2言語」アプローチを提案する。
提案手法は,エッジ再構築におけるスケールと精度の良好なトレードオフと半教師付き分類を実現する。
また、異常検出の下流タスクについても検討し、ローカル2globalを使ってサイバーセキュリティネットワークの異常を強調できることを示す。
- 参考スコア(独自算出の注目度): 10.254620252788776
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We propose a decentralised "local2global"' approach to graph representation
learning, that one can a-priori use to scale any embedding technique. Our
local2global approach proceeds by first dividing the input graph into
overlapping subgraphs (or "patches") and training local representations for
each patch independently. In a second step, we combine the local
representations into a globally consistent representation by estimating the set
of rigid motions that best align the local representations using information
from the patch overlaps, via group synchronization. A key distinguishing
feature of local2global relative to existing work is that patches are trained
independently without the need for the often costly parameter synchronization
during distributed training. This allows local2global to scale to large-scale
industrial applications, where the input graph may not even fit into memory and
may be stored in a distributed manner. We apply local2global on data sets of
different sizes and show that our approach achieves a good trade-off between
scale and accuracy on edge reconstruction and semi-supervised classification.
We also consider the downstream task of anomaly detection and show how one can
use local2global to highlight anomalies in cybersecurity networks.
- Abstract(参考訳): 本稿では,グラフ表現学習における分散型「ローカル2言語」アプローチを提案する。
local2globalアプローチでは、まず入力グラフを重複するサブグラフ(あるいは"パッチ")に分割し、各パッチのローカル表現を独立してトレーニングします。
第2のステップでは、局所表現を大域的に一貫した表現に組み合わせ、グループ同期を通じてパッチからの情報を用いて局所表現を最良に整列する剛体運動の集合を推定する。
既存の作業に対するローカル2グロバルの重要な特徴は、パッチが分散トレーニング中にしばしばコストのかかるパラメータ同期を必要とせずに独立してトレーニングされることである。
これによりローカル2グロバルは、入力グラフがメモリに収まらず、分散的に保存されるような大規模産業アプリケーションにスケールすることができる。
異なる大きさのデータセットにlocal2globalを適用し,エッジリコンストラクションと半教師付き分類において,スケールと精度のトレードオフが良好であることを示す。
また、異常検出の下流タスクについても検討し、ローカル2globalを使ってサイバーセキュリティネットワークの異常を強調できることを示す。
関連論文リスト
- FedCRL: Personalized Federated Learning with Contrastive Shared Representations for Label Heterogeneity in Non-IID Data [13.146806294562474]
本稿では,フェデレートコントラスト学習(Federated Contrastive Learning, FedCRL)という,新たな個人化学習アルゴリズムを提案する。
FedCRLは、クライアントの知識獲得を容易にするために、共有表現に関する対照的な表現学習を導入する。
シミュレーションにより,既存の手法よりも精度が向上し,ラベルの不均一性を緩和するFedCRLの有効性が示された。
論文 参考訳(メタデータ) (2024-04-27T14:05:18Z) - Balancing between the Local and Global Structures (LGS) in Graph
Embedding [1.4732811715354455]
本稿では,グラフ埋め込みにおける局所構造とグローバル構造(LGS)のバランスをとる手法を提案する。
合成および実世界のデータセットを用いたLGSの性能評価を行い, 現状の手法と競合することを示す。
論文 参考訳(メタデータ) (2023-08-31T02:12:46Z) - Federated Learning with Intermediate Representation Regularization [14.01585596739954]
フェデレートラーニング(FL)は、リモートクライアントがプライベートデータを公開せずに、協力的にモデルをトレーニングすることを可能にする。
従来の研究では、局所モデルと大域モデルによって学習された表現間の距離を規則化することでこれを達成している。
我々はFedIntRを導入し、中間層の表現を局所的なトレーニングプロセスに統合することで、よりきめ細かい正規化を提供する。
論文 参考訳(メタデータ) (2022-10-28T01:43:55Z) - Adaptive Local-Component-aware Graph Convolutional Network for One-shot
Skeleton-based Action Recognition [54.23513799338309]
骨格に基づく行動認識のための適応的局所成分認識グラフ畳み込みネットワークを提案する。
我々の手法はグローバルな埋め込みよりも強力な表現を提供し、我々のモデルが最先端に到達するのに役立ちます。
論文 参考訳(メタデータ) (2022-09-21T02:33:07Z) - Federated and Generalized Person Re-identification through Domain and
Feature Hallucinating [88.77196261300699]
人物再識別(re-ID)におけるフェデレーションドメイン一般化(FedDG)の問題について検討する。
一般化された局所的・グローバルなモデルを学ぶための多様な特徴を創出する手法として,DFH (Domain and Feature Hallucinating) を提案する。
提案手法は4つの大規模re-IDベンチマークにおいてFedDGの最先端性能を実現する。
論文 参考訳(メタデータ) (2022-03-05T09:15:13Z) - Local2Global: Scaling global representation learning on graphs via local
training [6.292766967410996]
本稿では,グラフ表現学習のための分散型「ローカル2言語」アプローチを提案する。
パッチ毎に局所表現を個別に訓練し、局所表現をグローバルに一貫した表現に組み合わせる。
中規模データセットの予備的な結果が期待でき、グローバルに訓練された埋め込みに匹敵するローカル2グロバルのグラフ再構成性能が期待できる。
論文 参考訳(メタデータ) (2021-07-26T14:08:31Z) - PGL: Prior-Guided Local Self-supervised Learning for 3D Medical Image
Segmentation [87.50205728818601]
本稿では,潜在特徴空間における局所的一貫性を学習するPGL(PresideedGuided Local)自己教師モデルを提案する。
我々のPGLモデルは、局所領域の特異な表現を学習し、したがって構造情報を保持できる。
論文 参考訳(メタデータ) (2020-11-25T11:03:11Z) - Unsupervised Metric Relocalization Using Transform Consistency Loss [66.19479868638925]
メートル法再ローカライズを行うためのトレーニングネットワークは、従来、正確な画像対応が必要である。
地図内のクエリ画像のローカライズは、登録に使用される参照画像に関係なく、同じ絶対的なポーズを与えるべきである。
提案手法は, 限られた地下構造情報が得られる場合に, 他の教師あり手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2020-11-01T19:24:27Z) - Semantic Histogram Based Graph Matching for Real-Time Multi-Robot Global
Localization in Large Scale Environment [18.128244946109795]
本稿では,視点変化に頑健な意味ヒストグラムに基づくグラフマッチング手法を提案し,リアルタイムなグローバルなローカライゼーションを実現する。
我々のアプローチはランダムウォークベースのセマンティック記述子よりも約30倍高速です。
これは、グローバルなローカライゼーションにおいて95%の精度を達成する一方、最先端手法の精度は85%である。
論文 参考訳(メタデータ) (2020-10-19T08:18:42Z) - Multi-Level Graph Convolutional Network with Automatic Graph Learning
for Hyperspectral Image Classification [63.56018768401328]
HSI分類のための自動グラフ学習法(MGCN-AGL)を用いたマルチレベルグラフ畳み込みネットワーク(GCN)を提案する。
空間的に隣接する領域における重要度を特徴付けるために注意機構を利用することで、最も関連性の高い情報を適応的に組み込んで意思決定を行うことができる。
MGCN-AGLは局所的に生成した表現表現に基づいて画像領域間の長距離依存性を符号化する。
論文 参考訳(メタデータ) (2020-09-19T09:26:20Z) - Think Locally, Act Globally: Federated Learning with Local and Global
Representations [92.68484710504666]
フェデレートラーニング(Federated Learning)とは、複数のデバイスに分散したプライベートデータ上でモデルをトレーニングする手法である。
本稿では,各デバイス上でコンパクトな局所表現を共同で学習する新しいフェデレーション学習アルゴリズムを提案する。
また、プライバシが鍵となる実世界のモバイルデータから、パーソナライズされた気分予測のタスクを評価する。
論文 参考訳(メタデータ) (2020-01-06T12:40:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。