論文の概要: Variational models for signal processing with Graph Neural Networks
- arxiv url: http://arxiv.org/abs/2103.16337v1
- Date: Tue, 30 Mar 2021 13:31:11 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-31 19:26:00.569688
- Title: Variational models for signal processing with Graph Neural Networks
- Title(参考訳): グラフニューラルネットワークを用いた信号処理の変分モデル
- Authors: Amitoz Azad, Julien Rabin, and Abderrahim Elmoataz
- Abstract要約: 本稿では,ニューラルネットワークを用いた点雲の信号処理について述べる。
本研究では,このようなグラフニューラルネットワークの変分モデルを用いて,教師なし学習のためのグラフ上の信号を処理する方法を検討する。
- 参考スコア(独自算出の注目度): 3.5939555573102853
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper is devoted to signal processing on point-clouds by means of neural
networks. Nowadays, state-of-the-art in image processing and computer vision is
mostly based on training deep convolutional neural networks on large datasets.
While it is also the case for the processing of point-clouds with Graph Neural
Networks (GNN), the focus has been largely given to high-level tasks such as
classification and segmentation using supervised learning on labeled datasets
such as ShapeNet. Yet, such datasets are scarce and time-consuming to build
depending on the target application. In this work, we investigate the use of
variational models for such GNN to process signals on graphs for unsupervised
learning.Our contributions are two-fold. We first show that some existing
variational-based algorithms for signals on graphs can be formulated as Message
Passing Networks (MPN), a particular instance of GNN, making them
computationally efficient in practice when compared to standard gradient-based
machine learning algorithms. Secondly, we investigate the unsupervised learning
of feed-forward GNN, either by direct optimization of an inverse problem or by
model distillation from variational-based MPN.
Keywords:Graph Processing. Neural Network. Total Variation. Variational
Methods. Message Passing Network. Unsupervised learning
- Abstract(参考訳): 本稿では,ニューラルネットワークを用いた点雲の信号処理について述べる。
現在、画像処理とコンピュータビジョンの最先端技術は、大データセット上の深い畳み込みニューラルネットワークのトレーニングに基づいている。
Graph Neural Networks (GNN) によるポイントクラウド処理のケースでもあるが、ShapeNetのようなラベル付きデータセットに対する教師あり学習を用いた分類やセグメンテーションといった高度なタスクに焦点が当てられている。
しかし、そのようなデータセットはターゲットのアプリケーションに依存するため、構築には時間がかかります。
本研究では,教師なし学習のためのグラフ上での信号処理におけるGNNの変分モデルの利用について検討する。
まず,GNNの特定の例であるMPN(Message Passing Networks)としてグラフ上の信号の変分に基づくアルゴリズムを定式化できることを示し,標準勾配に基づく機械学習アルゴリズムと比較して計算効率が良くなった。
次に,逆問題を直接最適化するか,変分に基づくMPNによるモデル蒸留により,フィードフォワードGNNの教師なし学習について検討する。
キーワード:グラフ処理。
ニューラルネットワーク。
全変種。
変分法。
メッセージパッシングネットワーク。
教師なし学習
関連論文リスト
- Graph Neural Networks Provably Benefit from Structural Information: A
Feature Learning Perspective [53.999128831324576]
グラフニューラルネットワーク(GNN)は、グラフ表現学習の先駆けとなった。
本研究では,特徴学習理論の文脈におけるグラフ畳み込みの役割について検討する。
論文 参考訳(メタデータ) (2023-06-24T10:21:11Z) - Dynamic Graph Message Passing Networks for Visual Recognition [112.49513303433606]
長距離依存のモデリングは、コンピュータビジョンにおけるシーン理解タスクに不可欠である。
完全連結グラフはそのようなモデリングには有益であるが、計算オーバーヘッドは禁じられている。
本稿では,計算複雑性を大幅に低減する動的グラフメッセージパッシングネットワークを提案する。
論文 参考訳(メタデータ) (2022-09-20T14:41:37Z) - Invertible Neural Networks for Graph Prediction [22.140275054568985]
本研究では,ディープ・インバーチブル・ニューラルネットワークを用いた条件生成について述べる。
私たちの目標は,前処理と後処理の予測と生成を同時に行うことにあるので,エンドツーエンドのトレーニングアプローチを採用しています。
論文 参考訳(メタデータ) (2022-06-02T17:28:33Z) - Training Graph Neural Networks by Graphon Estimation [2.5997274006052544]
本稿では,基礎となるネットワークデータから得られたグラフトン推定値から再サンプリングすることで,グラフニューラルネットワークをトレーニングする。
我々のアプローチは競争力があり、多くの場合、他の過度にスムースなGNNトレーニング手法よりも優れています。
論文 参考訳(メタデータ) (2021-09-04T19:21:48Z) - Increase and Conquer: Training Graph Neural Networks on Growing Graphs [116.03137405192356]
本稿では,このグラフからBernoulliをサンプリングしたグラフ上でGNNをトレーニングすることで,WNN(Graphon Neural Network)を学習する問題を考察する。
これらの結果から着想を得た大規模グラフ上でGNNを学習するアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-06-07T15:05:59Z) - Analyzing the Performance of Graph Neural Networks with Pipe Parallelism [2.269587850533721]
ノードやエッジの分類やリンクの予測といったタスクで大きな成功を収めたグラフニューラルネットワーク(GNN)に注目した。
グラフ技術の進歩には,大規模ネットワーク処理のための新たなアプローチが必要である。
私たちは、ディープラーニングコミュニティで成功したと知られている既存のツールとフレームワークを使用して、GNNを並列化する方法を研究します。
論文 参考訳(メタデータ) (2020-12-20T04:20:38Z) - A Unified View on Graph Neural Networks as Graph Signal Denoising [49.980783124401555]
グラフニューラルネットワーク(GNN)は,グラフ構造化データの学習表現において顕著に普及している。
本研究では,代表的GNNモデル群における集約過程を,グラフ記述問題の解法とみなすことができることを数学的に確立する。
UGNNから派生した新しいGNNモデルADA-UGNNをインスタンス化し、ノード間の適応的滑らかさでグラフを処理する。
論文 参考訳(メタデータ) (2020-10-05T04:57:18Z) - Binarized Graph Neural Network [65.20589262811677]
我々は二項化グラフニューラルネットワークを開発し、二項化ネットワークパラメータを用いてノードのバイナリ表現を学習する。
提案手法は既存のGNNベースの埋め込み手法にシームレスに統合できる。
実験により、提案された二項化グラフニューラルネットワーク、すなわちBGNは、時間と空間の両方の観点から、桁違いに効率的であることが示されている。
論文 参考訳(メタデータ) (2020-04-19T09:43:14Z) - Graphs, Convolutions, and Neural Networks: From Graph Filters to Graph
Neural Networks [183.97265247061847]
我々はグラフ信号処理を活用してグラフニューラルネットワーク(GNN)の表現空間を特徴付ける。
GNNにおけるグラフ畳み込みフィルタの役割について議論し、そのようなフィルタで構築されたアーキテクチャは、置換同値の基本的な性質と位相変化に対する安定性を持つことを示す。
また,ロボット群に対するリコメンデータシステムや分散型コントローラの学習におけるGNNの利用について検討した。
論文 参考訳(メタデータ) (2020-03-08T13:02:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。