論文の概要: Learning the Right Layers: a Data-Driven Layer-Aggregation Strategy for Semi-Supervised Learning on Multilayer Graphs

• arxiv url: http://arxiv.org/abs/2306.00152v1
• Date: Wed, 31 May 2023 19:50:11 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-02 19:39:11.199904
• Title: Learning the Right Layers: a Data-Driven Layer-Aggregation Strategy for Semi-Supervised Learning on Multilayer Graphs
• Title（参考訳）: 正しい層を学ぶ:多層グラフ上の半教師付き学習のためのデータ駆動層集約戦略
• Authors: Sara Venturini, Andrea Cristofari, Francesco Rinaldi, Francesco Tudisco
• Abstract要約: 多層グラフ上のクラスタリング(あるいはコミュニティ検出)は、さらにいくつかの複雑さを生じさせる。 主な課題の1つは、各レイヤがクラスタのイテレーションの割り当てにどの程度貢献するかを確立することである。 利用可能な入力ラベルから異なる層を最適に非線形に組み合わせたパラメータフリーなラプラシアン正規化モデルを提案する。
• 参考スコア（独自算出の注目度）: 2.752817022620644
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Clustering (or community detection) on multilayer graphs poses several additional complications with respect to standard graphs as different layers may be characterized by different structures and types of information. One of the major challenges is to establish the extent to which each layer contributes to the cluster assignment in order to effectively take advantage of the multilayer structure and improve upon the classification obtained using the individual layers or their union. However, making an informed a-priori assessment about the clustering information content of the layers can be very complicated. In this work, we assume a semi-supervised learning setting, where the class of a small percentage of nodes is initially provided, and we propose a parameter-free Laplacian-regularized model that learns an optimal nonlinear combination of the different layers from the available input labels. The learning algorithm is based on a Frank-Wolfe optimization scheme with inexact gradient, combined with a modified Label Propagation iteration. We provide a detailed convergence analysis of the algorithm and extensive experiments on synthetic and real-world datasets, showing that the proposed method compares favourably with a variety of baselines and outperforms each individual layer when used in isolation.
• Abstract（参考訳）: 多層グラフ上のクラスタリング(またはコミュニティ検出)は、異なるレイヤが異なる構造と情報のタイプによって特徴づけられるため、標準グラフに関していくつかの複雑さを生じさせる。 主な課題の一つは、多層構造を効果的に活用し、個々の層またはそれらの結合を用いて得られた分類を改善するために、各層がクラスタ割り当てに寄与する範囲を確立することである。 しかし,階層のクラスタリング情報の内容についてa-prioriのインフォームド・アセスメントを行うことは,非常に複雑である。 本研究では,少数のノードのクラスが最初に提供される半教師付き学習環境を仮定し,利用可能な入力ラベルから異なるレイヤの最適非線形結合を学習するパラメータフリーなラプラシアン正規化モデルを提案する。 学習アルゴリズムは、不正確な勾配を持つフランク・ウルフ最適化スキームと、改良されたラベル伝播反復を組み合わせたものである。 本稿では,アルゴリズムの詳細な収束解析と,合成および実世界のデータセットに関する広範な実験を行い,本手法が様々なベースラインと好適に比較され,単独で使用する場合の個々の層の性能が向上することを示した。

関連論文リスト

• Exploring Selective Layer Fine-Tuning in Federated Learning [48.470385357429215]
  フェデレートラーニング(FL)は,分散データを用いた基礎モデルの微調整のための,有望なパラダイムとして登場した。 FLにおける選択的層微調整について検討し、クライアントがローカルデータやリソースに応じて選択した層を調整できるフレキシブルなアプローチを強調した。
  論文  参考訳（メタデータ） (2024-08-28T07:48:39Z)
• LayerMatch: Do Pseudo-labels Benefit All Layers? [77.59625180366115]
  半教師付き学習はラベル付きデータの依存性を軽減するための有望なソリューションを提供する。 我々はGrad-ReLUとAvg-Clusteringという2つの層固有の擬似ラベル戦略を開発した。 提案手法は,標準的な半教師付き学習ベンチマークにおいて,例外的な性能を示す。
  論文  参考訳（メタデータ） (2024-06-20T11:25:50Z)
• Towards Optimal Customized Architecture for Heterogeneous Federated Learning with Contrastive Cloud-Edge Model Decoupling [20.593232086762665]
  フェデレートラーニングは、有望な分散学習パラダイムとして、中央データ収集を必要とせずに、複数のネットワークエッジクライアントにわたるグローバルモデルの協調トレーニングを可能にする。 我々はFedCMDと呼ばれる新しいフェデレーション学習フレームワークを提案する。 私たちのモチベーションは、パーソナライズされた頭として異なるニューラルネットワーク層を選択するパフォーマンスを深く調査することで、現在の研究でパーソナライズされた頭として最後の層を厳格に割り当てることが常に最適であるとは限らない、ということです。
  論文  参考訳（メタデータ） (2024-03-04T05:10:28Z)
• WLD-Reg: A Data-dependent Within-layer Diversity Regularizer [98.78384185493624]
  ニューラルネットワークは、勾配に基づく最適化と共同で訓練された階層構造に配置された複数の層で構成されている。 我々は、この従来の「中間層」フィードバックを補うために、同じ層内での活性化の多様性を促進するために、追加の「中間層」フィードバックを補うことを提案する。 本稿では,提案手法が複数のタスクにおける最先端ニューラルネットワークモデルの性能を向上させることを実証した広範な実証研究を提案する。
  論文  参考訳（メタデータ） (2023-01-03T20:57:22Z)
• Learn Layer-wise Connections in Graph Neural Networks [12.363386808994079]
  GNNにおける中間層間の適応的な接続を学習するためのニューラルネットワーク探索(NAS)に基づくフレームワーク LLC(Learn Layer-wise Connections)を提案する。 LLCには、3種類のブロックと学習可能な接続からなる新しい検索空間と、効率的な検索プロセスを実現するための1つの識別可能な検索アルゴリズムが含まれている。 実世界の5つのデータセットに対する大規模な実験を行い、その結果、探索されたレイヤワイズ接続は性能を向上するだけでなく、過度なスムーシング問題を軽減できることを示した。
  論文  参考訳（メタデータ） (2021-12-27T09:33:22Z)
• Gated recurrent units and temporal convolutional network for multilabel classification [122.84638446560663]
  本研究は,マルチラベル分類を管理するための新しいアンサンブル手法を提案する。 提案手法のコアは,Adamグラデーション最適化アプローチの変種で訓練された,ゲート再帰単位と時間畳み込みニューラルネットワークの組み合わせである。
  論文  参考訳（メタデータ） (2021-10-09T00:00:16Z)
• Effective and Efficient Graph Learning for Multi-view Clustering [173.8313827799077]
  マルチビュークラスタリングのための効率的かつ効率的なグラフ学習モデルを提案する。 本手法はテンソルシャッテンp-ノルムの最小化により異なるビューのグラフ間のビュー類似性を利用する。 提案アルゴリズムは時間経済であり,安定した結果を得るとともに,データサイズによく対応している。
  論文  参考訳（メタデータ） (2021-08-15T13:14:28Z)
• Clustering multilayer graphs with missing nodes [4.007017852999008]
  クラスタリングはネットワーク分析における基本的な問題であり、同じ接続プロファイルを持つノードを再グループ化するのが目標である。 異なるノードセット上でレイヤを定義できる新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-03-04T18:56:59Z)
• Multilayer Clustered Graph Learning [66.94201299553336]
  我々は、観測された層を代表グラフに適切に集約するために、データ忠実度用語として対照的な損失を用いる。 実験により,本手法がクラスタクラスタw.r.tに繋がることが示された。 クラスタリング問題を解くためのクラスタリングアルゴリズムを学習する。
  論文  参考訳（メタデータ） (2020-10-29T09:58:02Z)
• Learning Multi-layer Graphs and a Common Representation for Clustering [13.90938823562779]
  スペクトルクラスタリングのための共有エンティティのマルチビューデータからグラフ学習に着目する。 本稿では,この問題を解決するために,最小化の交互化に基づく効率的な解法を提案する。 合成データセットと実データセットの数値実験により,提案アルゴリズムは最先端のマルチビュークラスタリング技術より優れていることが示された。
  論文  参考訳（メタデータ） (2020-10-23T11:12:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。