Fugu-MT 論文翻訳(概要): Fusion of Graph Neural Networks via Optimal Transport

論文の概要: Fusion of Graph Neural Networks via Optimal Transport

arxiv url: http://arxiv.org/abs/2503.21579v1
Date: Thu, 27 Mar 2025 14:59:54 GMT
ステータス: 翻訳完了
システム内更新日: 2025-03-28 12:51:40.899265
Title: Fusion of Graph Neural Networks via Optimal Transport
Title（参考訳）: 最適輸送によるグラフニューラルネットワークの融合
Authors: Weronika Ormaniec, Michael Vollenweider, Elisa Hoskovec,
Abstract要約: 本研究は,バニラ平均化性能を連続的に向上することを示す。本稿では, OTを用いたモデル融合がGCNの場合には, プロセスにグラフ構造を組み込むよりも困難であることが示唆された。
参考スコア（独自算出の注目度）: 0.0
License:
Abstract: In this paper, we explore the idea of combining GCNs into one model. To that end, we align the weights of different models layer-wise using optimal transport (OT). We present and evaluate three types of transportation costs and show that the studied fusion method consistently outperforms the performance of vanilla averaging. Finally, we present results suggesting that model fusion using OT is harder in the case of GCNs than MLPs and that incorporating the graph structure into the process does not improve the performance of the method.
Abstract（参考訳）: 本稿では,GCNを一つのモデルに組み込むことについて検討する。そのために、最適輸送(OT)を用いて異なるモデルの重みを階層的に整列する。本研究は,3種類の輸送コストについて検討し,バニラ平均化性能を連続的に向上することを示す。最後に, MLP よりも GCN の場合には OT を用いたモデル融合が困難であり, プロセスにグラフ構造を組み込むことで性能が向上しないことを示す。

関連論文リスト

Not-So-Optimal Transport Flows for 3D Point Cloud Generation [58.164908756416615]
3次元点雲の生成モデルの学習は、3次元点雲の生成学習における根本的な問題の1つである。本稿では,最近提案された同変OTフローを解析し,点ベース分子データに対する置換不変な生成モデルを学習する。提案手法は, 広範囲な非条件生成および形状完備化において, 拡散および流動に基づく事前アプローチよりも優れていることを示す。
論文参考訳（メタデータ） (2025-02-18T02:37:34Z)
SurgeryV2: Bridging the Gap Between Model Merging and Multi-Task Learning with Deep Representation Surgery [54.866490321241905]
モデルマージに基づくマルチタスク学習(MTL)は、複数のエキスパートモデルをマージしてMTLを実行するための有望なアプローチを提供する。本稿では,統合モデルの表現分布について検討し,「表現バイアス」の重要な問題を明らかにする。このバイアスは、マージされたMTLモデルの表現と専門家モデルの間の大きな分布ギャップから生じ、マージされたMTLモデルの最適下性能に繋がる。
論文参考訳（メタデータ） (2024-10-18T11:49:40Z)
Towards Meta-Pruning via Optimal Transport [64.6060250923073]
本稿では, フラニングパラダイムに挑戦する「イントラフュージョン」という新しいアプローチを提案する。モデル融合と最適輸送の概念を利用して、より効果的なスパースモデル表現に到達する。 CIFAR-10, CIFAR-100, ImageNetなどの一般的なデータセット上で, 各種ネットワークのベンチマークを行った。
論文参考訳（メタデータ） (2024-02-12T17:50:56Z)
Staged Depthwise Correlation and Feature Fusion for Siamese Object Tracking [0.6827423171182154]
視覚的トラッキングのための特徴抽出をさらに最適化するために,DCFFNet という新たな段階的深度相関と特徴融合ネットワークを提案する。シアムネットワークアーキテクチャに基づいてディープトラッカーを構築しており、複数の大規模データセットでゼロからトレーニングされたオフラインです。 OTB100,VOT2018,LaSOTなど,一般的なベンチマークにトラッカーを実装した。
論文参考訳（メタデータ） (2023-10-15T06:04:42Z)
Multimodal Multi-loss Fusion Network for Sentiment Analysis [3.8611070161950902]
本稿では,複数のモードにまたがる特徴エンコーダの最適選択と融合について検討し,感情検出を改善する。我々は、異なる融合法を比較し、マルチモダリティ融合ネットワークにおけるマルチロストレーニングの影響について検討する。コンテキストの統合はモデルの性能を大幅に向上させることがわかった。
論文参考訳（メタデータ） (2023-08-01T03:54:27Z)
Multi-View Clustering via Semi-non-negative Tensor Factorization [120.87318230985653]
半負のテンソル因子分解(Semi-NTF)に基づく新しいマルチビュークラスタリングを開発する。本モデルは、ビュー間の関係を直接考慮し、ビュー間の補完情報を利用する。さらに,提案手法の最適化アルゴリズムを提案し,そのアルゴリズムが常に定常KKT点に収束することを数学的に証明する。
論文参考訳（メタデータ） (2023-03-29T14:54:19Z)
Flattened Graph Convolutional Networks For Recommendation [18.198536511983452]
本稿では,既存のモデルに比べて非常に少ない複雑さで優れた性能を達成できるフラット化GCN(FlatGCN)モデルを提案する。まず,1つの平坦なGCN層を用いて周辺情報を集約する簡易かつ強力なGCNアーキテクチャを提案する。次に,隣り合うノード間の相関を計測し,最も価値のある隣人を選択するための情報的隣人-infomaxサンプリング手法を提案する。第3に,最終層に階層的近傍表現を組み立てることで,学習した表現の表現性を向上する層アンサンブル手法を提案する。
論文参考訳（メタデータ） (2022-09-25T12:53:50Z)
Efficient Robust Optimal Transport with Application to Multi-Label Classification [12.521494095948068]
OTコスト関数における対称正の半定値マハラノビス計量を用いて特徴-特徴関係をモデル化する。結果の最適化問題を非線形OT問題とみなし,Frank-Wolfeアルゴリズムを用いて解く。タグ予測や多クラス分類などの識別学習環境における実証的な結果から,本手法の有効性が示唆された。
論文参考訳（メタデータ） (2020-10-22T16:43:52Z)
Mix Dimension in Poincar\'{e} Geometry for 3D Skeleton-based Action Recognition [57.98278794950759]
グラフ畳み込みネットワーク(GCN)はすでに、不規則なデータをモデル化する強力な能力を実証している。本稿では,ポアンカー幾何学を用いて定義した空間時空間GCNアーキテクチャを提案する。提案手法を,現在最大規模の2つの3次元データセット上で評価する。
論文参考訳（メタデータ） (2020-07-30T18:23:18Z)
Single-Layer Graph Convolutional Networks For Recommendation [17.3621098912528]
Graph Convolutional Networks (GCNs) は、推奨タスクで最先端のパフォーマンスを達成した。既存のGCNモデルでは、関連するすべてのノード間で再帰アグリゲーションを行う傾向があり、計算上の重荷が発生する。 DA類似性によってフィルタリングされた隣人からの情報を集約し,ノード表現を生成するための単一のGCN層を提案する。
論文参考訳（メタデータ） (2020-06-07T14:38:47Z)
Revisiting Graph based Collaborative Filtering: A Linear Residual Graph Convolutional Network Approach [55.44107800525776]
グラフ畳み込みネットワーク(GCN)は、最先端のグラフベースの表現学習モデルである。本稿では、GCNベースの協調フィルタリング(CF)ベースのレコメンダシステム(RS)について再検討する。単純なグラフ畳み込みネットワークの理論と整合して,非線形性を取り除くことで推奨性能が向上することを示す。本稿では,ユーザ・イテム相互作用モデリングを用いたCF用に特別に設計された残差ネットワーク構造を提案する。
論文参考訳（メタデータ） (2020-01-28T04:41:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。