論文の概要: HSA-Net: Hierarchical and Structure-Aware Framework for Efficient and Scalable Molecular Language Modeling

• arxiv url: http://arxiv.org/abs/2508.08334v1
• Date: Sun, 10 Aug 2025 15:22:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-13 21:07:34.180611
• Title: HSA-Net: Hierarchical and Structure-Aware Framework for Efficient and Scalable Molecular Language Modeling
• Title（参考訳）: HSA-Net: 効率的かつスケーラブルな分子言語モデリングのための階層的・構造認識フレームワーク
• Authors: Zihang Shao, Wentao Lei, Lei Wang, Wencai Ye, Li Liu,
• Abstract要約: 階層的特徴投影と融合を可能にする2つのモジュールを持つ新しいフレームワークである階層型・構造対応ネットワーク(HSA-Net)を提案する。 複数レベルの特徴を適応的にマージするために,アグリゲーションの特徴に基づいて,融合の専門家を柔軟に選択するSource-Aware Fusion (SAF) モジュールを設計する。 我々のHSA-Netフレームワークは、現在最先端(SOTA)手法よりも定量的に質的に優れていることを示した。
• 参考スコア（独自算出の注目度）: 7.26697833663902
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Molecular representation learning, a cornerstone for downstream tasks like molecular captioning and molecular property prediction, heavily relies on Graph Neural Networks (GNN). However, GNN suffers from the over-smoothing problem, where node-level features collapse in deep GNN layers. While existing feature projection methods with cross-attention have been introduced to mitigate this issue, they still perform poorly in deep features. This motivated our exploration of using Mamba as an alternative projector for its ability to handle complex sequences. However, we observe that while Mamba excels at preserving global topological information from deep layers, it neglects fine-grained details in shallow layers. The capabilities of Mamba and cross-attention exhibit a global-local trade-off. To resolve this critical global-local trade-off, we propose Hierarchical and Structure-Aware Network (HSA-Net), a novel framework with two modules that enables a hierarchical feature projection and fusion. Firstly, a Hierarchical Adaptive Projector (HAP) module is introduced to process features from different graph layers. It learns to dynamically switch between a cross-attention projector for shallow layers and a structure-aware Graph-Mamba projector for deep layers, producing high-quality, multi-level features. Secondly, to adaptively merge these multi-level features, we design a Source-Aware Fusion (SAF) module, which flexibly selects fusion experts based on the characteristics of the aggregation features, ensuring a precise and effective final representation fusion. Extensive experiments demonstrate that our HSA-Net framework quantitatively and qualitatively outperforms current state-of-the-art (SOTA) methods.
• Abstract（参考訳）: 分子表現学習は、分子キャプションや分子特性予測といった下流タスクの基盤であり、グラフニューラルネットワーク(GNN)に大きく依存している。 しかし、GNNは、ノードレベルの機能が深いGNN層で崩壊するオーバースムースな問題に悩まされている。 この問題を軽減するために、クロスアテンションを持つ既存の機能プロジェクションメソッドが導入されたが、まだ深い機能では不十分である。 これは、複雑なシーケンスを扱うための代替プロジェクターとしてMambaを使うことを探求する動機となった。 しかし,マンバは深層からの地球的トポロジ情報の保存に長けているが,浅層の微細な詳細は無視している。 マンバとクロスアテンションの能力は、グローバルな地域的なトレードオフを示している。 この重要なグローバルなトレードオフを解決するために、階層的特徴投影と融合を可能にする2つのモジュールを持つ新しいフレームワークである階層的構造認識ネットワーク(HSA-Net)を提案する。 まず、階層型適応プロジェクタ(HAP)モジュールを導入し、異なるグラフ層から機能を処理する。 浅いレイヤ用のクロスアテンションプロジェクタと深いレイヤ用の構造対応のGraph-Mambaプロジェクタを動的に切り替えることを学び、高品質でマルチレベルな機能を提供する。 第2に,これらのマルチレベル特徴を適応的にマージするために,アグリゲーションの特徴に基づいて融合の専門家を柔軟に選択し,正確かつ効果的な最終表現融合を保証するソース・アウェア・フュージョン(SAF)モジュールを設計する。 我々のHSA-Netフレームワークは、現在最先端(SOTA)手法よりも定量的に質的に優れていることを示した。

関連論文リスト

• MHAF-YOLO: Multi-Branch Heterogeneous Auxiliary Fusion YOLO for accurate object detection [3.87627600245713]
  MHAF-YOLOは,Multi-Branch Auxiliary FPN(MAFPN)と呼ばれる多機能ネックデザインを特徴とする新しい検出フレームワークである。 SAFは背骨と首を浅い特徴を融合させて橋渡しし、重要な低レベル空間情報を高い忠実度で効果的に転送する。 AAFは、より深いネック層におけるマルチスケールの特徴情報を統合し、出力層によりリッチな勾配情報を提供し、さらにモデル学習能力を高める。 RepHMSはグローバルにネットワークに統合されており、GHFKSを利用して様々な特徴層に対して大きな畳み込みカーネルを選択し、垂直受容領域を拡張し、空間階層にわたってコンテキスト情報をキャプチャする。
  論文  参考訳（メタデータ） (2025-02-07T04:49:42Z)
• GraphMamba: An Efficient Graph Structure Learning Vision Mamba for Hyperspectral Image Classification [19.740333867168108]
  GraphMambaは、深部空間スペクトル情報マイニングを実現するための効率的なグラフ構造学習ビジョンMamba分類フレームワークである。 GraphMambaのコアコンポーネントには、計算効率を改善するHyperMambaモジュールと、適応的な空間コンテキスト認識のためのSpectralGCNモジュールが含まれている。
  論文  参考訳（メタデータ） (2024-07-11T07:56:08Z)
• Hi-GMAE: Hierarchical Graph Masked Autoencoders [90.30572554544385]
  階層型グラフマスク付きオートエンコーダ(Hi-GMAE) Hi-GMAEは、グラフ内の階層構造を扱うために設計された、新しいマルチスケールGMAEフレームワークである。 15のグラフデータセットに対する実験は、Hi-GMAEが17の最先端の自己管理競合より優れていることを一貫して示している。
  論文  参考訳（メタデータ） (2024-05-17T09:08:37Z)
• SENetV2: Aggregated dense layer for channelwise and global representations [0.0]
  我々は,Squeeze残余モジュール内に,多分岐密度層である新しい多層パーセプトロンを導入する。 この融合により、チャネルワイドパターンを捕捉し、グローバルな知識を持つネットワークの能力が向上する。 ベンチマークデータセットの広範な実験を行い、モデルを検証し、確立したアーキテクチャと比較する。
  論文  参考訳（メタデータ） (2023-11-17T14:10:57Z)
• TOPIQ: A Top-down Approach from Semantics to Distortions for Image Quality Assessment [53.72721476803585]
  画像品質評価(IQA)は、ディープニューラルネットワークによる顕著な進歩を目の当たりにしたコンピュータビジョンの基本課題である。 本稿では,高レベルの意味論を用いてIQAネットワークを誘導し,意味的に重要な局所歪み領域に注目するトップダウンアプローチを提案する。 提案手法の重要な要素は,低レベル特徴に対するアテンションマップを算出した,クロススケールアテンション機構である。
  論文  参考訳（メタデータ） (2023-08-06T09:08:37Z)
• Attention-driven Graph Clustering Network [49.040136530379094]
  我々は、注意駆動グラフクラスタリングネットワーク(AGCN)という新しいディープクラスタリング手法を提案する。 AGCNは、ノード属性特徴とトポロジグラフ特徴を動的に融合するために、不均一な融合モジュールを利用する。 AGCNは、教師なしの方法で特徴学習とクラスタ割り当てを共同で行うことができる。
  論文  参考訳（メタデータ） (2021-08-12T02:30:38Z)
• Interflow: Aggregating Multi-layer Feature Mappings with Attention Mechanism [0.7614628596146599]
  本稿では,従来のCNNモデルに特化してInterflowアルゴリズムを提案する。 Interflowは、深さに応じてCNNを複数のステージに分割し、各ステージの特徴マッピングによって予測する。 勾配の消失問題を緩和し、ネットワーク深度選択の難しさを低減し、過度に適合できる問題を緩和することができる。
  論文  参考訳（メタデータ） (2021-06-26T18:22:01Z)
• Multi-Level Graph Convolutional Network with Automatic Graph Learning for Hyperspectral Image Classification [63.56018768401328]
  HSI分類のための自動グラフ学習法(MGCN-AGL)を用いたマルチレベルグラフ畳み込みネットワーク(GCN)を提案する。 空間的に隣接する領域における重要度を特徴付けるために注意機構を利用することで、最も関連性の高い情報を適応的に組み込んで意思決定を行うことができる。 MGCN-AGLは局所的に生成した表現表現に基づいて画像領域間の長距離依存性を符号化する。
  論文  参考訳（メタデータ） (2020-09-19T09:26:20Z)
• Global Context-Aware Progressive Aggregation Network for Salient Object Detection [117.943116761278]
  我々は,低レベルな外観特徴,高レベルな意味特徴,グローバルな文脈特徴を統合化するための新しいネットワークGCPANetを提案する。 提案手法は, 定量的かつ定性的に, 最先端の手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2020-03-02T04:26:10Z)
• Cross-layer Feature Pyramid Network for Salient Object Detection [102.20031050972429]
  本稿では,有能な物体検出における進行的融合を改善するために,新しいクロス層特徴ピラミッドネットワークを提案する。 レイヤごとの分散機能は、他のすべてのレイヤからセマンティクスと健全な詳細の両方を同時に所有し、重要な情報の損失を減らします。
  論文  参考訳（メタデータ） (2020-02-25T14:06:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。