論文の概要: Redundancy-optimized Multi-head Attention Networks for Multi-View Multi-Label Feature Selection

• arxiv url: http://arxiv.org/abs/2511.12462v1
• Date: Sun, 16 Nov 2025 05:16:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-18 14:36:24.182653
• Title: Redundancy-optimized Multi-head Attention Networks for Multi-View Multi-Label Feature Selection
• Title（参考訳）: マルチビューマルチラベル特徴選択のための冗長性最適化型マルチヘッドアテンションネットワーク
• Authors: Yuzhou Liu, Jiarui Liu, Wanfu Gao,
• Abstract要約: マルチビューマルチラベルデータは、人工知能に対するより豊かな視点を提供する。 特徴、ビュー、ラベル間の相互関係が本質的に複雑であるため、機能選択において重要な課題が提示される。 冗長性を最適化したマルチレーベル特徴選択のための新しい手法を提案する。
• 参考スコア（独自算出の注目度）: 14.533409384742116
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Multi-view multi-label data offers richer perspectives for artificial intelligence, but simultaneously presents significant challenges for feature selection due to the inherent complexity of interrelations among features, views and labels. Attention mechanisms provide an effective way for analyzing these intricate relationships. They can compute importance weights for information by aggregating correlations between Query and Key matrices to focus on pertinent values. However, existing attention-based feature selection methods predominantly focus on intra-view relationships, neglecting the complementarity of inter-view features and the critical feature-label correlations. Moreover, they often fail to account for feature redundancy, potentially leading to suboptimal feature subsets. To overcome these limitations, we propose a novel method based on Redundancy-optimized Multi-head Attention Networks for Multi-view Multi-label Feature Selection (RMAN-MMFS). Specifically, we employ each individual attention head to model intra-view feature relationships and use the cross-attention mechanisms between different heads to capture inter-view feature complementarity. Furthermore, we design static and dynamic feature redundancy terms: the static term mitigates redundancy within each view, while the dynamic term explicitly models redundancy between unselected and selected features across the entire selection process, thereby promoting feature compactness. Comprehensive evaluations on six real-world datasets, compared against six multi-view multi-label feature selection methods, demonstrate the superior performance of the proposed method.
• Abstract（参考訳）: マルチビューマルチラベルデータは、人工知能に対するより豊かな視点を提供するが、特徴、ビュー、ラベル間の相互関係が本質的に複雑であるため、特徴選択において重要な課題を同時に提示する。 注意機構は、これらの複雑な関係を分析する効果的な方法を提供する。 クエリとキー行列間の相関関係を集約して、関連する値にフォーカスすることで、情報の重み付けを計算することができる。 しかし、既存の注目に基づく特徴選択手法は、主にビュー内関係に着目し、ビュー間特徴の相補性と重要な特徴-ラベル相関を無視する。 さらに、しばしば機能冗長性の説明に失敗し、潜在的にはサブ最適機能サブセットに繋がる。 これらの制約を克服するため,マルチビューマルチラベル特徴選択(RMAN-MMFS)のための冗長性最適化型マルチヘッドアテンションネットワークを提案する。 具体的には、各注目ヘッドを用いてビュー内特徴関係をモデル化し、異なるヘッド間の相互注意機構を用いてビュー間特徴相補性を捉える。 さらに、静的項は各ビュー内の冗長性を緩和し、動的項は選択プロセス全体にわたって選択されていない特徴と選択された特徴の冗長性を明示的にモデル化し、特徴のコンパクト性を促進する。 6つの実世界のデータセットに対する総合的な評価は、6つのマルチビュー・マルチラベル特徴選択法と比較して、提案手法の優れた性能を示す。

関連論文リスト

• Embedded Multi-label Feature Selection via Orthogonal Regression [45.55795914923279]
  少なくとも2乗回帰に基づく最先端の組込みマルチラベル特徴選択アルゴリズムは、マルチラベルデータに十分な識別情報を保存できない。 複数ラベルの特徴選択を容易にするために, 組込み多ラベル特徴選択法を提案する。 10個の多ラベルデータセットの大規模な実験結果から,GRROORの有効性が示された。
  論文  参考訳（メタデータ） (2024-03-01T06:18:40Z)
• Interactive Multi-Head Self-Attention with Linear Complexity [60.112941134420204]
  本研究では,アテンション行列のクロスヘッド間相互作用により,アテンション操作の情報フローが向上することを示す。 本稿では,アテンション操作をクエリとキーレスコンポーネントに分解する効果的な手法を提案する。
  論文  参考訳（メタデータ） (2024-02-27T13:47:23Z)
• BiVRec: Bidirectional View-based Multimodal Sequential Recommendation [55.87443627659778]
  我々は,IDとマルチモーダルの両方で推薦タスクを共同で訓練する,革新的なフレームワークであるBivRecを提案する。 BivRecは5つのデータセットで最先端のパフォーマンスを達成し、様々な実用的な利点を示している。
  論文  参考訳（メタデータ） (2024-02-27T09:10:41Z)
• MvFS: Multi-view Feature Selection for Recommender System [7.0190343591422115]
  本稿では,各インスタンスのより効率的な情報機能を選択するMulti-view Feature Selection (MvFS)を提案する。 MvFSは複数のサブネットワークで構成されるマルチビューネットワークを採用しており、それぞれがデータの一部の特徴的重要性を計測することを学ぶ。 MvFSは、各分野に独立して適用される効果的な重要スコアモデリング戦略を採用している。
  論文  参考訳（メタデータ） (2023-09-05T09:06:34Z)
• Asymmetric double-winged multi-view clustering network for exploring Diverse and Consistent Information [28.300395619444796]
  教師なしのシナリオでは、ディープコントラッシブ・マルチビュー・クラスタリング(DCMVC)がホットな研究スポットになりつつある。 我々はCodingNetと呼ばれる新しいマルチビュークラスタリングネットワークを提案し、多様な一貫した情報を同時に探索する。 フレームワークの有効性は、広く使用されている6つのベンチマークデータセットに関する広範な実験を通じて検証される。
  論文  参考訳（メタデータ） (2023-09-01T14:13:22Z)
• Compositional Attention: Disentangling Search and Retrieval [66.7108739597771]
  Multi-head, key-value attention は Transformer モデルとそのバリエーションのバックボーンである。 標準的なアテンションヘッドは、検索と検索の間の厳密なマッピングを学ぶ。 本稿では,標準ヘッド構造を置き換える新しいアテンション機構であるコンポジションアテンションアテンションを提案する。
  論文  参考訳（メタデータ） (2021-10-18T15:47:38Z)
• Embedded Deep Bilinear Interactive Information and Selective Fusion for Multi-view Learning [70.67092105994598]
  本稿では,上記の2つの側面に着目した,新しい多視点学習フレームワークを提案する。 特に、さまざまな深層ニューラルネットワークをトレーニングして、様々なビュー内表現を学習する。 6つの公開データセットの実験により,提案手法の有効性が示された。
  論文  参考訳（メタデータ） (2020-07-13T01:13:23Z)
• Multi-Granularity Reference-Aided Attentive Feature Aggregation for Video-based Person Re-identification [98.7585431239291]
  ビデオベースの人物再識別は、同じ人物をビデオクリップ間でマッチングすることを目的としている。 本稿では,マルチグラニュラリティ参照属性集約モジュールMG-RAFAを提案する。 本フレームワークは,3つのベンチマークデータセット上での最先端のアブレーション性能を実現する。
  論文  参考訳（メタデータ） (2020-03-27T03:49:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。