論文の概要: Dual-Manifold Geometry Guided Representation Learning: Adaptive Coupling between Kernel and Data Spaces

• arxiv url: http://arxiv.org/abs/2608.12737v1
• Date: Thu, 13 Aug 2026 02:35:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-14 18:29:38.368268
• Title: Dual-Manifold Geometry Guided Representation Learning: Adaptive Coupling between Kernel and Data Spaces
• Title（参考訳）: Dual-Manifold Geometry Guided Representation Learning: Adaptive Coupling between Kernel and Data Spaces
• Abstract要約: 各畳み込み層は2つの連結幾何学空間を含む双対多様体の視点を導入する。 これらの多様体は同じチャネル空間を共有するため、パラメータ幾何学は特徴の進化を導くために相補的な構造情報を与えることができる。 本稿では,カーネルグラム行列から幾何学的ガイダンス行列を導出する軽量モジュールであるKernel-Guided Feature Transform (KGFT)を提案する。
• 参考スコア（独自算出の注目度）: 20.461783253407955
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep representation learning has primarily focused on how features evolve across network layers, while largely overlooking the structured geometry embedded in network parameters. We introduce a dual-manifold perspective in which each convolutional layer contains two coupled geometric spaces: a Kernel Manifold induced by convolutional filters and a Data Manifold characterized by intermediate feature representations. Because these manifolds share the same channel space, parameter geometry can provide complementary structural information to guide feature evolution. Based on this insight, we propose Kernel-Guided Feature Transform (KGFT), a lightweight module that derives a geometric guidance matrix from the kernel Gram matrix and uses it to transform the covariance structure of feature representations. Unlike conventional attention mechanisms that reweight feature responses, KGFT explicitly reshapes feature relationships by transferring geometric information from the kernel manifold to the data manifold. To accommodate network hierarchy, we further introduce Exploit and Explore modes with a depth-aware scheduling strategy and a learnable guidance strength that adaptively controls the contribution of geometric transformation. This design promotes geometric alignment in shallow layers while encouraging feature diversity in deeper layers, without imposing excessive constraints on representation learning. Theoretical analysis establishes the validity of the proposed transformation and characterizes its effect on feature covariance. Extensive experiments across CNN- and Transformer-based architectures, including ResNet, ViT, and LLaMA-7B, demonstrate consistent improvements on image classification and arithmetic reasoning tasks, validating the generality and effectiveness of kernel-guided dual-manifold representation learning. Code will be publicly available.
• Abstract（参考訳）: ディープ表現学習は、主にネットワーク層を横断して機能がどのように進化するかに焦点を合わせ、主にネットワークパラメータに埋め込まれた構造化幾何学を見下ろしている。 本稿では,各畳み込み層は,畳み込みフィルタによって誘導されるカーネル多様体と,中間特徴表現によって特徴づけられるデータ多様体の2つの連結幾何学空間を含む,二重多様体の視点を紹介する。 これらの多様体は同じチャネル空間を共有するため、パラメータ幾何学は特徴の進化を導くために相補的な構造情報を与えることができる。 この知見に基づいて,カーネルグラム行列から幾何学的ガイダンス行列を導出し,特徴表現の共分散構造を変換する軽量モジュールであるKernel-Guided Feature Transform (KGFT)を提案する。 特徴応答を重み付けする従来の注意機構とは異なり、KGFTは、カーネル多様体からデータ多様体への幾何学的情報転送によって特徴関係を明示的に再認識する。 ネットワーク階層に対応するために、深度を考慮したスケジューリング戦略と幾何変換の寄与を適応的に制御する学習可能な指導力を備えたエクスプロイト・エクスプローラーモードを導入する。 この設計は、表現学習に過剰な制約を課すことなく、浅い層における幾何学的アライメントを促進しながら、より深い層における特徴の多様性を促進する。 理論的解析は、提案された変換の有効性を確立し、特徴共分散に対するその効果を特徴づける。 ResNet, ViT, LLaMA-7B など CNN および Transformer ベースのアーキテクチャの広範な実験は、画像分類と算術的推論タスクの一貫性を向上し、カーネル誘導二重多様体表現学習の一般化と有効性を検証する。 コードは公開されます。

関連論文リスト

• From Layers to Networks: Comparing Neural Representations via Diffusion Geometry [3.6731536660959985]
  拡散幾何学を神経表現に用い,多視点学習のツールをこの分野に初めて取り入れた。 我々はReSi(Representational similarity)ベンチマークを用いて,大規模な数値実験を行った。 提案手法は,異なるモデル間での言語タスクと視覚タスクの精度と出力相関を実現する。
  論文  参考訳（メタデータ） (2026-05-15T12:40:23Z)
• GeoGNN: Quantifying and Mitigating Semantic Drift in Text-Attributed Graphs [59.61242815508687]
  テキスト分散グラフ(TAG)上のグラフニューラルネットワーク(GNN)は、事前訓練された言語モデル(PLM)を使用してノードテキストを符号化し、これらの埋め込みを線形近傍アグリゲーションを通じて伝播する。 本研究は,意味的ドリフトの度合いを計測する局所PCAベースの計量を導入し,異なる凝集機構が多様体構造にどのように影響するかを解析するための最初の定量的枠組みを提供する。
  論文  参考訳（メタデータ） (2025-11-12T06:48:43Z)
• The Neural Differential Manifold: An Architecture with Explicit Geometric Structure [8.201374511929538]
  本稿では,その基本設計に幾何学的構造を明示的に組み込んだニューラルネットワークアーキテクチャであるニューラル微分マニフォールド(NDM)を紹介する。 我々は、より効率的な最適化の可能性、継続学習の強化、科学的発見と制御可能な生成モデルへの応用など、このアプローチの理論的利点を分析する。
  論文  参考訳（メタデータ） (2025-10-29T02:24:27Z)
• Multiview Manifold Evidential Fusion for PolSAR Image Classification [51.41332458376411]
  我々は,PolSAR多様体学習とエビデンス融合を統合アーキテクチャに統合する新しいフレームワークを提案する。 実世界の3つのPolSARデータセットの実験により、提案手法は、精度、堅牢性、解釈可能性において、既存のアプローチよりも一貫して優れていることが示された。
  論文  参考訳（メタデータ） (2025-10-13T09:05:51Z)
• Adaptive Riemannian Graph Neural Networks [29.859977834688625]
  グラフ上の連続および異方性計量テンソル場を学習する新しいフレームワークを導入する。 これにより各ノードがその最適な局所幾何学を決定でき、モデルがグラフの構造的景観に流動的に適応できる。 本手法は, ヘテロ親和性ベンチマークとホモ親和性ベンチマークの双方において, 優れた性能を示す。
  論文  参考訳（メタデータ） (2025-08-04T16:55:02Z)
• Deep Learning as Ricci Flow [38.27936710747996]
  ディープニューラルネットワーク(DNN)は、複雑なデータの分布を近似する強力なツールである。 分類タスク中のDNNによる変換は、ハミルトンのリッチ流下で期待されるものと類似していることを示す。 本研究の成果は, 微分幾何学や離散幾何学から, 深層学習における説明可能性の問題まで, ツールの利用を動機づけるものである。
  論文  参考訳（メタデータ） (2024-04-22T15:12:47Z)
• The geometry of hidden representations of large transformer models [43.16765170255552]
  大規模トランスは、さまざまなデータタイプをまたいだ自己教師型データ分析に使用される強力なアーキテクチャである。 データセットのセマンティック構造は、ある表現と次の表現の間の変換のシーケンスから現れることを示す。 本研究は,データセットのセマンティクス情報が第1ピークの終わりによりよく表現されることを示し,この現象を多種多様なデータセットで訓練された多くのモデルで観測できることを示した。
  論文  参考訳（メタデータ） (2023-02-01T07:50:26Z)
• Deep Diversity-Enhanced Feature Representation of Hyperspectral Images [87.47202258194719]
  トポロジを改良して3次元畳み込みを補正し,上行階の高次化を図る。 また、要素間の独立性を最大化するために特徴マップに作用する新しい多様性対応正規化(DA-Reg)項を提案する。 提案したRe$3$-ConvSetとDA-Regの優位性を実証するために,様々なHS画像処理および解析タスクに適用する。
  論文  参考訳（メタデータ） (2023-01-15T16:19:18Z)
• Self-supervised Geometric Perception [96.89966337518854]
  自己教師付き幾何知覚(self-supervised geometric perception)は、基底幾何モデルラベルなしで対応マッチングのための特徴記述子を学ぶためのフレームワークである。 また,SGPは,地上トラスラベルを用いて訓練した教師付きオークルよりも同等か優れる最先端性能を達成できることを示す。
  論文  参考訳（メタデータ） (2021-03-04T15:34:43Z)
• Dual-constrained Deep Semi-Supervised Coupled Factorization Network with Enriched Prior [80.5637175255349]
  本稿では、DS2CF-Netと呼ばれる、拡張された事前制約付きDual-Constrained Deep Semi-Supervised Coupled Factorization Networkを提案する。 隠れた深い特徴を抽出するために、DS2CF-Netは、深い構造と幾何学的な構造に制約のあるニューラルネットワークとしてモデル化される。 我々のネットワークは、表現学習とクラスタリングのための最先端の性能を得ることができる。
  論文  参考訳（メタデータ） (2020-09-08T13:10:21Z)
• Gauge Equivariant Mesh CNNs: Anisotropic convolutions on geometric graphs [81.12344211998635]
  メッシュ上の畳み込みを定義する一般的なアプローチは、それらをグラフとして解釈し、グラフ畳み込みネットワーク(GCN)を適用することである。 本稿では、GCNを一般化して異方性ゲージ同変カーネルを適用するGauge Equivariant Mesh CNNを提案する。 本実験は,従来のGCNおよび他の手法と比較して,提案手法の表現性を大幅に向上することを示した。
  論文  参考訳（メタデータ） (2020-03-11T17:21:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。