論文の概要: MIC: Maximizing Informational Capacity in Adaptive Representations via Isotropic Subspace Alignment
- arxiv url: http://arxiv.org/abs/2605.29987v2
- Date: Sun, 31 May 2026 09:18:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 18:24:16.822863
- Title: MIC: Maximizing Informational Capacity in Adaptive Representations via Isotropic Subspace Alignment
- Title(参考訳): MIC:等方部分空間アライメントによる適応表現における情報容量の最大化
- Authors: Dang Nguyen Hong, Nhi Ngoc-Yen Nguyen, Huy-Hieu Pham,
- Abstract要約: 等方的部分空間アライメントによる多粒体埋め込みの幾何学的景観を最適化するフレームワークであるMICを紹介する。
これらの戦略を自己蒸留の目的を通じて統一することにより、MICは高い差別力を維持する意味的に密度の高い表現を生成する。
- 参考スコア(独自算出の注目度): 0.7136933021609076
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Although multi-scales representation learning enables elastic-dimension embeddings, nested subspaces often suffer from dimensional redundancy and spectral collapse. To address this, we introduce MIC, a framework that optimizes the geometric landscape of multi-granular embeddings through isotropic subspace alignment. MIC employs Soft Collapse Regularization (SCR) to mitigate redundancy between prefix and residual subspaces via cross-correlation penalties, alongside Spectral Isotropy Regularization (SIR) to ensure hyper-spherical uniformity in low-dimensional prefixes. By unifying these strategies through a self-distillation objective, MIC generates semantically dense representations that maintain high discriminative power. Our experiments demonstrate that MIC significantly outperforms standard baselines, particularly in high-compression scenarios where maintaining informational capacity is most critical.
- Abstract(参考訳): マルチスケール表現学習は弾性次元埋め込みを可能にするが、ネストされた部分空間は次元的冗長性とスペクトル崩壊に悩まされることが多い。
そこで我々は,等方的部分空間アライメントによる多粒体埋め込みの幾何学的景観を最適化するフレームワークであるMICを紹介する。
MICは、SCR(Soft Collapse Regularization)を用いて、低次元プレフィックスにおける超球面均一性を確保するために、SIR(Spectral Isotropy Regularization)とともに、プレフィックスと残留部分空間の相互相関による冗長性を緩和する。
これらの戦略を自己蒸留の目的を通じて統一することにより、MICは高い差別力を維持する意味的に密度の高い表現を生成する。
我々の実験では,情報容量の維持が最重要となる高圧縮シナリオにおいて,MICが標準ベースラインを著しく上回ることを示した。
関連論文リスト
- SP-MoMamba: Superpixel-driven Mixture of State Space Experts for Efficient Image Super-Resolution [99.56535031145211]
状態空間モデル(SSM)は、効率的な単一画像超解像(SR)のための強力なパラダイムとして登場した。
我々は、コンテント対応SRのための状態空間の専門家による超ピクセル駆動の混合である textbfSP-MoMamba を提案する。
私たちの中核となる考え方は、従来の剛性スキャンを、スーパーピクセルを基本単位として扱うことによって、テキストのセマンティックなレベルのインタラクションに変換することです。
論文 参考訳(メタデータ) (2026-05-25T14:19:59Z) - Hyperbolic Enhanced Representation Learning for Incomplete Multi-view Clustering [57.38215918201251]
本稿では,不完全なマルチビュークラスタリングのためのハイパーボリック拡張表現学習フレームワークであるHERLを提案する。
ポアンカレボール内で操作すると、HERLは表現学習を強化するために構造を意識した潜在空間を構築する。
HERLは最先端のアプローチよりも一貫して優れていることを示す。
論文 参考訳(メタデータ) (2026-04-18T10:50:46Z) - A Hybrid Conditional Diffusion-DeepONet Framework for High-Fidelity Stress Prediction in Hyperelastic Materials [0.0]
cDDPM-DeepONetは、UNetのバックボーン上に構築された条件付き拡散確率モデルである。
修正されたDeepONetは、グローバルなスケーリングパラメータを予測し、フル解像度の物理的ストレスマップの再構築を可能にする。
提案したモデルは、UNet、DeepONet、スタンドアロンのcDDPMベースラインを1~2桁上回っている。
論文 参考訳(メタデータ) (2026-03-18T19:20:51Z) - Spinverse: Differentiable Physics for Permeability-Aware Microstructure Reconstruction from Diffusion MRI [1.6863755729554886]
我々は,dMRI計測を反転させる透過性を考慮した再構成手法であるSpinverseを提案する。
スピンバースは固定された四面体格子上の組織を表し、各内面透過性を学習可能なパラメータとして扱う。
多様な測地を再構成し、配列スケジューリングと正規化がアウトラインのみの解を避けるために重要であることを示す。
論文 参考訳(メタデータ) (2026-03-04T21:57:40Z) - Spectral Disentanglement and Enhancement: A Dual-domain Contrastive Framework for Representation Learning [28.392130815615545]
SDE(Spectral Disentanglement and Enhancement)は、埋め込み空間の幾何学とスペクトル特性の間のギャップを埋める新しいフレームワークである。
SDEは一貫して表現と堅牢性を改善し、最先端の手法より優れている。
論文 参考訳(メタデータ) (2026-02-09T07:29:43Z) - Rethinking Multi-Condition DiTs: Eliminating Redundant Attention via Position-Alignment and Keyword-Scoping [61.459927600301654]
マルチコンディション制御は従来のコンカデント・アンド・アットエンドの戦略によってボトルネックとなる。
分析の結果,これらの相互作用の多くは空間的にも意味的にも冗長であることがわかった。
本稿では,これらの冗長性を解消するための高効率なフレームワークであるPKAを提案する。
論文 参考訳(メタデータ) (2026-02-06T16:39:10Z) - MirrorLA: Reflecting Feature Map for Vision Linear Attention [49.41670925034762]
リニアアテンションはトランスフォーマーの2次から線形への計算複雑性を著しく低下させるが、パフォーマンスにおけるソフトマックスに基づくアテンションの遅れは一貫して遅れる。
我々は、受動トランケーションをアクティブなリオリエンテーションに置き換える幾何学的枠組みであるMirrorLAを提案する。
MirrorLAは標準的なベンチマークで最先端のパフォーマンスを実現し、表現の忠実さを損なうことなく厳密な線形効率を実現できることを示した。
論文 参考訳(メタデータ) (2026-02-04T09:14:09Z) - SSCM: A Spatial-Semantic Consistent Model for Multi-Contrast MRI Super-Resolution [11.194678655584788]
MC-MRI SRは、高分解能(HR)参照を活用することで、低分解能(LR)コントラストを強化することを目的としている。
主な課題は、空間的なセマンティックな一貫性を維持することである。
論文 参考訳(メタデータ) (2025-09-23T03:24:32Z) - Regularizing Subspace Redundancy of Low-Rank Adaptation [54.473090597164834]
本稿では、マッピング部分空間間の冗長性を明示的にモデル化し、低ランク適応のサブスペース冗長性を適応的に正規化する手法であるReSoRAを提案する。
提案手法は、視覚言語検索や標準的な視覚分類ベンチマークにおいて、様々なバックボーンやデータセットにまたがる既存のPETL手法を一貫して促進する。
トレーニングの監督として、ReSoRAは追加の推論コストなしで、プラグイン・アンド・プレイ方式で既存のアプローチにシームレスに統合することができる。
論文 参考訳(メタデータ) (2025-07-28T11:52:56Z) - Noise-resilient Edge Modes on a Chain of Superconducting Qubits [103.93329374521808]
量子系の遺伝対称性は、それ以外は脆弱な状態を保護することができる。
非局所マヨラナエッジモード(MEM)を$mathbbZ$パリティ対称性で表す一次元キックドイジングモデルを実装した。
MEMは、予熱機構により特定の対称性を破るノイズに対して弾力性があることが判明した。
論文 参考訳(メタデータ) (2022-04-24T22:34:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。