論文の概要: Non-Negative Stiefel Approximating Flow: Orthogonalish Matrix Optimization for Interpretable Embeddings
- arxiv url: http://arxiv.org/abs/2511.06425v1
- Date: Sun, 09 Nov 2025 15:43:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-11 21:18:44.938249
- Title: Non-Negative Stiefel Approximating Flow: Orthogonalish Matrix Optimization for Interpretable Embeddings
- Title(参考訳): 非負のスティフェル近似流:解釈可能な埋め込みのためのオルソグナリッシュ行列最適化
- Authors: Brian B. Avants, Nicholas J. Tustison, James R Stone,
- Abstract要約: 本稿では,汎用的行列推定フレームワークであるNon- negative Stiefel Approximating Flow (NSA-Flow)を紹介する。
NSA-Flowは、再構築の忠実度とカラムワイドのデコリレーションの継続的なバランスを通じて、構造化されたスパーシリティを強制する。
我々は、NSA-Flowの目的がスムーズに最適化され、既存のパイプラインとシームレスに統合され、次元的削減が可能であることを実証した。
- 参考スコア(独自算出の注目度): 1.0923877073891444
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Interpretable representation learning is a central challenge in modern machine learning, particularly in high-dimensional settings such as neuroimaging, genomics, and text analysis. Current methods often struggle to balance the competing demands of interpretability and model flexibility, limiting their effectiveness in extracting meaningful insights from complex data. We introduce Non-negative Stiefel Approximating Flow (NSA-Flow), a general-purpose matrix estimation framework that unifies ideas from sparse matrix factorization, orthogonalization, and constrained manifold learning. NSA-Flow enforces structured sparsity through a continuous balance between reconstruction fidelity and column-wise decorrelation, parameterized by a single tunable weight. The method operates as a smooth flow near the Stiefel manifold with proximal updates for non-negativity and adaptive gradient control, yielding representations that are simultaneously sparse, stable, and interpretable. Unlike classical regularization schemes, NSA-Flow provides an intuitive geometric mechanism for manipulating sparsity at the level of global structure while simplifying latent features. We demonstrate that the NSA-Flow objective can be optimized smoothly and integrates seamlessly with existing pipelines for dimensionality reduction while improving interpretability and generalization in both simulated and real biomedical data. Empirical validation on the Golub leukemia dataset and in Alzheimer's disease demonstrate that the NSA-Flow constraints can maintain or improve performance over related methods with little additional methodological effort. NSA-Flow offers a scalable, general-purpose tool for interpretable ML, applicable across data science domains.
- Abstract(参考訳): 解釈可能な表現学習は現代の機械学習における中心的な課題であり、特にニューロイメージング、ゲノム学、テキスト分析のような高次元設定において重要である。
現在の方法では、解釈可能性とモデルの柔軟性という競合する要求のバランスをとるのに苦労し、複雑なデータから意味のある洞察を抽出する効果を制限します。
非負のStiefel Approximating Flow (NSA-Flow) は、疎行列分解、直交化、制約付き多様体学習からアイデアを統一する汎用行列推定フレームワークである。
NSA-Flowは、1つの調整可能な重みによってパラメータ化される、再構成フィデリティとカラム単位のデコリレーションの継続的なバランスを通じて、構造化された疎結合を強制する。
この方法はスティーフェル多様体の近傍の滑らかな流れとして機能し、非負性率と適応勾配制御の近位更新を行い、同時にスパースで安定で解釈可能な表現を与える。
古典的な正規化スキームとは異なり、NSA-Flowは、潜在的特徴を単純化しつつ、グローバルな構造レベルで空間を操作できる直感的な幾何学的メカニズムを提供する。
我々は、NSA-Flowの目的をスムーズに最適化し、既存のパイプラインとシームレスに連携して次元の減少を図りながら、シミュレーションデータと実バイオメディカルデータの両方における解釈性と一般化を改善することを実証した。
Golub 白血病データセットとアルツハイマー病に関する実証的な検証は、NSA-Flow の制約が関連する方法よりもパフォーマンスを維持または改善できることを示した。
NSA-Flowは、データサイエンスドメインに適用可能な、MLを解釈するためのスケーラブルで汎用的なツールを提供する。
関連論文リスト
- A reduced-order derivative-informed neural operator for subsurface fluid-flow [0.21585047554218337]
ニューラル演算子のための低次微分インフォームドトレーニングフレームワークを提案する。
DeFINOは、観測データによって直接情報を得る感度情報をキャプチャする。
基礎流体力学の頑健な前方予測を維持しつつ, 勾配精度の向上を実証する。
論文 参考訳(メタデータ) (2025-09-17T01:30:44Z) - Efficient Parametric SVD of Koopman Operator for Stochastic Dynamical Systems [51.54065545849027]
クープマン作用素は非線形力学系を解析するための原理的なフレームワークを提供する。
VAMPnet と DPNet はクープマン作用素の主特異部分空間を学ぶために提案されている。
我々は、クープマン作用素のトップ$kの特異関数を学ぶためのスケーラブルで概念的にシンプルな方法を提案する。
論文 参考訳(メタデータ) (2025-07-09T18:55:48Z) - Neural Contraction Metrics with Formal Guarantees for Discrete-Time Nonlinear Dynamical Systems [17.905596843865705]
収縮メトリクスは、様々な力学系の安定性、堅牢性、収束性を分析する強力なフレームワークを提供する。
しかしながら、複雑な非線形系に対するこれらの指標の同定は、効果的なツールが欠如しているため、未解決の課題である。
本稿では,離散的スケーラブル非線形システムに対する検証可能な収縮指標について述べる。
論文 参考訳(メタデータ) (2025-04-23T21:27:32Z) - Decentralized Nonconvex Composite Federated Learning with Gradient Tracking and Momentum [78.27945336558987]
分散サーバ(DFL)はクライアント・クライアント・アーキテクチャへの依存をなくす。
非滑らかな正規化はしばしば機械学習タスクに組み込まれる。
本稿では,これらの問題を解決する新しいDNCFLアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-04-17T08:32:25Z) - FedCanon: Non-Convex Composite Federated Learning with Efficient Proximal Operation on Heterogeneous Data [17.80715992954134]
複合学習は、追加の正規化用語で機械学習問題を解決するための一般的なフレームワークを提供する。
我々は非滑らかな正規化問題を解くためにFedCanonアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-04-16T09:28:26Z) - Online Variational Sequential Monte Carlo [49.97673761305336]
我々は,計算効率が高く正確なモデルパラメータ推定とベイジアン潜在状態推定を提供する変分連続モンテカルロ法(VSMC)を構築した。
オンラインVSMCは、パラメータ推定と粒子提案適応の両方を効率よく、完全にオンザフライで実行することができる。
論文 参考訳(メタデータ) (2023-12-19T21:45:38Z) - Large-Scale OD Matrix Estimation with A Deep Learning Method [70.78575952309023]
提案手法は,ディープラーニングと数値最適化アルゴリズムを統合し,行列構造を推論し,数値最適化を導出する。
大規模合成データセットを用いて,提案手法の優れた一般化性能を実証するために実験を行った。
論文 参考訳(メタデータ) (2023-10-09T14:30:06Z) - A Free Lunch with Influence Functions? Improving Neural Network
Estimates with Concepts from Semiparametric Statistics [41.99023989695363]
ニューラルネットワークや機械学習アルゴリズムの改善に使用される半パラメトリック理論の可能性を探る。
本稿では,単一アーキテクチャを用いてアンサンブルの柔軟性と多様性を求めるニューラルネットワーク手法であるMultiNetを提案する。
論文 参考訳(メタデータ) (2022-02-18T09:35:51Z) - Relative gradient optimization of the Jacobian term in unsupervised deep
learning [9.385902422987677]
データを正しく記述した表現的確率モデルを学習することは、機械学習におけるユビキタスな問題である。
このタスクには深度モデルが広く使用されているが、その最大可能性に基づくトレーニングでは、ジャコビアンの対数行列式を推定する必要がある。
このようなニューラルネットワークの正確なトレーニングのための新しいアプローチを提案する。
論文 参考訳(メタデータ) (2020-06-26T16:41:08Z) - Semi-Supervised Learning with Normalizing Flows [54.376602201489995]
FlowGMMは、フローの正規化を伴う生成半教師付き学習におけるエンドツーエンドのアプローチである。
我々は AG-News や Yahoo Answers のテキストデータなど,幅広いアプリケーションに対して有望な結果を示す。
論文 参考訳(メタデータ) (2019-12-30T17:36:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。