論文の概要: A Geometric Measure of Linear Separability for Neural Representations

• arxiv url: http://arxiv.org/abs/2606.08721v1
• Date: Sun, 07 Jun 2026 16:31:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-09 14:42:06.412383
• Title: A Geometric Measure of Linear Separability for Neural Representations
• Title（参考訳）: ニューラルネットワーク表現のための線形分離性の幾何学的測定
• Authors: Yi Wei, Xuan Qi, Furao Shen,
• Abstract要約: 本研究では,一方のアフィン分離性に対する有限サンプル診断法である指向性線形分離性尺度(LSM)を導入する。 対象クラス A と競合集合 B に対して、LSM は |A| で正規化され、ターゲット側に留まらなければならない最小の競合サンプル侵入を測定する。
• 参考スコア（独自算出の注目度）: 12.476368894025233
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Modern neural classifiers commonly rely on linear readouts, yet predictive metrics alone do not characterize the class-wise geometry of the representations on which such readouts operate. We introduce the directional linear separability measure (LSM), a finite-sample diagnostic for one-sided affine separability. For a target class A and a competing set B, LSM searches over affine halfspaces that contain all samples in A and measures the smallest competing-sample intrusion that must remain on the target side, normalized by |A|. The resulting quantity is asymmetric, class-wise, target-normalized, and applicable to finite representations extracted from neural networks. We establish its supporting-hyperplane characterization, relate it to optimal affine classification accuracy, and prove invariance under full-rank linear embeddings. These results separate changes caused by linear reparameterization from those caused by information loss or nonlinear geometric transformations. We also give a penalty-based affine search for estimating class-wise LSM in high-dimensional features, with reported values computed from the original discrete preservation and violation criterion. Finally, we analyze coordinatewise gated nonlinearities as finite-sample geometric operators and empirically use LSM to diagnose class-wise intrusion across common deep-learning components and architectures.
• Abstract（参考訳）: 現代のニューラル分類器は一般に線形読み出しに依存しているが、予測測度だけでは、そのような読み出しが動作する表現のクラスワイドな幾何学を特徴づけていない。 本研究では,一方のアフィン分離性に対する有限サンプル診断法である指向性線形分離性尺度(LSM)を導入する。 対象クラス A と競合集合 B に対して、LSM は A 内のすべてのサンプルを含むアフィン半空間を探索し、ターゲット側に留まらなければならない最小の競合サンプル侵入を |A| で正規化して測定する。 得られた量は非対称で、クラスワイド、ターゲット正規化され、ニューラルネットワークから抽出された有限表現に適用できる。 我々は、その支持超平面特性を確立し、それを最適なアフィン分類精度に関連付け、フルランク線形埋め込み下での不変性を証明した。 これらの結果は、情報損失や非線形幾何変換に起因するものから線形再パラメータ化による変化を分離する。 また,高次元特徴量でクラスワイドLSMを推定するためのペナルティベースのアフィンサーチも行った。 最後に、有限サンプル幾何演算子として座標ゲート非線形性を解析し、LSMを用いて一般的なディープラーニングコンポーネントやアーキテクチャのクラスワイド侵入を診断する。

関連論文リスト

• Generalization in Nonlinear Least Squares via Learned Feature Geometry [11.311247790618788]
  リッジ規則化非線形最小二乗モデルのオンアレージアルゴリズムによる一般化について検討する。 勾配モデルの幾何学を反映したデータ依存実効次元を用いて局所最小化器の誤差境界を導出する。
  論文  参考訳（メタデータ） (2026-06-07T19:33:36Z)
• Eigen-Spike Emergence and Quadratic Equivalents for Conjugate Kernels on Nonlinearly Separable Data [41.325451060228126]
  我々は、正準非線形分離可能なデータセットの下で、フィードフォワードNNの非線形特徴写像である共役カーネル(CK)を考える。 本研究では,突発的な情報的スパイクを正確に解析することのできる,スパイクされたCK行列に匹敵する頑健な二次構造を開発する。 CK固有ベクトルによる線形分類が可能となる正確なBBP型相転移を導出する。
  論文  参考訳（メタデータ） (2026-05-28T09:32:19Z)
• Riemannian geometry meets fMRI: the advantages of modeling correlation manifolds and eigenvector subspaces [0.0]
  相関行列は機能的脳ネットワークの基本要約である。 既存の幾何学的手法は、しばしば閉形式演算を欠いているか、あるいは任意の領域順序に依存する。 オフログ計量とグラスマン部分空間判別という2つの要素を持つスケーラブルな幾何学的枠組みを導入する。
  論文  参考訳（メタデータ） (2026-05-21T11:22:31Z)
• A Mean Curvature Approach to Boundary Detection: Geometric Insights for Unsupervised Learning [52.452902154360565]
  本稿では,幾何学的機械学習に基づく新しい幾何学的フレームワークであるMean Curvature Boundary Points (MCBP)を紹介する。 MCBPはデータ多様体の固有曲率を明示的にモデル化し、原理化された多様体のパラメトリゼーションを必要としない点平均曲率を計算する。 合成および実世界のデータセットの実験により、MCBPはクラスタリング性能を一貫して改善することを示した。
  論文  参考訳（メタデータ） (2026-05-05T20:19:09Z)
• Explicit Discovery of Nonlinear Symmetries from Dynamic Data [50.20526548924647]
  LieNLSDは非線形項の無限小生成器の数とその明示的な表現を決定する最初の方法である。 LieNLSDは既存の手法に比べて質的な利点を示し、ニューラルPDEソルバの長期ロールアウト精度を20%以上改善する。
  論文  参考訳（メタデータ） (2025-10-02T09:54:08Z)
• Synergistic eigenanalysis of covariance and Hessian matrices for enhanced binary classification [72.77513633290056]
  本稿では, 学習モデルを用いて評価したヘッセン行列をトレーニングセットで評価した共分散行列の固有解析と, 深層学習モデルで評価したヘッセン行列を組み合わせた新しい手法を提案する。 本手法は複雑なパターンと関係を抽出し,分類性能を向上する。
  論文  参考訳（メタデータ） (2024-02-14T16:10:42Z)
• Learning Linear Causal Representations from Interventions under General Nonlinear Mixing [52.66151568785088]
  介入対象にアクセスできることなく、未知の単一ノード介入を考慮し、強い識別可能性を示す。 これは、ディープニューラルネットワークの埋め込みに対する非ペアの介入による因果識別性の最初の例である。
  論文  参考訳（メタデータ） (2023-06-04T02:32:12Z)
• Learning Generative Prior with Latent Space Sparsity Constraints [25.213673771175692]
  自然像の分布は1つの多様体にではなく、むしろいくつかの部分多様体の結合にあると論じられている。 本稿では,スペーサ性駆動型潜時空間サンプリング(SDLSS)フレームワークを提案し,PMLアルゴリズムを用いて潜時空間のスペーサ性を実現する。 その結果, SDLSS法は, 高次圧縮では最先端法よりも効率が高いことがわかった。
  論文  参考訳（メタデータ） (2021-05-25T14:12:04Z)
• Fundamental limits and algorithms for sparse linear regression with sublinear sparsity [16.3460693863947]
  正規化相互情報の正確な表現と疎線形回帰の最小平均二乗誤差(MMSE)を確立する。 本稿では、線形レギュレータに対して、既存のよく知られたAMPアルゴリズムをサブ線形に修正する方法を示す。
  論文  参考訳（メタデータ） (2021-01-27T01:27:03Z)
• Provably Efficient Neural Estimation of Structural Equation Model: An Adversarial Approach [144.21892195917758]
  一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。 線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。 提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
  論文  参考訳（メタデータ） (2020-07-02T17:55:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。