論文の概要: The Homogeneity Trap: Spectral Collapse in Doubly-Stochastic Deep Networks

• arxiv url: http://arxiv.org/abs/2601.02080v1
• Date: Mon, 05 Jan 2026 13:09:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-06 16:25:23.137317
• Title: The Homogeneity Trap: Spectral Collapse in Doubly-Stochastic Deep Networks
• Title（参考訳）: ホモジニティトラップ:二重確率深部ネットワークにおけるスペクトル崩壊
• Authors: Yizhi Liu,
• Abstract要約: 構造保存深層構造に固有の臨界スペクトル劣化現象を同定する。 最大エントロピーバイアスは混合作用素を均一なバリセンターへ誘導し、従属特異値 を抑えることを示す。 ネットワークの有効深度にリンクするスペクトル境界を導出し、高エントロピー制約が浅層受容場への特徴変換を制限することを示す。
• 参考スコア（独自算出の注目度）: 1.7523718031184992
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Doubly-stochastic matrices (DSM) are increasingly utilized in structure-preserving deep architectures -- such as Optimal Transport layers and Sinkhorn-based attention -- to enforce numerical stability and probabilistic interpretability. In this work, we identify a critical spectral degradation phenomenon inherent to these constraints, termed the Homogeneity Trap. We demonstrate that the maximum-entropy bias, typical of Sinkhorn-based projections, drives the mixing operator towards the uniform barycenter, thereby suppressing the subdominant singular value σ_2 and filtering out high-frequency feature components. We derive a spectral bound linking σ_2 to the network's effective depth, showing that high-entropy constraints restrict feature transformation to a shallow effective receptive field. Furthermore, we formally demonstrate that Layer Normalization fails to mitigate this collapse in noise-dominated regimes; specifically, when spectral filtering degrades the Signal-to-Noise Ratio (SNR) below a critical threshold, geometric structure is irreversibly lost to noise-induced orthogonal collapse. Our findings highlight a fundamental trade-off between entropic stability and spectral expressivity in DSM-constrained networks.
• Abstract（参考訳）: 二重確率行列(dubly-stochastic matrice, DSM)は、数値安定性と確率論的解釈可能性を高めるために、最適輸送層(Optimal Transport layer)やシンクホーンに基づく注意(Sinkhorn-based attention)のような、構造保存の深いアーキテクチャでますます活用されている。 本研究では,これらの制約に固有の臨界スペクトル劣化現象を同定し,同質性トラップ(homogeneity Trap)と呼ぶ。 シンクホーン型射影の典型的な最大エントロピーバイアスは、混合作用素を均一なバリセンターに向けて駆動し、従属特異値σ_2を抑え、高周波特徴成分をフィルタリングすることを示した。 我々は、σ_2をネットワークの有効深さにリンクするスペクトル境界を導出し、高エントロピー制約が浅い有効受容場への特徴変換を制限することを示す。 具体的には、スペクトルフィルタリングが信号対雑音比(SNR)を臨界しきい値以下に低下させた場合、幾何構造はノイズ誘起直交崩壊によって不可逆的に失われる。 本研究は,DSM制約ネットワークにおけるエントロピー安定性とスペクトル表現率の基本的なトレードオフを明らかにする。

関連論文リスト

• Frequency Regularization: Unveiling the Spectral Inductive Bias of Deep Neural Networks [21.749207209704906]
  現代畳み込みニューラルネットワーク(CNN)のスペクトルバイアスについて検討する。 トレーニング中のウェイト周波数の動的変化を追跡するためのビジュアル診断フレームワークを提案する。 本稿では,レギュレータの「低域フィルタリング」強度を定量化するために,スペクトル抑圧比 (SSR) を提案する。
  論文  参考訳（メタデータ） (2025-12-20T11:33:32Z)
• Lazy Diffusion: Mitigating spectral collapse in generative diffusion-based stable autoregressive emulation of turbulent flows [0.0]
  標準DDPMは基本的な赤外崩壊を引き起こすことを示す。 拡散時間内に微細構造を深く保存するパワー・ロー・スケジュールを導入する。 これらの手法はレイノルズ数2Dコルモゴロフ乱流とメキシコ湾の1/12円の海面再解析に応用される。
  論文  参考訳（メタデータ） (2025-12-10T12:05:32Z)
• Spectral Graph Clustering under Differential Privacy: Balancing Privacy, Accuracy, and Efficiency [53.98433419539793]
  エッジ差分プライバシー(DP)下におけるスペクトルグラフクラスタリングの問題点について検討する。 具体的には, (i) エッジフリップによるグラフ摂動と, エッジプライバシを強制する隣接行列シャッフルを併用したグラフ摂動, (ii) 次元と複雑性の複雑さを低減するために低次元空間における加法的ガウス雑音を伴うプライベートグラフプロジェクション, (iii) 収束性を維持しながらエッジDPを確保するために反復的にガウス雑音を分散するノイズの多いパワーイテレーション手法である。
  論文  参考訳（メタデータ） (2025-10-08T15:30:27Z)
• Low-Rank Tensor Recovery via Variational Schatten-p Quasi-Norm and Jacobian Regularization [49.85875869048434]
  暗黙的神経表現のためのニューラルネットワークによりパラメータ化されたCPベースの低ランクテンソル関数を提案する。 本研究では、スペーサーCP分解を実現するために、冗長なランク1成分に変分Schatten-p quasi-normを導入する。 滑らか性のために、ヤコビアンとハッチンソンのトレース推定器のスペクトルノルムに基づく正規化項を提案する。
  論文  参考訳（メタデータ） (2025-06-27T11:23:10Z)
• Controlling Excitation Localization in Waveguide QED Systems [0.4999814847776098]
  導波路に結合した量子エミッタにおける局所化と長期集団トラップについて検討した。 局所化を引き起こす2つのメカニズムは、幾何学的に誘導されるサブラジオアンスと、障害によって引き起こされるアンダーソンのような閉じ込めである。 これらの結果は、導波路QED系における長寿命量子状態の工学的手法として幾何学と障害を確立する。
  論文  参考訳（メタデータ） (2025-05-27T08:24:51Z)
• Spectral-Spatial Extraction through Layered Tensor Decomposition for Hyperspectral Anomaly Detection [6.292153194561472]
  低位テンソル表現(LRTR)法は高スペクトル異常検出(HAD)に非常に有用である まず、非負行列分解(NMF)を用いてスペクトル次元の冗長性を緩和し、スペクトル異常を抽出する。 次に, LRTRを用いて空間冗長性を緩和しながら空間異常を抽出し, HADのための高効率なテンソル分解機構を得る。 Airport-Beach-Urban と MVTec のデータセットによる実験結果から,HAD タスクの最先端手法よりも優れた結果が得られた。
  論文  参考訳（メタデータ） (2025-03-07T07:08:14Z)
• Momentum Diminishes the Effect of Spectral Bias in Physics-Informed Neural Networks [72.09574528342732]
  物理インフォームドニューラルネットワーク(PINN)アルゴリズムは、偏微分方程式(PDE)を含む幅広い問題を解く上で有望な結果を示している。 彼らはしばしば、スペクトルバイアスと呼ばれる現象のために、ターゲット関数が高周波の特徴を含むとき、望ましい解に収束しない。 本研究は, 運動量による勾配降下下で進化するPINNのトレーニングダイナミクスを, NTK(Neural Tangent kernel)を用いて研究するものである。
  論文  参考訳（メタデータ） (2022-06-29T19:03:10Z)
• Noise-resilient Edge Modes on a Chain of Superconducting Qubits [103.93329374521808]
  量子系の遺伝対称性は、それ以外は脆弱な状態を保護することができる。 非局所マヨラナエッジモード(MEM)を$mathbbZ$パリティ対称性で表す一次元キックドイジングモデルを実装した。 MEMは、予熱機構により特定の対称性を破るノイズに対して弾力性があることが判明した。
  論文  参考訳（メタデータ） (2022-04-24T22:34:15Z)
• Robust, Nonparametric, Efficient Decomposition of Spectral Peaks under Distortion and Interference [0.0]
  本稿では, 高速フーリエ変換を用いて, 周波数スペクトルのスペクトルピークの分解法を提案する。 スペクトルのピークを擬対称関数としてモデル化する。そこでは、距離が大きくなると中心周波数の周りの非増加的な振る舞いが制約となる。 我々のアプローチは、観測システムによって引き起こされる可能性のあるスペクトルの任意の歪み、干渉、ノイズに対してより堅牢である。
  論文  参考訳（メタデータ） (2022-04-18T17:08:37Z)
• Hyperspectral Image Denoising Using Non-convex Local Low-rank and Sparse Separation with Spatial-Spectral Total Variation Regularization [49.55649406434796]
  本研究では,HSI復調のためのロバストな主成分分析のための新しい非特異なアプローチを提案する。 我々は、ランクとスパースコンポーネントの両方に対する正確な近似を開発する。 シミュレーションと実HSIの両方の実験により,提案手法の有効性が示された。
  論文  参考訳（メタデータ） (2022-01-08T11:48:46Z)
• Quantum correlations, entanglement spectrum and coherence of two-particle reduced density matrix in the Extended Hubbard Model [62.997667081978825]
  半充填時の一次元拡張ハバードモデルの基底状態特性について検討する。 特に超伝導領域では, エンタングルメントスペクトルが支配的な一重項(SS)と三重項(TS)のペアリング順序の遷移を信号する。
  論文  参考訳（メタデータ） (2021-10-29T21:02:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。