論文の概要: Sparse Quantized Spectral Clustering

• arxiv url: http://arxiv.org/abs/2010.01376v1
• Date: Sat, 3 Oct 2020 15:58:07 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-11 09:02:22.269406
• Title: Sparse Quantized Spectral Clustering
• Title（参考訳）: スパース量子化スペクトルクラスタリング
• Authors: Zhenyu Liao, Romain Couillet, Michael W. Mahoney
• Abstract要約: このような非線形変換の下で行列の固有スペクトルがどのように変化するのかを、ランダム行列理論のツールを用いて正確に述べる。 急激なスペーシング/量子化の下でも,情報的固有構造にはほとんど変化は見られなかった。
• 参考スコア（独自算出の注目度）: 85.77233010209368
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Given a large data matrix, sparsifying, quantizing, and/or performing other entry-wise nonlinear operations can have numerous benefits, ranging from speeding up iterative algorithms for core numerical linear algebra problems to providing nonlinear filters to design state-of-the-art neural network models. Here, we exploit tools from random matrix theory to make precise statements about how the eigenspectrum of a matrix changes under such nonlinear transformations. In particular, we show that very little change occurs in the informative eigenstructure even under drastic sparsification/quantization, and consequently that very little downstream performance loss occurs with very aggressively sparsified or quantized spectral clustering. We illustrate how these results depend on the nonlinearity, we characterize a phase transition beyond which spectral clustering becomes possible, and we show when such nonlinear transformations can introduce spurious non-informative eigenvectors.
• Abstract（参考訳）: 大規模データ行列が与えられた場合、他のエントリーワイド非線形演算は、コア数値線形代数問題に対する反復アルゴリズムの高速化から、最先端のニューラルネットワークモデルの設計のための非線形フィルタの提供まで、多くの利点がある。 本稿では,ランダム行列理論のツールを用いて,行列の固有スペクトルがこのような非線形変換の下でどのように変化するかを正確に述べる。 特に,著しいスパース化/量子化の下でも情報的固有構造にはほとんど変化が見られないことを示し,その結果,非常に積極的なスパース化または量子化スペクトルクラスタリングによって下流性能の損失がほとんど生じないことを示した。 これらの結果がいかに非線形性に依存するかを説明し、スペクトルクラスタリングが可能である相転移を特徴付けるとともに、そのような非線形変換が突発的でない固有ベクトルを導入できることを示す。

関連論文リスト

• An Efficient Method for Sample Adversarial Perturbations against Nonlinear Support Vector Machines [8.000799046379749]
  非線形支持ベクトルマシン(SVM)のサンプル対向摂動について検討する。 非線形関数の暗黙の形式は特徴空間にデータをマッピングするので、対角摂動の明示的な形式を得るのは難しい。 非線形SVMの特殊特性を探索することにより、非線形SVMを攻撃する最適化問題を非線形KKTシステムに変換する。
  論文  参考訳（メタデータ） (2022-06-12T05:21:51Z)
• Exploring Linear Feature Disentanglement For Neural Networks [63.20827189693117]
  Sigmoid、ReLU、Tanhなどの非線形活性化関数は、ニューラルネットワーク(NN)において大きな成功を収めた。 サンプルの複雑な非線形特性のため、これらの活性化関数の目的は、元の特徴空間から線形分離可能な特徴空間へサンプルを投影することである。 この現象は、現在の典型的なNNにおいて、すべての特徴がすべての非線形関数によって変換される必要があるかどうかを探求することに興味をそそる。
  論文  参考訳（メタデータ） (2022-03-22T13:09:17Z)
• Convolutional Filtering and Neural Networks with Non Commutative Algebras [153.20329791008095]
  本研究では,非可換畳み込みニューラルネットワークの一般化について検討する。 非可換畳み込み構造は作用素空間上の変形に対して安定であることを示す。
  論文  参考訳（メタデータ） (2021-08-23T04:22:58Z)
• Learning Nonlinear Waves in Plasmon-induced Transparency [0.0]
  プラズモン誘起透過性メタマテリアルシステムにおける非線形ソリトンの複雑な伝播を予測するためのリカレントニューラルネットワーク(RNN)アプローチを検討する。 我々は,長期記憶(LSTM)人工ニューラルネットワークによるシミュレーションと予測において,結果の顕著な一致を証明した。
  論文  参考訳（メタデータ） (2021-07-31T21:21:44Z)
• Designing Kerr Interactions for Quantum Information Processing via Counterrotating Terms of Asymmetric Josephson-Junction Loops [68.8204255655161]
  静的空洞非線形性は通常、ボゾン量子誤り訂正符号の性能を制限する。 非線形性を摂動として扱うことで、シュリーファー・ヴォルフ変換を用いて実効ハミルトニアンを導出する。 その結果、立方体相互作用は、線形演算と非線形演算の両方の有効率を高めることができることがわかった。
  論文  参考訳（メタデータ） (2021-07-14T15:11:05Z)
• Hessian Eigenspectra of More Realistic Nonlinear Models [73.31363313577941]
  私たちは、非線形モデルの広いファミリーのためのヘッセン固有スペクトルの言語的特徴付けを行います。 我々の分析は、より複雑な機械学習モデルで観察される多くの顕著な特徴の起源を特定するために一歩前進する。
  論文  参考訳（メタデータ） (2021-03-02T06:59:52Z)
• Learning Fast Approximations of Sparse Nonlinear Regression [50.00693981886832]
  本研究では,Threshold Learned Iterative Shrinkage Algorithming (NLISTA)を導入することでギャップを埋める。 合成データを用いた実験は理論結果と相関し,その手法が最先端の手法より優れていることを示す。
  論文  参考訳（メタデータ） (2020-10-26T11:31:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。