論文の概要: Diffusion-Guided Feature Selection via Nishimori Temperature: Noise-Based Spectral Embedding

• arxiv url: http://arxiv.org/abs/2604.24692v1
• Date: Mon, 27 Apr 2026 16:53:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-28 17:12:08.184409
• Title: Diffusion-Guided Feature Selection via Nishimori Temperature: Noise-Based Spectral Embedding
• Title（参考訳）: 拡散誘導型西森温度による特徴選択--ノイズに基づくスペクトル埋め込み-
• Authors: Vasiliy S. Usatyuk, Denis A. Sapozhnikov, Sergey I. Egorov,
• Abstract要約: 我々は,高次元データから情報的特徴を選択するためのフレームワークであるノイズベーススペクトル埋め込み (NBSE) を提案する。 NBSEはサンプル上にスパース類似性グラフを構築し、ベーテ・ヘッセンが特異となる臨界逆温度である西森温度$_N$を同定する。 データ行列を変換し、NBSEを特徴空間に適用することにより、冗長あるいは意味論的に関連付けられた次元の群を明らかにする1次元のスペクトル埋め込みを得る。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: We propose Noise-Based Spectral Embedding (NBSE), a physics-informed framework for selecting informative features from high-dimensional data without greedy search. NBSE constructs a sparse similarity graph on the samples and identifies the Nishimori temperature $β_N$ the critical inverse temperature at which the Bethe Hessian becomes singular. The corresponding smallest eigenvector captures the dominant mode of an intrinsically degree-corrected diffusion process, naturally reweighting nodes to prevent hub dominance. By transposing the data matrix and applying NBSE in feature space, we obtain a one-dimensional spectral embedding that reveals groups of redundant or semantically related dimensions; balanced binning then selects one representative per group. We prove that coloured Gaussian perturbations shift $β_N$ by at most $O(\barσ^2)$, guaranteeing robustness to measurement noise. Experiments on ImageNet embeddings from MobileNetV2 and EfficientNet-B4 show that NBSE preserves classification accuracy even under aggressive compression: on EfficientNet-B4 the accuracy drop is below $1\%$ when retaining only $30\%$ of features, outperforming ANOVA $F$-test and random selection by up to $6.8\%$.
• Abstract（参考訳）: 我々は,高次元データから情報的特徴を選択するための物理インフォームドフレームワークであるノイズベーススペクトル埋め込み(NBSE)を提案する。 NBSEはサンプル上にスパース類似性グラフを構築し、ベーテ・ヘッセンが特異となる臨界逆温度である西森温度$β_N$を同定する。 対応する最小固有ベクトルは、固有の次数補正拡散過程の支配モードを捕捉し、ハブ支配を防止するために自然にノードを再重み付けする。 データ行列を変換し、NBSEを特徴空間に適用することにより、1次元のスペクトル埋め込みを得る。 色付きガウス摂動が$β_N$を少なくとも$O(\barσ^2)$にシフトし、測定ノイズに対するロバスト性を保証することを証明した。 MobileNetV2とEfficientNet-B4によるImageNet埋め込みの実験では、NBSEはアグレッシブ圧縮の下でも分類精度を維持している。

関連論文リスト

• Spectral Tempering for Embedding Compression in Dense Passage Retrieval [17.660889990235656]
  最適スケーリング強度$$はグローバル定数ではないことを示す。 本研究では,適応的な$(k)$をコーパス固有スペクトルから直接導出する学習自由化手法であるSpectral Temperingを提案する。
  論文  参考訳（メタデータ） (2026-03-19T10:01:32Z)
• Spectral Graph Clustering under Differential Privacy: Balancing Privacy, Accuracy, and Efficiency [53.98433419539793]
  エッジ差分プライバシー(DP)下におけるスペクトルグラフクラスタリングの問題点について検討する。 具体的には, (i) エッジフリップによるグラフ摂動と, エッジプライバシを強制する隣接行列シャッフルを併用したグラフ摂動, (ii) 次元と複雑性の複雑さを低減するために低次元空間における加法的ガウス雑音を伴うプライベートグラフプロジェクション, (iii) 収束性を維持しながらエッジDPを確保するために反復的にガウス雑音を分散するノイズの多いパワーイテレーション手法である。
  論文  参考訳（メタデータ） (2025-10-08T15:30:27Z)
• Denoising Score Matching with Random Features: Insights on Diffusion Models from Precise Learning Curves [8.038035670274706]
  実験的な研究は、一般化と記憶は、モデルの複雑さとトレーニングデータセットのサイズに影響されていることを示唆している。 単純な理論的条件下で,DSM(Denoising Score Matching)の試験・訓練誤差を正確に表現することで,これらの振る舞いを捉える。 我々の理論的発見は経験的観察と一致している。
  論文  参考訳（メタデータ） (2025-02-01T06:43:33Z)
• Robust Representation Consistency Model via Contrastive Denoising [83.47584074390842]
  ランダムな平滑化は、敵の摂動に対する堅牢性を証明する理論的保証を提供する。 拡散モデルは、ノイズ摂動サンプルを浄化するためにランダムな平滑化に成功している。 我々は,画素空間における拡散軌跡に沿った生成的モデリングタスクを,潜在空間における識別的タスクとして再構成する。
  論文  参考訳（メタデータ） (2025-01-22T18:52:06Z)
• Sharper Guarantees for Learning Neural Network Classifiers with Gradient Methods [43.32546195968771]
  本研究では,スムーズなアクティベーションを有するニューラルネットワークに対する勾配法におけるデータ依存収束と一般化挙動について検討する。 我々の結果は、よく確立されたRadecher複雑性に基づく境界の欠点を改善した。 XOR分布の分類において、NTK体制の結果に対して大きなステップサイズが大幅に改善されることが示されている。
  論文  参考訳（メタデータ） (2024-10-13T21:49:29Z)
• SIRST-5K: Exploring Massive Negatives Synthesis with Self-supervised Learning for Robust Infrared Small Target Detection [53.19618419772467]
  単一フレーム赤外線小ターゲット検出(SIRST)は、乱雑な背景から小さなターゲットを認識することを目的としている。 Transformerの開発に伴い、SIRSTモデルのスケールは常に増大している。 赤外線小ターゲットデータの多彩な多様性により,本アルゴリズムはモデル性能と収束速度を大幅に改善する。
  論文  参考訳（メタデータ） (2024-03-08T16:14:54Z)
• TD^2-Net: Toward Denoising and Debiasing for Dynamic Scene Graph Generation [76.24766055944554]
  動的SGGのデノベーションとデボアシングを目的としたネットワークTD$2$-Netを導入する。 TD$2$-Netは、述語分類における平均リコール@10で、第2位の競争相手を12.7%上回っている。
  論文  参考訳（メタデータ） (2024-01-23T04:17:42Z)
• On the Effective Number of Linear Regions in Shallow Univariate ReLU Networks: Convergence Guarantees and Implicit Bias [50.84569563188485]
  我々は、ラベルが$r$のニューロンを持つターゲットネットワークの符号によって決定されるとき、勾配流が方向収束することを示す。 我々の結果は、標本サイズによらず、幅が$tildemathcalO(r)$である、緩やかなオーバーパラメータ化をすでに維持しているかもしれない。
  論文  参考訳（メタデータ） (2022-05-18T16:57:10Z)
• Regularization by Misclassification in ReLU Neural Networks [3.288086999241324]
  SGDの変種によって訓練されたReLUニューラルネットワークの暗黙バイアスについて検討し、各ステップで確率$p$でラベルをランダムラベルに変更する。 ラベルノイズは、典型的な入力の場合、少数のニューロンがアクティブであり、隠れた層の発火パターンはスペーサーである。
  論文  参考訳（メタデータ） (2021-11-03T11:42:38Z)
• Deep learning for gravitational-wave data analysis: A resampling white-box approach [62.997667081978825]
  我々は、LIGO検出器からの単一干渉計データを用いて、畳み込みニューラルネットワーク(CNN)を用いて、コンパクトなバイナリコレッセンスにおける重力波(GW)信号を検出する。 CNNはノイズを検出するのに非常に正確だが、GW信号のリコールに十分な感度がないため、CNNはGWトリガの生成よりもノイズ低減に適している。
  論文  参考訳（メタデータ） (2020-09-09T03:28:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。