論文の概要: Signal-Noise Factorization Isolates Nuisance Variation into Removable Subspaces

• arxiv url: http://arxiv.org/abs/2610.00751v1
• Date: Wed, 30 Sep 2026 21:46:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 01:19:23.777187
• Title: Signal-Noise Factorization Isolates Nuisance Variation into Removable Subspaces
• Title（参考訳）: Signal-Noise Factorizationは、Nuisanceの変分を除去可能な部分空間に分離する
• Abstract要約: SNF(Signal-Noise Factorization)とSSF(Signal-Signal Factorization)は、ディープニューラルネットワークの推論能力を形作る特性である。 トレーニング中にこれらの2つの特性を補強するレギュラーライザを構築しました。 バイオメディカルな応用により,我々の正則化装置がよく知られたコンピュータビジョンベースラインの性能にどのように影響するかを検討した。
• 参考スコア（独自算出の注目度）: 1.0742675209112622
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent theoretical work identified fundamental properties of representation geometry that shape inference ability of deep neural networks. These include signal-noise factorization (SNF), the ability to segregate signal from noise, and signal-signal factorization (SSF), the ability to segregate task-specific and task-irrelevant signals. Here, we built regularizers that reinforce these two properties during training. We compared networks trained with these regularizers to $L_2$-regularized baseline networks on the CIFAR-100 classification task to understand how our regularizers shape representation geometry and impact performance on a well-known computer vision baseline. Enhancing SNF via regularization improved model performance but enhancing SSF did not. Motivated by biomedical applications, we investigated how our regularizers affected performance on the BloodMNIST dataset treated with MedMNIST-C corruptions at five severity levels, and found even larger performance gains using the SNF regularizer. To understand the mechanism by which SNF-regularization produces improved performance, we analyzed the nuisance subspaces across regularization regimes, finding that the SNF-regularized models represent noise in distinct subspaces, separate from class-relevant signal. Because this geometry is explicit, the dominant corruption-induced directions can be estimated on held-out data and projected out of the representations. This manipulation led to a substantial gain in accuracy. These results show that regularizers that enforce signal-noise factorization can produce substantial improvements on computer vision tasks that contain out-of-distribution image distortions at inference time. They also highlight how shaping representations affects model performance: isolating nuisance variables from categorical ones is more important than maintaining factorized representations of categorical variables.
• Abstract（参考訳）: 最近の理論的研究により、ディープニューラルネットワークの推論能力を形作る表現幾何学の基本的性質が特定された。 SNF(Signal-Noise Factorization)、SNF(Signal-Signal Factorization)、SNF(Signal-Signal Factorization)、SSF(Signal-Signal Factorization)などがある。 ここでは、トレーニング中にこれらの2つの特性を補強するレギュラーライザを構築しました。 CIFAR-100分類タスクにおいて、正規化器を用いて訓練されたネットワークを$L_2$-regularized baseline network と比較し、正規化器がよく知られたコンピュータビジョンベースライン上でどのように表現幾何学と影響性能を形作るかを理解する。 SNFの正規化による強化はモデル性能を改善したが、SSFの強化は行わなかった。 MedMNIST-Cで処理したBloodMNISTデータセットに対して,バイオメディカルな応用により,我々の正則化剤が5つの重度レベルで処理された結果,さらにSNF正則化剤による性能向上が認められた。 SNF正規化が性能の向上をもたらすメカニズムを理解するため,SNF正規化モデルがクラス関連信号とは別個のサブ空間におけるノイズを表すことを発見した。 この幾何学は明示的であるので、支配的な腐敗によって引き起こされる方向は、保持されたデータに基づいて推定され、表現から投影される。 この操作は精度を大幅に向上させた。 これらの結果から,信号雑音分解を強制する正規化器は,推定時の分布外画像歪みを含むコンピュータビジョンタスクを大幅に改善できることが示された。 分類変数からニュアンス変数を分離することは、分類変数の分解された表現を維持することよりも重要である。

関連論文リスト

• Implicit Neural Representations: A Signal Processing Perspective [54.57279006229212]
  入射神経表現(INR)は、離散的なサンプルデータから連続的な機能的表現へと、信号モデリングの根本的な変化を示す。 本稿では、信号処理の観点からのINRの進化を考察し、スペクトル挙動、サンプリング理論、マルチスケール表現を強調する。 医療・レーダ画像の逆問題,圧縮,3次元シーン表現など,幅広い応用分野におけるINRの有用性を強調した。
  論文  参考訳（メタデータ） (2026-04-16T14:12:06Z)
• Generalizing GNNs with Tokenized Mixture of Experts [75.8310720413187]
  安定性の向上には,変化に敏感な特徴への依存を低減し,既約最悪の一般化フロアを残す必要があることを示す。 本研究では,STEM-GNNを提案する。STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN。 9つのノード、リンク、グラフのベンチマークで、STEM-GNNはより強力な3方向バランスを実現し、クリアグラフ上での競争力を維持しながら、次数/ホモフィリーシフトや特徴/エッジの破損に対する堅牢性を改善している。
  論文  参考訳（メタデータ） (2026-02-09T22:48:30Z)
• Empowering Vision Transformers with Multi-Scale Causal Intervention for Long-Tailed Image Classification [12.122203089278738]
  因果推論は、クラス不均衡によって引き起こされるバイアスを扱うことによって、長い尾の分類を緩和する有望なアプローチとして現れてきた。 本稿では,既存の因果モデルがCNNおよびViT変種に与える影響について検討する。 微粒な因果関係を発見するための2段階因果関係モデリング手法であるTSCNetを提案する。
  論文  参考訳（メタデータ） (2025-05-13T02:23:55Z)
• STAF: Sinusoidal Trainable Activation Functions for Implicit Neural Representation [7.2888019138115245]
  Inlicit Neural Representations (INR) は、連続的な信号をモデリングするための強力なフレームワークとして登場した。 ReLUベースのネットワークのスペクトルバイアスは、十分に確立された制限であり、ターゲット信号の微細な詳細を捕捉する能力を制限する。 Sinusoidal Trainable Function Activation (STAF)について紹介する。 STAFは本質的に周波数成分を変調し、自己適応型スペクトル学習を可能にする。
  論文  参考訳（メタデータ） (2025-02-02T18:29:33Z)
• You Only Train Once: A Unified Framework for Both Full-Reference and No-Reference Image Quality Assessment [45.62136459502005]
  本稿では,完全な参照 (FR) と非参照 (NR) IQA を行うネットワークを提案する。 まず、入力画像から多レベル特徴を抽出するためにエンコーダを用いる。 FRおよびNR入力のユニバーサルアダプタとして階層的注意(HA)モジュールを提案する。 エンコーダの浅い層と深い層との間の特徴相関を調べるために, セマンティック・ディストーション・アウェア (SDA) モジュールを提案する。
  論文  参考訳（メタデータ） (2023-10-14T11:03:04Z)
• Hyperspectral Image Denoising via Self-Modulating Convolutional Neural Networks [15.700048595212051]
  相関スペクトルと空間情報を利用した自己変調畳み込みニューラルネットワークを提案する。 モデルの中心には新しいブロックがあり、隣り合うスペクトルデータに基づいて、ネットワークが適応的に特徴を変換することができる。 合成データと実データの両方の実験解析により,提案したSM-CNNは,他の最先端HSI復調法よりも優れていることが示された。
  論文  参考訳（メタデータ） (2023-09-15T06:57:43Z)
• From Environmental Sound Representation to Robustness of 2D CNN Models Against Adversarial Attacks [82.21746840893658]
  本稿では, 各種環境音響表現(スペクトログラム)が, 被害者残差畳み込みニューラルネットワークの認識性能と対角攻撃性に与える影響について検討する。 DWTスペクトログラムでトレーニングしたResNet-18モデルでは高い認識精度が得られたが、このモデルに対する攻撃は敵にとって比較的コストがかかる。
  論文  参考訳（メタデータ） (2022-04-14T15:14:08Z)
• Treatment Learning Causal Transformer for Noisy Image Classification [62.639851972495094]
  本研究では,この2値情報「ノイズの存在」を画像分類タスクに組み込んで予測精度を向上させる。 因果的変動推定から動機付け,雑音画像分類のための頑健な特徴表現を潜在生成モデルを用いて推定するトランスフォーマーに基づくアーキテクチャを提案する。 また、パフォーマンスベンチマークのための幅広いノイズ要素を取り入れた、新しいノイズの多い画像データセットも作成する。
  論文  参考訳（メタデータ） (2022-03-29T13:07:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。