論文の概要: Spectral Gating via Damped Oscillations for Adaptive Implicit Neural Representations
- arxiv url: http://arxiv.org/abs/2606.23129v1
- Date: Mon, 22 Jun 2026 11:59:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-24 23:52:45.546996
- Title: Spectral Gating via Damped Oscillations for Adaptive Implicit Neural Representations
- Title(参考訳): 適応的入射ニューラル表現のための減衰振動によるスペクトルゲーティング
- Authors: Alex Costanzino, Pierluigi Zama Ramirez, Giuseppe Lisanti, Luigi Di Stefano,
- Abstract要約: Inlicit Neural Representation (INR)は、座標ベースのネットワークを通じて連続的な信号を符号化することに成功した。
周期的なアクティベーションは細部を捉えるが、ノイズを記憶するオールパスフィルタとして機能する一方、空間的にコンパクトなアクティベーションは効率よく正規化されるが、低周波バイアスに悩まされる。
本稿では,各ニューロンの活性化を正弦波駆動型減衰振動子の定常応答としてモデル化することを提案する。
- 参考スコア(独自算出の注目度): 24.706105488382818
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Implicit Neural Representations (INRs) have been proven successful in encoding continuous signals through coordinate-based networks, yet facing a spectral dilemma: periodic activations capture fine details but act as all-pass filters that memorise noise, while spatially compact activations regularise effectively but suffer from low-frequency bias. Existing attempts to resolve this trade-off introduce computational overhead or tuning frailty. We propose to model each neuron's activation as the steady-state response of a sinusoidally-forced damped harmonic oscillator, whose amplitude naturally governs the network's spectral selectivity during training. By jointly optimising the oscillator parameters alongside the network weights, our method adapts to the target signal's spectral content without explicit regularisation. Initialised in the stopband, the network exhibits a coarse-to-fine learning curriculum that progressively expands its spectral gate, capturing low-frequency structures first and high-frequency details only when justified by the reconstruction objective. Comprehensive experiments show that our approach consistently achieves state-of-the-art or competitive results against established INRs, while requiring no task-specific tuning of any hyperparameters.
- Abstract(参考訳): 周期的アクティベーションは細部を捉えるが、ノイズを記憶するオールパスフィルタとして機能する一方、空間的コンパクトなアクティベーションは正則化を効果的に行うが、低周波バイアスに悩まされる。
このトレードオフを解決するための既存の試みは、計算オーバーヘッドや不具合のチューニングを導入している。
本稿では,各ニューロンの活性化を正弦波駆動型減衰振動子の定常応答としてモデル化することを提案する。
ネットワーク重みと共振器パラメータを協調的に最適化することにより、ターゲット信号のスペクトル内容に明示的に正規化することなく適応する。
ネットワークは停止帯域で初期化され、粗大な学習カリキュラムを示し、スペクトルゲートを徐々に拡張し、低周波構造を第一に、高周波の細部を再構築目的によって正当化されたときにのみキャプチャする。
包括的実験により,本手法は確立したINRに対して,タスク固有のハイパーパラメータのチューニングを必要とせず,常に最先端ないし競争的な結果が得られることが示された。
関連論文リスト
- Dynamic Spectral Denoising with Global-Context Attention for Multi-Behavior Recommendation [58.33732779555114]
重要なボトルネックは、2つの結合した不均一性によって引き起こされる表現レベルの失敗である、と我々は主張する。
マルチビヘイビアレコメンデーション(SpectraMB)のためのグローバルコンテキストを考慮した動的スペクトルデノベーションを提案する。
SpectraMBは、ほとんどの評価設定で最高の結果を達成し、ノイズのある相互作用下での堅牢性の向上を示す。
論文 参考訳(メタデータ) (2026-06-01T15:58:13Z) - Implicit Neural Representations: A Signal Processing Perspective [54.57279006229212]
入射神経表現(INR)は、離散的なサンプルデータから連続的な機能的表現へと、信号モデリングの根本的な変化を示す。
本稿では、信号処理の観点からのINRの進化を考察し、スペクトル挙動、サンプリング理論、マルチスケール表現を強調する。
医療・レーダ画像の逆問題,圧縮,3次元シーン表現など,幅広い応用分野におけるINRの有用性を強調した。
論文 参考訳(メタデータ) (2026-04-16T14:12:06Z) - FUTON: Fourier Tensor Network for Implicit Neural Representations [56.48739018255443]
入射神経表現(INR)はシグナルを符号化する強力なツールとして現れてきたが、支配的な設計はしばしば収束が遅く、ノイズに過度に適応し、外挿が不十分である。
低ランクテンソル分解により係数がパラメータ化される一般化フーリエ級数として信号をモデル化するFUTONを導入する。
論文 参考訳(メタデータ) (2026-02-13T19:31:44Z) - Spectral Gating Networks [65.9496901693099]
我々は、フィードフォワードネットワークに周波数リッチな表現性を導入するために、スペクトルゲーティングネットワーク(SGN)を導入する。
SGNは、標準活性化経路をコンパクトなスペクトル経路と学習可能なゲートで拡張し、安定したベース動作からモデルを開始することができる。
計算予算に匹敵する精度と効率のトレードオフを継続的に改善する。
論文 参考訳(メタデータ) (2026-02-07T20:00:49Z) - Improving Accuracy and Efficiency of Implicit Neural Representations: Making SIREN a WINNER [0.0]
我々は正弦波表現ネットワーク(SIREN)の基本的制限を特定し、対処する。
極端な場合、ネットワークの周波数サポートがターゲットスペクトルと不一致した場合、「スペクトルボトルネック」が観測される。
ニューラル表現のためのノイズ付きウェイト初期化を提案する。
論文 参考訳(メタデータ) (2025-09-16T11:41:13Z) - Spectral Bottleneck in Deep Neural Networks: Noise is All You Need [0.0]
本稿では,スペクトルのボトルネックの影響を受けやすい高周波優先信号の適合性について検討する。
周波数の内容に関わらず、任意のターゲット信号に効果的に適合させるため、一般化されたターゲット摂動スキームを提案する。
本研究では,ネットワーク活性化スペクトルと経験的ニューラル・タンジェント・カーネルの固有ベイジを制御できることを示す。
論文 参考訳(メタデータ) (2025-09-09T22:16:24Z) - Tuning the Frequencies: Robust Training for Sinusoidal Neural Networks [1.5124439914522694]
正弦波ネットワークの容量特性を説明する理論的枠組みを導入する。
入力周波数の整数結合として表される多数の新しい周波数を,その層組成によってどのように生成するかを示す。
提案手法はTUNERと呼ばれ, 正弦波INRトレーニングの安定性と収束性を大幅に改善し, より詳細な再建を行った。
論文 参考訳(メタデータ) (2024-07-30T18:24:46Z) - Understanding the Spectral Bias of Coordinate Based MLPs Via Training
Dynamics [2.9443230571766854]
本稿では,ReLUネットワークの計算結果と勾配勾配収束速度の関連性について検討する。
次に、この定式化を用いて、低次元設定におけるスペクトルバイアスの重症度と位置符号化がこれを克服する方法について研究する。
論文 参考訳(メタデータ) (2023-01-14T04:21:25Z) - Deep Impulse Responses: Estimating and Parameterizing Filters with Deep
Networks [76.830358429947]
高雑音および地中設定におけるインパルス応答推定は難しい問題である。
本稿では,ニューラル表現学習の最近の進歩に基づいて,インパルス応答のパラメータ化と推定を行う新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2022-02-07T18:57:23Z) - Temporal-Spatial Neural Filter: Direction Informed End-to-End
Multi-channel Target Speech Separation [66.46123655365113]
ターゲット音声分離とは、混合信号からターゲット話者の音声を抽出することを指す。
主な課題は、複雑な音響環境とリアルタイム処理の要件である。
複数話者混合から対象音声波形を直接推定する時間空間ニューラルフィルタを提案する。
論文 参考訳(メタデータ) (2020-01-02T11:12:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。