論文の概要: FiRe: Frequency Reparameterization as a Preconditioner for Periodic Implicit Neural Representations
- arxiv url: http://arxiv.org/abs/2606.29414v1
- Date: Sun, 28 Jun 2026 14:24:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:15.907059
- Title: FiRe: Frequency Reparameterization as a Preconditioner for Periodic Implicit Neural Representations
- Title(参考訳): FiRe: 周期的インシシトニューラル表現のためのプレコンディショナーとしての周波数再パラメータ化
- Authors: Harinandan Shukla, Rajarshi Verma, Jitin Singla,
- Abstract要約: 本稿では、周期的なINRのニューロン間周波数をアクティベーション関数を変更することなくパラメータ化することで、最適化を加速するFiReを紹介する。
我々は、パフォーマンスが解像度、ランク、トレーニング予算にどのように依存するかを特徴付け、これらのトレンドを予測するNTKアカウントを提供する。
- 参考スコア(独自算出の注目度): 0.09999629695552194
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Periodic Implicit Neural Representations (INRs) such as SIREN and FINER assign every neuron, the same global frequency, spending the representational budget inefficiently when local signal content varies. We introduce FiRe (Frequency Reparameterization), that accelerates optimization by reparameterizing per-neuron frequency of periodic INRs without changing their underlying activation function. FiRe gives each neuron a bounded, input-dependent frequency via a separate low-rank gating path and is applicable to any periodic activation function. The gate acts as an implicit preconditioner that improves optimization conditioning at initialization via the Neural Tangent Kernel (NTK). This better-conditioned initialization makes optimization converge faster, and the high-frequency content of the reconstruction tracks the target more closely at a fixed computational budget. On 2D image fitting, FiRe increases PSNR over a parameter-matched baseline (up to +1 dB at short training budgets), with gains that vary with resolution and diminish at full convergence. We characterize how performance depends on resolution, rank, and training budget, and give an NTK account that predicts these trends.
- Abstract(参考訳): SIRENやFINERのような周期的暗黙的神経表現(INR)はすべてのニューロンを同じグローバル周波数で割り当て、局所的な信号内容が変化すると非効率に表現予算を消費する。
本稿では、周期的なINRのニューロン間周波数を再パラメータ化することで、その基盤となるアクティベーション関数を変更せずに最適化を高速化するFiRe(Frequency Reparameterization)を提案する。
FiReは各ニューロンに、別々の低ランクゲーティング経路を介して有界で入力依存の周波数を与え、任意の周期的活性化関数に適用できる。
ゲートは暗黙のプレコンディショナーとして機能し、ニューラルタンジェントカーネル(NTK)を介して初期化時の最適化条件を改善する。
このより良い条件付き初期化により、最適化はより早く収束し、再構成の高周波コンテンツは、固定された計算予算で目標をより密に追跡する。
2Dイメージフィッティングでは、FiReはパラメータマッチングベースライン(短期訓練予算で+1dBまで)上でPSNRを増大させ、解像度に応じて利得が変化し、完全収束時に減少する。
我々は、パフォーマンスが解像度、ランク、トレーニング予算にどのように依存するかを特徴付け、これらのトレンドを予測するNTKアカウントを提供する。
関連論文リスト
- Spectral Gating via Damped Oscillations for Adaptive Implicit Neural Representations [24.706105488382818]
Inlicit Neural Representation (INR)は、座標ベースのネットワークを通じて連続的な信号を符号化することに成功した。
周期的なアクティベーションは細部を捉えるが、ノイズを記憶するオールパスフィルタとして機能する一方、空間的にコンパクトなアクティベーションは効率よく正規化されるが、低周波バイアスに悩まされる。
本稿では,各ニューロンの活性化を正弦波駆動型減衰振動子の定常応答としてモデル化することを提案する。
論文 参考訳(メタデータ) (2026-06-22T11:59:47Z) - Deciphering Neural Reparameterized Full-Waveform Inversion with Neural Sensitivity Kernel and Wave Tangent Kernel [67.14508461124932]
フルウェーブフォーム・インバージョン(FWI)は、限られた境界測定から波動方程式の未知のパラメータを推定する。
ニューラルリパラメータ化FWI(NeurFWI)の最近の進歩は、ニューラルネットワークを用いたパラメータを表現することによって、高品質な初期モデルとウェーブフィールドデータへの依存を減らすことができることを示している。
本研究では,ニューラル・センシティブ・カーネル (NSK) とウェーブ・タンジェント・カーネル (WTK) を構築し,それらの収束挙動をモデル領域とデータ領域の両方から解析する。
論文 参考訳(メタデータ) (2026-05-14T04:49:23Z) - Unveiling the Mechanism of Continuous Representation Full-Waveform Inversion: A Wave Based Neural Tangent Kernel Framework [52.632217600064344]
フルウェーブフォーム・インバージョン(FWI)は、限られた測定値から波動方程式の物理パラメータを推定する。
FWI法は初期モデルの精度に対する悪名高い感度によって制限されている。
連続表現 FWI (CR-FWI) の最近の進歩は、暗黙的ニューラル表現 (INR) のような座標ベースニューラルネットワークによるパラメータモデルを表現することで、初期モデルへの依存を緩和できることを実証している。
論文 参考訳(メタデータ) (2026-03-23T03:22:33Z) - FUTON: Fourier Tensor Network for Implicit Neural Representations [56.48739018255443]
入射神経表現(INR)はシグナルを符号化する強力なツールとして現れてきたが、支配的な設計はしばしば収束が遅く、ノイズに過度に適応し、外挿が不十分である。
低ランクテンソル分解により係数がパラメータ化される一般化フーリエ級数として信号をモデル化するFUTONを導入する。
論文 参考訳(メタデータ) (2026-02-13T19:31:44Z) - Adaptive Training of INRs via Pruning and Densification [6.759337697337581]
本稿では、最適化の過程で暗黙的な神経表現を洗練させる適応的なトレーニングスキームであるAIReを紹介する。
提案手法では,表現能力を向上させるために,ニューロンプルーニング機構を用いて冗長性と入力周波数密度化を回避する。
コードと事前訓練されたモデルは、パブリック使用のためにリリースされる。
論文 参考訳(メタデータ) (2025-10-27T23:52:46Z) - FM-SIREN & FM-FINER: Nyquist-Informed Frequency Multiplier for Implicit Neural Representation with Periodic Activation [15.456760941404873]
我々はNyquist-informed, neuron-specific frequency multipliersを周期的活性化に割り当てるFM-SIRENとFM-FINERを提案する。
この単純だが原則化された修正は特徴の冗長性を50%近く低減し、多様なINRタスク間の信号再構成を一貫して改善する。
論文 参考訳(メタデータ) (2025-09-27T18:14:47Z) - Neuromorphic Wireless Split Computing with Resonate-and-Fire Neurons [69.73249913506042]
本稿では、共振器(RF)ニューロンを用いて時間領域信号を直接処理する無線スプリットコンピューティングアーキテクチャについて検討する。
可変周波数で共鳴することにより、RFニューロンは低スパイク活性を維持しながら時間局在スペクトル特徴を抽出する。
実験の結果,提案したRF-SNNアーキテクチャは従来のLIF-SNNやANNと同等の精度を達成できることがわかった。
論文 参考訳(メタデータ) (2025-06-24T21:14:59Z) - Cross-Frequency Implicit Neural Representation with Self-Evolving Parameters [52.574661274784916]
Inlicit Neural representation (INR) は視覚データ表現の強力なパラダイムとして登場した。
本研究では,データを4つの周波数成分に分離し,ウェーブレット空間でINRを用いるHaar Wavelet変換(CF-INR)を用いた自己進化型クロス周波数INRを提案する。
CF-INRは画像の回帰, 塗装, 装飾, 雲の除去など, 様々な視覚的データ表現および回復タスクで評価される。
論文 参考訳(メタデータ) (2025-04-15T07:14:35Z) - Learning Frequency Domain Approximation for Binary Neural Networks [68.79904499480025]
フーリエ周波数領域における符号関数の勾配を正弦関数の組み合わせを用いて推定し,BNNの訓練を行う。
いくつかのベンチマークデータセットとニューラルネットワークの実験により、この手法で学習したバイナリネットワークが最先端の精度を達成することが示されている。
論文 参考訳(メタデータ) (2021-03-01T08:25:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。