論文の概要: JA-SIREN: Deterministic Initialization for Sinusoidal Networks via Spectral Matching

• arxiv url: http://arxiv.org/abs/2606.06671v1
• Date: Thu, 04 Jun 2026 19:45:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-08 14:33:29.420037
• Title: JA-SIREN: Deterministic Initialization for Sinusoidal Networks via Spectral Matching
• Title（参考訳）: JA-SIREN:スペクトルマッチングによる正弦波ネットワークの決定論的初期化
• Authors: Mohammed Alsakabi, Kejia Hu, John M. Dolan, Ozan K. Tonguz,
• Abstract要約: 既存の暗黙的神経表現アプローチは、実行中に一貫した、あるいは高品質なパフォーマンスを保証するものではない。 本稿ではJacobi-Anger Sinusoidal Representation Network(JA-SIREN)を紹介する。 対象信号に対するネットワークの初期スペクトル応答を解析的に一致させる2層正弦波展開のための閉形式重みを導出する。 Kodakデータセットでは、JA-SIRENは平均67.18dB、21.30dBの改善を最高のベースラインで達成している。
• 参考スコア（独自算出の注目度）: 15.456760941404873
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Existing implicit neural representation (INR) approaches suffer from stochastic initialization that does not guarantee consistent or high-quality performance across runs, with variations reaching more than 2.5 dB (78%) in image regression. This variation is problematic for scientific computing and simulation, where result reproducibility is crucial. To address this problem, we present Jacobi-Anger Sinusoidal Representation Network (JA-SIREN), a deterministic initialization scheme for sinusoidal networks grounded in classical spectral analysis. By computing the Discrete Sine Transform (DST) of the target signal and leveraging the Jacobi-Anger expansion, we derive closed-form weights for a two-layer sinusoidal MLP that analytically match the network's initial spectral response to the target signal, requiring no random seed or additional hyperparameter tuning. On the Kodak dataset, JA-SIREN achieves a mean PSNR of 67.18 dB, a 21.30 dB improvement over the best baseline. This is achieved with zero run-to-run variance, confirming that spectrally-informed initialization is a more effective and reproducible alternative to stochastic initialization for sinusoidal INRs.
• Abstract（参考訳）: 既存の暗黙的ニューラル表現 (INR) アプローチは、画像回帰において2.5dB (78%) を超えるばらつきを伴い、実行中に一貫した、あるいは高品質なパフォーマンスを保証しない確率的初期化に悩まされている。 この変化は科学計算やシミュレーションにおいて問題であり、再現性が不可欠である。 この問題に対処するために,古典スペクトル解析に基づく正弦波ネットワークの決定論的初期化スキームであるJacobi-Anger Sinusoidal Representation Network (JA-SIREN)を提案する。 ターゲット信号の離散正弦変換(DST)を計算し、ジャコビ・アンガー展開を利用することにより、ターゲット信号に対するネットワークの初期スペクトル応答を解析的に一致させる2層正弦波MLPの閉形式重みを導出し、ランダムシードや追加のハイパーパラメータチューニングを必要としない。 Kodakデータセットでは、JA-SIRENは平均PSNRが67.18dB、21.30dBが最高のベースラインで改善されている。 これは、スペクトルインフォームド初期化が正弦波 INR に対する確率的初期化のより効果的で再現可能な代替であることを確認した。

関連論文リスト

• Coverage Analysis of Rydberg Atom Quantum Receiver Arrays: A Stochastic Geometry Approach [55.47164192369501]
  ライドバーグ原子量子受信機(RAQR)は、量子制限感度とブロードバンドチューナビリティを提供する。 密集した展開において、集合的干渉は原子トランスデューサを小さな信号状態から外すことができる。 本稿では、RAQRフロントエンドを幾何学的カバレッジ分析に埋め込むことで、この問題に対処する。
  論文  参考訳（メタデータ） (2026-05-22T04:05:13Z)
• CAdam: Context-Adaptive Moment Estimation for 3D Gaussian Densification in Generative Distillation [3.4998703934432682]
  密度ジレンマを解くために、文脈適応モーメント推定(CAdam)を導入する。 Cadamは、標準密度と比較してガウスの数を85%から97%削減し、全体的な同等の品質を保っている。 これらの結果から, 信号認識密度制御は, 最適化に基づく生成蒸留におけるメモリ効率の向上に有効であることがわかった。
  論文  参考訳（メタデータ） (2026-05-20T08:08:39Z)
• Target noise: A pre-training based neural network initialization for efficient high resolution learning [4.186531258193163]
  本稿では、ランダムノイズをターゲットとした自己教師型事前学習に基づく、シンプルで効果的なニューラルネットワーク事前学習戦略を提案する。 このノイズ駆動事前学習は、追加のデータやネットワークアーキテクチャの変更を必要とせずに、その後のタスクの収束速度を大幅に改善することを示す。
  論文  参考訳（メタデータ） (2026-02-06T10:26:12Z)
• Improving Accuracy and Efficiency of Implicit Neural Representations: Making SIREN a WINNER [0.0]
  我々は正弦波表現ネットワーク(SIREN)の基本的制限を特定し、対処する。 極端な場合、ネットワークの周波数サポートがターゲットスペクトルと不一致した場合、「スペクトルボトルネック」が観測される。 ニューラル表現のためのノイズ付きウェイト初期化を提案する。
  論文  参考訳（メタデータ） (2025-09-16T11:41:13Z)
• Sinusoidal Initialization, Time for a New Start [0.5242869847419834]
  初期化はディープニューラルネットワークトレーニングにおいて重要な役割を担い、収束、安定性、一般化に直接影響を与える。 本稿では,ネットワーク全体の重みの広がりとバランスを改善するために,正弦波関数を用いて構造的重み行列を構築する新しい決定論的手法を提案する。 実験の結果,最終検証精度は4.9%,収束速度は20.9%向上した。
  論文  参考訳（メタデータ） (2025-05-19T09:45:18Z)
• A Deep Unrolling Model with Hybrid Optimization Structure for Hyperspectral Image Deconvolution [50.13564338607482]
  本稿では,DeepMixと呼ばれるハイパースペクトルデコンボリューション問題に対する新しい最適化フレームワークを提案する。 これは3つの異なるモジュール、すなわちデータ一貫性モジュール、手作りの正規化器の効果を強制するモジュール、および装飾モジュールで構成されている。 本研究は,他のモジュールの協調作業によって達成される進歩を維持するために設計された,文脈を考慮した認知型モジュールを提案する。
  論文  参考訳（メタデータ） (2023-06-10T08:25:16Z)
• Optimal Algorithms for the Inhomogeneous Spiked Wigner Model [89.1371983413931]
  不均一な問題に対する近似メッセージパッシングアルゴリズム(AMP)を導出する。 特に,情報理論の閾値よりも大きい信号と雑音の比を必要とする既知のアルゴリズムが,ランダムよりも優れた処理を行うための統計的・計算的ギャップの存在を同定する。
  論文  参考訳（メタデータ） (2023-02-13T19:57:17Z)
• NAG-GS: Semi-Implicit, Accelerated and Robust Stochastic Optimizer [45.47667026025716]
  2つの重要な要素に依存した、新しく、堅牢で、加速された反復を提案する。 NAG-GSと呼ばれる手法の収束と安定性は、まず広範に研究されている。 我々は、NAG-arityが、重量減衰を伴う運動量SGDや機械学習モデルのトレーニングのためのAdamWといった最先端の手法と競合していることを示す。
  論文  参考訳（メタデータ） (2022-09-29T16:54:53Z)
• Revisiting Initialization of Neural Networks [72.24615341588846]
  ヘッセン行列のノルムを近似し, 制御することにより, 層間における重みのグローバルな曲率を厳密に推定する。 Word2Vec と MNIST/CIFAR 画像分類タスクの実験により,Hessian ノルムの追跡が診断ツールとして有用であることが確認された。
  論文  参考訳（メタデータ） (2020-04-20T18:12:56Z)
• MSE-Optimal Neural Network Initialization via Layer Fusion [68.72356718879428]
  ディープニューラルネットワークは、さまざまな分類と推論タスクに対して最先端のパフォーマンスを達成する。 グラデーションと非進化性の組み合わせは、学習を新しい問題の影響を受けやすいものにする。 確率変数を用いて学習した深層ネットワークの近傍層を融合する手法を提案する。
  論文  参考訳（メタデータ） (2020-01-28T18:25:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。