論文の概要: General Frequency Principle for Linear Approximation Classes
- arxiv url: http://arxiv.org/abs/2610.41179v1
- Date: Fri, 30 Oct 2026 02:59:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 22:05:31.600348
- Title: General Frequency Principle for Linear Approximation Classes
- Title(参考訳): 線形近似クラスに対する一般周波数原理
- Abstract要約: 有限線形近似クラスに対する降下訓練における一般周波数原理について検討する。
目標振幅に対する学習者の振幅が、訓練中、高周波数で消失することを証明する。
また、個別に訓練された単一周波数ターゲットと、同一走行で訓練された2つの周波数コンポーネントをカバーし、低周波優先のための十分な条件を確立した。
- 参考スコア(独自算出の注目度): 14.728003089308467
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we study a general frequency principle under gradient descent training for the finite linear approximation classes. Under suitable assumptions, we prove that the learner amplitude relative to the target amplitude vanishes at high frequencies, uniformly throughout training. We also establish sufficient conditions for low-frequency priority, covering single-frequency targets trained separately and two frequency components trained in the same run. This general frequency principle does not imply that lower frequencies always converge faster. Instead, for two frequencies that satisfy certain comparison conditions, one component will take longer to learn than the other; and in common cases, the longer component has higher frequency. Numerical experiments with Legendre and trigonometric bases validate the theoretical results.
- Abstract(参考訳): 本稿では,有限線形近似クラスに対する勾配降下訓練における一般周波数原理について検討する。
適切な仮定の下では、目標振幅に対する学習者の振幅が、訓練中、高い周波数で消えることが証明される。
また、個別に訓練された単一周波数ターゲットと、同一走行で訓練された2つの周波数コンポーネントをカバーし、低周波優先のための十分な条件を確立した。
この一般的な周波数原理は、低周波は常により速く収束することを暗示していない。
代わりに、ある比較条件を満たす2つの周波数に対して、一方の成分は他方よりも学習に時間がかかる。
レジェンドと三角の基底を用いた数値実験は理論結果を検証する。
関連論文リスト
- FreqDebias: Towards Generalizable Deepfake Detection via Consistency-Driven Frequency Debiasing [10.293023172874213]
ディープフェイク検出器は、限られたトレーニングデータから得られたバイアスにより、しばしば新しい偽造タイプに一般化するのに苦労する。
本稿では,周波数領域における新しいタイプのモデルバイアスを同定する。
本稿では2つの相補的戦略を通じてスペクトルバイアスを緩和する周波数脱バイアスフレームワークであるFreqDebiasを提案する。
論文 参考訳(メタデータ) (2025-09-26T14:37:29Z) - BEAT: Balanced Frequency Adaptive Tuning for Long-Term Time-Series Forecasting [46.922741972636025]
時系列予測は、天気予報や金融市場モデリングを含む多くの現実世界のアプリケーションにとって不可欠である。
BEAT(Balanced frequency Adaptive Tuning)は、各周波数のトレーニング状況を監視し、勾配更新を適応的に調整する新しいフレームワークである。
BEATは7つの実世界のデータセットの実験において、最先端のアプローチを一貫して上回っている。
論文 参考訳(メタデータ) (2025-01-31T11:52:35Z) - Sharpening Neural Implicit Functions with Frequency Consolidation Priors [53.6277160912059]
符号付き距離関数 (Signed Distance Function, SDF) は、高忠実度3D表面を表現するために重要な暗黙の表現である。
現在の手法は主にニューラルネットワークを利用して、署名された3Dポイントクラウドやマルチビューイメージなど、さまざまな監督機関からSDFを学ぶ。
本研究では、高周波成分を回収し、よりシャープで完全な表面を追求することにより、低周波SDF観測を高速化する手法を提案する。
論文 参考訳(メタデータ) (2024-12-27T16:18:46Z) - Tuning Frequency Bias of State Space Models [48.60241978021799]
状態空間モデル(SSM)は、線形時間不変(LTI)システムを利用して、長距離依存のシーケンスを学習する。
その結果,SSMは低周波成分を高周波成分よりも効果的に捕捉する傾向を示した。
論文 参考訳(メタデータ) (2024-10-02T21:04:22Z) - Investigating and Explaining the Frequency Bias in Image Classification [11.078920943157845]
CNNは人間とは異なる多くの行動を示しており、その1つは高周波成分を用いる能力である。
本稿では,画像分類作業における周波数バイアス現象について論じる。
論文 参考訳(メタデータ) (2022-05-06T11:45:43Z) - Frequency-bin entanglement from domain-engineered down-conversion [101.18253437732933]
フィルタや共振器の共振器を用いない離散周波数ビン絡みの単一パス源を提案する。
ドメインエンジニアリングされた非線形結晶を用いて、通信波長で8モードの周波数ビン絡み合った光源を生成する。
論文 参考訳(メタデータ) (2022-01-18T19:00:29Z) - Spectral Bias in Practice: The Role of Function Frequency in
Generalization [10.7218588164913]
現代の画像分類網におけるスペクトルバイアスを測定する手法を提案する。
一般化するネットワークは、データの適合に十分な複雑さを持つと同時に、過度な適合を避けるのに十分な単純さとバランスをとっています。
我々の研究は、画像分類に使用されるニューラルネットワークのスペクトル挙動の測定と制御を可能にする。
論文 参考訳(メタデータ) (2021-10-06T00:16:10Z) - Sampling-Frequency-Independent Audio Source Separation Using Convolution
Layer Based on Impulse Invariant Method [67.24600975813419]
単一深層ニューラルネットワークを用いて任意のサンプリング周波数を処理できる畳み込み層を提案する。
提案層の導入により,従来の音源分離モデルが未知のサンプリング周波数でも一貫して動作できることを示した。
論文 参考訳(メタデータ) (2021-05-10T02:33:42Z) - On the exact computation of linear frequency principle dynamics and its
generalization [6.380166265263755]
近年の研究では、トレーニング中にターゲット関数を低周波数から高周波数に適合させる周波数原理(F-Principle)の興味深い現象が示されている。
本稿では、周波数領域におけるNN出力関数の進化を制御し、線形周波数原理(LFP)モデルという正確な微分方程式を導出する。
論文 参考訳(メタデータ) (2020-10-15T15:17:21Z) - Robust Learning with Frequency Domain Regularization [1.370633147306388]
モデルのフィルタの周波数スペクトルを制約し,新しい正規化手法を提案する。
本研究では,(1)対向的摂動を抑えること,(2)異なるアーキテクチャにおける一般化のギャップを小さくすること,(3)微調整を伴わない伝達学習シナリオにおける一般化能力を向上させることによる正規化の有効性を実証する。
論文 参考訳(メタデータ) (2020-07-07T07:29:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。