論文の概要: Kernel Reboot: Breaking the Boundaries of Neural Tangent Kernels for Neural Fields

• arxiv url: http://arxiv.org/abs/2609.03117v1
• Date: Wed, 02 Sep 2026 19:53:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-04 18:28:38.845588
• Title: Kernel Reboot: Breaking the Boundaries of Neural Tangent Kernels for Neural Fields
• Title（参考訳）: Kernel Reboot: ニューラルネットワークのためのニューラルネットワークカーネルの境界を破る
• Abstract要約: スパース観測からニューラルネットワークを高速に再構築するための3つのアルゴリズムを開発した。 NTK-KIPは、有限のNTKが大きな欠損領域を塗ることができるように、蒸留された座標の支持セットを学習する。 MetaQuill-KIPは、KIPスタイルの非線形ウォームスタートでタスクをシードし、その小さなオフセットだけを洗練する。 このことは、NTK駆動のニューラルネットワークを非線形とメタ学習の両方にすることができることを示している。
• 参考スコア（独自算出の注目度）: 87.10527266147078
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neural fields (NFs) map continuous coordinates to signals such as color or density, but fast high-quality reconstruction from sparse observations remains difficult. Classical Neural Tangent Kernel (NTK) regression gives closed-form fits, yet it is fundamentally linear and cannot accumulate reusable task priors. We develop three algorithms that address these gaps. NTK-KIP learns a distilled support set of coordinates (and optional labels) so that a finite NTK can inpaint large missing regions from little observed data, yielding a compact non-linear representation instead of a raw kernel solve. MetaQuill meta-learns a shared initialization for an INR so that new scenes can be adapted by updating only a small task-specific weight offset, which provides true feature learning and a reusable prior. Finally, MetaQuill-KIP fuses both ideas: it seeds the task with a KIP-style non-linear warm start, then refines only that small offset around the meta-learned initialization. MetaQuill-KIP achieves high-PSNR reconstructions and semantically plausible inpainting under very sparse observations, while requiring only lightweight per-instance adaptation, whereas diffusion-style baselines typically depend on large pretrained generative priors and costly per-image tuning. This shows that NTK-driven neural fields can be made both non-linear and meta-learnable, narrowing the gap between analytic kernels and practical few-shot reconstruction.
• Abstract（参考訳）: ニューラルネットワーク(NF)は、色や密度などの信号に連続的な座標をマッピングするが、スパース観測による高速な高品質な再構成は依然として困難である。 古典的ニューラル・タンジェント・カーネル(NTK)回帰は閉形式に適合するが、基本的に線形であり、再利用可能なタスクを蓄積することはできない。 これらのギャップに対処する3つのアルゴリズムを開発する。 NTK-KIPは蒸留された座標(およびオプションラベル)の支持集合を学習し、有限のNTKが観測データから大きな欠損領域を描けるようにし、生のカーネル解決の代わりにコンパクトな非線形表現が得られる。 MetaQuillは、INRの共有初期化をメタ学習することで、タスク固有の小さなオフセットだけを更新することで、新しいシーンを適応できるようにする。 最後に、MetaQuill-KIPは両方のアイデアを融合させる。KIPスタイルの非線形ウォームスタートでタスクをシードし、メタ学習初期化の周りの小さなオフセットだけを洗練する。 MetaQuill-KIPは、非常にスパースな観察下で高いPSNR再構成と意味論的に可視な塗装を実現する一方、軽量なインスタンスごとの適応しか必要とせず、拡散スタイルのベースラインは、通常、大きな事前訓練された生成前とコストのかかる画像毎のチューニングに依存している。 このことは、NTK駆動のニューラルネットワークを非線形とメタ学習の両方にすることができ、分析カーネルと実用的な少数ショット再構成のギャップを狭めることを示している。

関連論文リスト

• Gaussian Primitive Optimized Deformable Retinal Image Registration [19.882820812725523]
  変形性網膜画像登録は、大きな同種領域とスパースだが重要な血管的特徴のため、非常に困難である。 これらの課題を克服するために、構造化メッセージパッシングを実行する新しい反復的フレームワークを導入する。 FIREデータセットの実験では、GPOはターゲット登録エラーを6.2,pxから2.4,pxに減らし、AUCを0.770から0.938に増やしている。
  論文  参考訳（メタデータ） (2025-08-23T00:44:50Z)
• Gradient Descent in Neural Networks as Sequential Learning in RKBS [63.011641517977644]
  初期重みの有限近傍にニューラルネットワークの正確な電力系列表現を構築する。 幅にかかわらず、勾配降下によって生成されたトレーニングシーケンスは、正規化された逐次学習によって正確に複製可能であることを証明した。
  論文  参考訳（メタデータ） (2023-02-01T03:18:07Z)
• Demystifying the Neural Tangent Kernel from a Practical Perspective: Can it be trusted for Neural Architecture Search without training? [37.29036906991086]
  本研究では,ニューラルタンジェントカーネル(NTK)から導出できるいくつかの初期化指標を再検討する。 現代のニューラルアーキテクチャは、高い非線形特性を示しており、NTKベースのメトリクスは、ある程度のトレーニングを伴わずに、アーキテクチャのパフォーマンスを確実に見積もることができる。 これはNTKに基づく新しい計量であり、その固有な定式化により、現代のニューラルアーキテクチャに存在する多くの非線形優位性を捉えることができる。
  論文  参考訳（メタデータ） (2022-03-28T08:43:04Z)
• Neural Fields as Learnable Kernels for 3D Reconstruction [101.54431372685018]
  本稿では,学習したカーネルリッジの回帰に基づいて,暗黙の3次元形状を再構成する手法を提案する。 本手法は,3次元オブジェクトと大画面をスパース指向の点から再構成する際の最先端の処理結果を実現する。
  論文  参考訳（メタデータ） (2021-11-26T18:59:04Z)
• Scaling Neural Tangent Kernels via Sketching and Random Features [53.57615759435126]
  最近の研究報告では、NTKレグレッションは、小規模データセットでトレーニングされた有限範囲のニューラルネットワークより優れている。 我々は、アークコサインカーネルの拡張をスケッチして、NTKの近距離入力スパーシティ時間近似アルゴリズムを設計する。 CNTKの特徴をトレーニングした線形回帰器が,CIFAR-10データセット上での正確なCNTKの精度と150倍の高速化を実現していることを示す。
  論文  参考訳（メタデータ） (2021-06-15T04:44:52Z)
• Random Features for the Neural Tangent Kernel [57.132634274795066]
  完全接続型ReLUネットワークのニューラルタンジェントカーネル(NTK)の効率的な特徴マップ構築を提案する。 得られた特徴の次元は、理論と実践の両方で比較誤差境界を達成するために、他のベースライン特徴マップ構造よりもはるかに小さいことを示しています。
  論文  参考訳（メタデータ） (2021-04-03T09:08:12Z)
• Learning with Neural Tangent Kernels in Near Input Sparsity Time [5.472561051778218]
  neural tangent kernel(ntk)は、勾配降下によって少なくとも二乗損失の下で訓練された無限に広いニューラルネットワークの挙動を特徴付ける。 変換したデータの内部積がNTK評価を近似するように、入力データをランダム化された低次元特徴空間にマッピングするニアインプットスパーシティ時間アルゴリズムを提案する。 従来の大規模回帰・分類タスクでは,NTKカーネルを用いたNNとNystrom法より訓練された線形回帰器が優れていることを示す。
  論文  参考訳（メタデータ） (2021-04-01T11:56:58Z)
• A Generalized Neural Tangent Kernel Analysis for Two-layer Neural Networks [87.23360438947114]
  重み劣化を伴う雑音勾配降下は依然として「カーネル様」の挙動を示すことを示す。 これは、トレーニング損失が一定の精度まで線形に収束することを意味する。 また,重み劣化を伴う雑音勾配勾配勾配で学習した2層ニューラルネットワークに対して,新しい一般化誤差を確立する。
  論文  参考訳（メタデータ） (2020-02-10T18:56:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。