論文の概要: Neural Field Tokenizations with Hierarchy and Spatial Locality Priors
- arxiv url: http://arxiv.org/abs/2606.08204v1
- Date: Sat, 06 Jun 2026 14:43:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-09 14:42:05.969853
- Title: Neural Field Tokenizations with Hierarchy and Spatial Locality Priors
- Title(参考訳): 階層性と空間的局所性を優先したニューラルフィールドのトークン化
- Authors: Alonso Urbano, David W. Romero, Max Zimmer, Sebastian Pokutta,
- Abstract要約: 連続信号の汎用トークン化表現を学習するフレームワークであるLH-NeFを提案する。
メタラーニングのインナーループを1つのフォワードパスに置き換えることで、LH-NeFは42$times$少ないメモリを使用する。
画像, 3次元形状, 気候の領域にわたって, 学習された表現は, モダリティに依存しない, モダリティに特有な, 特殊な生成的神経野ベースラインのパフォーマンスに適合するか, 上回っている。
- 参考スコア(独自算出の注目度): 26.386588932734345
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural fields parameterize data as functions from coordinates to values, providing a unified framework for representation learning across modalities. Existing approaches are dominated by per-sample meta-learning, which scales poorly due to memory-intensive inner-loop optimization. The natural alternative -- feed-forward encoding -- typically introduces modality-specific assumptions, sacrificing the generality that makes learning with neural fields attractive. We argue that locality and hierarchy are useful priors for learning field representations that can be injected without compromising modality-agnosticism. We propose LH-NeF, a framework to learn general-purpose tokenized representations of continuous signals. A locality-preserving hierarchical encoder maps raw coordinate-value field observations to structured tokens, from which the field is reconstructed during training. By replacing meta-learning's inner loop with a single forward pass, LH-NeF uses 42$\times$ less memory and supports 133$\times$ larger batches than the strongest modality-agnostic baseline. Across images, 3D shapes, and climate fields, our learned representations match or exceed performance of modality-agnostic, modality-specific, and specialized generative neural field baselines on both reconstruction and downstream tasks.
- Abstract(参考訳): ニューラルネットワークは、座標から値への関数としてデータをパラメータ化し、モダリティを越えた表現学習のための統一されたフレームワークを提供する。
既存のアプローチはサンプルごとのメタラーニングが支配的であり、メモリ集約型インナーループ最適化によるスケールの低下が原因である。
フィードフォワード符号化(Feed-forward encoding)という自然な代替手段は、通常、モーダリティ固有の仮定を導入し、ニューラルネットワークによる学習を魅力的なものにする一般性を犠牲にする。
我々は、局所性と階層性は、モダリティ非依存性を損なうことなく注入できるフィールド表現の学習に有用であると論じる。
連続信号の汎用トークン化表現を学習するフレームワークであるLH-NeFを提案する。
局所性保存階層エンコーダは、生の座標値のフィールド観測を、トレーニング中にフィールドが再構成される構造化トークンにマッピングする。
メタラーニングのインナーループを1つのフォワードパスに置き換えることで、LH-NeFは42$\times$少ないメモリを使用し、最強のモダリティに依存しないベースラインよりも133$\times$大きなバッチをサポートする。
画像, 3次元形状, および気候場全体にわたって, 学習された表現は, 再構成と下流の両方のタスクにおいて, モダリティに依存しない, モダリティに特有で, 特別な生成的神経野ベースラインの性能に適合するか, あるいは超えている。
関連論文リスト
- Stochastic Preconditioning for Neural Field Optimization [32.78919701189794]
この研究は、トレーニング中に空間性を取り入れることで、ニューラルネットワークの適合が大幅に改善されることを観察する。
単純なテクニックは、カスタム設計の階層や周波数空間の構成を置き換えたり、性能を上回ったりすることができる。
論文 参考訳(メタデータ) (2025-05-26T19:13:41Z) - Neural Processing of Tri-Plane Hybrid Neural Fields [20.78031512517053]
本稿では,3面離散データ構造が,標準的な深層学習機械で効果的に処理できるリッチな情報を符号化していることを示す。
同じ再構成品質のフィールドを処理しながら、大規模表現を処理するフレームワークよりもはるかに優れたタスク性能を実現する。
論文 参考訳(メタデータ) (2023-10-02T12:27:22Z) - General Neural Gauge Fields [100.35916421218101]
我々はゲージ変換とニューラルネットワークを協調的に最適化する学習フレームワークを開発した。
我々は、シーン情報を本質的に保存し、優れた性能を得ることができる情報不変ゲージ変換を導出する。
論文 参考訳(メタデータ) (2023-05-05T12:08:57Z) - Sparse, Geometric Autoencoder Models of V1 [2.491226380993217]
本稿では,潜在表現が暗黙的に暗黙的に,スペクトルクラスタリングのために局所的に整理されたオートエンコーダアーキテクチャを提案する。
オートエンコーダの目的関数はスパース符号化フレームワークの中核的な概念を保ちつつも、受容領域の微分を記述するための有望な経路を提供することを示す。
論文 参考訳(メタデータ) (2023-02-22T06:07:20Z) - Learning Large-scale Neural Fields via Context Pruned Meta-Learning [60.93679437452872]
本稿では,大規模ニューラルネットワーク学習のための最適化に基づくメタラーニング手法を提案する。
メタテスト時間における勾配再スケーリングは、非常に高品質なニューラルネットワークの学習を可能にすることを示す。
我々のフレームワークは、モデルに依存しない、直感的で、実装が容易であり、幅広い信号に対する大幅な再構成改善を示す。
論文 参考訳(メタデータ) (2023-02-01T17:32:16Z) - Meta-Learning Sparse Implicit Neural Representations [69.15490627853629]
入射神経表現は、一般的な信号を表す新しい道である。
現在のアプローチは、多数の信号やデータセットに対してスケールすることが難しい。
メタ学習型スパースニューラル表現は,高密度メタ学習モデルよりもはるかに少ない損失が得られることを示す。
論文 参考訳(メタデータ) (2021-10-27T18:02:53Z) - MetaSDF: Meta-learning Signed Distance Functions [85.81290552559817]
ニューラルな暗示表現で形状を一般化することは、各関数空間上の学習先行値に比例する。
形状空間の学習をメタラーニング問題として定式化し、勾配に基づくメタラーニングアルゴリズムを利用してこの課題を解決する。
論文 参考訳(メタデータ) (2020-06-17T05:14:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。