論文の概要: Optimization Encoders: Rethinking Second-Order Meta-Learning for Neural Fields
- arxiv url: http://arxiv.org/abs/2610.08075v1
- Date: Tue, 06 Oct 2026 10:05:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.927355
- Title: Optimization Encoders: Rethinking Second-Order Meta-Learning for Neural Fields
- Title(参考訳): 最適化エンコーダ - ニューラルネットワークの2次メタラーニングを再考する
- Abstract要約: 本稿では,変圧器をベースとした同変型ニューラルネットワークであるAttentive Latent Fields(MetaLF)を紹介する。
そこで,MetaLFは画像,形状,ボリュームのセマンティックな予測をサポートしながら,3~5段階の勾配更新で忠実度を向上することを示す。
- 参考スコア(独自算出の注目度): 3.399874096487746
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Conditional neural fields represent signals continuously, but their effectiveness depends on how the conditional latent representations are inferred from observed data. In meta-learning, this encoding occurs through gradient updates induced by the decoder, tying representation learning directly to decoder design. We formalize this connection by interpreting latent optimization as an optimization encoder, unifying the roles of second-order differentiation, latent parameterization, and task supervision. This concept enables second-order meta-learning for end-to-end training of the encoding procedure alongside the decoder, and clarifies which learning pathway first-order approximations discard. Guided by this view, we introduce Attentive Latent Fields (MetaLF), an equivariant transformer-based neural field that contextualizes a latent pointcloud through self-attention. These interactions shape both field predictions and the updates that construct their representation, allowing local observations to inform coherent non-local structure. Disentangling the inner encoding objective from outer task supervision unifies reconstruction, classification, and segmentation within an end-to-end meta-learning framework, using reconstruction-only latent adaptation at test time. Controlled experiments on polynomial fields link latent coordination to lower effective rank and stronger alignment with the underlying function space. Across image and 3D shape reconstruction, MetaLF improves fidelity within three to five gradient updates, while supporting semantic prediction across images, shapes, and volumes. Together, these findings position the optimization encoder perspective as a unified basis for designing neural fields around how representations are constructed, coordinated, and used.
- Abstract(参考訳): 条件付きニューラルネットワークは、連続的に信号を表現しますが、その効果は、観測データから条件付き潜在表現がどのように推測されるかによって異なります。
メタラーニングでは、このエンコーディングはデコーダによって誘導される勾配更新を通じて発生し、デコーダ設計に直接表現学習を結び付ける。
我々は、この接続を最適化エンコーダとして潜在最適化を解釈し、二次微分、潜時パラメータ化、タスク監視の役割を統一することで形式化する。
この概念は、デコーダと共にエンコード手順のエンドツーエンドトレーニングのための2次メタラーニングを可能にし、どの学習経路の1次近似が破棄されるかを明らかにする。
この観点から、同変トランスフォーマーをベースとしたニューラルネットワークであるAttentive Latent Fields (MetaLF)を導入する。
これらの相互作用は、フィールド予測とそれらの表現を構成する更新の両方を形成し、局所的な観測によってコヒーレントな非局所構造を知らせる。
外的タスクの監督から内的エンコーディング対象を遠ざけることは、テスト時に再構成のみの潜伏適応を使用して、エンドツーエンドのメタラーニングフレームワーク内の再構成、分類、セグメンテーションを統一する。
多項式場に関する制御された実験は、潜在座標をより低い有効ランクにリンクし、基礎となる函数空間とより強いアライメントを与える。
画像全体と3D形状の再構築により、MetaLFは3~5つの勾配更新で忠実さを改善し、画像、形状、ボリュームのセマンティックな予測をサポートする。
これらの知見を合わせて、最適化エンコーダの視点を、表現の構築、コーディネート、使用に関するニューラルネットワークの設計の統一基盤として位置付ける。
関連論文リスト
- Neural Field Tokenizations with Hierarchy and Spatial Locality Priors [26.386588932734345]
連続信号の汎用トークン化表現を学習するフレームワークであるLH-NeFを提案する。
メタラーニングのインナーループを1つのフォワードパスに置き換えることで、LH-NeFは42$times$少ないメモリを使用する。
画像, 3次元形状, 気候の領域にわたって, 学習された表現は, モダリティに依存しない, モダリティに特有な, 特殊な生成的神経野ベースラインのパフォーマンスに適合するか, 上回っている。
論文 参考訳(メタデータ) (2026-06-06T14:43:30Z) - Principles of Concept Representation in Sentence Encoders [0.24828140397930876]
文エンコーダは、その潜在空間が対応する意味演算子の低歪み実現を認める場合にのみ、概念をサポートする。
このフレーミングは、現在のエンコーダが成功する場所と、それらが監督に構造的に不一致している場所の両方を予測する。
微調整は、拡張するのではなく、潜在幾何学を再検討する。
そこで我々は,DBpediaのセマンティックギャップベンチマークと修正子ラベル付きデータセットNPパラフレーズスイートの2つの新しい評価結果を発表した。
論文 参考訳(メタデータ) (2026-06-05T07:33:05Z) - Implicit Neural Representations: A Signal Processing Perspective [54.57279006229212]
入射神経表現(INR)は、離散的なサンプルデータから連続的な機能的表現へと、信号モデリングの根本的な変化を示す。
本稿では、信号処理の観点からのINRの進化を考察し、スペクトル挙動、サンプリング理論、マルチスケール表現を強調する。
医療・レーダ画像の逆問題,圧縮,3次元シーン表現など,幅広い応用分野におけるINRの有用性を強調した。
論文 参考訳(メタデータ) (2026-04-16T14:12:06Z) - Communication-Inspired Tokenization for Structured Image Representations [74.17163003465537]
COMiT(Communication inspired Tokenization)は、構造化された視覚トークンシーケンスを学習するためのフレームワークである。
セマンティックアライメントが基盤となる一方で、解釈可能なオブジェクト中心のトークン構造を誘導するためには、注意的なシーケンシャルトークン化が重要であることを示す。
論文 参考訳(メタデータ) (2026-02-24T09:53:50Z) - Joint Semantic and Rendering Enhancements in 3D Gaussian Modeling with Anisotropic Local Encoding [86.55824709875598]
本稿では,セマンティックとレンダリングの両方を相乗化する3次元セマンティックガウスモデリングのための統合拡張フレームワークを提案する。
従来の点雲形状符号化とは異なり、細粒度3次元形状を捉えるために異方性3次元ガウシアン・チェビシェフ記述子を導入する。
我々は、学習した形状パターンを継続的に更新するために、クロスシーンの知識伝達モジュールを使用し、より高速な収束と堅牢な表現を可能にします。
論文 参考訳(メタデータ) (2026-01-05T18:33:50Z) - Learnable Spatial-Temporal Positional Encoding for Link Prediction [44.0907827498725]
L-STEP という単純な時間リンク予測モデルを提案する。
L-STEPは、空間時間スペクトルの観点からグラフ特性を保存することができる。
L-STEPは最新の大規模TGBベンチマークで主要な性能を得る。
論文 参考訳(メタデータ) (2025-06-10T00:35:53Z) - Scalable Learning of Latent Language Structure With Logical Offline
Cycle Consistency [71.42261918225773]
概念的には、LOCCOは、トレーニング対象のセマンティクスを使用してラベルなしテキストのアノテーションを生成する、自己学習の一形態と見なすことができる。
追加ボーナスとして、LOCCOによって生成されたアノテーションは、神経テキスト生成モデルをトレーニングするために自明に再利用することができる。
論文 参考訳(メタデータ) (2023-05-31T16:47:20Z) - Self-supervised Augmentation Consistency for Adapting Semantic
Segmentation [56.91850268635183]
本稿では,実用的かつ高精度な意味セグメンテーションのためのドメイン適応手法を提案する。
私たちは標準データ拡張技術である$-$フォトメトリックノイズ、フリップとスケーリング$-$を採用し、セマンティック予測の一貫性を保証する。
適応後の最先端セグメンテーション精度を大幅に改善し、バックボーンアーキテクチャと適応シナリオの異なる選択に整合性を持たせる。
論文 参考訳(メタデータ) (2021-04-30T21:32:40Z) - MetaSDF: Meta-learning Signed Distance Functions [85.81290552559817]
ニューラルな暗示表現で形状を一般化することは、各関数空間上の学習先行値に比例する。
形状空間の学習をメタラーニング問題として定式化し、勾配に基づくメタラーニングアルゴリズムを利用してこの課題を解決する。
論文 参考訳(メタデータ) (2020-06-17T05:14:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。