論文の概要: Neural Fields Encode Adaptation Geometry
- arxiv url: http://arxiv.org/abs/2610.07253v1
- Date: Mon, 05 Oct 2026 18:52:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.605642
- Title: Neural Fields Encode Adaptation Geometry
- Title(参考訳): 適応幾何学を符号化するニューラルネットワーク
- Abstract要約: 神経場は, 観察の再現性によって評価されることを示す。
これは、新しい観測にどれだけ容易に適応できるか、そして、以前の観測に何の重みが残っているのかという、2つの有用な特性を欠いていることを示す。
- 参考スコア(独自算出の注目度): 0.8594140167290097
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neural fields are usually evaluated by how well they reconstruct an observation. We show that this misses two useful properties of a fitted network: how easily it can adapt to new observations, and what its weights retain from earlier ones. We study these properties as adaptation geometry. For images, we meta-learn class-specific initializations, adapt each one to a new image, and measure how much the network must change to fit it. A simple local linear model closely predicts this adaptation cost, while replacing one network's tangent kernel with another's substantially worsens the prediction. Adaptation thus depends on the local geometry of the fitted network, not only on its current reconstruction. For physical fields, we repeatedly fit the same network to observations from a sequence. Its weights then retain information about that history. When two wave histories end at exactly the same observation, the final weights recover the sign of the wave velocity with 68.6% accuracy, whereas the current observation alone contains no such information and gives 50%. These two phenomena are quantitatively linked: tangent-kernel eigenvalues predict both which changes are easy to learn and how quickly they are overwritten by later fitting. Together, these results show that neural fields contain useful information beyond what they currently reconstruct: in how they can change and in how they got there.
- Abstract(参考訳): 神経場は通常、観察をいかにうまく再構築するかによって評価される。
これは、新しい観測にどれだけ容易に適応できるか、そして、以前の観測に何の重みが残っているのかという、2つの有用な特性を欠いていることを示す。
これらの特性を適応幾何学として研究する。
画像については、クラス固有の初期化をメタ学習し、各イメージを新しいイメージに適応させ、ネットワークが適合するためにどの程度変更する必要があるかを測定します。
単純な局所線形モデルは、この適応コストを正確に予測し、一方のネットワークの接するカーネルを他方のネットワークに置き換えることで、予測を大幅に悪化させる。
したがって、適応は現在の再構成だけでなく、適合したネットワークの局所幾何学に依存する。
物理場の場合、同じネットワークをシーケンスからの観測に繰り返し適合させる。
その重みは、その歴史に関する情報を保持する。
2つの波の履歴が全く同じ観測で終わると、最終重みは68.6%の精度で波の速度の兆候を回復する。
これら2つの現象は定量的に結びついている: 接カーネル固有値は、どの変化が容易に学習可能かと、後続のフィッティングによってどのくらいの速さで上書きされるかを予測する。
これらの結果は、ニューラルネットワークが現在再構築されているもの以外の有用な情報を含んでいることを示している。
関連論文リスト
- Early Learning Shapes Later Directions Of Representation Change In Continual Learning [5.419430966113105]
初期の表現的変化が自然に幾何学的構造を形成しているかどうかを問う。
初期表現ドリフトの低次元部分空間を同定し、足場と呼び、その後のタスク間で再利用されているかどうかをテストする。
結果は、初期の経験は、ニューラルネットワークが将来のタスクにどのように適応するかについて、永続的な幾何学的なインプリントを残していることを示唆している。
論文 参考訳(メタデータ) (2026-09-28T18:26:00Z) - Neural networks leverage nominally quantum and post-quantum representations [0.0]
我々は、トランスフォーマーやRNNを含む深層ニューラルネットワークが、トレーニングデータの低次元生成モデルである「量子」と「後量子」についての信念を本質的に発見し、表現していることを示す。
論文 参考訳(メタデータ) (2025-07-10T05:09:19Z) - On Discprecncies between Perturbation Evaluations of Graph Neural
Network Attributions [49.8110352174327]
我々は、グラフ領域で以前に検討されていない視点から帰属法を評価する:再学習。
中心となる考え方は、属性によって識別される重要な(あるいは重要でない)関係でネットワークを再訓練することである。
我々は4つの最先端GNN属性法と5つの合成および実世界のグラフ分類データセットについて分析を行った。
論文 参考訳(メタデータ) (2024-01-01T02:03:35Z) - Assessing Neural Network Representations During Training Using
Noise-Resilient Diffusion Spectral Entropy [55.014926694758195]
ニューラルネットワークにおけるエントロピーと相互情報は、学習プロセスに関する豊富な情報を提供する。
データ幾何を利用して基礎となる多様体にアクセスし、これらの情報理論測度を確実に計算する。
本研究は,高次元シミュレーションデータにおける固有次元と関係強度の耐雑音性の測定結果である。
論文 参考訳(メタデータ) (2023-12-04T01:32:42Z) - Unveiling the Sampling Density in Non-Uniform Geometric Graphs [69.93864101024639]
グラフを幾何学グラフとみなす: ノードは基礎となる計量空間からランダムにサンプリングされ、その距離が指定された近傍半径以下であれば任意のノードが接続される。
ソーシャルネットワークでは、コミュニティは密集したサンプル領域としてモデル化でき、ハブはより大きな近傍半径を持つノードとしてモデル化できる。
我々は,未知のサンプリング密度を自己監督的に推定する手法を開発した。
論文 参考訳(メタデータ) (2022-10-15T08:01:08Z) - Curvature-informed multi-task learning for graph networks [56.155331323304]
最先端のグラフニューラルネットワークは、複数の特性を同時に予測しようとする。
この現象の潜在的な説明として、各特性の損失面の曲率が大きく異なり、非効率な学習につながる可能性がある。
論文 参考訳(メタデータ) (2022-08-02T18:18:41Z) - Slope and generalization properties of neural networks [0.0]
十分に訓練されたニューラルネットワーク分類器の勾配分布は、一般に、完全に接続されたネットワークの層幅から独立していることを示す。
傾斜は、関連する体積を通して類似した大きさであり、滑らかに変化する。また、再スケーリングの例でも予測されるように振る舞う。
本稿では、損失関数の一部として利用したり、ネットワークトレーニング中に基準を終了させたり、複雑度の観点からデータセットをランク付けしたりといった、斜面概念の応用の可能性について論じる。
論文 参考訳(メタデータ) (2021-07-03T17:54:27Z) - Refinement of Predicted Missing Parts Enhance Point Cloud Completion [62.997667081978825]
点雲完了は、部分的な観測から3次元形状の点集合表現を用いて完全な幾何学を予測するタスクである。
従来のアプローチでは、不完全点集合によって供給されるエンコーダ・デコーダモデルにより、点雲全体を直接推定するニューラルネットワークが提案されていた。
本稿では、欠落した幾何を計算し、既知の入力と予測点クラウドを融合することに焦点を当てたエンドツーエンドニューラルネットワークアーキテクチャを提案する。
論文 参考訳(メタデータ) (2020-10-08T22:01:23Z) - Towards Deeper Graph Neural Networks [63.46470695525957]
グラフ畳み込みは近傍の集約を行い、最も重要なグラフ操作の1つである。
いくつかの最近の研究で、この性能劣化は過度に滑らかな問題に起因している。
本研究では,大きな受容領域からの情報を適応的に組み込むディープ適応グラフニューラルネットワーク(DAGNN)を提案する。
論文 参考訳(メタデータ) (2020-07-18T01:11:14Z) - Localized convolutional neural networks for geospatial wind forecasting [0.0]
畳み込みニューラルネットワーク(CNN)は多くの空間データに関して正の特性を有する。
本研究では,CNNがグローバルな特徴に加えて,局所的な特徴を学習することのできる局所畳み込みニューラルネットワークを提案する。
どのような畳み込みレイヤにも追加可能で、簡単にエンドツーエンドのトレーニングが可能で、最小限の複雑さを導入でき、CNNは必要な範囲でそのメリットの大部分を維持できる。
論文 参考訳(メタデータ) (2020-05-12T17:14:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。