論文の概要: Fully reversible neural networks for large-scale surface and sub-surface
characterization via remote sensing
- arxiv url: http://arxiv.org/abs/2003.07474v1
- Date: Mon, 16 Mar 2020 23:54:22 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-23 04:08:51.663124
- Title: Fully reversible neural networks for large-scale surface and sub-surface
characterization via remote sensing
- Title(参考訳): リモートセンシングによる大規模表面・地下キャラクタリゼーションのための完全可逆ニューラルネットワーク
- Authors: Bas Peters, Eldad Haber, Keegan Lensink
- Abstract要約: ハイパースペクトルおよび空中磁気および重力データの大規模な空間/周波数スケールは、(サブ)表面のキャラクタリゼーションに畳み込みニューラルネットワークを使用する場合、メモリ問題を引き起こす。
本研究は,高スペクトル時間ラプスデータによる土地利用変化検出の例と,空中地学的・地質学的データによる地域帯水層マッピングの例を示す。
- 参考スコア(独自算出の注目度): 4.383011485317949
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The large spatial/frequency scale of hyperspectral and airborne magnetic and
gravitational data causes memory issues when using convolutional neural
networks for (sub-) surface characterization. Recently developed fully
reversible networks can mostly avoid memory limitations by virtue of having a
low and fixed memory requirement for storing network states, as opposed to the
typical linear memory growth with depth. Fully reversible networks enable the
training of deep neural networks that take in entire data volumes, and create
semantic segmentations in one go. This approach avoids the need to work in
small patches or map a data patch to the class of just the central pixel. The
cross-entropy loss function requires small modifications to work in conjunction
with a fully reversible network and learn from sparsely sampled labels without
ever seeing fully labeled ground truth. We show examples from land-use change
detection from hyperspectral time-lapse data, and regional aquifer mapping from
airborne geophysical and geological data.
- Abstract(参考訳): ハイパースペクトルと空中磁気および重力データの大規模な空間/周波数スケールは、(サブ)表面のキャラクタリゼーションに畳み込みニューラルネットワークを使用する際のメモリ問題を引き起こす。
近年開発された完全可逆的ネットワークは,ネットワーク状態の保存に必要なメモリ容量が低く固定されているため,メモリの制限を回避することができる。
完全な可逆性ネットワークは、データボリューム全体を取り込み、一行で意味セグメンテーションを作成するディープニューラルネットワークのトレーニングを可能にする。
このアプローチでは、小さなパッチで作業したり、中央のピクセルのみのクラスにデータパッチをマッピングする必要がなくなる。
クロスエントロピー損失関数は、完全に可逆的なネットワークと連携して動作し、完全なラベル付き基底真理を見ることなく、スパースサンプルラベルから学習するために小さな修正を必要とする。
本研究では,ハイパースペクトル時間経過データからの土地利用変化検出と,空中地球物理・地質データからの地域帯水層マッピングの例を示す。
関連論文リスト
- Fully invertible hyperbolic neural networks for segmenting large-scale surface and sub-surface data [4.1579007112499315]
本稿では,電信方程式に基づく完全可逆ネットワークについて述べる。
完全可逆ネットワークと畳み込みカーネルを含む層を直接圧縮形式で結合することにより、畳み込みカーネルの爆発に対処する。
超スペクトル土地利用分類、空中物理探査、および地震探査の例は、1チャンクで大きなデータ量を入力でき、小さなパッチで作業する必要がないことを示している。
論文 参考訳(メタデータ) (2024-06-30T05:35:12Z) - Topology-aware Embedding Memory for Continual Learning on Expanding Networks [63.35819388164267]
本稿では,メモリリプレイ技術を用いて,メモリ爆発問題に対処する枠組みを提案する。
Topology-aware Embedding Memory (TEM) を用いたPDGNNは最先端技術よりも優れている。
論文 参考訳(メタデータ) (2024-01-24T03:03:17Z) - Addressing caveats of neural persistence with deep graph persistence [54.424983583720675]
神経の持続性に影響を与える主な要因は,ネットワークの重みのばらつきと大きな重みの空間集中である。
単一層ではなく,ニューラルネットワーク全体へのニューラルネットワークの持続性に基づくフィルタリングの拡張を提案する。
これにより、ネットワーク内の永続的なパスを暗黙的に取り込み、分散に関連する問題を緩和するディープグラフの永続性測定が得られます。
論文 参考訳(メタデータ) (2023-07-20T13:34:11Z) - Semi-signed neural fitting for surface reconstruction from unoriented
point clouds [53.379712818791894]
より優れた符号付き距離場を再構成するためのSN-Fittingを提案する。
SSNフィッティングは半署名の監督と損失に基づく領域サンプリング戦略で構成されている。
我々は,SSN-Fittingが,異なる設定下で最先端の性能を達成することを示す実験を行う。
論文 参考訳(メタデータ) (2022-06-14T09:40:17Z) - Recurrent neural networks that generalize from examples and optimize by
dreaming [0.0]
オンライン学習のためのHebbの処方則に従って,ニューロン間のペア結合が構築される一般化されたホップフィールドネットワークを導入する。
ネットワークエクスペリエンスは、パターン毎にノイズの多いサンプルのサンプルで構成されたデータセットに過ぎません。
注目すべきは、睡眠メカニズムが常に正しく一般化するために必要なデータセットサイズを著しく削減することです。
論文 参考訳(メタデータ) (2022-04-17T08:40:54Z) - FuNNscope: Visual microscope for interactively exploring the loss
landscape of fully connected neural networks [77.34726150561087]
ニューラルネットワークの高次元景観特性を探索する方法を示す。
我々は、小さなニューラルネットワークの観測結果をより複雑なシステムに一般化する。
インタラクティブダッシュボードは、いくつかのアプリケーションネットワークを開放する。
論文 参考訳(メタデータ) (2022-04-09T16:41:53Z) - Deep Surface Reconstruction from Point Clouds with Visibility
Information [66.05024551590812]
視認性情報により生点雲を増大させる2つの簡単な方法を提案する。
提案手法は, 生成面の精度を向上するとともに, ネットワークの形状領域に対する一般化能力も向上する。
論文 参考訳(メタデータ) (2022-02-03T19:33:47Z) - Slope and generalization properties of neural networks [0.0]
十分に訓練されたニューラルネットワーク分類器の勾配分布は、一般に、完全に接続されたネットワークの層幅から独立していることを示す。
傾斜は、関連する体積を通して類似した大きさであり、滑らかに変化する。また、再スケーリングの例でも予測されるように振る舞う。
本稿では、損失関数の一部として利用したり、ネットワークトレーニング中に基準を終了させたり、複雑度の観点からデータセットをランク付けしたりといった、斜面概念の応用の可能性について論じる。
論文 参考訳(メタデータ) (2021-07-03T17:54:27Z) - Invertible Residual Network with Regularization for Effective Medical
Image Segmentation [2.76240219662896]
バックプロパゲーションを用いたニューラルネットワークのトレーニングにおいて、アクティベーションメモリフットプリントを大幅に削減するために、可逆ニューラルネットワークが適用されている。
可逆残存ネットワーク(部分可逆残存ネットワーク, Partially-InvRes)と完全可逆残存ネットワーク(Fully-InvRes)の2つのバージョンを提案する。
この結果から,部分可逆ネットワークをボリュームセグメンテーションの中心として用いることにより,メモリオーバヘッドを削減できるだけでなく,非可逆的3d unetと同等なセグメンテーション性能を実現することができた。
論文 参考訳(メタデータ) (2021-03-16T13:19:59Z) - Topological obstructions in neural networks learning [67.8848058842671]
損失勾配関数フローのグローバル特性について検討する。
損失関数とそのモースコンプレックスの位相データ解析を用いて,損失面の大域的特性と勾配軌道に沿った局所的挙動を関連付ける。
論文 参考訳(メタデータ) (2020-12-31T18:53:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。