論文の概要: Neural TMDlayer: Modeling Instantaneous flow of features via SDE Generators

• arxiv url: http://arxiv.org/abs/2108.08891v1
• Date: Thu, 19 Aug 2021 19:54:04 GMT
• ステータス: 処理完了
• システム内更新日: 2021-08-23 13:37:16.265800
• Title: Neural TMDlayer: Modeling Instantaneous flow of features via SDE Generators
• Title（参考訳）: neural tmdlayer: sdeジェネレータによる特徴の瞬時流れのモデリング
• Authors: Zihang Meng, Vikas Singh, Sathya N. Ravi
• Abstract要約: 本稿では, 微分方程式(SDE)に基づくアイデアが, コンピュータビジョンの一連の問題に対して, 既存のアルゴリズムに新たな修正をもたらすかを検討する。 ショットラーニング,ポイントクラウドトランスフォーマー,深部変分セグメンテーションなど,多数のビジョンタスクについて有望な実験を行った。
• 参考スコア（独自算出の注目度）: 37.92379202320938
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study how stochastic differential equation (SDE) based ideas can inspire new modifications to existing algorithms for a set of problems in computer vision. Loosely speaking, our formulation is related to both explicit and implicit strategies for data augmentation and group equivariance, but is derived from new results in the SDE literature on estimating infinitesimal generators of a class of stochastic processes. If and when there is nominal agreement between the needs of an application/task and the inherent properties and behavior of the types of processes that we can efficiently handle, we obtain a very simple and efficient plug-in layer that can be incorporated within any existing network architecture, with minimal modification and only a few additional parameters. We show promising experiments on a number of vision tasks including few shot learning, point cloud transformers and deep variational segmentation obtaining efficiency or performance improvements.
• Abstract（参考訳）: 我々は,確率微分方程式(SDE)に基づくアイデアが,コンピュータビジョンの一連の問題に対して,既存のアルゴリズムに新たな修正をもたらすかを検討する。 我々の定式化は、データ拡張と群同値の明示的戦略と暗黙的戦略の両方に関連しているが、確率過程の無限小生成を推定するSDE文献における新しい結果から導かれる。 アプリケーション/タスクのニーズと、効率的に処理できるプロセスタイプの固有の特性と振舞いとの間に、名目上の一致がある場合、私たちは、最小限の修正とわずかな追加パラメータで、既存のネットワークアーキテクチャに組み込むことができる非常にシンプルで効率的なプラグイン層を得る。 我々は,ショット学習,ポイントクラウドトランスフォーマー,深部変動分節による効率向上や性能向上など,多くのビジョンタスクにおいて有望な実験を行う。

関連論文リスト

• Task-Oriented Real-time Visual Inference for IoVT Systems: A Co-design Framework of Neural Networks and Edge Deployment [61.20689382879937]
  タスク指向エッジコンピューティングは、データ分析をエッジにシフトすることで、この問題に対処する。 既存の手法は、高いモデル性能と低いリソース消費のバランスをとるのに苦労している。 ニューラルネットワークアーキテクチャを最適化する新しい協調設計フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-10-29T19:02:54Z)
• Synergistic Learning with Multi-Task DeepONet for Efficient PDE Problem Solving [5.692133861249929]
  マルチタスク学習(MTL)は、複数のタスクから有用な情報を活用し、一般化性能を向上させるために設計された帰納的伝達機構である。 本研究では、偏微分方程式(PDE)によって支配される科学と工学の問題にMTLを適用した。 マルチタスク・ディープ・オペレーター・ネットワーク(MT-DeepONet)を用いて、PDEと複数のジオメトリの様々な関数型ソース・用語の解を同時学習セッションで学習する。
  論文  参考訳（メタデータ） (2024-08-05T02:50:58Z)
• HAMLET: Graph Transformer Neural Operator for Partial Differential Equations [13.970458554623939]
  本稿では、ニューラルネットワークを用いて偏微分方程式(PDE)を解く際の課題を解決するために、新しいグラフトランスフォーマーフレームワークHAMLETを提案する。 このフレームワークは、モジュラー入力エンコーダを備えたグラフトランスフォーマーを使用して、微分方程式情報をソリューションプロセスに直接組み込む。 特に、HAMLETは、データの複雑さとノイズを増大させ、その堅牢性を示すために、効果的にスケールする。
  論文  参考訳（メタデータ） (2024-02-05T21:55:24Z)
• Deep Learning-based surrogate models for parametrized PDEs: handling geometric variability through graph neural networks [0.0]
  本研究では,時間依存型PDEシミュレーションにおけるグラフニューラルネットワーク(GNN)の可能性について検討する。 本稿では,データ駆動型タイムステッピング方式に基づくサロゲートモデルを構築するための体系的戦略を提案する。 GNNは,計算効率と新たなシナリオへの一般化の観点から,従来の代理モデルに代わる有効な代替手段を提供することができることを示す。
  論文  参考訳（メタデータ） (2023-08-03T08:14:28Z)
• Energy-efficient Task Adaptation for NLP Edge Inference Leveraging Heterogeneous Memory Architectures [68.91874045918112]
  Adapter-ALBERTは、様々なタスクにわたる最大データ再利用のための効率的なモデル最適化である。 検証されたNLPエッジアクセラレータ上でシミュレーションを行うことにより、モデルを不均一なオンチップメモリアーキテクチャにマッピングする利点を実証する。
  論文  参考訳（メタデータ） (2023-03-25T14:40:59Z)
• Latent Variable Representation for Reinforcement Learning [131.03944557979725]
  モデルに基づく強化学習のサンプル効率を改善するために、潜在変数モデルが学習、計画、探索をいかに促進するかは理論上、実証上、不明である。 状態-作用値関数に対する潜在変数モデルの表現ビューを提供する。これは、抽出可能な変分学習アルゴリズムと楽観主義/悲観主義の原理の効果的な実装の両方を可能にする。 特に,潜伏変数モデルのカーネル埋め込みを組み込んだUPB探索を用いた計算効率の良い計画アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-12-17T00:26:31Z)
• Towards Multi-spatiotemporal-scale Generalized PDE Modeling [4.924631198058705]
  渦流および速度関数形式における流体力学問題に対する様々なFNOとU-Netのようなアプローチの比較を行う。 一つの代理モデルを用いて異なるPDEパラメータと時間スケールへの一般化の有望な結果を示す。
  論文  参考訳（メタデータ） (2022-09-30T17:40:05Z)
• Robust and Scalable SDE Learning: A Functional Perspective [5.642000444047032]
  本稿では,SDE推定器の観測確率を学習目的で重要サンプリングする手法を提案する。 提案手法は,SDEに基づくアルゴリズムと比較して低分散推定を行う。 これにより、大規模並列ハードウェアを大幅な時間短縮に有効利用することができる。
  論文  参考訳（メタデータ） (2021-10-11T11:36:50Z)
• Energy-Efficient and Federated Meta-Learning via Projected Stochastic Gradient Ascent [79.58680275615752]
  エネルギー効率のよいメタラーニングフレームワークを提案する。 各タスクは別々のエージェントによって所有されていると仮定するため、メタモデルをトレーニングするために限られたタスクが使用される。
  論文  参考訳（メタデータ） (2021-05-31T08:15:44Z)
• Efficient Feature Transformations for Discriminative and Generative Continual Learning [98.10425163678082]
  継続的学習のための簡易タスク特化機能マップ変換戦略を提案する。 これらは新しいタスクを学習するための強力な柔軟性を提供し、ベースアーキテクチャに最小パラメータを追加することで実現される。 本手法の有効性と効率を,判別(cifar-100およびimagenet-1k)および生成的タスクの一連の実験を用いて実証する。
  論文  参考訳（メタデータ） (2021-03-25T01:48:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。