論文の概要: Towards Full-parameter and Parameter-efficient Self-learning For Endoscopic Camera Depth Estimation

• arxiv url: http://arxiv.org/abs/2410.00979v2
• Date: Thu, 10 Oct 2024 03:48:46 GMT
• ステータス: 処理完了
• システム内更新日: 2024-11-05 00:00:02.445703
• Title: Towards Full-parameter and Parameter-efficient Self-learning For Endoscopic Camera Depth Estimation
• Title（参考訳）: 内視鏡カメラ深度推定のための全パラメータとパラメータ効率の自己学習に向けて
• Authors: Shuting Zhao, Chenkang Du, Kristin Qi, Xinrong Chen, Xinhan Di,
• Abstract要約: 内視鏡的深度推定のための全パラメータおよびパラメータ効率学習フレームワークを提案する。 第1段階では、注意、畳み込み、多層知覚のサブ空間が異なるサブ空間内に同時に適応される。 第2段階では,部分空間合成におけるメモリ効率の最適化が提案され,性能がさらに向上した。
• 参考スコア（独自算出の注目度）: 4.1676654279172265
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Adaptation methods are developed to adapt depth foundation models to endoscopic depth estimation recently. However, such approaches typically under-perform training since they limit the parameter search to a low-rank subspace and alter the training dynamics. Therefore, we propose a full-parameter and parameter-efficient learning framework for endoscopic depth estimation. At the first stage, the subspace of attention, convolution and multi-layer perception are adapted simultaneously within different sub-spaces. At the second stage, a memory-efficient optimization is proposed for subspace composition and the performance is further improved in the united sub-space. Initial experiments on the SCARED dataset demonstrate that results at the first stage improves the performance from 10.2% to 4.1% for Sq Rel, Abs Rel, RMSE and RMSE log in the comparison with the state-of-the-art models.
• Abstract（参考訳）: 近年,深度基礎モデルの内視鏡的深度推定に適応する手法が開発されている。 しかし、そのようなアプローチは、パラメータ探索を低ランクな部分空間に制限し、トレーニングのダイナミクスを変更するため、典型的には性能の低いトレーニングである。 そこで本研究では,内視鏡的深度推定のための全パラメータ・パラメータ効率学習フレームワークを提案する。 第1段階では、注意、畳み込み、多層知覚のサブ空間が異なるサブ空間内に同時に適応される。 第2段階では,部分空間合成におけるメモリ効率の最適化が提案され,統一された部分空間では性能がさらに向上する。 SCAREDデータセットの初期実験では、Sq Rel、Abs Rel、RMSE、RMSEログを最先端のモデルと比較すると、最初の段階での結果が10.2%から4.1%に改善された。

関連論文リスト

• Efficient Adaptive Optimization via Subset-Norm and Subspace-Momentum: Fast, Memory-Reduced Training with Convergence Guarantees [5.399838579600896]
  本稿では,メモリ最適化のための2つの補完手法を提案する。 1つのテクニックであるSubset-Normは、運動量状態のメモリフットプリントを低次元のサブスペースで削減する。 別の手法であるSubspace-Momentumは、運動量状態のメモリフットプリントを低次元のサブスペースで削減する。
  論文  参考訳（メタデータ） (2024-11-11T16:48:07Z)
• Scaling Exponents Across Parameterizations and Optimizers [94.54718325264218]
  本稿では,先行研究における重要な仮定を考察し,パラメータ化の新たな視点を提案する。 私たちの経験的調査には、3つの組み合わせでトレーニングされた数万のモデルが含まれています。 最高の学習率のスケーリング基準は、以前の作業の仮定から除外されることがよくあります。
  論文  参考訳（メタデータ） (2024-07-08T12:32:51Z)
• Hierarchical Features Matter: A Deep Exploration of GAN Priors for Improved Dataset Distillation [51.44054828384487]
  階層的生成潜在蒸留(H-GLaD)と呼ばれる新しいパラメータ化法を提案する。 本手法はGAN内の階層層を系統的に探索する。 さらに,合成データセット評価に伴う計算負担を軽減するために,新しいクラス関連特徴距離尺度を導入する。
  論文  参考訳（メタデータ） (2024-06-09T09:15:54Z)
• An Adaptive Dimension Reduction Estimation Method for High-dimensional Bayesian Optimization [6.79843988450982]
  BOを高次元設定に拡張するための2段階最適化フレームワークを提案する。 私たちのアルゴリズムは、これらのステップを並列またはシーケンスで操作する柔軟性を提供します。 数値実験により,困難シナリオにおける本手法の有効性が検証された。
  論文  参考訳（メタデータ） (2024-03-08T16:21:08Z)
• PPEA-Depth: Progressive Parameter-Efficient Adaptation for Self-Supervised Monocular Depth Estimation [24.68378829544394]
  本稿では,自己教師付き深度推定のための事前学習画像モデルを転送するプログレッシブ適応手法であるPPEA-Depthを提案する。 トレーニングは2つのシーケンシャルステージで構成されている: データセット上でトレーニングされた初期フェーズは、主に静的シーンで構成され、より複雑なデータセットへの拡張によって後継される。 実験によると、PPEA-DepthはKITTI、CityScapes、DDADデータセット上で最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2023-12-20T14:45:57Z)
• On the Impact of Overparameterization on the Training of a Shallow Neural Network in High Dimensions [0.0]
  本研究では,2次活性化関数と2次コストを持つ浅部ニューラルネットワークのトレーニングダイナミクスについて検討する。 同じニューラルアーキテクチャに関する以前の研究と並行して、集団リスクの勾配流に従って最適化を行う。
  論文  参考訳（メタデータ） (2023-11-07T08:20:31Z)
• NerfingMVS: Guided Optimization of Neural Radiance Fields for Indoor Multi-view Stereo [97.07453889070574]
  本稿では,従来のSfM再構成と学習に基づく先行手法を併用した多視点深度推定手法を提案する。 提案手法は室内シーンにおける最先端手法を著しく上回ることを示す。
  論文  参考訳（メタデータ） (2021-09-02T17:54:31Z)
• An Adaptive Framework for Learning Unsupervised Depth Completion [59.17364202590475]
  カラー画像から高密度深度マップとそれに伴うスパース深度測定を推定する手法を提案する。 正規化とコビジュアライゼーションは、モデルの適合度とデータによって関連付けられており、単一のフレームワークに統合可能であることを示す。
  論文  参考訳（メタデータ） (2021-06-06T02:27:55Z)
• Adaptive Gradient Method with Resilience and Momentum [120.83046824742455]
  レジリエンスとモメンタム(AdaRem)を用いた適応勾配法を提案する。 AdaRemは、過去の1つのパラメータの変化方向が現在の勾配の方向と一致しているかどうかに応じてパラメータワイズ学習率を調整する。 本手法は,学習速度とテスト誤差の観点から,従来の適応学習率に基づくアルゴリズムよりも優れていた。
  論文  参考訳（メタデータ） (2020-10-21T14:49:00Z)
• Appearance Learning for Image-based Motion Estimation in Tomography [60.980769164955454]
  トモグラフィー画像では、取得した信号に擬似逆フォワードモデルを適用することにより、解剖学的構造を再構成する。 患者の動きは、復元過程における幾何学的アライメントを損なうため、運動アーティファクトが生じる。 本研究では,スキャン対象から独立して剛性運動の構造を認識する外観学習手法を提案する。
  論文  参考訳（メタデータ） (2020-06-18T09:49:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。