論文の概要: Revisiting Distillation for Continual Learning on Visual Question Localized-Answering in Robotic Surgery

• arxiv url: http://arxiv.org/abs/2307.12045v1
• Date: Sat, 22 Jul 2023 10:35:25 GMT
• ステータス: 処理完了
• システム内更新日: 2023-07-25 18:19:51.663380
• Title: Revisiting Distillation for Continual Learning on Visual Question Localized-Answering in Robotic Surgery
• Title（参考訳）: ロボット手術における視覚質問局所聴力の連続学習のための蒸留の再検討
• Authors: Long Bai, Mobarakol Islam, Hongliang Ren
• Abstract要約: ビジュアルクエストローカライズド・アンサーリング(VQLA)システムは、外科教育における知識のあるアシスタントとして機能する。 ディープニューラルネットワーク(DNN)は、新しい知識を学ぶ際に破滅的な忘れに苦しむ。
• 参考スコア（独自算出の注目度）: 20.509915509237818
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The visual-question localized-answering (VQLA) system can serve as a knowledgeable assistant in surgical education. Except for providing text-based answers, the VQLA system can highlight the interested region for better surgical scene understanding. However, deep neural networks (DNNs) suffer from catastrophic forgetting when learning new knowledge. Specifically, when DNNs learn on incremental classes or tasks, their performance on old tasks drops dramatically. Furthermore, due to medical data privacy and licensing issues, it is often difficult to access old data when updating continual learning (CL) models. Therefore, we develop a non-exemplar continual surgical VQLA framework, to explore and balance the rigidity-plasticity trade-off of DNNs in a sequential learning paradigm. We revisit the distillation loss in CL tasks, and propose rigidity-plasticity-aware distillation (RP-Dist) and self-calibrated heterogeneous distillation (SH-Dist) to preserve the old knowledge. The weight aligning (WA) technique is also integrated to adjust the weight bias between old and new tasks. We further establish a CL framework on three public surgical datasets in the context of surgical settings that consist of overlapping classes between old and new surgical VQLA tasks. With extensive experiments, we demonstrate that our proposed method excellently reconciles learning and forgetting on the continual surgical VQLA over conventional CL methods. Our code is publicly accessible.
• Abstract（参考訳）: ビジュアルクエストローカライズド・アンサーリング(VQLA)システムは、外科教育における知識のあるアシスタントとして機能する。 テキストベースの回答を提供する以外、VQLAシステムは興味のある領域を強調して、手術シーンの理解を深める。 しかし、ディープニューラルネットワーク(DNN)は、新しい知識を学ぶ際に破滅的な忘れに苦しむ。 具体的には、DNNがインクリメンタルなクラスやタスクを学ぶと、古いタスクのパフォーマンスが劇的に低下します。 さらに、医療データのプライバシーやライセンスの問題から、継続学習(CL)モデルを更新する際に古いデータにアクセスすることはしばしば困難である。 そこで我々は,DNNの剛性・塑性トレードオフを逐次学習パラダイムで探求し,バランスをとるために,非経験的連続手術用VQLAフレームワークを開発した。 CL作業における蒸留損失を再考し, 剛性塑性認識蒸留(RP-Dist)と自己校正ヘテロジニアス蒸留(SH-Dist)を提案する。 ウェイトアライメント(wa)テクニックも統合され、古いタスクと新しいタスク間のウェイトバイアスを調整する。 さらに,従来のVQLAタスクと新しいVQLAタスクの重複クラスからなる外科的設定の文脈において,3つの公開外科的データセットのCLフレームワークを構築した。 広範な実験により,本手法は従来のcl法に比べて連続手術vqlaの学習と忘れることとを良好に調和させることを実証した。 私たちのコードは公開アクセス可能です。

関連論文リスト

• Procedure-Aware Surgical Video-language Pretraining with Hierarchical Knowledge Augmentation [51.222684687924215]
  手術用ビデオ言語事前学習は、知識領域のギャップとマルチモーダルデータの不足により、独特な課題に直面している。 本稿では,これらの課題に対処するために,階層的知識向上手法と新しい手術的知識向上型ビデオランゲージ事前学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-09-30T22:21:05Z)
• CLEO: Continual Learning of Evolving Ontologies [12.18795037817058]
  継続的な学習(CL)は、知的システムに人間の生涯学習を浸透させることを目的としている。 一般的な学習プロセスは、学習情報だけでなく、既存の情報の洗練にも限界がある。 CLEOは、時間とともに現実の変化に適応するインテリジェントなシステムの必要性によって動機付けられている。
  論文  参考訳（メタデータ） (2024-07-11T11:32:33Z)
• LLM-Assisted Multi-Teacher Continual Learning for Visual Question Answering in Robotic Surgery [57.358568111574314]
  患者のデータのプライバシは、モデル更新時に古いデータの可用性を制限することが多い。 CL研究は外科領域で2つの重要な問題を見落としていた。 本稿では,多モーダル大規模言語モデル (LLM) と適応重み付け手法を用いて,これらの問題に対処することを提案する。
  論文  参考訳（メタデータ） (2024-02-26T15:35:24Z)
• Fine-Grained Knowledge Selection and Restoration for Non-Exemplar Class Incremental Learning [64.14254712331116]
  非典型的なクラスインクリメンタル学習は、過去のトレーニングデータにアクセスすることなく、新しいタスクと古いタスクの両方を学ぶことを目的としている。 本稿では, きめ細かい知識選択と復元のための新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2023-12-20T02:34:11Z)
• Automating Continual Learning [42.710124929514066]
  汎用学習システムは、常に変化する環境において、オープンエンドで自己改善するべきである。 本稿では,自己参照型ニューラルネットワークのメタ学習のための自動連続学習(ACL)を提案する。
  論文  参考訳（メタデータ） (2023-12-01T01:25:04Z)
• CAT-ViL: Co-Attention Gated Vision-Language Embedding for Visual Question Localized-Answering in Robotic Surgery [14.52406034300867]
  手術用視覚質問定位回答システム(VQLA)は、医療学生やジュニア外科医が記録された手術ビデオから学び、理解するのに役立ちます。 手術シナリオにおけるVQLAに対するCAT-ViL(Co-Attention gaTed Vision-Language)を組み込んだエンドツーエンドトランスフォーマを提案する。 提案手法は,外科的シーン理解のための有望なソリューションを提供し,外科的訓練のための人工知能(AI)ベースのVQLAシステムにおける第一歩を開拓する。
  論文  参考訳（メタデータ） (2023-07-11T11:35:40Z)
• Adapter Learning in Pretrained Feature Extractor for Continual Learning of Diseases [66.27889778566734]
  現在、インテリジェント診断システムには、デプロイされたばかりの新しい病気を継続的に診断する能力がない。 特に、新しい疾患のトレーニングデータを用いたインテリジェント診断システムの更新は、古い疾患の知識を壊滅的に忘れてしまう可能性がある。 ACLと呼ばれるアダプタベースの連続学習フレームワークは、新しい病気の集合を効果的に学習するために提案されている。
  論文  参考訳（メタデータ） (2023-04-18T15:01:45Z)
• Federated Cycling (FedCy): Semi-supervised Federated Learning of Surgical Phases [57.90226879210227]
  FedCyは、FLと自己教師付き学習を組み合わせた半教師付き学習(FSSL)手法で、ラベル付きビデオとラベルなしビデオの両方の分散データセットを利用する。 外科的段階の自動認識作業において,最先端のFSSL法よりも顕著な性能向上を示した。
  論文  参考訳（メタデータ） (2022-03-14T17:44:53Z)
• LRTD: Long-Range Temporal Dependency based Active Learning for Surgical Workflow Recognition [67.86810761677403]
  本稿では,費用対効果の高い手術ビデオ解析のための新しい能動的学習法を提案する。 具体的には,非局所的再帰的畳み込みネットワーク (NL-RCNet) を提案する。 手術ワークフロー認識タスクを実行することで,大規模な手術ビデオデータセット(Cholec80)に対するアプローチを検証する。
  論文  参考訳（メタデータ） (2020-04-21T09:21:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。