論文の概要: DiM: $f$-Divergence Minimization Guided Sharpness-Aware Optimization for Semi-supervised Medical Image Segmentation

• arxiv url: http://arxiv.org/abs/2411.12350v1
• Date: Tue, 19 Nov 2024 09:07:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-20 13:38:00.900015
• Title: DiM: $f$-Divergence Minimization Guided Sharpness-Aware Optimization for Semi-supervised Medical Image Segmentation
• Title（参考訳）: DiM:$f$-divergence Minimization Guided Sharpness-Aware Optimization for Semi-supervised Medical Image Segmentation
• Authors: Bingli Wang, Houcheng Su, Nan Yin, Mengzhu Wang, Li Shen,
• Abstract要約: 本稿では,$f$-divergence最小化に基づくシャープネスを考慮した最適化手法を提案する。 この方法はモデルパラメータの感度を微調整することでモデルの安定性を向上させる。 さらに、$f$-divergenceの導入により、さまざまなデータセットへのモデルの適応性も向上する。
• 参考スコア（独自算出の注目度）: 8.70112307145508
• License:
• Abstract: As a technique to alleviate the pressure of data annotation, semi-supervised learning (SSL) has attracted widespread attention. In the specific domain of medical image segmentation, semi-supervised methods (SSMIS) have become a research hotspot due to their ability to reduce the need for large amounts of precisely annotated data. SSMIS focuses on enhancing the model's generalization performance by leveraging a small number of labeled samples and a large number of unlabeled samples. The latest sharpness-aware optimization (SAM) technique, which optimizes the model by reducing the sharpness of the loss function, has shown significant success in SSMIS. However, SAM and its variants may not fully account for the distribution differences between different datasets. To address this issue, we propose a sharpness-aware optimization method based on $f$-divergence minimization (DiM) for semi-supervised medical image segmentation. This method enhances the model's stability by fine-tuning the sensitivity of model parameters and improves the model's adaptability to different datasets through the introduction of $f$-divergence. By reducing $f$-divergence, the DiM method not only improves the performance balance between the source and target datasets but also prevents performance degradation due to overfitting on the source dataset.
• Abstract（参考訳）: データアノテーションの圧力を軽減する技術として、半教師付き学習(SSL)が広く注目を集めている。 医用画像セグメンテーションの特定の領域では、大量の正確な注釈付きデータの必要性を減らし、半教師付き手法(SSMIS)が研究ホットスポットとなっている。 SSMISは、少数のラベル付きサンプルと多数のラベルなしサンプルを活用することにより、モデルの一般化性能の向上に重点を置いている。 損失関数のシャープネスを低減してモデルを最適化する最新のシャープネス・アウェア・最適化(SAM)技術は、SSMISにおいて大きな成功を収めている。 しかし、SAMとその変種は、異なるデータセット間の分布の違いを完全に説明できないかもしれない。 この問題を解決するために,半教師付き医用画像分割のための$f$-divergence Minimization (DiM)に基づくシャープネス対応最適化手法を提案する。 この方法はモデルパラメータの感度を微調整することでモデルの安定性を高め、$f$-divergenceを導入して異なるデータセットへのモデルの適応性を向上させる。 $f$-divergenceの削減により、DiMメソッドはソースとターゲットデータセットのパフォーマンスバランスを改善するだけでなく、ソースデータセットの過度な適合によるパフォーマンス低下を防ぐ。

関連論文リスト

• Semi-Supervised Reward Modeling via Iterative Self-Training [52.48668920483908]
  本稿では,未ラベルデータを用いたRMトレーニングを強化する手法であるSemi-Supervised Reward Modeling (SSRM)を提案する。 SSRMは、追加のラベリングコストを発生させることなく、報酬モデルを大幅に改善することを示した。 全体として、SSRMは、人間が注釈付けした大量のデータへの依存を大幅に減らし、効果的な報酬モデルのトレーニングに要する全体的なコストと時間を削減する。
  論文  参考訳（メタデータ） (2024-09-10T22:57:58Z)
• Model Inversion Attacks Through Target-Specific Conditional Diffusion Models [54.69008212790426]
  モデル反転攻撃(MIA)は、ターゲット分類器のトレーニングセットからプライベートイメージを再構築することを目的としており、それによってAIアプリケーションにおけるプライバシー上の懸念が高まる。 従来のGANベースのMIAは、GANの固有の欠陥と潜伏空間における最適化の偏りにより、劣った遺伝子的忠実度に悩まされる傾向にある。 これらの問題を緩和するために拡散モデル反転(Diff-MI)攻撃を提案する。
  論文  参考訳（メタデータ） (2024-07-16T06:38:49Z)
• Agnostic Sharpness-Aware Minimization [29.641227264358704]
  シャープネス認識(SAM)は、トレーニング損失とロスランドスケープのシャープネスを最小化することにより、ディープニューラルネットワークトレーニングの改善に役立っている。 Model-Agnostic Meta-Learning (MAML)は、モデルの適応性を改善するために設計されたフレームワークである。 我々はSAMとMAMLの両方の原則を組み合わせた新しいアプローチであるAgnostic-SAMを紹介する。
  論文  参考訳（メタデータ） (2024-06-11T09:49:00Z)
• Adaptive Bidirectional Displacement for Semi-Supervised Medical Image Segmentation [11.195959019678314]
  整合性学習は、半教師付き医療画像セグメンテーションにおいて、ラベルのないデータに取り組むための中心的な戦略である。 本稿では,上記の課題を解決するための適応的双方向変位法を提案する。
  論文  参考訳（メタデータ） (2024-05-01T08:17:43Z)
• Self-Supervised Dataset Distillation for Transfer Learning [77.4714995131992]
  ラベルなしデータセットを、効率的な自己教師付き学習(SSL)のための小さな合成サンプル群に蒸留する新しい問題を提案する。 両レベル最適化におけるSSL目標に対する合成サンプルの勾配は、データ拡張やマスキングから生じるランダム性から、テキストバイアスを受けていることを最初に証明する。 転送学習を含む様々な応用における本手法の有効性を実証的に検証する。
  論文  参考訳（メタデータ） (2023-10-10T10:48:52Z)
• Informative Data Mining for One-Shot Cross-Domain Semantic Segmentation [84.82153655786183]
  Informative Data Mining (IDM) と呼ばれる新しいフレームワークを提案し、セマンティックセグメンテーションのための効率的なワンショットドメイン適応を実現する。 IDMは、最も情報性の高いサンプルを特定するために不確実性に基づく選択基準を提供し、迅速に適応し、冗長なトレーニングを減らす。 提案手法は,GTA5/SYNTHIAからCityscapesへの適応タスクにおいて,既存の手法より優れ,56.7%/55.4%の最先端のワンショット性能を実現している。
  論文  参考訳（メタデータ） (2023-09-25T15:56:01Z)
• ArSDM: Colonoscopy Images Synthesis with Adaptive Refinement Semantic Diffusion Models [69.9178140563928]
  大腸内視鏡検査は臨床診断や治療に不可欠である。 注釈付きデータの不足は、既存の手法の有効性と一般化を制限する。 本稿では, 下流作業に有用な大腸内視鏡画像を生成するために, 適応Refinement Semantic Diffusion Model (ArSDM)を提案する。
  論文  参考訳（メタデータ） (2023-09-03T07:55:46Z)
• Scale-Equivalent Distillation for Semi-Supervised Object Detection [57.59525453301374]
  近年のSemi-Supervised Object Detection (SS-OD) 法は主に自己学習に基づいており、教師モデルにより、ラベルなしデータを監視信号としてハードな擬似ラベルを生成する。 実験結果から,これらの手法が直面する課題を分析した。 本稿では,大規模オブジェクトサイズの分散とクラス不均衡に頑健な簡易かつ効果的なエンド・ツー・エンド知識蒸留フレームワークであるSED(Scale-Equivalent Distillation)を提案する。
  論文  参考訳（メタデータ） (2022-03-23T07:33:37Z)
• Evolving parametrized Loss for Image Classification Learning on Small Datasets [1.4685355149711303]
  本稿ではメタロスネットワーク(MLN)と呼ばれるパラメタ化損失関数の進化のためのメタラーニング手法を提案する。 本手法では,MLNを識別対象関数として分類学習の枠組みに組み込む。 実験の結果,MLNは古典的クロスエントロピー誤差や平均二乗誤差と比較して,一般化を効果的に改善した。
  論文  参考訳（メタデータ） (2021-03-15T10:00:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。