論文の概要: Parameter-Efficient Subspace Decoupling ViT for Mitigating Multi-Task Negative Transfer in Histological Scoring
- arxiv url: http://arxiv.org/abs/2605.29852v1
- Date: Thu, 28 May 2026 12:33:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-30 02:45:56.23955
- Title: Parameter-Efficient Subspace Decoupling ViT for Mitigating Multi-Task Negative Transfer in Histological Scoring
- Title(参考訳): マルチタスク負の移動を緩和するためのパラメータ効率の良いサブスペースデカップリング ViT
- Authors: Youhan Huang, Jiajun Li, Yilin Fang, Shuai Wang, Chuheng Li,
- Abstract要約: 非アルコール性脂肪肝疾患(NAFLD)の診断には組織学的評価が不可欠である
しかし、アノテーションのコストと負の転送のため、自動化は依然として困難である。
本稿では,軽量タスク固有アダプタを統合したサブスペース分離型マルチタスクビジョントランス (ViT) を提案する。
- 参考スコア(独自算出の注目度): 11.485228840403048
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Histological scoring is essential for diagnosing Non-Alcoholic Fatty Liver Disease (NAFLD), yet its automation remains challenging due to the high annotation cost and negative transfer among the strongly correlated NAFLD Activity Score (NAS) indicators in multi-task learning. To address this issue, we propose a subspace-decoupled multi-task Vision Transformer (ViT) that integrates lightweight task-specific Adapters with orthogonality-based constraints. This design constructs independent feature subspaces for steatosis, ballooning, and inflammation, effectively reducing task interference while retaining shared representations. We further construct a curated multi-task mouse NAFLD histology dataset with expert annotations for all NAS components. Experimental results demonstrate that the proposed method improves multi-task stability and generalization with substantially reduced computational cost compared to training separate single-task models. The code and the curated dataset have been prepared and will be made publicly available upon acceptance to support reproducibility.
- Abstract(参考訳): 非アルコール性脂肪肝疾患 (NAFLD) の診断には組織学的評価が不可欠であるが, マルチタスク学習におけるNAFLD活性スコア (NAS) 指標の高アノテーションコストと陰性移動のため, その自動化は依然として困難である。
この問題に対処するために,タスク固有の軽量アダプタと直交性に基づく制約を統合するサブスペース分離型マルチタスク視覚変換器(ViT)を提案する。
この設計は、ステアトーシス、バルーン、炎症のための独立した特徴部分空間を構築し、共有表現を維持しながらタスク干渉を効果的に軽減する。
さらに,全NASコンポーネントに対する専門家アノテーションを用いたマルチタスクマウスNAFLDヒストロジーデータセットを構築した。
実験結果から,提案手法は,個別の単一タスクモデルの学習と比較して,計算コストを大幅に削減して,マルチタスクの安定性と一般化を向上することが示された。
コードとキュレートされたデータセットは準備されており、再現性をサポートするために受け入れられ次第公開されます。
関連論文リスト
- Decomposing the Basic Abilities of Large Language Models: Mitigating Cross-Task Interference in Multi-Task Instruct-Tuning [58.90602461025722]
大規模言語モデル(LLM)におけるマルチタスクインストラクトチューニングは、主にマルチタスクインストラクトチューニングによって駆動されている。
トレーニングパラダイムは、異なるタスク間で共有されたパラメータよりも勾配が矛盾するため、クロスタスク干渉と呼ばれる重要な問題に悩まされる。
本稿では,LLMパラメータを基本能力を表す高特異値LoRAエキスパートに分解するBADITを提案する。
6LLMのSuperNIベンチマークで広範な実験を行い、実験結果から、BADITはSOTA法より優れ、クロスタスク干渉の程度を緩和できることが示された。
論文 参考訳(メタデータ) (2026-05-07T05:08:58Z) - Model Merging in the Essential Subspace [78.5390284258307]
モデルマージは、複数のタスク固有の細調整されたモデルを、追加のトレーニングなしで単一のマルチタスクモデルに統合することを目的としている。
広範囲の研究にもかかわらず、タスク干渉は依然として大きな障害であり、しばしば統合されたモデルの性能を損なう。
効率的なモデルマージのための堅牢なフレームワークであるESM(Essential Subspace Merging)を提案する。
論文 参考訳(メタデータ) (2026-02-23T00:33:38Z) - BOTS: A Unified Framework for Bayesian Online Task Selection in LLM Reinforcement Finetuning [82.925106913459]
強化微調整(Reinforcement Finetuning, RFT)は、大規模言語モデル(LLM)を人間の嗜好と整合させ、推論を強化するための重要な手法である。
RFT強化微調整におけるベイズオンラインタスク選択のための統合フレームワークBOTSを紹介する。
論文 参考訳(メタデータ) (2025-10-30T11:15:23Z) - Exploiting Unlabeled Structures through Task Consistency Training for Versatile Medical Image Segmentation [24.25178585285867]
余分なモデルを必要としないクラス不均衡に対処するためのタスク一貫性トレーニング(TCT)フレームワークを導入する。
低整合性、潜在的にノイズの多いデータからの誤りの伝搬を避けるため、そのようなデータを除外するためのフィルタリング戦略を提案する。
各種臨床施設の腹腔内データセット8種について実験を行い,本手法の有効性を実証した。
論文 参考訳(メタデータ) (2025-09-05T01:04:32Z) - StableMTL: Repurposing Latent Diffusion Models for Multi-Task Learning from Partially Annotated Synthetic Datasets [14.867396697566257]
部分学習のセットアップをゼロショット設定に拡張し、複数のデータセット上でマルチタスクモデルをトレーニングします。
我々の方法であるStableMTLは、遅延回帰のために画像生成装置を再利用する。
タスク毎の損失に対して、注意深いバランスを必要とするのではなく、統一された潜伏損失を採用し、より多くのタスクにシームレスなスケーリングを可能にします。
論文 参考訳(メタデータ) (2025-06-09T17:59:59Z) - Disentangled Latent Spaces Facilitate Data-Driven Auxiliary Learning [9.571499333904969]
補助的なタスクは、データが不足したり、関心の主タスクが極めて複雑である状況での学習を容易にする。
Detauxと呼ばれる新しいフレームワークを提案する。このフレームワークでは,非関連性のある新たな補助的分類タスクを見つけるために,弱い教師付き逆絡手順が使用される。
切り離し手順は表現レベルで機能し、主タスクに関連する変動を孤立した部分空間に分離する。
論文 参考訳(メタデータ) (2023-10-13T17:40:39Z) - Multi-task Over-the-Air Federated Learning: A Non-Orthogonal
Transmission Approach [52.85647632037537]
複数の学習タスクがエッジサーバ(ES)の協調の下でデータ収集および学習モデルのためのエッジデバイスを共有するマルチタスク・オーバーテア・フェデレーション・ラーニング(MOAFL)フレームワークを提案する。
収束解析と数値計算の両方の結果から,MOAFLフレームワークは学習性能を著しく低下させることなく,複数のタスクのアップリンク帯域幅の消費を大幅に削減できることが示された。
論文 参考訳(メタデータ) (2021-06-27T13:09:32Z) - Learning Invariant Representations across Domains and Tasks [81.30046935430791]
本稿では,この教師なしタスク転送問題を解決するための新しいタスク適応ネットワーク(tan)を提案する。
ドメイン・アドバーサル・トレーニングによる伝達可能な機能を学習することに加えて、学習から学習への戦略を用いてタスクの意味を適応させる新しいタスク・セマンティクス・アダプタを提案する。
TANは最近の強いベースラインに比べてリコールとF1スコアを5.0%と7.8%大きく向上させた。
論文 参考訳(メタデータ) (2021-03-03T11:18:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。