Fugu-MT 論文翻訳(概要): SciLT: Long-Tailed Classification in Scientific Image Domains

論文の概要: SciLT: Long-Tailed Classification in Scientific Image Domains

arxiv url: http://arxiv.org/abs/2604.03687v1
Date: Sat, 04 Apr 2026 11:11:47 GMT
ステータス: 翻訳完了
システム内更新日: 2026-04-07 15:49:18.723662
Title: SciLT: Long-Tailed Classification in Scientific Image Domains
Title（参考訳）: SciLT:科学画像領域の長期分類
Authors: Jiahao Chen, Bing Su,
Abstract要約: 我々は、純粋に視覚的かつパラメータ効率の良い微調整パラダイムの下で、科学的に長い尾の認識について検討する。これらの知見に触発され、適応的特徴融合と双極的学習を通じて多レベル表現を利用するフレームワークSciLTを提案する。
参考スコア（独自算出の注目度）: 19.916080605584302
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Long-tailed recognition has benefited from foundation models and fine-tuning paradigms, yet existing studies and benchmarks are mainly confined to natural image domains, where pre-training and fine-tuning data share similar distributions. In contrast, scientific images exhibit distinct visual characteristics and supervision signals, raising questions about the effectiveness of fine-tuning foundation models in such settings. In this work, we investigate scientific long-tailed recognition under a purely visual and parameter-efficient fine-tuning (PEFT) paradigm. Experiments on three scientific benchmarks show that fine-tuning foundation models yields limited gains, and reveal that penultimate-layer features play an important role, particularly for tail classes. Motivated by these findings, we propose SciLT, a framework that exploits multi-level representations through adaptive feature fusion and dual-supervision learning. By jointly leveraging penultimate- and final-layer features, SciLT achieves balanced performance across head and tail classes. Extensive experiments demonstrate that SciLT consistently outperforms existing methods, establishing a strong and practical baseline for scientific long-tailed recognition and providing valuable guidance for adapting foundation models to scientific data with substantial domain shifts.
Abstract（参考訳）: 長い尾の認識は基礎モデルと微調整パラダイムの恩恵を受けているが、既存の研究とベンチマークは主に自然画像領域に限られており、事前学習と微調整のデータも同様の分布を共有している。対照的に、科学的画像は視覚的な特徴と監督信号を示し、このような環境での微調整基盤モデルの有効性について疑問を呈している。本研究では,純粋に視覚的かつパラメータ効率のよい微調整(PEFT)パラダイムに基づく科学的長期認識について検討する。 3つの科学的ベンチマークの実験では、微調整基礎モデルでは限られた利得が得られることが示され、特にテールクラスにおいて、垂直層の特徴が重要な役割を担っていることが明らかとなった。これらの知見に触発され、適応的特徴融合と双極的学習を通じて多レベル表現を利用するフレームワークSciLTを提案する。 SciLTは、垂直層と最終層の特徴を併用することにより、頭と尾のクラス間でのバランスの取れた性能を達成する。広範な実験により、SciLTは既存の手法を一貫して上回り、科学的な長い尾の認識のための強力で実践的なベースラインを確立し、基礎モデルを実質的な領域シフトを持つ科学データに適用するための貴重なガイダンスを提供する。

関連論文リスト

A Survey of Scientific Large Language Models: From Data Foundations to Agent Frontiers [251.23085679210206]
科学大規模言語モデル(Sci-LLMs)は、科学研究において、知識の表現、統合、適用の方法を変えつつある。この調査は、モデルとその基盤となるデータ基板の共進化として、Sci-LLMの開発を再考する。我々は、科学的データの統一された分類法と、科学的知識の階層的なモデルを定式化する。
論文参考訳（メタデータ） (2025-08-28T18:30:52Z)
SciVid: Cross-Domain Evaluation of Video Models in Scientific Applications [63.92604046592333]
ビデオファウンデーションモデル(FM)は、汎用ドメインに依存しないアプローチとしてかなりの可能性を秘めている。 SciVidは、医療コンピュータビジョン、動物行動、天気予報の5つのタスクからなるベンチマークである。簡単なトレーニング可能な読み出しモジュールを用いて6つの主要なViFMをSciVidに適用し、強力なベースラインを確立し、効果的な転送学習の可能性を示す。
論文参考訳（メタデータ） (2025-07-04T13:48:12Z)
Massive Supervised Fine-tuning Experiments Reveal How Data, Layer, and Training Factors Shape LLM Alignment Quality [22.105116314320696]
Supervised Fine-tuning (SFT) は、大きな言語モデルを人間の指示や値に合わせるための重要なステップである。コード生成、数学的推論、汎用ドメインタスクなど、さまざまなデータセットに基づいて、幅広いベースモデルをトレーニングしました。次に、最も重要となるデータセット特性を特定し、SFTが導入した階層的な修正について検討した。
論文参考訳（メタデータ） (2025-06-17T16:13:15Z)
Large EEG-U-Transformer for Time-Step Level Detection Without Pre-Training [1.3254304182988286]
局所的特徴と大域的特徴の両方を捉えることで表現を効率的に学習する単純なU字モデルを提案する。他のウィンドウレベルの分類モデルと比較して,本手法は時間段階の予測を直接出力する。我々のモデルは、てんかんおよび他の神経疾患における人工知能に関する国際会議において、2025年の第1回「青信号検出チャレンジ」で優勝した。
論文参考訳（メタデータ） (2025-04-01T01:33:42Z)
Towards Effective and Efficient Continual Pre-training of Large Language Models [163.34610964970258]
CPT(Continuous pre-training)は、特定のドメインやタスクに言語モデルを適用する上で重要なアプローチである。本稿では,Llama-3 (8B) の継続事前訓練に関する技術的報告を報告する。バックボーンモデルの中国語能力と科学的推論能力を大幅に向上させる。
論文参考訳（メタデータ） (2024-07-26T13:55:21Z)
Geometric Prior Guided Feature Representation Learning for Long-Tailed Classification [47.09355487357069]
そこで,本論文では,よく表現されたヘッドクラスの特徴分布の幾何学的情報を活用し,モデルにテールクラスの基盤となる分布を学習させる手法を提案する。パータード機能は、可能な限りテールクラスの基盤となる分布をカバーし、テスト領域におけるモデルの一般化性能を向上させることを目的としている。
論文参考訳（メタデータ） (2024-01-21T09:16:29Z)
A Novel Benchmark for Few-Shot Semantic Segmentation in the Era of Foundation Models [7.428199805959228]
Few-shot semantic segmentation (FSS) はコンピュータビジョンにおいて重要な課題である。一般化的特徴抽出器としての視覚基盤モデル(VFM)の出現に伴い,これらのモデルをFSSに適用することを模索する。本稿では,このタスクに適した単純で簡単な適応プロセスを備えた,新しい現実的なベンチマークを提案する。
論文参考訳（メタデータ） (2024-01-20T19:50:51Z)
On the Out of Distribution Robustness of Foundation Models in Medical Image Segmentation [47.95611203419802]
視覚と言語の基礎は、様々な自然画像とテキストデータに基づいて事前訓練されており、有望なアプローチとして現れている。一般化性能を,同じ分布データセット上で微調整した後,事前学習した各種モデルの未確認領域と比較した。さらに,凍結モデルに対する新しいベイズ不確実性推定法を開発し,分布外データに基づくモデルの性能評価指標として利用した。
論文参考訳（メタデータ） (2023-11-18T14:52:10Z)
Data-Centric Long-Tailed Image Recognition [49.90107582624604]
ロングテールモデルは高品質なデータに対する強い需要を示している。データ中心のアプローチは、モデルパフォーマンスを改善するために、データの量と品質の両方を強化することを目的としています。現在、情報強化の有効性を説明するメカニズムに関する研究が不足している。
論文参考訳（メタデータ） (2023-11-03T06:34:37Z)
Class-Balanced Distillation for Long-Tailed Visual Recognition [100.10293372607222]
実世界のイメージはしばしばクラスごとの画像数の著しい不均衡によって特徴づけられ、ロングテール分布に繋がる。本研究では、インスタンスサンプリングで学習した特徴表現が長尾設定では最適とは程遠いという重要な観察を行うことで、新しいフレームワークを提案する。我々の主な貢献は、知識蒸留を利用して特徴表現を強化する新しい訓練方法である。
論文参考訳（メタデータ） (2021-04-12T08:21:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。