論文の概要: Compensating Visual Insufficiency with Stratified Language Guidance for Long-Tail Class Incremental Learning

• arxiv url: http://arxiv.org/abs/2603.21708v1
• Date: Mon, 23 Mar 2026 08:50:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-24 19:11:39.576616
• Title: Compensating Visual Insufficiency with Stratified Language Guidance for Long-Tail Class Incremental Learning
• Title（参考訳）: 長期学習における階層型言語指導による視覚障害の補償
• Authors: Xi Wang, Xu Yang, Donghao Sun, Cheng Deng,
• Abstract要約: ロングテールクラスのインクリメンタルラーニング(LT CIL)は、テールクラスのサンプルの不足が学習を妨げているため、依然として非常に困難である。 これらの問題に対処するために、言語知識の情報性とスケーラビリティを活用します。 階層化適応型言語指導を導入し、学習可能な重みを利用してマルチスケールの意味表現をマージする。
• 参考スコア（独自算出の注目度）: 50.795452298625996
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Long-tail class incremental learning (LT CIL) remains highly challenging because the scarcity of samples in tail classes not only hampers their learning but also exacerbates catastrophic forgetting under continuously evolving and imbalanced data distributions. To tackle these issues, we exploit the informativeness and scalability of language knowledge. Specifically, we analyze the LT CIL data distribution to guide large language models (LLMs) in generating a stratified language tree that hierarchically organizes semantic information from coarse to fine grained granularity. Building upon this structure, we introduce stratified adaptive language guidance, which leverages learnable weights to merge multi-scale semantic representations, thereby enabling dynamic supervisory adjustment for tail classes and alleviating the impact of data imbalance. Furthermore, we introduce stratified alignment language guidance, which exploits the structural stability of the language tree to constrain optimization and reinforce semantic visual alignment, thereby alleviating catastrophic forgetting. Extensive experiments on multiple benchmarks demonstrate that our method achieves state of the art performance.
• Abstract（参考訳）: ロングテールクラスのインクリメンタルラーニング(LT CIL)は、学習を妨げているだけでなく、継続的な進化と不均衡なデータ分布の下で破滅的な忘れを悪化させるため、非常に困難である。 これらの問題に対処するために、言語知識の情報性と拡張性を利用する。 具体的には、LT CILデータ分布を分析し、階層的に粗粒度から細粒度までの意味情報を整理する階層化された言語木を生成する際に、大きな言語モデル(LLM)を導く。 この構造を基盤として,学習可能な重みを利用する階層化適応型言語指導を導入し,マルチスケールな意味表現をマージし,テールクラスの動的監督調整を可能にし,データ不均衡の影響を軽減する。 さらに,言語木の構造的安定性を利用して,最適化を制約し,意味的な視覚的アライメントを強化し,破滅的な忘れを緩和する階層化アライメント言語ガイダンスを導入する。 複数のベンチマーク実験により,本手法が最先端性能を実現することを示す。

関連論文リスト

• SLiNT: Structure-aware Language Model with Injection and Contrastive Training for Knowledge Graph Completion [11.686307370683922]
  知識グラフにおけるリンク予測は、欠落したエンティティを推測するために構造情報と意味コンテキストを統合する必要がある。 SLiNTは,知識グラフに基づく構造的コンテキストを,ロラをベースとした軽量な適応型フリーズバックボーンに注入し,堅牢なリンク予測を行うモジュールフレームワークである。 WN18RRとFB15k-237の実験により、SLiNTは埋め込みベースとジェネレーションベースの両方と比較して優れた性能または競争性能を発揮することが示された。
  論文  参考訳（メタデータ） (2025-09-08T10:36:49Z)
• Mechanistic Understanding and Mitigation of Language Confusion in English-Centric Large Language Models [56.61984030508691]
  言語混乱に関する最初の機械論的解釈可能性研究について述べる。 混乱点(CP)がこの現象の中心であることを示す。 比較分析によって同定された少数の臨界ニューロンを多言語で調整したニューロンで編集すると、混乱が著しく軽減されることがわかった。
  論文  参考訳（メタデータ） (2025-05-22T11:29:17Z)
• Learning from Neighbors: Category Extrapolation for Long-Tail Learning [62.30734737735273]
  より粒度の細かいデータセットは、データの不均衡の影響を受けにくい傾向があります。 既存のクラスと視覚的に類似したオープンセット補助クラスを導入し、頭と尾の両方の表現学習を強化することを目的とした。 補助授業の圧倒的な存在がトレーニングを混乱させるのを防ぐために,近隣のサイレンシング障害を導入する。
  論文  参考訳（メタデータ） (2024-10-21T13:06:21Z)
• Boosting the Capabilities of Compact Models in Low-Data Contexts with Large Language Models and Retrieval-Augmented Generation [2.9921619703037274]
  本稿では,形態素解析の言語タスクにおいて,より小さなモデルの出力を補正するために,大言語モデル(LLM)を基盤とした検索拡張生成(RAG)フレームワークを提案する。 データ不足や訓練可能なパラメータの不足を補うために,言語情報を活用するとともに,LLMを通して解釈・蒸留された記述文法からの入力を許容する。 コンパクトなRAG支援モデルがデータスカース設定に極めて有効であることを示し、このタスクとターゲット言語に対する新しい最先端技術を実現する。
  論文  参考訳（メタデータ） (2024-10-01T04:20:14Z)
• Towards Robust Pruning: An Adaptive Knowledge-Retention Pruning Strategy for Language Models [35.58379464827462]
  本稿では,高密度言語モデルの埋め込み空間と特徴空間を忠実に再現する訓練後プルーニング戦略を提案する。 他の最先端のベースラインと比較して、我々の手法は、SST2、IMDB、AGNewsのデータセット上でBERTによる精度、スパーシリティ、ロバスト性、およびプルーニングコストのバランスが優れていることを示す。
  論文  参考訳（メタデータ） (2023-10-19T23:02:29Z)
• Data Augmentation for Spoken Language Understanding via Pretrained Language Models [113.56329266325902]
  音声言語理解(SLU)モデルの訓練は、しばしばデータ不足の問題に直面している。 我々は,事前学習言語モデルを用いたデータ拡張手法を提案し,生成した発話の変動性と精度を向上した。
  論文  参考訳（メタデータ） (2020-04-29T04:07:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。