論文の概要: Label-Centric Knowledge Retrieval for Zero-Shot Text Classification
- arxiv url: http://arxiv.org/abs/2610.16182v1
- Date: Mon, 12 Oct 2026 05:00:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.3118
- Title: Label-Centric Knowledge Retrieval for Zero-Shot Text Classification
- Title(参考訳): ゼロショットテキスト分類のためのラベル中心知識検索
- Abstract要約: 意味的に意味のあるラベルとタスク記述を用いたゼロショットテキスト分類について検討する。
ラベル中心の検索強化生成フレームワークであるbfSLKR(Semantic Label Knowledge Retrieval)を提案する。
オンライン、ハイブリッドセマンティックおよび語彙検索は、まず上位$K$候補ラベルを特定し、次に最大$M$入力関連境界ルールを選択する。
- 参考スコア(独自算出の注目度): 16.929369366239463
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Flagship large language models (LLMs) offer rich general knowledge and strong reasoning capabilities, but their high inference cost and latency limit their use for large-scale data labeling. We study zero-shot text classification with semantically meaningful labels and task descriptions, without task-specific labeled examples or classifier feedback. We propose \textbf{SLKR} (Semantic Label Knowledge Retrieval), a label-centric retrieval-augmented generation framework that separates offline knowledge construction from lightweight online inference. Offline, a flagship LLM independently generates label definitions, retrieval keywords, and boundary rules for potentially confusable label pairs, forming a reusable label-knowledge store. Because this construction operates over the label space rather than the input corpus, its one-time flagship cost can be amortized across large-scale inference. Online, hybrid semantic and lexical retrieval first identifies the top-$K$ candidate labels and then selects up to $M$ input-relevant boundary rules connecting candidate-label pairs. A lightweight LLM performs the final classification in a single call using the retrieved definitions and rules. Across three public benchmarks and a real-world multilingual book-classification dataset, SLKR achieves the best results on all four datasets with Qwen3.5-4B and on three of four with Ministral-3-3B, while using compact input contexts and no task-specific labeled examples. Boundary ablations further show that retrieving a small set of input-relevant rules preserves performance close to using all boundaries with substantially less context, supporting efficient reuse of flagship-generated label knowledge for lightweight classification.
- Abstract(参考訳): フラッグシップ大言語モデル(LLM)は、豊富な一般知識と強力な推論能力を提供するが、その高い推論コストとレイテンシは、大規模なデータラベリングに使用を制限する。
タスク固有のラベル付き例や分類器のフィードバックを使わずに,意味的なラベルやタスク記述を用いてゼロショットテキスト分類を研究する。
本稿では,オフラインの知識構築を軽量なオンライン推論から分離するラベル中心の検索拡張生成フレームワークである‘textbf{SLKR} (Semantic Label Knowledge Retrieval) を提案する。
フラグシップLDMであるオフラインは、ラベル定義、検索キーワード、潜在的に不都合なラベルペアのバウンダリルールを独立して生成し、再利用可能なラベル知識ストアを形成する。
この構造は入力コーパスではなくラベル空間上で動作するため、大規模な推論で1回限りのフラグシップコストを償却することができる。
オンライン、ハイブリッドセマンティックおよび語彙検索は、まず上位$K$候補ラベルを特定し、次に最大$M$入力関連境界ルールを選択し、候補-ラベルペアを接続する。
軽量LLMは、検索された定義とルールを使用して、単一の呼び出しで最終分類を実行する。
SLKRは3つの公開ベンチマークと実世界のマルチリンガルブック分類データセットで、Qwen3.5-4Bの4つのデータセットとMinistral-3-3Bの4つのうちの3つで最高の結果を得る。
境界の短縮により、入力関連ルールの小さなセットを取得することで、コンテキストが大幅に少ないすべてのバウンダリの使用に近い性能を保ち、軽量な分類のためのフラグシップ生成ラベル知識の効率的な再利用を支援することが示される。
関連論文リスト
- Automatic Labelling with Open-source LLMs using Dynamic Label Schema Integration [0.0]
自動ラベリングにオープンソースモデルを効果的に活用することを検討する。
LLMが1つのラベルに対して1度に推論を行うRAC(Retrieval Augmented Classification)を提案する。
ラベル記述を動的に統合した本手法は,ラベル処理における性能改善につながることを示す。
論文 参考訳(メタデータ) (2025-01-21T18:06:54Z) - Leveraging Label Semantics and Meta-Label Refinement for Multi-Label Question Classification [11.19022605804112]
本稿では,ラベルのセマンティクスとメタラベルの精巧化を活用して,複数ラベルの質問分類を検索する新手法RR2QCを紹介する。
実験の結果,RR2QCはPrecision@KとF1スコアの既存の手法よりも優れていることがわかった。
論文 参考訳(メタデータ) (2024-11-04T06:27:14Z) - Substituting Data Annotation with Balanced Updates and Collective Loss
in Multi-label Text Classification [19.592985329023733]
MLTC(Multi-label text classification)は、あるテキストに複数のラベルを割り当てるタスクである。
本報告では,MLTCの問題点を,ラベル数に比例して,利用可能な監視信号の大きさが線形であるアノテーションフリーおよび希少アノテーション設定で検討する。
提案手法は,(1)事前学習した言語モデルを用いて,入力テキストを事前ラベル候補の集合にマッピングし,(2)ラベル記述による署名付きラベル依存グラフの計算,(3)ラベル依存グラフに沿ったメッセージパスによる事前ラベル候補の更新を行う。
論文 参考訳(メタデータ) (2023-09-24T04:12:52Z) - Description-Enhanced Label Embedding Contrastive Learning for Text
Classification [65.01077813330559]
モデル学習プロセスにおける自己監督型学習(SSL)と新しい自己監督型関係関係(R2)分類タスクの設計
テキスト分類とR2分類を最適化対象として扱うテキスト分類のための関係学習ネットワーク(R2-Net)の関係について検討する。
ラベルセマンティックラーニングのためのマルチアスペクト記述を得るためのWordNetからの外部知識。
論文 参考訳(メタデータ) (2023-06-15T02:19:34Z) - Imprecise Label Learning: A Unified Framework for Learning with Various Imprecise Label Configurations [91.67511167969934]
imprecise label learning (ILL)は、様々な不正確なラベル構成で学習を統合するためのフレームワークである。
我々は、ILLが部分ラベル学習、半教師付き学習、雑音ラベル学習にシームレスに適応できることを実証した。
論文 参考訳(メタデータ) (2023-05-22T04:50:28Z) - Exploring Structured Semantic Prior for Multi Label Recognition with
Incomplete Labels [60.675714333081466]
不完全なラベルを持つマルチラベル認識(MLR)は非常に難しい。
最近の研究は、視覚言語モデルであるCLIPにおける画像とラベルの対応を探り、不十分なアノテーションを補うことを目指している。
我々は,MLRにおけるラベル管理の欠如を,構造化されたセマンティクスを導出することにより,不完全なラベルで修復することを提唱する。
論文 参考訳(メタデータ) (2023-03-23T12:39:20Z) - LEAN-LIFE: A Label-Efficient Annotation Framework Towards Learning from
Explanation [40.72453599376169]
LEAN-LIFEは、シーケンスラベリングと分類タスクのためのWebベースのラベル有効アノテーションフレームワークである。
我々のフレームワークは、この強化された監視技術を利用した最初のものであり、3つの重要なタスクに役立ちます。
論文 参考訳(メタデータ) (2020-04-16T07:38:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。