論文の概要: From Generation to Scoring: Scaling LLM-Based Semantic Labeling at LinkedIn
- arxiv url: http://arxiv.org/abs/2610.36383v1
- Date: Mon, 26 Oct 2026 22:59:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-28 21:04:31.446651
- Title: From Generation to Scoring: Scaling LLM-Based Semantic Labeling at LinkedIn
- Title(参考訳): ジェネレーションからスコーリング: LinkedInにおけるLCMベースのセマンティックラベリングのスケーリング
- Abstract要約: 産業用大規模言語モデル(LLM)ラベルは、多くの候補ラベルを1つのプロンプトにまとめ、それぞれにYES/NOの回答を生成する。
本稿では,ラベルをセマンティックスコアリングとして再構成し,単一候補のプロンプトで微調整するエンド・ツー・エンドのレシピを提案する。
また、マルチアイテム・スコアリング(MIS)を用いて、数百の候補を1つのシーケンスでスコア付けし、その間に注意を隠蔽する。
- 参考スコア(独自算出の注目度): 7.461859262160453
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: For efficiency, industrial large language model (LLM) labelers often pack many candidate labels into one prompt and generate a YES/NO answer for each, even when each decision depends only on the entity and one candidate. Generating these independent decisions as one answer list couples them, spends decoding on the list, and relies on the list being well-formed. In this paper, we present an end-to-end recipe that reformulates the labeler as semantic scoring, fine-tuning it on single-candidate prompts to return each decision as one answer-token score from a prefill-only pass. We also adapt Multiple-Item Scoring (MIS) to score hundreds of candidates in one sequence with attention masked between them. Deployed for profile qualification labeling at LinkedIn, semantic scoring changes at most 0.01% of decisions when candidates are reordered and matches the agreement with reference labels that packed generation reaches only with about 4.7x as many training pairs. The MIS-based stack raises throughput over the deployed stack by 1.24x offline and 1.9x in model serving under a one-second p99 latency target. For offline batch inference, we implement MIS-based scoring as a reusable, model-agnostic Ray Data API proposed for upstream adoption. Model serving uses MIS support contributed to SGLang.
- Abstract(参考訳): 効率性のために、産業用大規模言語モデル(LLM)ラベリングは、多くの候補ラベルを1つのプロンプトにまとめて、各決定がエンティティと1つの候補にのみ依存している場合でも、それぞれにYES/NO回答を生成する。
これらの独立した決定を1つの回答リストとして生成すると、それらが結合し、リスト上でデコードに費やされ、リストが適切に構成されていることに依存する。
本稿では,ラベルをセマンティックスコアとして再構成するエンド・ツー・エンドのレシピを提案する。
また、マルチアイテム・スコアリング(MIS)を用いて、数百の候補を1つのシーケンスでスコア付けし、その間に注意を隠蔽する。
LinkedInのプロフィール資格表示用にデプロイされたセマンティックスコアリングは、候補がリオーダーされたときの判定の少なくとも0.01%が変更され、生成を満載したリファレンスラベルとの合意が、多くのトレーニングペアの4.7倍にしか達しない。
MISベースのスタックは、デプロイされたスタック上のスループットをオフラインで1.24倍、モデルで1.9倍向上させ、1秒のp99レイテンシターゲットで機能させる。
オフラインバッチ推論では,MISベースのスコアリングを再利用可能なモデルに依存しないRay Data APIとして実装し,上流への導入を提案する。
モデルサービスでは、SGLangにコントリビュートされたMISサポートを使用する。
関連論文リスト
- Personalized LLM Recommendation with Semantic IDs: Autoregressive Beam Search vs. Multi-Token Prediction [38.58784050114887]
大規模パーソナライゼーションは、埋め込みテーブル検索から、アイテムのセマンティックID(SID)を生成して推奨するLCMベースのレコメンデータへと移行している。
伝統的に、モデルは単一の言語モデリングヘッドに依存しており、通常は制約されたビームサーチを用いてトークンを自動回帰的に生成する。
対照的に、新しい研究機関はマルチトークン予測(MTP)を探求し、専用の頭が全てのトークンを並列に予測し、ビームサーチに伴う復号遅延を大幅に低減する。
論文 参考訳(メタデータ) (2026-10-11T19:33:28Z) - Just Ask Jev: Reinforcement Learning for Calibrated Decisions as a Zero-Shot Detector of AI Alignment Failures [33.047894767530174]
Jevは、校正された決定のために強化学習で訓練されたモデルである。
1回の呼び出しでキャリブレーションされた確率を持つ入力について、多くの型付き質問に答える。
薬局、脱獄、偽装、迅速な注射、幻覚、プライバシー侵害、社会的偏見、報酬のハッキング、不確実性の隠蔽、電力探究という10のアライメント障害について、Jevをベンチマークしている。
論文 参考訳(メタデータ) (2026-09-24T11:49:30Z) - From Confusion to Clarity: Confusion-Aware Retrieval and Knowledge Injection for Text Classification [6.5881009217005975]
大規模言語モデル(LLM)は、テキストを多くの意味論的に類似したラベルで分類するのに苦労する。
モデルが区別に苦しむラベルペアを識別するフレームワークを提案する。
また、類似の候補を区別するターゲットルールも生成します。
論文 参考訳(メタデータ) (2026-09-01T17:31:02Z) - Check The Scoreboard: An Analysis of Scoring Schemes on Multiple-Choice Evaluation [52.58737865652009]
NLPにおけるMultiple-choice Question answering (MCQA)ベンチマークは、数右スコアリング(精度)を用いる。
教育試験において、スコアリング方式は、応答モードモデルが従うこと、および応答のグレーディングルールの組み合わせであり、どの能力に報酬を与えるかを規定する重要な設計選択である。
我々は、MCQAが6つの教育にインスパイアされた6つのスキームで、正確性を超えた能力を評価することで、数字右の代替手段がどのように変化するかを検討する。
論文 参考訳(メタデータ) (2026-08-30T16:35:22Z) - Discrete Diffusion Language Models Are Training-Free Multi-Label Classifiers [1.3406606730449597]
マルチラベルテキスト分類のための個別マスク付き拡散言語モデルを用いた訓練不要なdLLM-SetScoreを提案する。
各候補ラベルについて、短いイエス/ノー質問を行い、2つの回答トークンの確率を1つのマスクされた位置で比較する。
論文 参考訳(メタデータ) (2026-07-30T15:21:02Z) - MADNet: Maximizing Addressee Deduction Expectation for Multi-Party
Conversation Generation [64.54727792762816]
多人数会話(MPC)において共通の課題であるアドレスラベルの不足について検討する。
MPC生成のためのヘテロジニアスグラフニューラルネットワークにおけるアドレナリ推論期待を最大化するMADNetを提案する。
2つのUbuntu IRCチャネルベンチマークの実験結果から、MADNetは、MPC生成のタスクにおいて、様々なベースラインモデルより優れていることが示された。
論文 参考訳(メタデータ) (2023-05-22T05:50:11Z) - Multi-Instance Partial-Label Learning: Towards Exploiting Dual Inexact
Supervision [53.530957567507365]
実世界のタスクでは、各トレーニングサンプルは、1つの基底真実ラベルといくつかの偽陽性ラベルを含む候補ラベルセットに関連付けられている。
本稿では,Multi-instance partial-label learning (MIPL) などの問題を定式化する。
既存のマルチインスタンス学習アルゴリズムと部分ラベル学習アルゴリズムはMIPL問題の解法に最適である。
論文 参考訳(メタデータ) (2022-12-18T03:28:51Z) - Few-shot Slot Tagging with Collapsed Dependency Transfer and
Label-enhanced Task-adaptive Projection Network [61.94394163309688]
本稿では,現在最先端の少数ショット分類モデルであるTapNetに基づくラベル強化タスク適応プロジェクションネットワーク(L-TapNet)を提案する。
実験結果から,本モデルは1ショット設定で14.64点のF1スコアで最強の少ショット学習ベースラインを著しく上回っていることがわかった。
論文 参考訳(メタデータ) (2020-06-10T07:50:44Z) - Unsupervised Person Re-identification via Multi-label Classification [55.65870468861157]
本稿では,教師なしのReIDを多ラベル分類タスクとして定式化し,段階的に真のラベルを求める。
提案手法は,まず,各人物画像に単一クラスラベルを割り当てることから始まり,ラベル予測のために更新されたReIDモデルを活用することで,多ラベル分類へと進化する。
マルチラベル分類におけるReIDモデルのトレーニング効率を高めるために,メモリベースマルチラベル分類損失(MMCL)を提案する。
論文 参考訳(メタデータ) (2020-04-20T12:13:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。