論文の概要: SRJudge: Empowering Large Language Models with Selective Reasoning for Fine-Grained Knowledge Concept Tagging
- arxiv url: http://arxiv.org/abs/2609.36982v1
- Date: Tue, 29 Sep 2026 08:16:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.31458
- Title: SRJudge: Empowering Large Language Models with Selective Reasoning for Fine-Grained Knowledge Concept Tagging
- Title（参考訳）: SRJudge: 細粒度知識概念タギングのための選択推論による大規模言語モデルの実現
- Abstract要約: 本稿では,3段階のSelect-Reason-Judge(SRJudge)フレームワークを提案する。
具体的には、ステージ1のセレクタは、まず小さな言語モデルを微調整することで、候補概念をトップKのショートリストに絞り込む。
Stage 2 Reasoner は軽量の LLM を採用しており、候補候補に対して洗練された推論を行う。
より大きなLLMは、推論プロセスの全体的な合理性を評価する審査員として機能する。
- 参考スコア（独自算出の注目度）: 12.238249796221709
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Knowledge concept tagging aims to assign specific concept or topic labels to educational content, which is essential for both educators and learners in traditional and online teaching practices. Recent work has explored large language models (LLMs) for this task, achieving promising performance. However, LLMs still struggle to select the correct concept from a large-scale candidate set due to the high dimensionality of the decision space. In this paper, we propose a novel three-stage Select-Reason-Judge (SRJudge) framework, which empowers LLMs with selective reasoning capability for fine-grained knowledge concept tagging. Specifically, the Selector in Stage 1 first narrows the candidate concepts to a top-K shortlist by fine-tuning a small language model (SLM), e.g., BERT, since the top-$K$ predictions hit the correct concept in most cases, thereby reducing the decision space of correct candidates. Next, the Stage 2 Reasoner employs a lightweight LLM for refined reasoning over the shortlisted candidates. It further integrates an improved reinforcement learning strategy with a dynamic task-specific reward function and a pruning mechanism to better align with human reasoning preferences. Finally, a larger LLM acts as a judger that evaluates the overall rationality of the reasoning process and its explanations to determine the final output. In addition, we construct two high-quality datasets for further validation, i.e., the biology dataset S_Bio and the physics dataset S_Phy. Experimental results demonstrate that our method consistently outperforms state-of-the-art baselines across benchmark datasets, verifying its effectiveness and superiority. Resources are available at: https://github.com/Nicozwy/SRJudge.
- Abstract（参考訳）: 知識概念のタグ付けは、教育コンテンツに特定の概念やトピックラベルを割り当てることを目的としている。
最近の研究は、このタスクのための大きな言語モデル(LLM)を探求し、有望なパフォーマンスを実現している。
しかし、LLMは決定空間の高次元性のため、大規模な候補集合から正しい概念を選択するのに依然として苦労している。
本稿では,3段階のSelect-Reason-Judge(SRJudge)フレームワークを提案する。
具体的には、ステージ1のセレクタは、トップKの予測がほとんどのケースで正しい概念に当たったため、小さな言語モデル(SLM)、例えばg、BERTを微調整することで、候補概念をトップKのショートリストに絞る。
次に、Stage 2 Reasoner は軽量の LLM を使用して、短いリストの候補に対して洗練された推論を行う。
さらに、強化学習戦略を強化し、動的タスク固有の報酬関数とプルーニング機構を統合し、人間の推論の好みに適合させる。
最後に、より大きなLLMは、推論プロセスの全体的合理性とその説明を評価して最終的な出力を決定する判断器として機能する。
さらに,生物学データセットS_Bioと物理データセットS_Phyの2つの高品質データセットを構築し,さらなる検証を行う。
実験結果から,提案手法はベンチマークデータセット間で常に最先端のベースラインを上回り,その有効性と優位性を検証した。
リソースは、https://github.com/Nicozwy/SRJudge.comで入手できる。
関連論文リスト
- Advantage-Guided Gate: Reshaping Open-Ended Reasoning for Vision-Based Spatial Intelligence [70.8951332710039]
マルチモーダル大言語モデル (MLLM) は複雑な空間的シーン理解と推論タスクにおいて有意な可能性を証明している。
しかし、彼らのオープンな推論プロセスは、意思決定の誤りやエラーの蓄積を招きやすいため、回答の品質が不安定になる。
本稿では,推論過程において動的に介入し,偏差を補正するアドバンテージ誘導型ゲーティングフレームワークを提案する。
論文 参考訳（メタデータ） (2026-08-08T07:46:04Z) - LaRec: Unleashing LLM-based Latent Reasoning for Generative Recommendation [27.643675369277858]
潜伏推論は、連続的な潜伏空間内で考えることで効率のバランスをとることを目的としています。
LaRec$は、遅延推論の可能性を解き放つために設計された効率的な生成レコメンデーションフレームワークである。
複数のデータセットの実験によると、$LaRec$は既存のベースラインを同等の効率で大幅に上回っている。
論文 参考訳（メタデータ） (2026-07-27T16:14:57Z) - FORESTLLM: Large Language Models Make Random Forest Great on Few-shot Tabular Learning [20.27406245916013]
本稿では,大規模言語モデル(LLM)の意味的推論能力を用いて,決定林の構造的帰納バイアスを統一する枠組みを提案する。
まずLLMがラベル付きデータとラベルなしデータの両方の一貫性に基づいて候補分割を評価するセマンティックスプリッティング基準を導入し、より堅牢で一般化可能な木構造を数発の監視下で実現する。
第2に,LLMが決定経路とその支持例を簡潔で決定論的な予測に蒸留し,雑音の多い経験的推定を意味的インフォームドアウトプットに置き換える,葉ノード安定化のためのワンタイムインコンテキスト推論機構を提案する。
論文 参考訳（メタデータ） (2026-01-16T14:08:51Z) - Large Reasoning Embedding Models: Towards Next-Generation Dense Retrieval Paradigm [16.78399933831573]
本稿では、推論過程を表現学習に統合するLarge Reasoning Embedding Model(LREM)を提案する。
難解なクエリに対して、LREMはまず、元のクエリの深い理解を達成するために推論を行い、その後、検索のための推論拡張クエリ埋め込みを生成する。
この推論プロセスは、元のクエリとターゲットアイテム間のセマンティックギャップを効果的にブリッジし、検索精度を大幅に向上させる。
論文 参考訳（メタデータ） (2025-10-16T05:37:39Z) - Evaluating Human Alignment and Model Faithfulness of LLM Rationale [66.75309523854476]
大規模言語モデル(LLM)が,その世代を理論的にどのように説明するかを考察する。
提案手法は帰属に基づく説明よりも「偽り」が少ないことを示す。
論文 参考訳（メタデータ） (2024-06-28T20:06:30Z) - Enhancing Travel Choice Modeling with Large Language Models: A Prompt-Learning Approach [6.913791588789051]
本稿では,予測精度を大幅に向上させ,個々の予測に対して明確な説明を提供する,プロンプト学習に基づく大規模言語モデル(LLM)フレームワークを提案する。
スイスで収集されたLondon Passenger Mode Choice(LPMC)とOptima-Mode(Optima-Mode)の2つの選択肢データセットを用いて,フレームワークの有効性を検証した。
その結果,LLMは人々の選択を予測する上で,最先端のディープラーニング手法や個別選択モデルよりも優れていたことが示唆された。
論文 参考訳（メタデータ） (2024-06-19T13:46:08Z) - Optimized Feature Generation for Tabular Data via LLMs with Decision Tree Reasoning [53.241569810013836]
本稿では,大規模言語モデル(LLM)を用いて,効率的な特徴生成ルールを同定するフレームワークを提案する。
我々は、自然言語で容易に表現できるため、この推論情報を伝達するために決定木を使用します。
OCTreeは様々なベンチマークで様々な予測モデルの性能を継続的に向上させる。
論文 参考訳（メタデータ） (2024-06-12T08:31:34Z) - FAC$^2$E: Better Understanding Large Language Model Capabilities by Dissociating Language and Cognition [56.76951887823882]
大規模言語モデル(LLM)は、主に様々なテキスト理解および生成タスクにおける全体的なパフォーマンスによって評価される。
FAC$2$E, FAC$2$Eについて述べる。
論文 参考訳（メタデータ） (2024-02-29T21:05:37Z) - MC-BERT: Efficient Language Pre-Training via a Meta Controller [96.68140474547602]
大規模事前学習は計算コストが高い。
事前トレーニングを加速する初期の試みであるELECTRAは、各入力トークンがジェネレータに置き換えられたかどうかを予測する識別モデルを訓練している。
本稿では,MC-BERTというメタラーニングフレームワークを提案する。
論文 参考訳（メタデータ） (2020-06-10T09:22:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。