論文の概要: APTER: Adaptive Post-Training with Expert-Grounded Rubrics
- arxiv url: http://arxiv.org/abs/2608.14212v1
- Date: Fri, 14 Aug 2026 11:42:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-17 20:14:29.368875
- Title: APTER: Adaptive Post-Training with Expert-Grounded Rubrics
- Title(参考訳): APTER: 専門家中心のラグビー選手による適応的なポストトライニング
- Abstract要約: APTERは、構造化されたドメイン知識を、特別な複雑な推論のためのきめ細かい評価、最適化、診断に統合するフレームワークである。
APTERは、対応するベースモデルの数学平均と医学平均を、それぞれ15.86点と8.04点まで改善している。
- 参考スコア(独自算出の注目度): 23.84845758379717
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As large language models enter professional domains, they must satisfy domain constraints, include critical evidence, and provide complete reasoning rather than merely produce fluent responses. Existing post-training methods often rely on holistic preferences or outcome-level verification, while recent rubric-based methods usually generate rubrics independently for each query. In specialized domains, such unconstrained rubrics may omit critical requirements and vary across samples, hindering the diagnosis and targeted repair of persistent capability deficiencies. We propose APTER (Adaptive Post-Training with Expert-Grounded Rubrics), a framework that integrates structured domain knowledge into fine-grained evaluation, optimization, and diagnosis for specialized complex reasoning. First, expert-grounded rubric construction starts from an expert criteria framework built by domain experts, where each criterion represents a stable professional capability. For each query, APTER selects relevant criteria and instantiates them into query-level rubrics linked to their source criteria, turning reusable expert criteria into executable query-level supervision without reference answers. Second, adaptive post-training uses rubric verdicts as both optimization and criterion-level diagnostic signals. Aggregating low-scoring verdicts by criterion ID reveals persistent deficiencies and triggers targeted supervised fine-tuning updates during reinforcement learning. Experiments on mathematical reasoning and medical question answering show consistent gains across both domains. Across three model generations, APTER improves the mathematics and medical averages over the corresponding base models by up to 15.86 and 8.04 points, respectively. Code and rubric datasets are available at https://github.com/AntDT-APTER/APTER.
- Abstract(参考訳): 大きな言語モデルがプロフェッショナルドメインに入るとき、それらはドメインの制約を満たし、批判的な証拠を含み、単に流動的な応答を生成するのではなく、完全な推論を提供する必要があります。
既存のポストトレーニング手法は概略的な選好や結果レベルの検証に頼っていることが多いが、最近のルーリックベースの手法はクエリ毎に独立してルーリックを生成することが多い。
特殊なドメインでは、そのような制約のないルーリックは、重要な要件を省略し、サンプルによって異なる可能性があるため、診断を妨げ、永続的な能力障害の修復を目標とする。
本稿では、構造化ドメイン知識をきめ細かな評価、最適化、特殊複雑推論のための診断に統合するフレームワークであるAPTER(Adaptive Post-Training with Expert-Grounded Rubrics)を提案する。
まず、専門家によるルーブリック構築は、ドメインの専門家によって構築された専門家の基準フレームワークから始まり、それぞれの基準は安定した専門家の能力を表す。
各クエリに対して、APTERは関連する基準を選択し、それらをソース基準にリンクしたクエリレベルのルーリックにインスタンス化し、再利用可能な専門家基準を参照応答なしで実行可能なクエリレベルの監視に変換する。
第二に、適応的なポストトレーニングでは、最適化と基準レベルの診断信号の両方にルーブリック判定を用いる。
基準IDによる低スコア判定の集約は、強化学習中に監督された微調整更新を目標とする、永続的な欠陥とトリガーを明らかにする。
数学的推論と医学的質問応答の実験は、両方の領域で一貫した利得を示している。
3世代にわたって、APTERは、対応するベースモデルに対して、それぞれ15.86ポイントと8.04ポイントまで数学と医学平均を改善している。
コードとルーブリックデータセットはhttps://github.com/AntDT-APTER/APTER.comで入手できる。
関連論文リスト
- GenRubric: Self-Evolving Rubric Generation for Scalable LLM Evaluation [74.44235943118994]
GenRubricは、ラベルのないクエリからルーブリック生成を改善する自己進化フレームワークである。
我々はこの原理を強化学習により実現し、ルーブリック間の包括性信号とグループレベルの報酬と基準レベルの報酬を組み合わせる。
人間の注釈付きルーブリックベンチマークの実験では、自己進化は生成されたルーブリックと専門家によるルーブリックによる評価の一致を改善することが示されている。
論文 参考訳(メタデータ) (2026-08-30T15:39:39Z) - Agent-Orchestrated Adaptive RAG: A Comparative Study on Structured and Multi-Hop Retrieval [0.0]
Retrieval-Augmented Generation (RAG) は、言語モデル(LLM)を拡張し、その応答を外部知識に基盤付ける。
本稿では,動的クエリ分解,反復検索,および有界自己回帰評価ループを導入したエージェントオーケストレーション適応型RAGフレームワークを提案する。
論文 参考訳(メタデータ) (2026-06-04T03:38:46Z) - CriterAlign: Criterion-Centric Rationale Alignment for Code Preference Judging [95.02210956333374]
本稿では,一対の選好評価にルーブリックに基づく判断を適応させる基準中心のフレームワークを提案する。
BigCodeRewardでは、CriterAlignはQwen2.5-VL-32Bモノリシック判事を60.4%から66.3%に改善した。
論文 参考訳(メタデータ) (2026-05-19T10:59:19Z) - DepthCharge: A Domain-Agnostic Framework for Measuring Depth-Dependent Knowledge in Large Language Models [51.56484100374058]
大きな言語モデルは一般的な質問に答えるときに有能に見えるが、ドメイン固有の詳細にプッシュされると失敗することが多い。
3つのイノベーションを通じて知識の深さを測定するドメインに依存しないフレームワークであるDepthChargeを紹介します。
モデルが実際に言及している概念に基づいてフォローアップ質問を生成する適応的探索、権威のある情報源からのオンデマンドの事実検証、あらゆる深さのサンプルサイズが一定である生存統計。
論文 参考訳(メタデータ) (2026-03-05T20:49:11Z) - Automated Benchmark Generation from Domain Guidelines Informed by Bloom's Taxonomy [28.293009223912602]
オープンエンド質問応答(英語: Open-ended Question answering, QA)は、モデルが事実的リコールを超えた文脈的推論を行う能力を評価する。
この課題は、知識が手続き的であり、専門的な判断が下されている、実践ベースの領域で特に深刻である。
ブルームの分類学から得られた専門家認可ガイドラインから自動ベンチマーク生成のためのフレームワークを紹介する。
論文 参考訳(メタデータ) (2026-01-28T05:01:11Z) - RAGalyst: Automated Human-Aligned Agentic Evaluation for Domain-Specific RAG [0.0]
Retrieval-Augmented Generation (RAG) は、LLM(Large Language Models)を実際に証明するための重要な手法である。
既存の評価フレームワークは多くの場合、ドメイン固有のニュアンスをキャプチャできないメトリクスに依存します。
本稿では,RAGalystについて紹介する。RAGalystは,ドメイン固有のRAGシステムの厳密な評価を目的とした,人力による自動エージェントフレームワークである。
論文 参考訳(メタデータ) (2025-11-06T16:22:52Z) - Learning to Route: A Rule-Driven Agent Framework for Hybrid-Source Retrieval-Augmented Generation [55.47971671635531]
大言語モデル(LLM)は、一般質問回答(QA)において顕著な性能を示した。
Retrieval-Augmented Generation (RAG)は、LLMを外部知識で強化することで、この制限に対処する。
既存のシステムは、主に構造化されていないドキュメントに依存しているが、主にリレーショナルデータベースを見下ろしている。
論文 参考訳(メタデータ) (2025-09-30T22:19:44Z) - Beyond Overall Accuracy: A Psychometric Deep Dive into the Topic-Specific Medical Capabilities of 80 Large Language Models [6.362188639024662]
項目応答理論(IRT)に基づく厳密な評価フレームワークであるtextscMedIRT を紹介する。
80の多種多様な言語モデル (LLMs) から, バランスのとれた1,100のUSMLE準拠のベンチマークで, 新たな回答を期待して収集した。
LLMの潜在モデル能力は質問の難易度や識別と共同で推定し、精度のみよりも安定でニュアンスの高い性能ランキングを得る。
論文 参考訳(メタデータ) (2025-09-29T02:06:13Z) - EvalAgent: Discovering Implicit Evaluation Criteria from the Web [82.82096383262068]
EvalAgentは、ニュアンスとタスク固有の基準を自動的に発見するように設計されたフレームワークである。
EvalAgentは、さまざまな長期評価基準を提案するために、専門家が作成したオンラインガイダンスをマイニングしている。
我々の実験では、EvalAgentが生み出す基準は暗黙的だが具体的であることが示されている。
論文 参考訳(メタデータ) (2025-04-21T16:43:50Z) - Computational Complexity of Preferred Subset Repairs on Data-Graphs [2.254434034390529]
データ値を持つグラフデータベースを優先的に修復する問題について検討する。
本稿では,標準的なサブセット修復セマンティクスに基づいて,いくつかの選好基準を示す。
優先基準が適用できない場合と同様の計算複雑性を維持可能であることを示す。
論文 参考訳(メタデータ) (2024-02-14T15:51:55Z) - Generalizable Person Re-Identification via Self-Supervised Batch Norm
Test-Time Adaption [63.7424680360004]
Batch Norm Test-time Adaption (BNTA)は、BNパラメータを適応的に更新するための自己教師型戦略を適用する、新しいre-idフレームワークである。
BNTAは、推論前にラベル付けされていないターゲットデータ内のドメイン認識情報を探索し、BNによって正規化された特徴分布を変調してターゲットドメインに適応させる。
論文 参考訳(メタデータ) (2022-03-01T18:46:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。