論文の概要: Judging in Latent Space: Efficient Generative Reward Modeling via Semantics-Preserving Compression

• arxiv url: http://arxiv.org/abs/2610.09788v1
• Date: Wed, 07 Oct 2026 10:05:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.851025
• Title: Judging in Latent Space: Efficient Generative Reward Modeling via Semantics-Preserving Compression
• Title（参考訳）: 潜在空間における判断:セマンティックスによる効率的な生成的リワードモデリング-保存圧縮
• Abstract要約: LatentGRMはセマンティックチャンキング、圧縮、再構築に基づいて構築された潜在評価フレームワークである。 テキストアセスメントを発生させることなく、自律的なペアワイズ判断をサポートするコンパクトな連続軌跡を学習する。 latentGRMは、4Bスケールと8Bスケールの明示的なスーパーバイザード・ファインチューニング・ジャッジと比較して、競争集約選好精度を達成する。
• 参考スコア（独自算出の注目度）: 39.76260360058182
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Reward modeling often requires jointly representing and reasoning over multiple evaluation criteria, yet verbalizing this process token by token can incur substantial inference cost. Recent work on latent reasoning suggests that continuous states may support this computation more compactly. We introduce LatentGRM, a latent evaluation framework built on semantic chunking, compression, and reconstruction. By using the structure of rubric-guided evaluations to guide compression, LatentGRM learns compact continuous trajectories that support autonomous pairwise judgments without generating textual assessments. A separate interpreter reconstructs evaluation text from these trajectories, providing an offline view of the information retained under compression. Under matched training data and backbones, LatentGRM achieves competitive aggregate preference accuracy relative to explicit Supervised Fine-Tuning (SFT) judges at both 4B and 8B scales. Across four benchmark domains, LatentGRM-8B compresses evaluation trajectories by 8.9--9.2x and reduces total judge inference time by 6.1--7.0x at vote@5. Controlled rubric interventions show that criterion-dependent preference information is carried through the latent sequence. Together, these results demonstrate that continuous latent evaluation can substantially reduce inference cost while preserving competitive judgment quality.
• Abstract（参考訳）: 逆モデリングは、しばしば複数の評価基準を共同で表現し、推論する必要があるが、トークンによるこのプロセストークンの言語化は、かなりの推論コストを発生させる可能性がある。 潜在推論に関する最近の研究は、連続状態がよりコンパクトにこの計算をサポートすることを示唆している。 セマンティックチャンキング,圧縮,再構成を基盤とした潜在評価フレームワークであるLatentGRMを紹介する。 ルーブリック誘導による評価構造を用いて圧縮を導くことにより、LatentGRMは、テキストアセスメントを発生させることなく、自律的なペアの判断を支援するコンパクトな連続的な軌跡を学習する。 別個のインタプリタは、これらのトラジェクトリから評価テキストを再構成し、圧縮下で保持された情報のオフラインビューを提供する。 一致したトレーニングデータとバックボーンの下で、LatentGRMは、4Bスケールと8Bスケールの両方で、明示的なスーパービジョンファインチューニング(SFT)判定に対して、競争集約優先精度を達成する。 4つのベンチマークドメインで、LatntGRM-8Bは評価トラジェクトリを8.9-9.2x圧縮し、投票で6.1--7.0x削減する。 制御されたルーリック介入は、クレーター依存性の嗜好情報が潜伏配列を介して実行されることを示す。 これらの結果から, 連続潜時評価は, 競合判定品質を維持しつつ, 推論コストを大幅に低減できることが示された。

関連論文リスト

• GRASP: Geometry-aware Residual Alignment for Scalable Pretraining Data Attribution [5.770893169582546]
  この研究は、属性をサブセットレベルの反事実的ユーティリティ予測として再定義する。 相互作用を意識したサロゲートであるGRASPを紹介する。 それは、既存のスケーラブルなベースラインを決定的に上回る。
  論文  参考訳（メタデータ） (2026-06-05T04:17:50Z)
• Interactive Evaluation Requires a Design Science [90.62695599188204]
  大規模言語モデル(LLM)は、ツールや環境、ユーザ、その他のエージェントを通じて、時間とともに機能するシステムとして、ますます多くデプロイされている。 フィールドはインタラクティブなベンチマークを構築し始めたが、その結果のランドスケープは断片化されている。 本論では,対話的評価は原則的評価パラダイムとして扱うべきであると論じる。
  論文  参考訳（メタデータ） (2026-05-18T04:03:18Z)
• PEEM: Prompt Engineering Evaluation Metrics for Interpretable Joint Evaluation of Prompts and Responses [5.396994583933599]
  提案するPEEM(Prompt Engineering Evaluation Metrics)は,プロンプトと応答を統一的に評価するためのフレームワークである。 PEEMは9つの軸を持つ構造化ルーブリックを定義している。3つのプロンプト基準(明瞭さ/構造、言語的品質、公正)と6つの応答基準(正確さ、客観性、妥当性、明確さ、簡潔さ)。
  論文  参考訳（メタデータ） (2026-03-11T07:00:59Z)
• Efficient Thought Space Exploration through Strategic Intervention [54.35208611253168]
  本稿では,この知見を2つの相乗的コンポーネントを通して操作するHint-Practice Reasoning(HPR)フレームワークを提案する。 フレームワークの中核となる革新は、動的に介入点を識別する分散不整合低減(DIR)である。 算術的および常識的推論ベンチマークによる実験は、HPRの最先端の効率-精度トレードオフを実証している。
  論文  参考訳（メタデータ） (2025-11-13T07:26:01Z)
• RaCoT: Plug-and-Play Contrastive Example Generation Mechanism for Enhanced LLM Reasoning Reliability [12.67288560758937]
  本稿では,RaCoT(Retrieval-aware Contrastive-of-Thought)を提案する。 RaCoTは、解答の発散を決定する重要な詳細に積極的に焦点を合わせるようモデルに誘導する。
  論文  参考訳（メタデータ） (2025-10-26T15:06:44Z)
• CoRE: Enhancing Metacognition with Label-free Self-evaluation in LRMs [12.399179284322862]
  大規模推論モデル (LRM) は、数学やプログラム合成のような分野において印象的な能力を示している。 LRMは、推論中に非効率をもたらす過度で冗長な推論ステップを過度に考え過ぎていることが多い。 LRMの中間的推論ステップにおけるラベルフリー自己評価を可能にするために,CRE(Chain-of-Reasoning Embedding)を提案する。
  論文  参考訳（メタデータ） (2025-07-08T15:28:48Z)
• ConCISE: Confidence-guided Compression in Step-by-step Efficient Reasoning [64.93140713419561]
  大型推論モデル (LRM) は、Chain-of-Thought (CoT) による複雑な推論タスクで強く機能するが、しばしば冗長な出力に悩まされる。 既存の微調整ベースの圧縮手法は、ポストホックプルーニングを動作させるか、コヒーレンスを推論する破壊を危険にさらすか、サンプリングベースの選択に依存するかのいずれかである。 ConCISEは、簡潔な推論連鎖を生成するために設計されたフレームワークであり、信頼注入を統合して推論の信頼性を高める。
  論文  参考訳（メタデータ） (2025-05-08T01:40:40Z)
• SocREval: Large Language Models with the Socratic Method for Reference-Free Reasoning Evaluation [78.23119125463964]
  我々は,参照フリー推論評価における新規な設計手法であるSocREvalを開発した。 SocREvalはGPT-4の性能を大幅に改善し、既存の参照フリーおよび参照ベース推論評価指標を上回っている。
  論文  参考訳（メタデータ） (2023-09-29T18:25:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。