論文の概要: Cross-Primitive Consistency in Jev
- arxiv url: http://arxiv.org/abs/2610.38623v1
- Date: Wed, 28 Oct 2026 10:44:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-03 09:17:57.22719
- Title: Cross-Primitive Consistency in Jev
- Title(参考訳): Jevにおけるクロスプリミティブな一貫性
- Abstract要約: Jevは、型付きクエリプリミティブを通じて、大きな言語モデル(LLM)による効率的な意思決定を可能にする。
この研究は、クロスプライミティブな一貫性を評価するための4軸ベンチマークであるPrimaConsを紹介している。
冷凍バックボーンに軽量残留ネットワークを付加するCPRC(Cross-Primitive Residual Calibrator)を提案する。
- 参考スコア(独自算出の注目度): 52.97484590293529
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Jev enables efficient decision-making with large language models (LLMs) through typed querying primitives, allowing the same semantic state to be expressed in different formats, such as binary and multiple-choice queries. However, the consistency of decisions across primitives has not been systematically evaluated. This work introduces PrimaCons, a four-axis benchmark for assessing cross-primitive consistency while preserving the semantics of the query. Evaluations across three Jev sizes reveal consistency violations across all four axes. Our analysis shows that these violations follow systematic patterns and that cross-primitive discrepancies predict decision failure with a ROC-AUC of 0.91. To mitigate these inconsistencies, we propose the Cross-Primitive Residual Calibrator (CPRC), which attaches a lightweight residual network to a frozen backbone and jointly optimizes predictive accuracy and cross-primitive consistency. Under a leave-one-domain-out protocol, CPRC reduces cross-primitive inconsistency by 58.57% and improves accuracy by +2.97%., demonstrating its effectiveness in both in-domain and out-of-domain settings. Our findings establish cross-primitive consistency as a key dimension for evaluating Jev and provide a practical approach to improving the reliability of its decisions. Code and benchmark is available at https://github.com/67L1/PrimaCons-CRPR.
- Abstract(参考訳): Jevは、型付きクエリプリミティブを通じて、大きな言語モデル(LLM)による効率的な意思決定を可能にする。
しかしながら、プリミティブ間の決定の整合性は体系的に評価されていない。
この作業では、クエリのセマンティクスを保持しながら、クロスプライミティブな一貫性を評価するための4軸ベンチマークであるPrimaConsを紹介した。
3つのJevサイズで評価すると、すべての4軸にわたる一貫性違反が明らかになる。
分析の結果,これらの違反は系統的なパターンに従っており,ROC-AUCが0。
これらの不整合を緩和するため,凍結したバックボーンに軽量残留ネットワークを付加し,予測精度とクロスプライミティブ整合性を共同で最適化するクロスプライミティブ残差校正器(CPRC)を提案する。
残余の領域外プロトコルの下では、CPRCは原始的不整合を58.57%削減し、精度を+2.97%向上させる。
ドメイン内設定とドメイン外設定の両方で有効性を示す。
本研究は,Jevの評価における重要な要素として,クロスプライミティブな整合性を確立し,その信頼性向上のための実践的アプローチを提供する。
コードとベンチマークはhttps://github.com/67L1/PrimaCons-CRPRで公開されている。
関連論文リスト
- Bayesian Test-Time Inference of Task-Aligned Similarity from Weak Interactive Feedback [50.42640957891911]
言語モデルシステムは、類似性を比較することで、繰り返しテスト時の決定を行う。
しかし、類似性はユニークではない:語彙、意味、構造、類似性はNの選択点を取得することができる。
本稿では,現在の意思決定を統括するトレーニングフリーベイズ手法であるAxis Interactive Signalsを紹介する。
論文 参考訳(メタデータ) (2026-10-13T16:19:49Z) - Claim-Level Reliability Assessment for Efficient Test-Time Reasoning [9.168249719115845]
テストタイムスケーリングの原則としてクレームレベルのファルシフィケーションを提案し、Claim-Level Reliability Assessment (CLR) を通じてそれをインスタンス化する。
CLRは、追加のソリューションサンプリングからターゲット検証まで、テスト時間計算を再配置する。
論文 参考訳(メタデータ) (2026-08-12T12:33:05Z) - Cross-Resolution Semantic Transfer for Robust Text-to-Image Retrieval in Low-Resolution Surveillance [62.560024755525546]
Cross-Resolution Semantic Transfer (CRST)はCLIPスタイルの3つのモジュールを持つフレームワークである。
実験により、CRSTは高解像度の精度を犠牲にすることなく混合分解能検索を安定化させながら、平均5.7%と5.3%で超低解像度のランク1とmAPを改善することが示された。
論文 参考訳(メタデータ) (2026-06-29T15:24:03Z) - Pause and Reflect: Conformal Aggregation for Chain-of-Thought Reasoning [8.024041325202612]
自己整合性を考慮した思考の連鎖(CoT)推論は、複数のサンプル推論パスを集約することで性能を向上させる。
集約不確実性に直接対処するCoT推論のコンフォメーション手順を導入する。
提案手法は,多数決を推理経路よりも重み付けしたスコアアグリゲーションに置き換え,共形リスク制御を用いた棄権規則を校正する。
論文 参考訳(メタデータ) (2026-05-13T20:33:59Z) - CORE: Context-Robust Remasking for Diffusion Language Models [51.59514489363897]
我々は、推論時リビジョンのためのトレーニング不要フレームワークであるContext-Robust Remasking (CORE)を提案する。
静的トークンの確率を信頼するのではなく、COREは、ターゲットとなるマスク付きコンテキストの摂動に対する感受性を示すことによって、コンテキスト不安定なトークンを識別する。
LLaDA-8B-Baseでは、COREは推論とコードベンチマークの間で一貫した改善を行い、計算に適合したベースラインを上回り、MBPPを最大9.2%改善した。
論文 参考訳(メタデータ) (2026-02-04T00:12:30Z) - RaCoT: Plug-and-Play Contrastive Example Generation Mechanism for Enhanced LLM Reasoning Reliability [12.67288560758937]
本稿では,RaCoT(Retrieval-aware Contrastive-of-Thought)を提案する。
RaCoTは、解答の発散を決定する重要な詳細に積極的に焦点を合わせるようモデルに誘導する。
論文 参考訳(メタデータ) (2025-10-26T15:06:44Z) - TrustJudge: Inconsistencies of LLM-as-a-Judge and How to Alleviate Them [58.04324690859212]
自動評価器(LLM-as-a-judge)としての大規模言語モデル(LLM)は、現在の評価フレームワークにおいて重大な矛盾を明らかにしている。
スコア比較不整合とペアワイズ・トランジティビティ不整合という2つの基本的不整合を同定する。
我々は2つの重要なイノベーションを通じてこれらの制限に対処する確率的フレームワークであるTrustJudgeを提案する。
論文 参考訳(メタデータ) (2025-09-25T13:04:29Z) - Classifying Inconsistency in AHP Pairwise Comparison Matrices Using Machine Learning [0.0]
本研究では,三進選好逆転(PR)を利用して,一貫性のより堅牢で解釈可能な評価を行う新しい方法を提案する。
PR法は97%の精度を達成し、CR法(Consistency Ratio, Consistency Ratio)の50%をはるかに上回り、偽陰性率は5.5%に比べてわずか2.6%である。
論文 参考訳(メタデータ) (2025-05-07T14:17:39Z) - UniCBE: An Uniformity-driven Comparing Based Evaluation Framework with Unified Multi-Objective Optimization [19.673388630963807]
統一統一性駆動型CBEフレームワークUniCBEを提案する。
AlpacaEvalベンチマークでは、UniCBEは評価予算の17%以上を削減し、Pearsonと地上の真実との相関は0.995を超えている。
新しいモデルが継続的に導入されるシナリオでは、UniCBEは評価コストの50%以上を節約できる。
論文 参考訳(メタデータ) (2025-02-17T05:28:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。