論文の概要: Improving JEV Entailment Reranking with Span Readouts and Selective Adaptation

• arxiv url: http://arxiv.org/abs/2610.35654v2
• Date: Wed, 28 Oct 2026 21:28:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-30 22:39:27.505459
• Title: Improving JEV Entailment Reranking with Span Readouts and Selective Adaptation
• Title（参考訳）: Span ReadoutとSelective AdaptationによるJEV拡張の改善
• Abstract要約: JEV決定モデルは、言語モデルのバックボーンと軽量スコアリングヘッドを組み合わせて、自然言語オプションを選択する。 直接選択に使用する読み出し選択と適応選択が、クロスリクエストのランクアップに有効であるかどうかを検討する。 平均スパン読み出しと選択的バックボーン適応を組み合わせる。
• 参考スコア（独自算出の注目度）: 37.50135094077593
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: JEV decision models pair a language model backbone with a lightweight scoring head to select among natural-language options. Direct selection compares candidate answers within one request, whereas entailment reranking evaluates each candidate in a separate natural language inference (NLI) request over fixed relation options. We examine whether the readout and adaptation choices used for direct selection remain effective for cross-request reranking. We combine a mean-span readout with selective backbone adaptation. Mean-span pooling replaces the option-ending pointer with an average of the contextualized states inside each NLI option, without adding head parameters. Selective adaptation retains low-rank updates in attention and gated DeltaNet projections while removing feed-forward adapters. On MC11, which averages accuracy over eleven reranking configurations from seven sources, selective adaptation improves NeoHorse-1-4B accuracy over the all-module baseline while cutting trainable parameters by more than half, and mean-span pooling yields further consistent gains at the same parameter count.
• Abstract（参考訳）: JEV決定モデルは、言語モデルのバックボーンと軽量スコアリングヘッドを組み合わせて、自然言語オプションを選択する。 直接選択は1つの要求内で候補の答えを比較するが、entailment re rankは、固定関係オプションよりもそれぞれの候補を独立した自然言語推論(NLI)要求で評価する。 直接選択に使用する読み出し選択と適応選択が、クロスリクエストのランクアップに有効であるかどうかを検討する。 平均スパン読み出しと選択的バックボーン適応を組み合わせる。 平均スパンプーリング(Mean-span pooling)は、オプションエンドポインタを、ヘッドパラメータを追加することなく、それぞれのNLIオプション内のコンテキスト化された状態の平均に置き換える。 選択適応は注目の低い更新を保持し、フィードフォワードアダプタを削除しながらDeltaNetプロジェクションをゲートする。 MC11では、7つのソースから11以上のコンフィグレーションの精度を平均化するが、選択的な適応は、トレーニング可能なパラメータを半分以上カットしながら全モジュールベースライン上でNeoHorse-1-4Bの精度を改善し、平均スパンプーリングは同じパラメータ数でさらに一貫したゲインを得る。

関連論文リスト

• Jeva: System One Models from First Principles [58.432996881401415]
  Jevaは4つの重要な構造的要件に対処する、決定ネイティブなアーキテクチャです。 共有エンコーダは独立して要求と各オプションを表現し、コンパクトな決定スタックは要求状態のみを洗練する。 Jevとオープンソースモデルに対する評価全般において、Jevaは強力な型付き決定性能とほぼ完璧なnull検出を組み合わせる。
  論文  参考訳（メタデータ） (2026-10-13T17:31:09Z)
• QUBO-Optimized Evidence Selection for Retrieval-Augmented Question Answering with Unconventional Solvers [1.8620637029128544]
  疑似非制約二項最適化問題としてエビデンス選択を定式化する。 提案手法は, 妥当性, 要件範囲, サポート強度, 冗長性, 相補性, コンパクト性のバランスをとるエネルギー関数を構成する。 低エネルギーのソリューションは、必要条件をカバーし、不要または反復的なコンテキストを避けながら、コンパクトなエビデンスサブセットに対応する。
  論文  参考訳（メタデータ） (2026-07-14T04:29:07Z)
• Stage-Aware Adaptation and Distribution Calibration for Subject-Driven Personalized Text-to-Image Generation [1.2891210250935148]
  主観駆動型パーソナライズされたテキスト・ツー・イメージ生成のためのフレームワークを提案する。 均一な低ランク制約や均一なアダプタ強度は、異なる遅延ステージのキャパシティ要求を明確に区別することはできない。 タイムステップに依存したスケーリングは低ランクアダプタの有効等級を制御し,IDバイアスのある候補選択は選択した特徴の半径を制限することを示した。
  論文  参考訳（メタデータ） (2026-07-08T09:07:31Z)
• Can QPP Choose the Right Query Variant? Evaluating Query Variant Selection for RAG Pipelines [48.34524144147475]
  LLM(Large Language Models)は、現代の検索やRAG(Retrieval-Augmented Generation)パイプラインにおいて、クエリ再構成を至るところで実現している。 本稿では、アドホック検索とエンドツーエンドRAGをまたいで、クエリ性能予測(QPP)を異種選択のメカニズムとして検討する。
  論文  参考訳（メタデータ） (2026-04-24T15:36:40Z)
• Ada-RS: Adaptive Rejection Sampling for Selective Thinking [8.760287445955045]
  大規模言語モデル(LLM)は、コストとレイテンシに敏感な設定でますますデプロイされている。 ツールを用いたLCMの選択的思考と適応型リジェクションサンプリング(Ada-RS)の導入について検討する。 Ada-RSは、適応的な長さの報酬で複数のサンプリング完了をスコアし、高い回帰候補のみを保持するために拒絶サンプリングを適用する。
  論文  参考訳（メタデータ） (2026-02-23T05:20:15Z)
• Multimodal Consistency-Guided Reference-Free Data Selection for ASR Accent Adaptation [0.05219568203653524]
  ASRアクセント適応のためのマルチモーダル整合性誘導型参照フリーデータ選択パイプラインを提案する。 パイプラインは、共有埋め込み空間における音声テキストアライメントと予測された単語エラー率の2つの基準自由信号を用いて、各仮説をスコアする。 単純なパーセンタイルベースの選択規則は、ノイズ発声を排除しながら微調整のための信頼できる擬似ラベルを保持する。
  論文  参考訳（メタデータ） (2026-02-03T21:35:58Z)
• Adaptive Preference Scaling for Reinforcement Learning with Human Feedback [103.36048042664768]
  人間からのフィードバックからの強化学習(RLHF)は、AIシステムと人間の価値を合わせるための一般的なアプローチである。 本稿では,分散ロバスト最適化(DRO)に基づく適応的優先損失を提案する。 提案手法は多用途であり,様々な選好最適化フレームワークに容易に適用可能である。
  論文  参考訳（メタデータ） (2024-06-04T20:33:22Z)
• Large Language Models Are Not Robust Multiple Choice Selectors [117.72712117510953]
  複数選択質問(MCQ)は、大規模言語モデル(LLM)の評価において、一般的なが重要なタスク形式として機能する。 この研究は、現代のLLMが、その固有の「選択バイアス」によるオプション位置変化に対して脆弱であることを示している。 そこで本研究では,オプションIDに対する事前バイアスを全体予測分布から分離するPriDeという,ラベルのない推論時間脱バイアス手法を提案する。
  論文  参考訳（メタデータ） (2023-09-07T17:44:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。