論文の概要: Shared Context Candidate Scoring with Jointly Adapted Readout Networks
- arxiv url: http://arxiv.org/abs/2611.04218v1
- Date: Tue, 03 Nov 2026 03:01:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-11 01:08:38.436049
- Title: Shared Context Candidate Scoring with Jointly Adapted Readout Networks
- Title（参考訳）: 共同適応型読み出しネットワークを用いた共有コンテキスト候補符号化
- Abstract要約: 凍結した64層Qwen3.8-27Bテキストバックボーンを保存した候補スコアシステムQ64を提案する。
自己進化型AIシステムであるZiYorを使って、Q64設計を探求し、洗練しています。
共同適応は4つのベンチマークのマクロ精度を66.46%から74.32%に改善する。
- 参考スコア（独自算出の注目度）: 7.932867767590172
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: Repeated decisions over a shared document create two distinct opportunities: reusing document computation and adapting how question representations score candidate answers. We present Q64, a candidate-scoring system that preserves a frozen 64-layer Qwen3.8-27B text backbone, reuses its hybrid prefix state and intermediate document representations, and jointly trains a residual adapter with a four-layer decoder and candidate-conditioned readout. We used ZiYor, a self-evolving AI system, to explore and refine the Q64 design. We specified the scoring method, implemented the system, and evaluated its accuracy and latency. The final adaptation stage updates 88.66 million parameters using 8,192 selected training views. On a fixed 5,112-item evaluation combining ARC-Challenge, ANLI-R3, and stratified subsets of MMLU-Pro and CMMLU, joint adaptation improves four-benchmark macro accuracy from 66.46% to 74.32%. It remains below the native 27B baseline at 75.68% and AnyJev Qwen3-32B L0 at 76.68%. On a separate synthetic workload with 4,096 document tokens and 50 questions, median cold-request latency is 2.237 seconds, compared with 5.383 seconds for the native baseline and 56.872 seconds for the measured batched AnyJev configuration. Short single-question requests do not share this advantage. The evidence supports an accuracy-latency tradeoff in the evaluated systems, rather than a backbone reduction or an isolated component advantage. Public benchmarks informed earlier development, and real-document multi-question validation remains open.
- Abstract（参考訳）: 共有ドキュメントに対する反復的な決定は、文書計算の再利用と、質問表現が候補者の回答をどのようにスコアするかの2つの異なる機会を生み出します。
凍結した64層Qwen3.8-27Bテキストバックボーンを保存し、そのハイブリッドプレフィックス状態と中間文書表現を再利用し、4層デコーダと候補条件の読み出しを併用して残像アダプタをトレーニングする。
自己進化型AIシステムであるZiYorを使って、Q64設計を探求し、洗練しました。
スコアリング手法を定義し,システムを実装し,その精度とレイテンシを評価した。
最終適応段階は8,192個のトレーニングビューを使用して88.66万のパラメータを更新する。
ARC-Challenge、ANLI-R3、MMLU-Pro、CMMLUの成層化サブセットを組み合わせた5,112項目の評価では、共同適応により4つのベンチマークマクロの精度が66.46%から74.32%に向上する。
27Bベースラインを75.68%で、AnyJev Qwen3-32B L0を76.68%で下回っている。
4,096のドキュメントトークンと50の質問を持つ別の合成ワークロードでは、中央値のコールドリクエストレイテンシは2.237秒であり、ネイティブベースラインでは5.383秒、バッチ化されたAnyJev設定では56.872秒である。
短い単一要求要求は、この利点を共有しない。
証拠は、バックボーンの削減や孤立したコンポーネントの利点よりも、評価されたシステムにおける精度-遅延トレードオフを支持する。
公開ベンチマークは、初期の開発を知らせ、実際の文書によるマルチクエストの検証は、まだオープンである。
関連論文リスト
- EviCast: Forecasting Retrieval Gains Through Shared Response Calibration [81.48214908232247]
介入エビデンス-状態分解による検索値を予測するフレームワークであるEviCastを紹介する。
EviCastは、制御されたエビデンス状態に対するジェネレータの応答を測定し、この共有プロファイルと各候補レトリバーのオフラインエビデンス状態分布を組み合わせる。
状態制限解析は、そのバイナリおよびトポロジ対応のインスタンス化が正確で、共有キャリブレーションがレトリバーごとのキャリブレーションよりも統計的に効率的である場合に特徴付けられる。
論文 参考訳（メタデータ） (2026-11-02T01:55:58Z) - Seeing the Options: What Should a Visual Candidate See? [3.2634122554914]
シングルパス決定モデルは、リクエストとすべての候補を1つのシーケンスとしてエンコードするか、または、各候補を単独でエンコードする。
共同エンコーダの利点は、リクエストを見る候補者から、エンコーダがコードされている間にお互いを見る候補者からである。
符号化された要求の分岐キャッシュから各候補を継続すると、独立符号化が共同符号化に負ける12〜17点のうち11〜13が回復する。
論文 参考訳（メタデータ） (2026-10-24T14:32:44Z) - Joint or Per-Option? Compact Encoders for Closed-Set Decisions from 17 Million to 1 Billion Parameters [0.0]
32万のパラメーターを3つ並べた調査では、37ベンチマークの判定スイートのホールドアウトサンプルで、オプション毎のスコアがジョイントスコアを上回りました。
初期化によるクロスリーダーの利点は、クエリ候補のペア入力がオプション毎の読み取りと一致している、再ランカの初期化が必要であることを示している。
論文 参考訳（メタデータ） (2026-10-22T09:14:44Z) - Bayesian Test-Time Inference of Task-Aligned Similarity from Weak Interactive Feedback [50.42640957891911]
言語モデルシステムは、類似性を比較することで、繰り返しテスト時の決定を行う。
しかし、類似性はユニークではない:語彙、意味、構造、類似性はNの選択点を取得することができる。
本稿では,現在の意思決定を統括するトレーニングフリーベイズ手法であるAxis Interactive Signalsを紹介する。
論文 参考訳（メタデータ） (2026-10-13T16:19:49Z) - FastJEV: Understanding Redundancy for Compact JEV Inference [48.031042955286885]
JEVモデルは、候補者を直接採点することで、マルチモーダルな決定を行う。
JEV評価は、一致するトークン履歴、重複した推論状態を繰り返し、完全なバックボーンを実行することができる。
共有には、後続のブランチの保存状態が必要であるため、履歴の再利用と状態ストレージを共同で管理します。
論文 参考訳（メタデータ） (2026-10-08T07:11:14Z) - Bongard: Training Machine Intuition [7.297514014595282]
Bongardは、マシンの直感を設計とトレーニングの独立した能力として扱う、オープンウェイトなSystem Oneモデルである。
T5Gemma 2 4B-4Bエンコーダデコーダは、証拠を読むことと判断することとを分離する。
訓練されたヘッドは、テキストを生成することなく、供給された候補に対して確率を返す。
論文 参考訳（メタデータ） (2026-09-30T06:48:21Z) - Less Data, Better Alignment: Data-Centric Multi-Evaluator Agreement for Preference Optimization [20.147316178118732]
DMAPOは、ターゲットポリシーから候補応答を生成し、有用性、事実性、およびルーリック特異的評価器による簡潔性を評価する。
この手続きは、54,236人のMistral-7B候補のうち1,871人(3.45%)を受け入れている。
このセットで訓練されたKTOは、MT-Benchで7.50点、テキストダヴィンチ003参照に対して95.5%の勝利率、IFEvalが57.3%に達した。
論文 参考訳（メタデータ） (2026-07-27T23:05:12Z) - Efficient Visual Pointing for Embodied AI:Agent-Driven Data Synthesis, Cross-Block Attention, and Iterative Correction [55.11480729304395]
PointArena 2026は77.2%の精度でベンチマークで2位である。
ap proachは3つの障害モードをターゲットにしている。第一に、エージェント駆動のシンセシスは大きなセマンティクスとアンカー相対的な候補プールを構築する。
次に、determinis tic steerable-dataパイプラインは、認証された10,000サンプルのメインセットと、マスク、テンプレート、パス検証を使用するリザーブサンプルを生成する。
論文 参考訳（メタデータ） (2026-06-29T06:39:03Z) - Question Answering for Multi-Release Systems: A Case Study at Ciena [1.3252590516094356]
マルチリリースシステムからのドキュメントに対する質問に対する回答は、異なるリリースが明確に重なり合うドキュメントを持っているため、課題を引き起こします。
マルチリリースシステム文書における最先端質問応答技術の不正確さから,本論文ではQAMRを提案する。
QAMRは、従来の検索拡張生成(RAG)を強化し、異なるリリースのための非常に類似しているが異なるドキュメントに直面した精度を保証する。
論文 参考訳（メタデータ） (2026-01-05T18:44:26Z) - Learning Adaptive Parallel Reasoning with Language Models [70.1745752819628]
本稿では,適応並列推論(Adaptive Parallel Reasoning, APR)を提案する。
APRは、spawn()とjoin()操作を使用して適応的なマルチスレッド推論を可能にすることで、既存の推論メソッドを一般化する。
鍵となる革新は、親と子の両方の推論スレッドを最適化して、事前に定義された推論構造を必要とせずにタスクの成功率を高める、エンドツーエンドの強化学習戦略である。
論文 参考訳（メタデータ） (2025-04-21T22:29:02Z) - vCache: Verified Semantic Prompt Caching [95.16654660556975]
本稿では,ユーザ定義エラー率保証を備えた最初の検証済みセマンティックキャッシュであるvCacheを提案する。
オンライン学習アルゴリズムを使用して、キャッシュされたプロンプト毎に最適な閾値を推定し、追加のトレーニングなしで信頼性の高いキャッシュ応答を可能にする。
我々の実験によると、vCacheは特定のエラー境界を一貫して満たし、最先端の静的な閾値と微調整された埋め込みベースラインより優れています。
論文 参考訳（メタデータ） (2025-02-06T04:16:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。