論文の概要: System X: An LLM Decision Model That Replies from Its Own KV Cache

• arxiv url: http://arxiv.org/abs/2610.25456v1
• Date: Sun, 18 Oct 2026 18:40:50 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-20 22:13:06.741844
• Title: System X: An LLM Decision Model That Replies from Its Own KV Cache
• Title（参考訳）: System X:独自のKVキャッシュから応答するLCM決定モデル
• Abstract要約: 決定モデルは供給されたオプションよりも確率を返すが、デプロイされたエージェントは言葉で返信する必要がある。 本稿では,大言語モデル (LLM) 決定モデルである System X を紹介する。 System X v4はQwen3-1.7B、データの再バランス、教師が書き直した返信ターゲットを使用する。
• 参考スコア（独自算出の注目度）: 2.1956992918521805
• License:
• Abstract: Decision models return probabilities over supplied options, but a deployed agent may also need to reply in words. The present study introduces System X, a large language model (LLM) decision model that adds a text-reply option to the LLM-as-Jev readout. When this option wins, or confidence is low, the same model continues from the decision's key-value (KV) cache, avoiding a repeated prompt prefill. Qwen3-0.6B has been fine-tuned with LoRA on Reason-9k and Bitext reply rows. JevBench accuracy shows no statistically significant change (55.4% to 54.5%, p=0.87), while expected calibration error falls from 0.292 to 0.169. Held-out Bitext routing accuracy reaches 98.3%. Cache reuse saves 15-37% of latency on an Apple M4 Pro, with token-identical replies in the FP32 demonstration cases. Scoring options on copies of the prompt cache matches full-sequence scoring to within 1.4e-6 in probability. Adding dialogue, industry and complaint data (System X+) improves support-task results but lowers IFEval accuracy from 55.5% to 45.0%. System X v4 uses Qwen3-1.7B, rebalanced data and teacher-rewritten reply targets. Against its base LLM, JevBench accuracy rises from 55.0% to 61.0% (p=0.04), with no statistically significant IFEval change (p=0.71). A matched latency test on unadapted Qwen3-1.7B saves 17-39%. One LLM judge prefers v4 replies to an unadapted 1.7B second call (31 to 11 pairs, p=0.003); the other's preference is not significant. These reply comparisons also differ in prompts and generation limits. State conflicts and unsupported reply details remain failure modes. Further studies with several seeds, human raters and real support data are recommended.
• Abstract（参考訳）: 決定モデルは供給されたオプションよりも確率を返すが、デプロイされたエージェントは言葉で返信する必要がある。 本稿では,LLM-as-Jevの読み出しにテキスト返信オプションを追加する,大規模言語モデル(LLM)決定モデルであるSystem Xを紹介する。 このオプションが勝つか、あるいは信頼性が低い場合は、同じモデルが決定のキー値(KV)キャッシュから継続して、繰り返しプロンプトのプリフィルを回避する。 Qwen3-0.6Bは、Reason-9kとBitextの返信行でLoRAで微調整されている。 JevBenchの精度は統計的に有意な変化はない(55.4%から54.5%、p=0.87)が、キャリブレーション誤差は0.292から0.169に低下する。 Held-out Bitextルーティングの精度は98.3%に達する。 キャッシュの再利用は、Apple M4 Proで15～37%のレイテンシを節約し、FP32のデモケースではトークンを識別する応答が返される。 プロンプトキャッシュのコピーのスコーリングオプションは、確率で1.4e-6以内のフルシーケンススコアと一致する。 対話、業界データ、苦情データの追加(System X+)はサポートタスクの結果を改善するが、IFEvalの精度は55.5%から45.0%に低下する。 System X v4はQwen3-1.7B、データの再バランス、教師が書き直した返信ターゲットを使用する。 基本的なLCMに対して、JevBenchの精度は55.0%から61.0%(p=0.04)に上昇し、統計的に有意なIFEval変化はない(p=0.71)。 未適応のQwen3-1.7Bでの一致したレイテンシテストは17-39%の節約である。 あるLCM判事は、未適応の1.7B秒呼(31対11ペア、p=0.003)に対するv4応答を好む。 これらの応答比較は、プロンプトと生成限界にも異なる。 状態の衝突とサポートなしの返信の詳細は、失敗モードのままです。 いくつかの種、ヒトラッカー、および実際の支援データを用いたさらなる研究が推奨されている。

関連論文リスト

• Intern-Decision: Efficient Multimodal Decision Making with Autoregressive Masked Language Modeling [26.882267847221353]
  Intern-Decisionは0.8B、2B、4Bマルチモーダル決定モデルである。 我々の自己回帰型マスキング言語は、フィールドごとに1つの決定的プレースホルダーを完全なアシスタントスケルトンに配置する。 結果は、より大きなエージェントシステムの実用的なコンポーネントとして、コンパクトな決定モデルをサポートする。
  論文  参考訳（メタデータ） (2026-10-15T16:05:48Z)
• Bayesian Test-Time Inference of Task-Aligned Similarity from Weak Interactive Feedback [50.42640957891911]
  言語モデルシステムは、類似性を比較することで、繰り返しテスト時の決定を行う。 しかし、類似性はユニークではない:語彙、意味、構造、類似性はNの選択点を取得することができる。 本稿では,現在の意思決定を統括するトレーニングフリーベイズ手法であるAxis Interactive Signalsを紹介する。
  論文  参考訳（メタデータ） (2026-10-13T16:19:49Z)
• Learning When to Trust and Reobserve Sparse-Frame VideoQA from Temporal Sampling Perturbations [0.0]
  制御された時間オフセットで凍結VLMを探索し, 位相投票応答の信頼性を予測し, 特定の救助行動の事例的正当性向上を予測した。 手法開発には256パーセプション・テスト・ビデオを使用し、554の物理問題からなる256ビデオ・テスト・セットの評価を行った。
  論文  参考訳（メタデータ） (2026-10-12T11:50:02Z)
• CASE: Cost-Aware Stopping for Efficient Long-Video Agents [47.793956973688616]
  長ビデオエージェントのためのプラグイン終端フレームワークであるCASEを提案する。 Caseは、この決定をポリシー付きシーケンシャル・ストップとして表している。 軽量なリッジ回帰器は、この決定ギャップを学び、STOP/E決定を生成する。
  論文  参考訳（メタデータ） (2026-10-04T17:35:33Z)
• Fast Models, Slow Evidence: A Paired and Self-Audited Evaluation of System-1 Decision Models for LLM Agent Harnesses [6.778374627376906]
  System-1決定モデルは、クラス確率で単一のフォワードパスでそのような質問に答える。 オープンウェイト (Laya) モデルとホスト (Jev) System-1 モデルとのペア評価を行った。
  論文  参考訳（メタデータ） (2026-10-01T05:57:14Z)
• Evaluating and Benchmarking the System One Model Jev [1.579162290333307]
  Jevは、テキストを生成しないTypeSafe AIのSystem Oneモデルである。 固定オプション、ルーブリック上の位置、あるいは文が真である確率から選択を返す。 分類,ルーティング,自然言語推論,読解,コモンセンス推論,モデレーション,法的条項解析,ルーリックスコアリングにまたがる37のデータセットに対して,Jevゼロショットを評価した。
  論文  参考訳（メタデータ） (2026-09-29T14:15:04Z)
• Target-Checked Reliability Score Refinement for Video Question Answering [3.8271803328378677]
  モデルの再トレーニングや回答の変更を伴わずに、目標シフトの下で回答レベルの信頼性スコアを改善できるかどうかを検討する。 3つの固定されたビデオ言語モデルから、4つの決定論的ビデオサンプリングに基づいてオプション確率リストを収集する。 選択した回答に割り当てられた確率として定義される原点スコアと,開発データセットに基づいて学習したヒストグラムに基づく勾配ボスティング(HGB)スコアを比較した。 候補は、ビデオレベルの繰り返しチェックがポジティブで安定した改善を示す場合にのみ、元のスコアを置き換える。
  論文  参考訳（メタデータ） (2026-09-09T08:29:00Z)
• MemToC: Benchmarking Memory-Tool Conflict Resolution in Large Language Models [49.47300047353726]
  MemToCは、実行時ツールによるポストツール-リターン仲裁のベンチマークである。 MemToCは、542の質制御された事実質問から構築された6,504回の評価エピソードで構成されている。 オープンウェイトな7-9Bモデルでは、ツールが強く支配的なクローズドブックの回答を返す。
  論文  参考訳（メタデータ） (2026-08-26T18:22:03Z)
• LLM Robustness Against Misinformation in Biomedical Question Answering [50.98256373698759]
  探索拡張生成(RAG)アプローチは,質問応答のための大規模言語モデル(LLM)の折り畳みを低減するために用いられる。 バイオメディカル質問に対する誤報に対する4つのLDMの有効性とロバスト性を評価した。
  論文  参考訳（メタデータ） (2024-10-27T16:23:26Z)
• Improving Selective Visual Question Answering by Learning from Your Peers [74.20167944693424]
  VQA(Visual Question Answering)モデルは、間違っていた場合の回答を控えるのに苦労する可能性がある。 本稿では,複数モーダル選択関数の学習におけるLearning from Your Peers (LYP) アプローチを提案する。 提案手法では,学習データの異なるサブセットに基づいて訓練されたモデルの予測を,選択的VQAモデルの最適化のターゲットとして利用する。
  論文  参考訳（メタデータ） (2023-06-14T21:22:01Z)
• Selective Question Answering under Domain Shift [90.021577320085]
  モデルがドメイン外の入力に対して過度に信頼されているため、モデルのソフトマックス確率のみに基づくアテンションポリシーは不適切である。 キャリブレータをトレーニングして、QAモデルがアースする入力を識別し、エラーを予測した場合に停止する。 提案手法は,80%の精度を維持しながら56%の質問に回答するが,それに対してモデルの確率を直接使用する場合,80%の精度で48%しか回答しない。
  論文  参考訳（メタデータ） (2020-06-16T19:13:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。