論文の概要: SHIFT-JEV: Certified Abstention and Gain-Gated Continual Adaptation for LLM-Based Decision Models under Distribution Shift
- arxiv url: http://arxiv.org/abs/2610.34329v1
- Date: Sun, 25 Oct 2026 14:38:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.578475
- Title: SHIFT-JEV: Certified Abstention and Gain-Gated Continual Adaptation for LLM-Based Decision Models under Distribution Shift
- Title（参考訳）: ShiFT-JEV:配電シフト下におけるLCMに基づく決定モデルの認証取得とゲインゲインゲイン継続的適応
- Abstract要約: ShiFT-Jevは、大規模言語モデルの監視、回避、継続的な適応手順である。
決定のリスクを不確実性、フォーマット、オプション整合性信号から評価する。
Qwen3-0.6Bでは70.5%の精度でリプレイ、LwF、EWCを上回り、各種を微調整する。
- 参考スコア（独自算出の注目度）: 0.589058313311494
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) can act as decision models that return a probability distribution over a fixed set of options, but deployed decision models face domain, label-prior, emerging-class and candidate-set shift. We study how such models fail under shift and propose SHIFT-Jev, a monitoring, abstention and continual-adaptation procedure for them. It scores the risk of each decision from uncertainty, format and option-consistency signals, certifies abstention thresholds with Learn-then-Test, monitors the decision stream with drift and label-shift detectors, and accepts a model update only when an expected-gain gate finds a significant held-out improvement without loss on earlier regimes. On a benchmark of ten shifted test environments with Qwen3-0.6B and Qwen3-4B (three seeds each) and Phi-4-mini, fine-tuning with KL anchors and temperature scaling lowers calibration error under shift from 0.289 to 0.087. At a target risk of 10%, a learned uncertainty score with a certified threshold exceeds the target in 3 to 5 of 27 environment-seed tests, against 5 to 15 for a max-probability score with the same certification and 9 to 14 for conformal prediction sets; drift-based routing changes little. A chi-squared test on predicted labels detects 95 to 99% of class-prior shifts that confidence- and embedding-based detectors miss. In continual adaptation, SHIFT-Jev reaches 70.5% accuracy on Qwen3-0.6B, above replay, LwF, EWC and fine-tuning baselines in every seed, whereas on Qwen3-4B its conservative gate leaves it 0.4 to 1.4 points behind them.
- Abstract（参考訳）: 大規模言語モデル(LLM)は、固定されたオプションセットに確率分布を返す決定モデルとして機能するが、デプロイされた決定モデルは、ドメイン、ラベル優先、新興クラス、および候補セットのシフトに直面する。
このようなモデルがシフト中にどのように失敗するかを考察し,その監視・回避・継続適応手順である ShiFT-Jev を提案する。
これは、不確実性、フォーマット、オプション整合性信号から各決定のリスクをスコア付けし、Learn-then-Testで禁断閾値を認定し、ドリフトとラベルシフト検出器で決定ストリームを監視し、期待されるゲインゲートが以前のレシエーションを損なわずに大幅な改善を達成した場合にのみモデル更新を受け付ける。
Qwen3-0.6BとQwen3-4B(それぞれ3種)とPhi-4-miniによる10つのシフト試験環境のベンチマークでは、KLアンカーによる微調整と温度スケーリングにより、0.289から0.087へのシフト下でのキャリブレーション誤差が低下した。
目標リスク10%において、認定しきい値の学習不確かさスコアが、27の環境条件試験のうち3〜5の目標を超え、同一の認定で最大確率スコアが5〜15、整合予測セットが9〜14、ドリフトベースルーティングがほとんど変化しない。
予測されたラベルの2乗検定では、信頼度と埋め込みに基づく検出器が見逃すクラス優先シフトの95～99%が検出される。
連続的な適応では、Shift-JevはQwen3-0.6Bで70.5%の精度に達し、上述のリプレイ、LwF、EWC、および各シードの微調整ベースラインはQwen3-4Bで0.4から1.4ポイント遅れている。
関連論文リスト
- VX-One: Typed, Calibrated Decision Heads for Real-Time Perimeter Triage [0.0]
校正型出力を持つ小型マルチヘッドネットワークであるVX-Oneを提案する。
ヘッドは温度校正され、0.7-1.7ミリ秒のCPU p50レイテンシを持つ。
CIC-IDS 2017の5日間でSuricata-to-VX-Oneカスケードを測定した。
論文 参考訳（メタデータ） (2026-10-21T17:39:12Z) - Typed Decision Models under Prevalence Shift: Decision Training, Calibration, and Implicit Priors [0.0]
我々は、意思決定トレーニングが自身のバックボーンよりもモデルを改善するかどうか、TDMの校正と閾値が有病率(ラベル)シフトに耐えられるかどうかを問う。
3つのTDM(Jev,Tev1-4B,Ninmble-9B)とそのベースモデルと2つのトレーニングされた分類器を、シミュレートされたシフトの下で5つの公開データセットから同一の決定について比較する。
私たちがテストした3つのTDMは、背骨よりも均一に良いものでも、シフト中のユニークに壊れやすいものでもない。
論文 参考訳（メタデータ） (2026-10-19T13:01:20Z) - VeriVLA: Adaptive Test-Time Verification for Flow-Based VLAs with Latent World Models [50.77784979595945]
トレーニング不要な2軸トリガを導入し,時間内変動とサンプル間のばらつきを測定した。
一度起動すると、JEPAベースの潜在世界モデルは、アクション条件付き将来の潜在状態を予測することによって、候補アクションチャンクをランク付けする。
提案手法は, 平均完了スコアを50.8%から65.5%に引き上げると同時に, トリガ決定毎のサンプリングと検証に326msを加算する。
論文 参考訳（メタデータ） (2026-10-15T14:34:44Z) - Towards Robust Time Series Learning via Capacity-Centric Modulation [76.23489485385964]
本稿では,CCM(Capacity-Centric Modulation)を相補的,サンプル適応正規化原理として提案する。
SACM(Sample-Adaptive Capacity Modulation)は,スペクトル空間の分散を利用して,サンプルワイドドロップアウト確率を割り当てるタスク非依存のフレームワークである。
301個の実世界のデータセット-バックボーンペアのうち、SACMは平均でMSEの予測を6.7%削減し、分類精度を3.04%改善し、ポイント調整されたF1を17.05%改善した。
論文 参考訳（メタデータ） (2026-09-30T10:51:23Z) - From Routing Signals to Selective Review: Visual regrounding in MoE VLMs [48.07726955428853]
視覚言語モデル(VLM)は偽の視覚的前提を受け入れ、対象の物体の色、数、位置、状態について疑問に答える。
本稿では,Mixture-of-Experts (MoE)VLMにおける内部ルーティング決定を活用するための最初のフレームワークを提案する。
提案手法は,MoE VLMによってすでに作成されており,低コストな検出と選択的な視覚的リグラウンドを支援することができる。
論文 参考訳（メタデータ） (2026-09-29T17:49:07Z) - Offline Reinforcement Learning for Distribution-Grid Protection [42.05746375597851]
我々は,CIGRE中電圧ネットワークの静的軌跡からの線選択的トリップについて検討した。
畳み込みQネットワークは、因果電圧電流ファサーおよび見かけインピーダンス特徴を受信する。
その結果,密度予測性能と終端保護挙動がモデルランキングに影響を及ぼす可能性が示唆された。
論文 参考訳（メタデータ） (2026-09-21T14:49:04Z) - Intrinsic Sequence-Likelihood Confidence in Retrieval-Dominated Extractive QA: Two Pre-Specified Negatives, and What They Do and Do Not Attribute [0.4310167974376404]
オープン言語モデルを微調整すると、自身の信頼度が誘引制御信号であるモデルが得られる。
我々は,実行前の基準下での両使用量を評価した。
検索だけで92-99.8%のベストケースの組み合わせ精度が回復する。
論文 参考訳（メタデータ） (2026-09-17T09:17:00Z) - ReDraft, Don't Just Distill: Reference-Driven Revision for Continual VLLM Post-Training [66.72708893922605]
大規模なマルチモーダルモデルのポストトレーニングは、事前トレーニングから保護しながら、新しい機能を追加する必要がある。
SFTは、タスクをほぼゼロの精度から学習する明確なターゲット監視を提供するが、そのオフポリティックターゲットはモデルを十分に移動させ、忘れる原因となる。
モデル自身の失敗から両方を得るReDraftを紹介します。
論文 参考訳（メタデータ） (2026-09-15T04:59:03Z) - Provable Limits and Certified Deferral for Verbalized Uncertainty in Small Language Models [0.0]
小さなオープンウェイト言語モデルは、プライベート、オフライン、コストに敏感な設定でますます動作します。
我々は,言語的信頼度がリスク制御された推論を支援することができるか検討した。
論文 参考訳（メタデータ） (2026-08-05T17:11:04Z) - Conformalized Large Language Models under Configuration Shift [46.502741608809174]
コンフォーマル予測は不確実性定量化のための分布のないフレームワークである。
非整合性スコアは、単に固定モデルではなく、推論パイプラインによって引き起こされることが多い。
構成シフトがCPの妥当性を損なうことを示す。
論文 参考訳（メタデータ） (2026-08-02T19:34:41Z) - When Can Conformal Risk Control Certify LLM Outputs? Bounds, Impossibility, and Adaptation for Structured Generation [0.11280931253550518]
構造化世代 (NER, 抽出, QA, 分類) にデプロイされる大規模言語モデル (LLM) には、正式な信頼性保証がない。
我々は、共形リスク制御(CRC)が構造化LLM出力を証明でき、かつ、それが証明不可能な場合に特徴付ける。
論文 参考訳（メタデータ） (2026-06-27T19:25:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。