論文の概要: Uncertainty Is Not Enough: Value-of-Information Routing for Mixtures of LoRA Experts

• arxiv url: http://arxiv.org/abs/2608.02528v1
• Date: Mon, 03 Aug 2026 17:24:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-04 15:07:25.72912
• Title: Uncertainty Is Not Enough: Value-of-Information Routing for Mixtures of LoRA Experts
• Title（参考訳）: 不確実性は十分ではない - LoRAエキスパートの混成に対する情報提供の価値
• Authors: Tom Saliencro, Rohan Desai, Priya Nair, Maya Lindqvist, Daniel Whitmore,
• Abstract要約: 最近の動的ルータは、ルータや予測が不確実である場合に、より多くの専門家を活性化する。 ルーティングを認証情報割当として定式化する。 我々は,証明の有効性,認定ゲインの減少による最適グリーディーアロケーション,および値推定誤差による後悔のアロケーションを同時に証明する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Mixtures of low-rank adaptation experts increase parameter-efficient capacity by routing each input through a subset of adapters. Recent dynamic routers activate more experts when the router or prediction is uncertain. This rule silently equates uncertainty with useful additional computation: an uncertain example may contain complementary, unqueried expert evidence, but it may instead remain ambiguous after every expert agrees. We formulate routing as certified value-of-information allocation. VI-MoLE learns the counterfactual risk remaining after each expert prefix, converts these predictions into simultaneous upper-risk certificates on held-out calibration data, and spends a global adapter budget on the token--layer action with the largest certified marginal risk reduction per unit cost. A terminal certificate then decides whether to answer or abstain. Unlike an uncertainty gate, this procedure distinguishes present ambiguity from recoverable and residual risk. We prove simultaneous certificate validity, optimal greedy allocation under diminishing certified gains, and allocation regret under value-estimation error. The evaluation protocol tests matched-compute accuracy, certificate coverage, risk--coverage, distribution shift, and tail latency against fixed and dynamic MoE-LoRA routers.
• Abstract（参考訳）: 低ランク適応の専門家の混在は、アダプタのサブセットを介して各入力をルーティングすることでパラメータ効率を向上する。 最近の動的ルータは、ルータや予測が不確実である場合に、より多くの専門家を活性化する。 この規則は、不確実性と有用な追加計算とを静かに同一視している: 不確実な例は相補的で未確認な専門家の証拠を含むかもしれないが、全ての専門家が同意した後もあいまいなままである。 ルーティングを認証情報割当として定式化する。 VI-MoLEは、専門家プレフィックスの後に残る偽造的リスクを学習し、これらの予測をホールドアウトキャリブレーションデータ上の同時上リスク証明書に変換し、トークン層アクションに対するグローバルアダプタ予算を単位コスト当たり最大の限界リスク削減に費やす。 終端証明書は、答えるかどうかを判定する。 不確実性ゲートとは異なり、この手順は現在の曖昧さと回復可能リスクと残留リスクを区別する。 我々は,証明の有効性,認定ゲインの減少による最適グリーディーアロケーション,および値推定誤差による後悔のアロケーションを同時に証明する。 評価プロトコルテストは、固定および動的MoE-LoRAルータに対する計算精度、証明書カバレッジ、リスクカバレッジ、分散シフト、テールレイテンシと一致した。

関連論文リスト

• Beyond Aggregate Risk: Role-Stratified Conformal Risk Control for LLM Tool Calls [0.6823575235014339]
  既存の共形リスク管理手法は、ツールコール全体を認証する。 我々は、フィールドごとの共形リスク制御、すなわち、フィールドごとの検知をラップするキャリブレーション層を導入する。 総合認定が粗悪さの代償を支払うことを示し、その役割の出現頻度に比例して、稀な役割の効果的な予算を締め付ける。
  論文  参考訳（メタデータ） (2026-07-27T12:21:18Z)
• Uncertainty-Aware Abstention in Large Language Models with Provable Alignment Guarantees [0.5371337604556311]
  大規模言語モデル (LLM) は質問応答システム (QA) に徐々にデプロイされている。 信頼度を見積もることなく、幻覚または不一致の応答を生成することができる。 我々は、任意の不確実性スコアをリスク制御された選択応答規則に変換する信頼区間に基づくキャリブレーションフレームワークであるCICを提案する。
  論文  参考訳（メタデータ） (2026-07-05T17:50:32Z)
• Conformal Certification of Reasoning Trace Prefixes [30.432255322700126]
  CROP(Conformal Reasoning Output Prefixes)は,クリーンアノテート認証のためのバリデーション非依存の校正手順である。 CROPをオーバー・アンド・アンダー・ホールドし、有効な中間的推論を保ち、下流の補修精度を向上させることを実証する。
  論文  参考訳（メタデータ） (2026-05-28T15:31:42Z)
• LEC: Linear Expectation Constraints for False-Discovery Control in Selective Prediction and Routing Systems [95.35293543918762]
  大規模言語モデル(LLM)はしばしば信頼できない答えを生成するが、不確実性のある手法は誤った予測と完全に区別することができない。 我々は、この問題を、偽発見率(FDR)制御のレンズを通して解決し、全ての許容された予測のうち、エラーの割合が目標のリスクレベルを超えないことを保証する。 本稿では,線形期待制約を強制することで,選択予測を制約付き決定問題として再解釈するLECを提案する。
  論文  参考訳（メタデータ） (2025-12-01T11:27:09Z)
• Adaptive Individual Uncertainty under Out-Of-Distribution Shift with Expert-Routed Conformal Prediction [8.306260695214972]
  信頼度の高い適応区間(TESSERA)のスケールド推定を用いた信頼度エキスパートスプリット・コンフォーマルを導入する。 TESSERAは、絶対誤差を追跡する信頼性の高いカバレッジ保証、情報的かつ適応的な予測間隔幅を備えたサンプル単位の不確実性を提供する。 タンパク質-リガンド結合親和性予測は, 独立および同一分布 (d.d.) と足場ベースアウト・オブ・ディストリビューション (OOD) の双方で評価した。
  論文  参考訳（メタデータ） (2025-10-17T01:51:33Z)
• COIN: Uncertainty-Guarding Selective Question Answering for Foundation Models with Provable Risk Guarantees [51.5976496056012]
  COINは、統計的に有効な閾値を校正し、質問毎に1つの生成された回答をフィルタリングする不確実性保護選択フレームワークである。 COINはキャリブレーションセット上で経験的誤差率を推定し、信頼区間法を適用して真誤差率に高い確率上界を確立する。 リスク管理におけるCOINの堅牢性,許容回答を維持するための強いテストタイムパワー,キャリブレーションデータによる予測効率を実証する。
  論文  参考訳（メタデータ） (2025-06-25T07:04:49Z)
• SConU: Selective Conformal Uncertainty in Large Language Models [59.25881667640868]
  SconU(Selective Conformal Uncertainity)と呼ばれる新しいアプローチを提案する。 我々は,特定の管理可能なリスクレベルで設定されたキャリブレーションの不確実性分布から,与えられたサンプルが逸脱するかどうかを決定するのに役立つ2つの共形p値を開発する。 我々のアプローチは、単一ドメインと学際的コンテキストの両方にわたる誤発見率の厳密な管理を促進するだけでなく、予測の効率を高める。
  論文  参考訳（メタデータ） (2025-04-19T03:01:45Z)
• Decision from Suboptimal Classifiers: Excess Risk Pre- and Post-Calibration [52.70324949884702]
  バッチ二分決定における近似的後続確率を用いた余剰リスクの定量化を行う。 我々は、再校正のみが後悔のほとんどに対処する体制と、後悔が集団的損失に支配される体制を識別する。 NLP実験では、これらの量によって、より高度なポストトレーニングの期待値が運用コストに値するかどうかが分かる。
  論文  参考訳（メタデータ） (2025-03-23T10:52:36Z)
• Bayesian autoencoders with uncertainty quantification: Towards trustworthy anomaly detection [78.24964622317634]
  本研究では, ベイズオートエンコーダ (BAEs) の定式化により, 全体の異常不確かさを定量化する。 不確実性の質を評価するために,不確実性の予測を拒否するオプションを追加して,異常を分類する作業を検討する。 本実験は,BAEと総異常不確かさが,ベンチマークデータセットと製造用実データセットのセットに与える影響を実証するものである。
  論文  参考訳（メタデータ） (2022-02-25T12:20:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。