論文の概要: Probability Contracts: Accuracy, Coherence, and Decisions Across LLM Interfaces
- arxiv url: http://arxiv.org/abs/2609.37470v1
- Date: Sun, 27 Sep 2026 19:07:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.515675
- Title: Probability Contracts: Accuracy, Coherence, and Decisions Across LLM Interfaces
- Title(参考訳): 確率契約:LLMインターフェース全体の正確性、一貫性、決定性
- Abstract要約: 決定に使用される確率は、同等の要求に対して同じイベントを参照すべきである。
我々は、確率契約、正確な有限世界後部を接続するベンチマーク、検証された事象変換、そして失敗を意識した決定評価を導入する。
- 参考スコア(独自算出の注目度): 10.720985236309462
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A probability used for a decision should refer to the same event across equivalent requests. We introduce probability contracts, a benchmark connecting exact finite-world posteriors, validated event transformations, and failure-aware decision evaluation. Four model-interface configurations are evaluated on 1,000 worlds. Their assessments differ across accuracy, coherence, and decision loss: Kev has lower aggregate canonical posterior error than Jev, but larger complement and coarsening residuals, with accuracy ordering varying by stratum. Jev's Event and Choice interfaces induce different binary actions on 32.8% of valid pairs at defer cost 0.10. A post-hoc analysis finds that disagreement certifies only 11-52% of mean binary pair error across configurations. An elementary action-region characterization explains when averaging changes decision loss relative to randomly selecting one interface. Although averaging cannot worsen that baseline's expected Brier score, its decision effect depends on the cost and crossed boundaries; the observed same-baseline penalties occur in configurations already worse than always deferring. The benchmark makes these distinctions measurable without treating consistency as accuracy or a score improvement as a decision guarantee.
- Abstract(参考訳): 決定に使用される確率は、同等の要求に対して同じイベントを参照すべきである。
我々は、確率契約、正確な有限世界後部を接続するベンチマーク、検証された事象変換、そして失敗を意識した決定評価を導入する。
4つのモデル・インタフェースが1000の世界で評価されている。
これらの評価は, 精度, コヒーレンス, 決定損失によって異なる: Kev は Jev よりも集合正準後誤差が低いが, 補間および粗大化残差が大きく, 精度は層によって異なる。
Jev の Event と Choice インターフェースは、有効ペアの 32.8% に対して、遅延コスト 0.10 で異なるバイナリアクションを誘導する。
ポストホック分析では、不一致は構成間の平均バイナリペアエラーの11~52%しか証明していない。
基本動作領域の特徴付けは、あるインターフェースをランダムに選択した場合に、平均化が決定損失を変化させる時を説明する。
平均化がベースラインの期待するブライアスコアを悪化させることはないが、その決定効果はコストと境界の交差に依存する。
このベンチマークは、一貫性を精度として、あるいはスコア改善を決定保証として扱うことなく、これらの区別を測定可能にする。
関連論文リスト
- Same Scores, Different Decisions: Evaluating JEV and Language Models for Legal Document Understanding [65.85599131866623]
私たちはJevとContractNLIの9つの言語モデルを比較します。
制御された比較は、仮説の可視性、要求された出力、および出力順序によって異なる。
Jevは、評価された構成の中で、最低コストと中央値のレスポンス時間を持っています。
論文 参考訳(メタデータ) (2026-09-23T10:53:01Z) - Calibrated Probabilistic Obstruction Reasoning with Vision-Language Models for Grasping in Clutter [2.185870901290891]
既存の方法は1つの障害グラフや削除戦略にコミットし、代替のシーン解釈における不確実性を無視します。
CPOR-Graspは,2つの証拠から行動決定への不確実性を伝達する,キャリブレーションされた確率的妨害推論フレームワークである。
UNOBenchシーンと実際のUNOBenchシーンでは、CPOR-Graspは最先端のベースラインを上回っている。
論文 参考訳(メタデータ) (2026-09-16T14:21:52Z) - Lottery Tickets Are Not Deployment Tickets [4.230349220081444]
我々は、下流決定論理を再構成することなく、精度に適合した宝くじ券または他のスパースチャレンジャーが、既存の高密度モデルを置き換えることができるかどうかを検討する。
実験全体を通して、スパース候補は繰り返し密度参照精度を回復するが、行動学的に異なるままである。
固定閾値ポリシー診断を備えた小さなギャップ設定では、宝くじの交換は受け入れレビュー決定の7%から10%に変化する。
論文 参考訳(メタデータ) (2026-07-29T15:25:19Z) - Decision Kernels for Quantum Error Mitigation: Why Accuracy Gains Need Not Improve Downstream Decisions [0.0]
下流決定のための有限ショットQEMの理論を開発する。
我々は、商因子化、ギャップロー極小性、限界ノーゴー定理、QEMプルバック定理、固定配置ショットレベル逆を証明する。
論文 参考訳(メタデータ) (2026-07-03T02:35:57Z) - Tailoring Strictly Proper Scoring Rules for Downstream Tasks: An Application to Causal Inference [48.78219918881965]
本稿では,ダウンストリーム誤差メトリックの局所曲率をマッチングすることにより,タスク固有の厳密なスコアリングルールを導出するフレームワークを提案する。
これを平均処理効果 (ATE) 推定に適用し, 閉形式損失と対応する正準確率写像を導出する。
論文 参考訳(メタデータ) (2026-06-02T08:41:25Z) - Ternary Decision Trees with Locally-Adaptive Uncertainty Zones [0.0]
3次決定木は、最適しきい値を中心とする半幅デルタの不確かさゾーンを持つ各分割ノードを増大させる。
デルタは、標準のCART分割探索時に既に利用可能な統計から各ノードでローカルに計算される。
デルタ推定手法として,品質プレート,クラスオーバーラップ,ゲイン比,ノードブートストラップ,マージンの5つを評価した。
論文 参考訳(メタデータ) (2026-05-21T17:11:19Z) - Correction and Corruption: A Two-Rate View of Error Flow in LLM Protocols [51.56484100374058]
そこで本研究では,単一プロトコルステップを正確なマッチングタスクで監査するためのペアアウトカム計測インタフェースを提案する。
各インスタンスについて、インターフェースはベースラインの正当性ビットと後ステップの正当性ビットを記録する。
これらのレートは精度の変化を予測し、種、混合物、パイプライン間でテスト可能な再利用可能な経験的インターフェースを定義する。
論文 参考訳(メタデータ) (2026-04-20T13:25:40Z) - Beyond calibration: estimating the grouping loss of modern neural
networks [68.8204255655161]
適切なスコアリングルール理論は、キャリブレーション損失が与えられた場合、個々のエラーを特徴づける欠片がグループ化損失であることを示している。
視覚およびNLPにおける現代のニューラルネットワークアーキテクチャは、特に分散シフト設定においてグループ化損失を示す。
論文 参考訳(メタデータ) (2022-10-28T07:04:20Z) - A Study on Mitigating Hard Boundaries of Decision-Tree-based Uncertainty
Estimates for AI Models [0.0]
不確実性ラッパーは、入力品質に関連する不確実性をクラスタ化するための決定木アプローチを使用し、異なる不確実性クラスタに厳密に入力を割り当てる。
我々の目標は、解釈可能性、ランタイムの複雑さ、予測性能を維持しながら、ハードな決定境界を緩和するアプローチに置き換えることです。
論文 参考訳(メタデータ) (2022-01-10T10:29:12Z) - Generalized Focal Loss: Learning Qualified and Distributed Bounding
Boxes for Dense Object Detection [85.53263670166304]
一段検出器は基本的に、物体検出を密度の高い分類と位置化として定式化する。
1段検出器の最近の傾向は、局所化の質を推定するために個別の予測分岐を導入することである。
本稿では, 上記の3つの基本要素, 品質推定, 分類, ローカライゼーションについて述べる。
論文 参考訳(メタデータ) (2020-06-08T07:24:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。