論文の概要: Pair-Dependent Judge Errors Change the Minimax Rate of Semantic Entropy

• arxiv url: http://arxiv.org/abs/2610.39196v1
• Date: Thu, 29 Oct 2026 02:18:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-31 05:25:12.448372
• Title: Pair-Dependent Judge Errors Change the Minimax Rate of Semantic Entropy
• Title（参考訳）: Pair-Dependent judge Errors Change the Minimax Rate of Semantic Entropy (特集:ユビキタスコンピューティング)
• Abstract要約: 意味論的エントロピー(Semantic entropy)は、一対の答えが等価かどうかを宣言する裁判官の評定から推定される。 3つの意味において、4つの答えの木の統計値によってレートが設定され、一方、オープンなチャネルのセットでは、整合性しきい値は5つの木によって設定される。
• 参考スコア（独自算出の注目度）: 4.621071191322703
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Semantic entropy, the entropy of the meanings among a language model's sampled answers, is estimated from the verdicts of a judge that declares pairs of answers equivalent or not, and automatic judges err in ways that depend on the answers they compare. The existing minimax theory covers only judges whose false-equivalence probability is the same for all pairs. We model a known judge that declares two answers with meanings $a$ and $b$ equivalent with probability $q+ΔM_{ab}$, for a symmetric matrix $M$ and $q$ bounded away from $0$ and $1$, and show that for three meanings the rate is set by tree statistics on four answers, while on an open set of channels the consistency threshold is set by trees on five. For every channel in an explicit open class, the minimax squared risk is of order $N^{-1/3}$ with $N=n^4Δ^6$ on polynomial weak windows on which $n^5Δ^8$ exceeds a multiple of $\log n$, and of order $\min\{1,N^{-1/3}\}$ on every polynomial weak window when the tree functions on at most four vertices are injective. The exponent comes from a cubic degeneracy at the equitable point. On an open set of channels in the class, the four-vertex tree functions take equal values at two distributions with different entropies. For such a channel, on every polynomial weak window, the minimax risk is of the order of the sum of $\min\{1,N^{-1/3}\}$ and a term that decays exponentially in $n^5Δ^8$, so no estimator is consistent while $n^5Δ^8$ stays bounded, even as $N\to\infty$. For $Δ=n^{-β}$ with $β>1/2$, channels of the class with injective four-vertex tree functions allow consistent estimation exactly for $β<2/3$, and the channels of this open set exactly for $β<5/8$, at which the risk exponent drops from $1/12$ to $0$. Computer-assisted certificates show that both kinds of channels occur on open sets.
• Abstract（参考訳）: セマンティック・エントロピー(Semantic Entropy)は、言語モデルのサンプル回答における意味のエントロピーであり、対の答えが同等かどうかを宣言する裁判官の評定から推定される。 既存のミニマックス理論は、すべてのペアに対して偽等価確率が同じである裁判官のみをカバーする。 対称行列に対して、$a$ と $b$ が確率 $q+ΔM_{ab}$ と同値であると宣言する既知の判断をモデル化し、$0$ と $1$ から有界である$M$ と $q$ をモデル化し、3 つの意味について、その比率が 4 つの答えのツリー統計によって設定され、一方、開チャネルでは、一貫性しきい値が5 のツリーによって設定されていることを示す。 明示的開クラスのすべてのチャネルに対して、ミニマックス二乗リスクは次数$N^{-1/3}$と$N=n^4Δ^6$の多項式弱ウィンドウの次数$n^5Δ^8$が$\log n$の倍数を超え、また、任意の多項式弱ウィンドウの次数$\min\{1,N^{-1/3}\}$の次数$N^{-1/3}$である。 指数は、等方点における立方退化から来る。 クラス内の開チャネルの集合では、四頂点木函数は異なるエントロピーを持つ2つの分布で等しい値を取る。 そのようなチャネルに対して、すべての多項式弱ウィンドウ上で、ミニマックスリスクは$\min\{1,N^{-1/3}\}$の和の次数であり、$n^5Δ^8$で指数関数的に崩壊する項なので、$n^5Δ^8$が有界であるのに対して、$n^5Δ^8$は有界である。 Δ=n^{-β}$と$β>1/2$の場合、インジェクティブな四頂点木の関数を持つクラスのチャネルは、正確に$β<2/3$で、この開集合のチャネルは正確に$β<5/8$で、リスク指数が$/12$から$0$で減少する。 コンピュータ支援証明書は、どちらの種類のチャネルもオープンセットで発生することを示している。

関連論文リスト

• Rarity Determines Minimax Rates of Semantic Entropy From Weak Pairwise Judgments With a Known Channel [0.9668407688201359]
  言語モデルの意味論的エントロピーは、そのサンプルされた答えの意味のエントロピーである。 難易度は、何つの意味が稀であるかによって決定される。
  論文  参考訳（メタデータ） (2026-10-13T08:44:29Z)
• Slow Beats Fast at the Kesten-Stigum Threshold: Minimax, Fisher-Information and Belief-Propagation Characterizations of the Information-Computation Gap in Sparse Stochastic Block Models [0.0]
  本研究は,$q$コミュニティを用いた疎対称計算ブロックモデルにおけるコミュニティリカバリについて検討する。 我々はKesten-Stigumしきい値$d2=1$と、その下の情報計算ギャップの3つの特徴を得る。
  論文  参考訳（メタデータ） (2026-10-06T05:43:49Z)
• Geometry-Dependent Approximation for Non-Monotone $k$-Submodular Maximization [55.29259818039367]
  支持領域がより均一な選択を許すにつれて、認証された近似係数がどのように改善されるかを示す。 明示的なパラメータの選択は、非遅延認証プロファイルに$underline_k()$を与える。 値保持丸めは、これらの保証をマトロイドとクナプサックの制約に転送する。
  論文  参考訳（メタデータ） (2026-10-02T20:52:38Z)
• Geometry-Dependent Bounds for Online Non-Monotone DR-Submodular Maximization [55.29259818039367]
  凸閉集合上の逆オンライン非負の非単調DR-部分モジュラ函数について検討する。 学習者は、目的を観察する前に各アクションを学習し、後から最高の固定アクションと競合する。 定数対物列は、最適に多くの1次クエリでオフラインの$(4/9-varepsilon)$近似を生成する。
  論文  参考訳（メタデータ） (2026-09-30T18:26:29Z)
• Local and Global Risk Bounds for Quantum Entropy Estimation under Projective-Design Measurements [0.5076419064097734]
  固定階数 1 の POVM の独立な結果からフォン・ノイマンエントロピーを推定するための下界を確立する。 回転平均のファンツリー引数は、$dge C$と$nge Cd$の場合に、少なくとも$(d/n)log2n/(4d)$という大域的ミニマックスリスクを与える。 また,最大混合状態付近の作用素-ノームボール半径$r$のリスクも特徴付ける。
  論文  参考訳（メタデータ） (2026-08-25T03:35:37Z)
• The Exact Worst-Case Tail Probability under Bounded Kurtosis [39.91890433860882]
  片側テールコントロールのために、クルトーシスバウンドが何を買うか、正確に決定する。 平均$0$、分散$1$、そして少なくとも$$4の4モーメントを持つ実乱変数のクラス$mathcalC()$の場合、歪みは自由のままである。
  論文  参考訳（メタデータ） (2026-07-06T15:40:54Z)
• Rényi exponent landscape of multipartite entanglement in free-fermion systems [51.56484100374058]
  我々は、Rényi tripartite information $I_3() が小フェルミ運動量での質的に $exclusion-dependent scaling を示すことを示した。 I_m(n)/I_m(1) sim zm-1 to 0$ for all integer $n geq 2$, so the leading von Neumann signal can builded from integer Rényi data。
  論文  参考訳（メタデータ） (2026-03-09T22:27:00Z)
• Online Learning with Adversaries: A Differential-Inclusion Analysis [52.43460995467893]
  我々は,完全に非同期なオンラインフェデレート学習のための観察行列ベースのフレームワークを提案する。 我々の主な結果は、提案アルゴリズムがほぼ確実に所望の平均$mu.$に収束することである。 新たな差分包摂型2時間スケール解析を用いて,この収束を導出する。
  論文  参考訳（メタデータ） (2023-04-04T04:32:29Z)
• The Approximate Degree of DNF and CNF Formulas [95.94432031144716]
  すべての$delta>0に対して、$はCNFと近似次数$Omega(n1-delta)の式を構築し、基本的には$nの自明な上限に一致する。 すべての$delta>0$に対して、これらのモデルは$Omega(n1-delta)$、$Omega(n/4kk2)1-delta$、$Omega(n/4kk2)1-delta$が必要です。
  論文  参考訳（メタデータ） (2022-09-04T10:01:39Z)
• TURF: A Two-factor, Universal, Robust, Fast Distribution Learning Algorithm [64.13217062232874]
  最も強力で成功したモダリティの1つは、全ての分布を$ell$距離に近似し、基本的に最も近い$t$-piece次数-$d_$の少なくとも1倍大きい。 本稿では,この数値をほぼ最適に推定する手法を提案する。
  論文  参考訳（メタデータ） (2022-02-15T03:49:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。