論文の概要: Counterfactual Probing for Parallel Unmasking with Hidden Forest Structure
- arxiv url: http://arxiv.org/abs/2609.37841v2
- Date: Sun, 04 Oct 2026 14:33:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-07 04:43:28.437474
- Title: Counterfactual Probing for Parallel Unmasking with Hidden Forest Structure
- Title(参考訳): 隠れた森林構造を有するパラレルアンマキングの実態調査
- Abstract要約: マスク付き生成モデルは並列トークン予測を提供するが、正確な並列サンプリングはトークンを考慮しなければならない。
本研究は,発見を含む全評価がシーケンス長$N$のサブ線形であるかどうかを考察する。
本研究では, 森林構造を隠蔽した離散分布を, 固定された近似条件オラクルを通してアクセスする。
- 参考スコア(独自算出の注目度): 50.58119214447535
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Masked generative models offer parallel token prediction, but accurate parallel sampling must account for dependencies among tokens. When dependencies are unknown, finding safe batches also costs model evaluations. We study whether total evaluations, including discovery, can be sublinear in sequence length $N$; sublinear sequential depth then follows. We consider discrete distributions with hidden forest structure, accessed through a fixed approximate conditional oracle. Under explicit regularity conditions and uniform Hellinger error bounds, for any fixed target accuracy $\varepsilon\in(0,1/8]$ and sufficiently large $N$, our sampler achieves seed-averaged total-variation error at most $\varepsilon$, with total masked-state submissions and sequential depth both bounded by $\widetilde{O}(N^C \varepsilon^{-a})$ for constants $0<C<1$ and $a>0$. These guarantees use polynomial vocabulary size and an edge-response lower bound set by $N$ and $\varepsilon$. The sampler shares evaluations of hypothetical reveals across dependence tests to identify safe parallel batches without requiring full recovery of the hidden forest. A tunable parameter trades probing cost against irreversible commit rounds. In the same class, any admissible irreversible product-commit sampler attaining the same seed-averaged accuracy requires $Ω(N^c \varepsilon^b)$ counterfactual submissions or commit rounds in the worst case, for constants $c,b>0$.
- Abstract(参考訳): Masked生成モデルは並列トークン予測を提供するが、正確な並列サンプリングはトークン間の依存関係を考慮しなければならない。
依存関係が不明な場合には、安全なバッチを見つけることもモデル評価を犠牲にします。
本研究は,発見を含む全評価がシーケンス長$N$,サブ線形シーケンシャル深さでサブ線形であるかどうかを考察する。
本研究では, 森林構造を隠蔽した離散分布を, 固定された近似条件オラクルを通してアクセスする。
明確な正規性条件と均一なHellingerエラー境界の下では、任意の固定目標精度に対して$\varepsilon\in(0,1/8]$と十分に大きな$N$に対して、我々のサンプルは、最大で$\varepsilon$で、最大で$\varepsilon$で、最大で$\varepsilon$で、合計マスク状態の入力とシーケンシャル深さはともに$\widetilde{O}(N^C \varepsilon^{-a})$で、定数$0<C<1$と$a>0$で有界である。
これらの保証は多項式ボキャブラリサイズと、$N$と$\varepsilon$で設定されたエッジ-レスポンスローバウンドを使用する。
サンプルは、隠れた森林の完全な回復を必要とせず、安全な並列バッチを識別するために、依存試験全体にわたる仮説の評価を共有する。
調整可能なパラメータは、不可逆なコミットラウンドに対する探索コストを交換する。
同じクラスでは、同じシード平均精度に達する許容不可能な製品コミットサンプルは、$c,b>0$に対して、最悪の場合には$Ω(N^c \varepsilon^b)$の反実的な提出またはコミットラウンドを必要とする。
関連論文リスト
- Improved Private Sparse Covariance Estimation with Multiscale Threshold Tests [19.221722169368494]
サンプル複雑性$ot(k2/2+ksqrt d/(varepsilon)$ for $(varepsilon,)$-differential privacy and error at most $2$。
境界は、既存の$ot(k2/2+k3/2sqrt d/(varepsilon))$ citepkumar2026上界のプライバシー依存項を$sqrt k$で改善し、一致させる。
論文 参考訳(メタデータ) (2026-09-19T05:31:47Z) - Drift Variation Autoencoder: Unifying Generation and Representation Learning through Conditional Posterior Flow Matching [0.0]
この研究は、条件生成の共通統計対象として対応する後続の$P(Xmid C)$を取る。
ドリフト変動オートエンコーダは、マスク付きエンコーダ$Z=E(C)$と、1つのきれいな予測フローマッチング損失を持つ条件付きフローデコーダを訓練する。
論文 参考訳(メタデータ) (2026-08-25T20:38:50Z) - The geometry of AI validation: Exact certification limits for iid best-of-N search [0.0]
信頼性面上での検証とデプロイメントのルールをカーネルとして表現する。
B_m,N=1+2sum_r=1m(-1)rcos2Nr/[(m+1)]$
論文 参考訳(メタデータ) (2026-08-21T15:18:11Z) - From Approachability Residuals to Anytime-Valid Evidence: The Online Convex Geometry of Testing by Betting [0.1624454100511275]
ギャンブリングベースのシーケンシャルテストとブラックウェルのアプローチ性は、支持関数による比例還元によってリンクされる。
正確な経路単位は$$dist(bar r_T,S) =frac1Tsum_t=1Tq_t+fracReg_TTである。
論文 参考訳(メタデータ) (2026-08-10T11:23:30Z) - Sample Complexity of Multicalibration for Multilevel Properties [52.27687531970317]
我々は、前のプロパティが固定されたときに各プロパティが識別可能な$k$プロパティの列に対する多重校正について検討する。
多対数的に多くの二元群が存在するにもかかわらず、多重校正誤差$varepsilon$を達成するには$widetilde(varepsilon-(k+2))$サンプルが必要である。
論文 参考訳(メタデータ) (2026-08-04T23:38:54Z) - When Are Trade-Off Functions Testable from Finite Samples? [4.706977254727891]
2つの未知確率分布のトレードオフ関数に対する有限サンプル推論について検討する。
テストの反転により、トレードオフ曲線全体に対する同時信頼バンドも得られる。
論文 参考訳(メタデータ) (2026-05-11T16:07:48Z) - Almost Minimax Optimal Best Arm Identification in Piecewise Stationary Linear Bandits [55.957560311008926]
そこで本研究では,各文脈の平均値によって腕の質を計測するPSLBモデルを提案する。
PS$varepsilon$BAI$+$は、$varepsilon$-optimal armを、確率$ge 1-delta$と最小限のサンプルで識別することが保証される。
論文 参考訳(メタデータ) (2024-10-10T06:15:42Z) - Fast Rates for Bandit PAC Multiclass Classification [73.17969992976501]
我々は,帯域幅フィードバックを用いたマルチクラスPAC学習について検討し,入力を$K$ラベルの1つに分類し,予測されたラベルが正しいか否かに制限する。
我々の主な貢献は、問題の無知な$(varepsilon,delta)$PACバージョンのための新しい学習アルゴリズムを設計することである。
論文 参考訳(メタデータ) (2024-06-18T08:54:04Z) - Contextual Combinatorial Bandits with Probabilistically Triggered Arms [55.9237004478033]
確率的に誘発される腕(C$2$MAB-T)を様々な滑らかさ条件下で検討した。
トリガー変調 (TPM) 条件の下では、C$2$-UC-Tアルゴリズムを考案し、後悔すべき$tildeO(dsqrtT)$を導出する。
論文 参考訳(メタデータ) (2023-03-30T02:51:00Z) - The Sample Complexity of Robust Covariance Testing [56.98280399449707]
i. i. d.
形式 $Z = (1-epsilon) X + epsilon B$ の分布からのサンプル。ここで $X$ はゼロ平均で未知の共分散である Gaussian $mathcalN(0, Sigma)$ である。
汚染がない場合、事前の研究は、$O(d)$サンプルを使用するこの仮説テストタスクの単純なテスターを与えた。
サンプル複雑性の上限が $omega(d2)$ for $epsilon$ an arbitrarily small constant and $gamma であることを証明します。
論文 参考訳(メタデータ) (2020-12-31T18:24:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。