論文の概要: Even Sharper Bounds for Transductive Learning and Its Applications
- arxiv url: http://arxiv.org/abs/2609.28459v1
- Date: Wed, 23 Sep 2026 17:52:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 00:05:18.138491
- Title: Even Sharper Bounds for Transductive Learning and Its Applications
- Title(参考訳): トランスダクティブラーニングのためのシャーパー境界とその応用
- Abstract要約: 本稿では,トランスダクティブ学習のための局所的複雑性不等式法であるシャーパー変換局所複雑性(STLC)を紹介する。
代用局所化函数を持つ剥離論証は、古典的帰納的局所ラデマッハ-複素性境界と同じ固定点と信頼項を持つ余剰リスク境界を与える。
トランスダクティブカーネル学習では、STLCは初期の局所複雑度境界に現れる乗法的不均衡因子を伴わないスペクトル適応過剰リスク境界を与える。
- 参考スコア(独自算出の注目度): 11.227859599698588
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce Sharper Transductive Local Complexity (STLC), a localized complexity method for transductive learning under uniform sampling without replacement. The construction starts from a Bernstein-type concentration inequality for the supremum of the test--train empirical process. Its proof uses the modified log-Sobolev inequality for the swap walk and a two-parameter entropy closure. A peeling argument with a surrogate localization functional then gives excess-risk bounds with the same fixed-point and confidence terms as the classical inductive local Rademacher-complexity bounds, without the additional logarithmic confidence factor in earlier transductive results. For realizable learning over a binary class of VC dimension $\dVC$, with training size $m$, test size $u$, and $u\ge m\ge\dVC$, STLC yields $\cO\{\dVC\log(me/\dVC)/m\}$. This matches the standard inductive rate and, when $m\ge9$, is within a logarithmic factor of the transductive minimax lower bound of order $\dVC/m$. For transductive kernel learning, STLC gives a spectrum-adaptive excess-risk bound without the multiplicative imbalance factors appearing in the earlier local-complexity bound.
- Abstract(参考訳): 本稿では,一様サンプリング下での局所的複雑化手法であるシャーパー変換局所複雑度(STLC)を紹介する。
この構成は、試験-実験過程の上限に対するバーンスタイン型の濃度不等式から始まる。
その証明は、スワップウォークと2パラメータエントロピー閉包のために修正された対数ソボレフの不等式を使用する。
代用ローカライゼーション函数を持つ剥離引数は、古典的帰納的局所ラデマッハ-複素性境界と同じ固定点と信頼項を持つ余剰リスク境界を与えるが、それ以前の帰納的結果には対数的信頼因子が加わらない。
トレーニングサイズが$m$、テストサイズが$u$、および$u\ge m\ge\dVC$が$\cO\{\dVC\log(me/\dVC)/m\}$であるVC次元のバイナリクラス上で実現可能な学習を行うには、STLCが$\cO\{\dVC\log(me/\dVC)/m\}$を得る。
これは標準帰納率と一致し、$m\ge9$ が超帰納的ミニマックス下限の$\dVC/m$ の対数係数内にあるときである。
トランスダクティブカーネル学習では、STLCは初期の局所複雑度境界に現れる乗法的不均衡因子を伴わないスペクトル適応過剰リスク境界を与える。
関連論文リスト
- Stability and Generalization of Straight-Through Estimators for Training Two-Layer Quantized Neural Networks [16.84694273405234]
ヒンジロスを伴う2層2層活性化ネットワークを訓練するための恒常的ストレートスルー推定器(STE)について検討した。
我々の中心的な問題は、アルゴリズム安定性が不連続なSTEトレーニングルールによって生成される推定器の統計的一般化を説明することができるかどうかである。
論文 参考訳(メタデータ) (2026-09-06T07:12:16Z) - Robust Average-Reward Markov Decision Processes: Minimax-Optimal Learning via Plug-in Reductions [51.50375419691955]
分布的に堅牢なマルコフ決定プロセスは、モデルの不確実性の下でのシーケンシャルな意思決定のための原則化されたフレームワークを提供する。
我々は,平均回帰基準の下で,$varepsilon$-Optimal robust policyを学習するのに必要なサンプル数と十分なサンプル数について検討した。
論文 参考訳(メタデータ) (2026-08-06T19:49:48Z) - Is Spurious Correlation Removal Always Learnable? [56.28155520961125]
不変学習は、構造が統計的に識別可能であっても失敗することがある。
ブラックボックスサンプリング可能な教師付きスパースリカバリプリミティブの下では、実証可能な多次元環境が存在する。
合成および実際のデータセットは、予測されたギャップと遷移を示し、単純な多様性診断を動機付ける。
論文 参考訳(メタデータ) (2026-06-11T05:49:43Z) - Transformers Provably Learn to Internalize Chain-of-Thought [65.41010769606844]
Implicit Chain-of-Thought (ICoT) は、隠れた状態の中で中間段階を内部化するモデルを訓練する。
Log-ICoTはシンキングトークンを一度に削除し、$k$のリニアから対数へのステージ数を削減します。
多層変圧器の実験により理論が確認され、より深い層に段階的に推論がどのように吸収されるかが可視化される。
論文 参考訳(メタデータ) (2026-05-27T15:17:06Z) - Optimal Dimension-Free Sampling for Regularized Classification [56.72526267755301]
我々は、リプシッツ連続分類損失関数の幅広いクラスに対して、$(1pmvarepsilon)$-relativeエラーを達成する最適サンプリング境界を証明した。
これにはロジスティックやシグモイドの損失、ヒンジの損失、ReLUの損失といった重要な機能が含まれており、顕著で一般的な例である。
論文 参考訳(メタデータ) (2026-05-22T15:05:33Z) - Local tensor-train surrogates for quantum learning models [4.8055567102097125]
本稿では、量子機械学習モデルの高速で安価で証明可能な古典的訓練サロゲートを構築するためのフレームワークを提案する。
このアプローチはテイラー近似をテンソルトレイン表現と組み合わせ、統計学習パラダイムに組み込む。
論文 参考訳(メタデータ) (2026-04-28T13:33:51Z) - Provably Adaptive Linear Approximation for the Shapley Value and Beyond [73.0940890296463]
基本的で長期にわたる課題は、その効率的な近似である。
一般に用いられるすべての半値に対して$P(|hatboldsymbol-boldsymbol|_2geq)leq$を必要とする線形空間アルゴリズムを開発する。
本アルゴリズムは,各ユーティリティ関数の平均二乗誤差の明示的最小化を可能にする。
論文 参考訳(メタデータ) (2026-04-09T16:38:14Z) - Leave-One-Out Prediction for General Hypothesis Classes [9.855978207725549]
本稿では,EMM周辺における経験的リスクレベルセットに基づく一般的な集約手法であるMLSA(Median of Level-Set Aggregation)を紹介する。
LOO_S(hath) ;le; C cdot frac1n min_hin H L_S(h) ;+; fracComp(S,
論文 参考訳(メタデータ) (2026-03-02T16:27:44Z) - Transformers as Measure-Theoretic Associative Memory: A Statistical Perspective and Minimax Optimality [52.424255020469595]
トランスフォーマーは、コンテント順応可能な検索とコンテキスト、原則として長さを活用できる能力を通じてエクササイズする。
確率尺度のレベルで連想記憶をリキャストし、コンテキストを無拘束トークン上の分布として扱う。
浅度測度理論変換器は入力密度のスペクトル仮定に基づいてリコール・アンド・予測マップを学習することを示す。
論文 参考訳(メタデータ) (2026-02-02T09:34:17Z) - Online Learning in Dynamically Changing Environments [11.731001328350983]
一般的な未知の非定常過程からサンプルを引き出す際に,オンライン学習とオンライン後悔の問題を考察する。
我々は、任意の有限VC-次元クラスに対する予想される最悪のケースに対する厳密な($sqrtlog T$ factorまで)有界な$O(sqrtKTcdotmathsfVC(mathcalH)log T)$を証明する。
我々はこれらの結果を、未知の基準測度を持つ一般的なスムーズな逆過程に拡張する。
論文 参考訳(メタデータ) (2023-01-31T21:10:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。