論文の概要: PPI-SVRG: Unifying Prediction-Powered Inference and Variance Reduction for Semi-Supervised Optimization

• arxiv url: http://arxiv.org/abs/2601.21470v1
• Date: Thu, 29 Jan 2026 09:49:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-30 16:22:49.713153
• Title: PPI-SVRG: Unifying Prediction-Powered Inference and Variance Reduction for Semi-Supervised Optimization
• Title（参考訳）: PPI-SVRG:半監督最適化のための予測パワー付き推論と可変化
• Authors: Ruicheng Ao, Hongyu Chen, Haoyang Liu, David Simchi-Levi, Will Wei Sun,
• Abstract要約: ラベル付きデータが少ない場合の半教師付き最適化について検討するが,事前学習モデルからの予測が可能である。 数学的に等価であることを示し、両者を組み合わせたPPI-SVRGを開発する。 我々の収束境界は、予測の不確実性から標準SVRGレートとエラーフロアに分解される。
• 参考スコア（独自算出の注目度）: 16.275167310017732
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We study semi-supervised stochastic optimization when labeled data is scarce but predictions from pre-trained models are available. PPI and SVRG both reduce variance through control variates -- PPI uses predictions, SVRG uses reference gradients. We show they are mathematically equivalent and develop PPI-SVRG, which combines both. Our convergence bound decomposes into the standard SVRG rate plus an error floor from prediction uncertainty. The rate depends only on loss geometry; predictions affect only the neighborhood size. When predictions are perfect, we recover SVRG exactly. When predictions degrade, convergence remains stable but reaches a larger neighborhood. Experiments confirm the theory: PPI-SVRG reduces MSE by 43--52\% under label scarcity on mean estimation benchmarks and improves test accuracy by 2.7--2.9 percentage points on MNIST with only 10\% labeled data.
• Abstract（参考訳）: ラベル付きデータが少ない場合の半教師付き確率最適化について検討するが,事前学習モデルからの予測が可能である。 PPIとSVRGはどちらも、制御変数による分散を減らす -- PPIは予測を使い、SVRGは基準勾配を使用する。 数学的に等価であることを示し、両者を組み合わせたPPI-SVRGを開発する。 我々の収束境界は、予測の不確実性から標準SVRGレートとエラーフロアに分解される。 速度は損失幾何学にのみ依存し、予測は近傍のサイズにのみ影響する。 予測が完璧であれば、SVRGを正確に回復する。 予測が下降すると、収束は安定だが、より大きな近傍に到達する。 PPI-SVRGは平均推定ベンチマークでラベル不足下でMSEを43-52\%削減し、ラベル付きデータでMNISTの2.7--2.9%の精度を向上させる。

関連論文リスト

• Non-Asymptotic Analysis of Efficiency in Conformalized Regression [17.873283539065387]
  我々は,SGDを用いてトレーニングされた共形量子化および中央値回帰のためのオラクル間隔長からの予測セット長のずれに関する非漸近的境界を確立する。 その結果, 収束速度の位相遷移を$alpha$の異なる規則で同定し, 余剰予測セット長を制御するためにデータを割り当てるためのガイダンスを提供する。
  論文  参考訳（メタデータ） (2025-10-08T14:50:35Z)
• SPRINT: Stochastic Performative Prediction With Variance Reduction [18.735898645810405]
  Performative Prediction(PP)は、機械学習(ML)モデルのためのアルゴリズムフレームワークで、モデルのデプロイメントがトレーニングされたデータの分散に影響を与える。 本稿では,SSPS実験による性能予測という新しいアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-09-22T00:56:17Z)
• Calibration Prediction Interval for Non-parametric Regression and Neural Networks [0.0]
  我々は,Deep Neural Networks (DNN) やカーネル手法による推定を利用する,いわゆるキャリブレーションPI (cPI) を開発した。 カーネル法に基づくcPIは,サンプルサイズが大きい場合のカバレッジ率を高い確率で保証することを示した。 包括的シミュレーション研究は,cPIの有用性を裏付けるものであり,短サンプルを用いたcPIの説得性能を確認した。
  論文  参考訳（メタデータ） (2025-09-02T18:30:39Z)
• No Free Lunch: Non-Asymptotic Analysis of Prediction-Powered Inference [45.17143284735701]
  平均推定問題に対して,PPI++の推定誤差を正確に有限サンプル解析する。 特に、PPI++は、擬似標準と金標準の相関が一定のレベル以上である場合にのみ、パフォーマンスが向上する。 実験では,PPI++の単一サンプルとサンプル分割型間のトレードオフに関する知見を解説し,提示する。
  論文  参考訳（メタデータ） (2025-05-26T16:18:40Z)
• Semiparametric conformal prediction [79.6147286161434]
  ベクトル値の非整合性スコアの結合相関構造を考慮した共形予測セットを構築する。 スコアの累積分布関数(CDF)を柔軟に推定する。 提案手法は,現実の回帰問題に対して,所望のカバレッジと競争効率をもたらす。
  論文  参考訳（メタデータ） (2024-11-04T14:29:02Z)
• Patch-level Gaze Distribution Prediction for Gaze Following [49.93340533068501]
  トレーニング後の視線に対するパッチ分布予測(PDP)手法を提案する。 本モデルでは,アノテーションの差が大きい画像上でのより優れたヒートマップ分布を予測することにより,MSE損失の正則化を図っている。 実験により,ターゲット予測とイン/アウト予測サブタスクのギャップを埋めるモデルが得られた。
  論文  参考訳（メタデータ） (2022-11-20T19:25:15Z)
• Sample-dependent Adaptive Temperature Scaling for Improved Calibration [95.7477042886242]
  ニューラルネットワークの誤りを補うポストホックアプローチは、温度スケーリングを実行することだ。 入力毎に異なる温度値を予測し、信頼度と精度のミスマッチを調整することを提案する。 CIFAR10/100およびTiny-ImageNetデータセットを用いて,ResNet50およびWideResNet28-10アーキテクチャ上で本手法をテストする。
  論文  参考訳（メタデータ） (2022-07-13T14:13:49Z)
• Sample-Efficient Optimisation with Probabilistic Transformer Surrogates [66.98962321504085]
  本稿では,ベイズ最適化における最先端確率変換器の適用可能性について検討する。 トレーニング手順と損失定義から生じる2つの欠点を観察し、ブラックボックス最適化のプロキシとして直接デプロイすることを妨げる。 1)非一様分散点を前処理するBO調整トレーニング,2)予測性能を向上させるために最適な定常点をフィルタする新しい近似後正則整定器トレードオフ精度と入力感度を導入する。
  論文  参考訳（メタデータ） (2022-05-27T11:13:17Z)
• Accurate Prediction and Uncertainty Estimation using Decoupled Prediction Interval Networks [0.0]
  精度を犠牲にすることなく、回帰に基づく予測の不確かさを確実に推定できるネットワークアーキテクチャを提案する。 予測と予測間隔(PI)推定の学習を2段階の学習プロセスに分解することで、これを実現する。 提案手法を,合成データセットおよびUCIベンチマーク上での最先端不確実性定量化アルゴリズムと比較し,予測誤差を23～34%削減した。
  論文  参考訳（メタデータ） (2022-02-19T19:31:36Z)
• Learning to Predict Trustworthiness with Steep Slope Loss [69.40817968905495]
  本研究では,現実の大規模データセットにおける信頼性の予測問題について検討する。 我々は、先行技術損失関数で訓練された信頼性予測器が、正しい予測と誤った予測の両方を信頼に値するものとみなす傾向があることを観察する。 そこで我々は,2つのスライド状の曲線による不正確な予測から,特徴w.r.t.正しい予測を分離する,新たな急勾配損失を提案する。
  論文  参考訳（メタデータ） (2021-09-30T19:19:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。