論文の概要: SAUSS: Stochastic Approximation with Unbiased Simulated Scores for Limited Dependent Variable Models
- arxiv url: http://arxiv.org/abs/2608.25304v1
- Date: Wed, 26 Aug 2026 02:22:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-27 14:15:15.533499
- Title: SAUSS: Stochastic Approximation with Unbiased Simulated Scores for Limited Dependent Variable Models
- Title(参考訳): SAUSS: 限定従属変数モデルに対するアンバイアスシミュレーションスコアを用いた確率近似
- Abstract要約: Unbiased Simulated Scores (SAUSS) による近似
SAUSSは条件付き非バイアスのミニバッチスコア推定に基づく平均近似である。
シミュレーションと応用において、SAUSSは、シミュレーションされた最大可能性の1%以下で同等の結果を与える。
- 参考スコア(独自算出の注目度): 6.337681970793518
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multinomial choice models allow flexible substitution patterns but become computationally demanding with many alternatives or observations. With a fixed per-observation simulation budget, simulated maximum likelihood introduces simulation bias, while each optimization step requires a full-sample likelihood evaluation. We propose Stochastic Approximation with Unbiased Simulated Scores (SAUSS), an averaged stochastic approximation based on conditionally unbiased mini-batch score estimates. Each iteration uses a fixed mini-batch regardless of sample size. For multinomial probit, accept-reject sampling provides exact conditional draws and unbiased score estimates for any fixed number of accepted draws. Under local conditions, asymptotic theory for the averaged estimator and the partial-sum process of the SAUSS iterates incorporates mini-batch and simulation variability and supports random-scaling and plug-in inference. In simulations and an application, SAUSS gives comparable results in less than 1% of the computation time of simulated maximum likelihood. SAUSS extends to limited dependent variable models with conditional-expectation score representations and exact conditional sampling.
- Abstract(参考訳): 多項選択モデルはフレキシブルな置換パターンを許容するが、多くの選択肢や観測によって計算的に要求される。
固定された観測単位のシミュレーション予算では、シミュレートされた最大確率はシミュレーションバイアスを導入し、各最適化ステップはフルサンプルの確率評価を必要とする。
条件付き非バイアス付きミニバッチスコア推定に基づく確率近似である,Unbiased Simulated Scores (SAUSS) を用いた確率近似を提案する。
各イテレーションは、サンプルサイズに関係なく、固定されたミニバッチを使用する。
多項プロビットの場合、アクセプション・リジェクト・サンプリングは、任意の固定数の許容されたドローに対して、正確な条件付きドローとアンバイアス付きスコア推定を提供する。
局所的な条件下では、平均推定器の漸近理論とSAUSSイテレートの部分積過程は、ミニバッチとシミュレーションの可変性を取り入れ、ランダムスケーリングとプラグイン推論をサポートする。
シミュレーションと応用において、SAUSSはシミュレーションされた最大確率の計算時間の1%以下で比較結果を与える。
SAUSSは、条件予測スコア表現と正確な条件サンプリングを備えた、限定的な依存変数モデルに拡張する。
関連論文リスト
- UnpredictaBench: A Benchmark for Evaluating Distributional Randomness in LLMs [21.05820098186702]
我々はUnpredictaBenchを紹介した。これは、大きな言語モデルが真の基礎となる分布をキャプチャする能力をテストする評価である。
単純な分布シミュレーションでさえも困難であり、複雑なシステムのスタンドインとしてLLMを使用するための第一歩となる。
論文 参考訳(メタデータ) (2026-06-04T18:18:02Z) - Amortized Inference for Correlated Discrete Choice Models via Equivariant Neural Networks [0.0]
本稿では,ニューラルネットワークエミュレータを用いた一般的な誤差分布に対する選択確率の近似手法を提案する。
我々は,ソボレフトレーニングを用いて,勾配マッチングペナルティによる可能性損失を増大させ,エミュレータが選択確率と導関数の両方を学習できるようにする。
論文 参考訳(メタデータ) (2026-03-25T18:30:11Z) - Adaptive Sampled Softmax with Inverted Multi-Index: Methods, Theory and Applications [79.53938312089308]
MIDX-Samplerは、逆多重インデックスアプローチに基づく新しい適応型サンプリング戦略である。
本手法は, サンプリングバイアス, 勾配バイアス, 収束速度, 一般化誤差境界などの重要な問題に対処するため, 厳密な理論的解析によって裏付けられている。
論文 参考訳(メタデータ) (2025-01-15T04:09:21Z) - Distributional Gradient Boosting Machines [77.34726150561087]
私たちのフレームワークはXGBoostとLightGBMをベースにしています。
我々は,このフレームワークが最先端の予測精度を実現することを示す。
論文 参考訳(メタデータ) (2022-04-02T06:32:19Z) - BRIO: Bringing Order to Abstractive Summarization [107.97378285293507]
非決定論的分布を前提とした新しい学習パラダイムを提案する。
提案手法は, CNN/DailyMail (47.78 ROUGE-1) と XSum (49.07 ROUGE-1) のデータセット上で, 最新の結果が得られる。
論文 参考訳(メタデータ) (2022-03-31T05:19:38Z) - Variational methods for simulation-based inference [3.308743964406687]
逐次ニューラル変分推論(SNVI)は、難易度のあるモデルにおいてベイズ推論を行うためのアプローチである。
SNVIは、確率推定と変分推論を組み合わせることで、スケーラブルなシミュレーションベースの推論アプローチを実現する。
論文 参考訳(メタデータ) (2022-03-08T16:06:37Z) - Score Matched Conditional Exponential Families for Likelihood-Free
Inference [0.0]
Likelihood-Free Inference (LFI) はモデルからのシミュレーションに依存する。
モデルからパラメータシミュレーションペアを観測に基づいて独立に生成する。
重みをスコアマッチングで調整したニューラルネットワークを用いて,条件付き指数関数的家族度近似を学習する。
論文 参考訳(メタデータ) (2020-12-20T11:57:30Z) - Maximum sampled conditional likelihood for informative subsampling [4.708378681950648]
サブサンプリングは、計算資源が限られているときに大量のデータセットから情報を抽出する、計算学的に効果的な手法である。
そこで本研究では,サンプルデータに基づく最大条件付き確率推定器(MSCLE)を提案する。
論文 参考訳(メタデータ) (2020-11-11T16:01:17Z) - Autoregressive Score Matching [113.4502004812927]
自動回帰条件スコアモデル(AR-CSM)を提案する。
AR-CSMモデルでは、このデータ分布とモデル分布のばらつきを効率的に計算し、最適化することができ、高価なサンプリングや対向訓練を必要としない。
本研究では,合成データに対する密度推定,画像生成,画像復調,暗黙エンコーダを用いた潜在変数モデルの訓練に応用できることを示す。
論文 参考訳(メタデータ) (2020-10-24T07:01:24Z) - Improving Maximum Likelihood Training for Text Generation with Density
Ratio Estimation [51.091890311312085]
本稿では,テキスト生成で遭遇する大規模なサンプル空間において,効率よく安定な自動回帰シーケンス生成モデルのトレーニング手法を提案する。
本手法は,品質と多様性の両面で,最大類似度推定や他の最先端シーケンス生成モデルよりも安定に優れている。
論文 参考訳(メタデータ) (2020-07-12T15:31:24Z) - SUMO: Unbiased Estimation of Log Marginal Probability for Latent
Variable Models [80.22609163316459]
無限級数のランダム化トランケーションに基づく潜在変数モデルに対して、ログ境界確率の非バイアス推定器とその勾配を導入する。
推定器を用いてトレーニングしたモデルは、同じ平均計算コストに対して、標準的な重要度サンプリングに基づくアプローチよりも優れたテストセット確率を与えることを示す。
論文 参考訳(メタデータ) (2020-04-01T11:49:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。