論文の概要: Variable Skipping for Autoregressive Range Density Estimation

• arxiv url: http://arxiv.org/abs/2007.05572v1
• Date: Fri, 10 Jul 2020 19:01:40 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-11 21:41:05.211604
• Title: Variable Skipping for Autoregressive Range Density Estimation
• Title（参考訳）: 自己回帰範囲密度推定のための可変スキッピング
• Authors: Eric Liang, Zongheng Yang, Ion Stoica, Pieter Abbeel, Yan Duan, Xi Chen
• Abstract要約: 深部自己回帰モデルを用いた距離密度推定を高速化する手法である可変スキップについて述べる。 可変スキップは、10-100$timesの効率向上をもたらすことを示す。
• 参考スコア（独自算出の注目度）: 84.60428050170687
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep autoregressive models compute point likelihood estimates of individual data points. However, many applications (i.e., database cardinality estimation) require estimating range densities, a capability that is under-explored by current neural density estimation literature. In these applications, fast and accurate range density estimates over high-dimensional data directly impact user-perceived performance. In this paper, we explore a technique, variable skipping, for accelerating range density estimation over deep autoregressive models. This technique exploits the sparse structure of range density queries to avoid sampling unnecessary variables during approximate inference. We show that variable skipping provides 10-100$\times$ efficiency improvements when targeting challenging high-quantile error metrics, enables complex applications such as text pattern matching, and can be realized via a simple data augmentation procedure without changing the usual maximum likelihood objective.
• Abstract（参考訳）: 深い自己回帰モデル 個々のデータ点の点確率推定を計算する。 しかし、多くの応用(すなわちデータベース濃度推定)では、現在の神経密度推定文献で未検討の能力である範囲密度の推定が必要となる。 これらのアプリケーションでは、高次元データに対する高速かつ高精度な範囲密度推定が、ユーザ認識性能に直接影響する。 本稿では,深部自己回帰モデルにおける距離密度推定を高速化する可変スキップ法について検討する。 この手法は範囲密度クエリのスパース構造を利用して、近似推論中に不要な変数をサンプリングすることを避ける。 変数スキップは,高質エラーメトリクスをターゲットとした10～100$\times$効率向上を実現するとともに,テキストパターンマッチングなどの複雑なアプリケーションを実現するとともに,通常の最大確率目標を変更することなく,単純なデータ拡張手順によって実現可能であることを示す。

関連論文リスト

• Conformalized High-Density Quantile Regression via Dynamic Prototypes-based Probability Density Estimation [2.526146573337397]
  動的適応型プロトタイプを用いた共形化高密度量子化回帰手法を提案する。 本手法は, 量子化ビンを適応的に追加, 削除, 移動させることにより, プロトタイプの集合を最適化する。 多様なデータセットと次元にわたる実験により,提案手法が常に高品質な予測領域を達成できることが確認された。
  論文  参考訳（メタデータ） (2024-11-02T14:36:12Z)
• Density-Regression: Efficient and Distance-Aware Deep Regressor for Uncertainty Estimation under Distribution Shifts [11.048463491646993]
  密度回帰は不確実性推定において密度関数を利用する手法であり、単一の前方通過による高速な推論を実現する。 本研究では,現代の深部回帰器を用いた分布シフトにおいて,密度回帰が競合不確実性評価性能を有することを示す。
  論文  参考訳（メタデータ） (2024-03-07T23:20:34Z)
• Smooth densities and generative modeling with unsupervised random forests [1.433758865948252]
  密度推定器の重要な応用は合成データ生成である。 パラメータ制約を伴わない任意の次元における滑らかな密度を推定するための,教師なしランダム森林に基づく新しい手法を提案する。 提案手法の整合性を証明し,既存の木質密度推定器に対する利点を実証する。
  論文  参考訳（メタデータ） (2022-05-19T09:50:25Z)
• X-model: Improving Data Efficiency in Deep Learning with A Minimax Model [78.55482897452417]
  ディープラーニングにおける分類と回帰設定の両面でのデータ効率の向上を目標とする。 両世界の力を生かすために,我々は新しいX-モデルを提案する。 X-モデルは、特徴抽出器とタスク固有のヘッドの間でミニマックスゲームを行う。
  論文  参考訳（メタデータ） (2021-10-09T13:56:48Z)
• Scalable Marginal Likelihood Estimation for Model Selection in Deep Learning [78.83598532168256]
  階層型モデル選択は、推定困難のため、ディープラーニングではほとんど使われない。 本研究は,検証データが利用できない場合,限界的可能性によって一般化が向上し,有用であることを示す。
  論文  参考訳（メタデータ） (2021-04-11T09:50:24Z)
• Evaluating Prediction-Time Batch Normalization for Robustness under Covariate Shift [81.74795324629712]
  我々は予測時間バッチ正規化と呼び、共変量シフト時のモデル精度とキャリブレーションを大幅に改善する。 予測時間バッチ正規化は、既存の最先端アプローチに相補的な利点をもたらし、ロバスト性を向上させることを示します。 この手法は、事前トレーニングと併用して使用すると、さまざまな結果が得られるが、より自然なタイプのデータセットシフトでは、パフォーマンスが良くないようだ。
  論文  参考訳（メタデータ） (2020-06-19T05:08:43Z)
• Anomaly Detection in Trajectory Data with Normalizing Flows [0.0]
  本稿では,ニューラルネットワークを用いたデータから複雑な密度推定を可能にする,正規化フローに基づく手法を提案する。 提案手法は, 軌道の各セグメントに対して, 流れを正規化する重要な特徴である, 正確なモデル確率値を算出する。 実世界の軌道データを用いて, 正規化フローを用いた集約異常検出法(GRADINGS)を評価し, 従来の異常検出法と比較した。
  論文  参考訳（メタデータ） (2020-04-13T14:16:40Z)
• TraDE: Transformers for Density Estimation [101.20137732920718]
  TraDEは自己回帰密度推定のための自己アテンションに基づくアーキテクチャである。 本稿では, 生成したサンプルを用いた回帰, 分布外検出, トレーニングデータにおける雑音に対する頑健性などのタスクについて述べる。
  論文  参考訳（メタデータ） (2020-04-06T07:32:51Z)
• SUMO: Unbiased Estimation of Log Marginal Probability for Latent Variable Models [80.22609163316459]
  無限級数のランダム化トランケーションに基づく潜在変数モデルに対して、ログ境界確率の非バイアス推定器とその勾配を導入する。 推定器を用いてトレーニングしたモデルは、同じ平均計算コストに対して、標準的な重要度サンプリングに基づくアプローチよりも優れたテストセット確率を与えることを示す。
  論文  参考訳（メタデータ） (2020-04-01T11:49:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。