論文の概要: Decoupling Quantile Representations from Loss Functions
- arxiv url: http://arxiv.org/abs/2304.12766v1
- Date: Tue, 25 Apr 2023 12:39:45 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-26 20:42:17.692747
- Title: Decoupling Quantile Representations from Loss Functions
- Title(参考訳): 損失関数からの量子表現の分離
- Authors: Aditya Challa, Snehanshu Saha, Soma Dhavala
- Abstract要約: 同時二項量子化回帰(SBQR)における量子化と推定確率の双対性を示す。
これにより、任意のf(x)を中央の量子化に割り当て、異なるタウ値におけるSBQR量子化表現の全スペクトルを生成することができる。
- 参考スコア(独自算出の注目度): 0.979731979071071
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The simultaneous quantile regression (SQR) technique has been used to
estimate uncertainties for deep learning models, but its application is limited
by the requirement that the solution at the median quantile ({\tau} = 0.5) must
minimize the mean absolute error (MAE). In this article, we address this
limitation by demonstrating a duality between quantiles and estimated
probabilities in the case of simultaneous binary quantile regression (SBQR).
This allows us to decouple the construction of quantile representations from
the loss function, enabling us to assign an arbitrary classifier f(x) at the
median quantile and generate the full spectrum of SBQR quantile representations
at different {\tau} values. We validate our approach through two applications:
(i) detecting out-of-distribution samples, where we show that quantile
representations outperform standard probability outputs, and (ii) calibrating
models, where we demonstrate the robustness of quantile representations to
distortions. We conclude with a discussion of several hypotheses arising from
these findings.
- Abstract(参考訳): 同時量子化回帰(sqr)手法はディープラーニングモデルの不確かさを推定するために用いられてきたが、その応用は中央量子化の解 ({\tau} = 0.5) が平均絶対誤差 (mae) を最小化しなければならないという要件によって制限されている。
本稿では、この制限を、同時二項量子化回帰(SBQR)の場合に、量子化と推定確率の双対性を示すことによって解決する。
これにより、損失関数から量子化表現の構成を分離し、中央の量子化関数に任意の分類器 f(x) を割り当て、異なる {\tau} の値でSBQR量子化表現の全スペクトルを生成することができる。
アプローチを2つのアプリケーションで検証します。
(i)分布外サンプルを検出し、量子表現が標準確率出力を上回ることを示す。
(II) 歪みに対する量子表現のロバスト性を示すモデルを校正する。
結論として,これらの結果から生じるいくつかの仮説を考察した。
関連論文リスト
- Bayesian Quantile Regression with Subset Selection: A Posterior
Summarization Perspective [0.0]
既存の方法では、興味のある各量に対して個別に条件量子を推定するか、半パラメトリックモデルまたは非パラメトリックモデルを用いて条件分布全体を推定する。
本研究では,線形定量推定,不確実性定量化,およびベイズ決定解析の観点からのサブセット選択の基本的問題を提起する。
提案手法では,量子に焦点をあてた2乗誤差損失を導入し,効率的な閉形式計算を実現し,ワッサーシュタインに基づく密度推定との密接な関係を維持する。
論文 参考訳(メタデータ) (2023-11-03T17:19:31Z) - Regularized Vector Quantization for Tokenized Image Synthesis [126.96880843754066]
画像の離散表現への量子化は、統合生成モデリングにおける根本的な問題である。
決定論的量子化は、厳しいコードブックの崩壊と推論段階の誤調整に悩まされ、一方、量子化は、コードブックの利用率の低下と再構築の目的に悩まされる。
本稿では、2つの視点から正規化を適用することにより、上記の問題を効果的に緩和できる正規化ベクトル量子化フレームワークを提案する。
論文 参考訳(メタデータ) (2023-03-11T15:20:54Z) - Importance sampling for stochastic quantum simulations [68.8204255655161]
我々は、係数に応じてハミルトン式からサンプリングしてランダムな積公式を構築するqDriftプロトコルを導入する。
サンプリング段階における個別のシミュレーションコストを考慮し、同じ精度でシミュレーションコストを削減可能であることを示す。
格子核効果場理論を用いて数値シミュレーションを行った結果, 実験結果が得られた。
論文 参考訳(メタデータ) (2022-12-12T15:06:32Z) - Fermionic approach to variational quantum simulation of Kitaev spin
models [50.92854230325576]
キタエフスピンモデルは、自由フェルミオンへの写像を通じて、あるパラメータ状態において正確に解けることで知られている。
古典的なシミュレーションを用いて、このフェルミオン表現を利用する新しい変分アンザッツを探索する。
また、量子コンピュータ上での非アベリアオンをシミュレートするための結果の意味についてもコメントする。
論文 参考訳(メタデータ) (2022-04-11T18:00:01Z) - Deep Non-Crossing Quantiles through the Partial Derivative [0.6299766708197883]
量子回帰(Quantile Regression)は、単一の条件量子を近似する方法を提供する。
QRロス関数の最小化は、非交差量子化を保証しない。
任意の数の量子を予測するための汎用的なディープラーニングアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-01-30T15:35:21Z) - Dual-Frequency Quantum Phase Estimation Mitigates the Spectral Leakage
of Quantum Algorithms [76.15799379604898]
量子位相推定は、レコード長の逆数が未知の位相の整数倍でない場合にスペクトルリークに悩まされる。
複数のサンプルが利用できるとき,クレーマー・ラオ境界に近づいた二重周波数推定器を提案する。
論文 参考訳(メタデータ) (2022-01-23T17:20:34Z) - Learning Quantile Functions without Quantile Crossing for
Distribution-free Time Series Forecasting [12.269597033369557]
本稿では,分散フリーな分布推定フレームワークであるIncrmental (Spline) Quantile Function I(S)QFを提案する。
また、シーケンス・ツー・シーケンス・セッティングに基づく提案手法の一般化誤差解析も提供する。
論文 参考訳(メタデータ) (2021-11-12T06:54:48Z) - Flexible Model Aggregation for Quantile Regression [92.63075261170302]
量子回帰は、予測の不確実性を定量化する必要性によって動機付けられた統計学習の基本的な問題である。
条件付き量子モデルの任意の数を集約する手法について検討する。
この論文で検討するモデルはすべて、現代のディープラーニングツールキットに適合します。
論文 参考訳(メタデータ) (2021-02-26T23:21:16Z) - Regularization Strategies for Quantile Regression [8.232258589877942]
連続的な量子の分布に対するピンボール損失を最小化することは、特定の量子の予測のみを行う場合でも良い正則化器であることを示す。
格子モデルにより予測された分布を位置スケールの族に正規化できることを示す。
論文 参考訳(メタデータ) (2021-02-09T21:10:35Z) - Beyond Pinball Loss: Quantile Methods for Calibrated Uncertainty
Quantification [15.94100899123465]
それぞれの入力に対する真の条件量子化を予測するモデルは、全ての量子化レベルにおいて、基礎となる不確実性の正しい効率的な表現を示す。
現在の量子化法は、いわゆるピンボール損失の最適化に重点を置いている。
これらの欠点に対処する新しい量子的手法を開発した。
論文 参考訳(メタデータ) (2020-11-18T23:51:23Z) - Spatially Adaptive Inference with Stochastic Feature Sampling and
Interpolation [72.40827239394565]
スパースサンプリングされた場所のみの機能を計算することを提案する。
次に、効率的な手順で特徴写像を密に再構築する。
提案したネットワークは、様々なコンピュータビジョンタスクの精度を維持しながら、かなりの計算を省くために実験的に示されている。
論文 参考訳(メタデータ) (2020-03-19T15:36:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。