論文の概要: Signal to Noise Ratio Loss Function
- arxiv url: http://arxiv.org/abs/2110.12275v1
- Date: Sat, 23 Oct 2021 18:44:32 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-26 13:39:30.317075
- Title: Signal to Noise Ratio Loss Function
- Title(参考訳): 雑音比損失関数の信号
- Authors: Ali Ghobadzadeh and Amir Lashkari
- Abstract要約: 本研究は,分類問題を対象とした新たな損失関数を提案する。
与えられた間隔で確率変数の確率に対して、最も厳密な上界と下界を導出する。
パラメトリック分類問題に対する真の正の確率に対して下界が提案される。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This work proposes a new loss function targeting classification problems,
utilizing a source of information overlooked by cross entropy loss. First, we
derive a series of the tightest upper and lower bounds for the probability of a
random variable in a given interval. Second, a lower bound is proposed for the
probability of a true positive for a parametric classification problem, where
the form of probability density function (pdf) of data is given. A closed form
for finding the optimal function of unknowns is derived to maximize the
probability of true positives. Finally, for the case that the pdf of data is
unknown, we apply the proposed boundaries to find the lower bound of the
probability of true positives and upper bound of the probability of false
positives and optimize them using a loss function which is given by combining
the boundaries. We demonstrate that the resultant loss function is a function
of the signal to noise ratio both within and across logits. We empirically
evaluate our proposals to show their benefit for classification problems.
- Abstract(参考訳): 本研究は,クロスエントロピー損失によって見過される情報源を活用し,分類問題を対象とした新たな損失関数を提案する。
まず、与えられた区間におけるランダム変数の確率について、最も厳密な上界と下界の連続を導出する。
第二に、データの確率密度関数(pdf)の形が与えられるパラメトリック分類問題に対する真の正の確率に対して下限が提案されている。
未知の最適関数を求める閉形式は、真の正の確率を最大化するために導かれる。
最後に、データのpdfが未知の場合、提案した境界を適用して、真正の確率の下位境界と偽正の確率の上限を求め、境界を組み合わせて与えられる損失関数を用いてそれらを最適化する。
その結果,損失関数は信号対雑音比の対数内および対数内における関数であることがわかった。
分類問題の利点を示すための提案を実証的に評価する。
関連論文リスト
- Distribution-Free Inference for the Regression Function of Binary
Classification [0.0]
本稿では,ユーザの信頼度レベルに対する真の回帰関数に対して,正確に,分布自由で,漸近的に保証されていない信頼領域を構築するための再サンプリングフレームワークを提案する。
構築された信頼領域は強い整合性、すなわち、任意の偽モデルが確率 1 で長期にわたって除外されることが証明された。
論文 参考訳(メタデータ) (2023-08-03T15:52:27Z) - Kernel-based off-policy estimation without overlap: Instance optimality
beyond semiparametric efficiency [53.90687548731265]
本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。
任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
論文 参考訳(メタデータ) (2023-01-16T02:57:37Z) - Data-Driven Influence Functions for Optimization-Based Causal Inference [105.5385525290466]
統計的汎関数に対するガトー微分を有限差分法で近似する構成的アルゴリズムについて検討する。
本研究では,確率分布を事前知識がないが,データから推定する必要がある場合について検討する。
論文 参考訳(メタデータ) (2022-08-29T16:16:22Z) - Inference on Strongly Identified Functionals of Weakly Identified
Functions [71.42652863687117]
本研究では,ニュアンス関数が存在しない場合でも,関数を強く識別するための新しい条件について検討する。
本稿では,プライマリおよびデバイアスのニュアンス関数に対するペナル化ミニマックス推定器を提案する。
論文 参考訳(メタデータ) (2022-08-17T13:38:31Z) - Statistical Properties of the log-cosh Loss Function Used in Machine Learning [0.0]
本稿では,ログコッシュ損失が発生する分布関数について述べる。
また、量子レグレッションにlog-cosh関数を用いる方法についても検討する。
論文 参考訳(メタデータ) (2022-08-09T07:03:58Z) - Variational Transport: A Convergent Particle-BasedAlgorithm for Distributional Optimization [106.70006655990176]
分散最適化問題は機械学習や統計学で広く発生する。
本稿では,変分輸送と呼ばれる粒子に基づく新しいアルゴリズムを提案する。
目的関数がpolyak-Lojasiewicz (PL) (Polyak, 1963) の機能バージョンと滑らかな条件を満たすとき、変分輸送は線形に収束することを示す。
論文 参考訳(メタデータ) (2020-12-21T18:33:13Z) - Bayesian Optimization with Missing Inputs [53.476096769837724]
我々は、よく知られたアッパー信頼境界(UCB)獲得関数に基づく新たな獲得関数を開発する。
我々は,本手法の有用性を示すために,合成アプリケーションと実世界のアプリケーションの両方について包括的な実験を行った。
論文 参考訳(メタデータ) (2020-06-19T03:56:27Z) - All your loss are belong to Bayes [28.393499629583786]
ロス関数は機械学習の基盤であり、ほとんどのアルゴリズムの出発点である。
正方形ガウス過程を用いて経路が整合なソース関数を持つランダムな過程を求める。
実験の結果は、最先端技術よりも大幅に改善された。
論文 参考訳(メタデータ) (2020-06-08T14:31:21Z) - Approximation Schemes for ReLU Regression [80.33702497406632]
我々はReLU回帰の根本的な問題を考察する。
目的は、未知の分布から引き出された2乗損失に対して、最も適したReLUを出力することである。
論文 参考訳(メタデータ) (2020-05-26T16:26:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。