論文の概要: Sequential Density Ratio Estimation for Simultaneous Optimization of
Speed and Accuracy
- arxiv url: http://arxiv.org/abs/2006.05587v3
- Date: Sat, 6 Feb 2021 06:30:42 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-23 04:22:03.359253
- Title: Sequential Density Ratio Estimation for Simultaneous Optimization of
Speed and Accuracy
- Title（参考訳）: 速度と精度の同時最適化のための逐次密度比推定
- Authors: Akinori F. Ebihara, Taiki Miyagawa, Kazuyuki Sakurai, Hitoshi Imaoka
- Abstract要約: 本稿では,この2つの障害を克服する深層ニューラルネットワークに基づくSPRTアルゴリズムであるSPRT-TANDEMを提案する。
1つのオリジナルと2つの公開ビデオデータベースでのテストでは、SPRT-TANDEMは他のベースラインよりも統計的にかなり優れた分類精度を達成する。
- 参考スコア（独自算出の注目度）: 11.470070927586017
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Classifying sequential data as early and as accurately as possible is a
challenging yet critical problem, especially when a sampling cost is high. One
algorithm that achieves this goal is the sequential probability ratio test
(SPRT), which is known as Bayes-optimal: it can keep the expected number of
data samples as small as possible, given the desired error upper-bound.
However, the original SPRT makes two critical assumptions that limit its
application in real-world scenarios: (i) samples are independently and
identically distributed, and (ii) the likelihood of the data being derived from
each class can be calculated precisely. Here, we propose the SPRT-TANDEM, a
deep neural network-based SPRT algorithm that overcomes the above two
obstacles. The SPRT-TANDEM sequentially estimates the log-likelihood ratio of
two alternative hypotheses by leveraging a novel Loss function for
Log-Likelihood Ratio estimation (LLLR) while allowing correlations up to $N
(\in \mathbb{N})$ preceding samples. In tests on one original and two public
video databases, Nosaic MNIST, UCF101, and SiW, the SPRT-TANDEM achieves
statistically significantly better classification accuracy than other baseline
classifiers, with a smaller number of data samples. The code and Nosaic MNIST
are publicly available at https://github.com/TaikiMiyagawa/SPRT-TANDEM.
- Abstract（参考訳）: シーケンシャルデータをできるだけ早く正確に分類することは、特にサンプリングコストが高い場合、難しいが重要な問題である。
この目標を達成するアルゴリズムのひとつにシーケンシャル確率比テスト(SPRT)がある。これはベイズ最適(Bayes-Optimal)と呼ばれるもので、所望のエラー上限を考慮すれば、データサンプルの期待数を可能な限り小さくすることができる。
しかし、元々のSPRTは、現実のシナリオでの応用を制限する2つの重要な仮定をしている。
i)サンプルは独立して均等に分布し、
(ii)各クラスから派生したデータの可能性を正確に計算することができる。
本稿では、上記2つの障害を克服する深層ニューラルネットワークに基づくSPRTアルゴリズムであるSPRT-TANDEMを提案する。
SPRT-TANDEMは、2つの代替仮説の対数類似率を、対数類似率推定(LLLR)のための新しいロス関数を利用して逐次推定し、先行サンプルに対して最大$N (\in \mathbb{N})$の相関を可能にする。
1つのオリジナルおよび2つの公開ビデオデータベース、Nosaic MNIST、UCF101、SiWでのテストでは、SPRT-TANDEMは他のベースライン分類器よりも統計的にかなり優れた分類精度を達成し、データサンプルは少ない。
コードとNosaic MNISTはhttps://github.com/Taiki Miygawa/SPRT-TANDEMで公開されている。
関連論文リスト
- Statistical Properties of Deep Neural Networks with Dependent Data [0.0]
本稿では, ディープニューラルネットワーク (DNN) 推定器の統計特性について, 従属データに基づく検討を行った。
このフレームワークは、他のDNNアーキテクチャや時系列アプリケーションの研究の可能性も提供する。
論文 参考訳（メタデータ） (2024-10-14T21:46:57Z) - Flexible Heteroscedastic Count Regression with Deep Double Poisson Networks [4.58556584533865]
本稿ではDDPN(Deep Double Poisson Network)を提案する。
DDPNは既存の離散モデルを大幅に上回っている。
これは様々なカウント回帰データセットに適用できる。
論文 参考訳（メタデータ） (2024-06-13T16:02:03Z) - Probabilistic Contrastive Learning for Long-Tailed Visual Recognition [78.70453964041718]
細長い分布は、少数の少数派が限られた数のサンプルを含む実世界のデータにしばしば現れる。
近年の研究では、教師付きコントラスト学習がデータ不均衡を緩和する有望な可能性を示していることが明らかになっている。
本稿では,特徴空間の各クラスからのサンプルデータ分布を推定する確率論的コントラスト学習アルゴリズムを提案する。
論文 参考訳（メタデータ） (2024-03-11T13:44:49Z) - Favour: FAst Variance Operator for Uncertainty Rating [0.034530027457862]
機械学習予測を解釈するための重要なアプローチとしてベイズニューラルネットワーク(BNN)が登場した。
後部分布からサンプリングすることで、データサイエンティストは推論の不確実性を推定することができる。
以前の研究は、ネットワークを介して後部の第1モーメントと第2モーメントを伝播することを提案した。
この方法はサンプリングよりも遅いため、伝播分散を近似する必要がある。
私たちの貢献は、より原則化された分散伝播フレームワークです。
論文 参考訳（メタデータ） (2023-11-21T22:53:20Z) - A Specialized Semismooth Newton Method for Kernel-Based Optimal
Transport [92.96250725599958]
カーネルベース最適輸送(OT)推定器は、サンプルからOT問題に対処するための代替的機能的推定手順を提供する。
SSN法は, 標準正規性条件下でのグローバル収束率$O (1/sqrtk)$, 局所二次収束率を達成できることを示す。
論文 参考訳（メタデータ） (2023-10-21T18:48:45Z) - Toward Asymptotic Optimality: Sequential Unsupervised Regression of
Density Ratio for Early Classification [11.470070927586017]
時系列の早期分類に理論的に着想を得た逐次密度比推定(SDRE)アルゴリズムを提案する。
2つの新しいSPRTベースのアルゴリズムであるB2Bsqrt-TANDEMとTANDEMformerは、SDRの正確な教師なし回帰に対する過正規化問題を回避するために設計されている。
論文 参考訳（メタデータ） (2023-02-20T07:20:53Z) - Data Subsampling for Bayesian Neural Networks [0.0]
Penalty Bayesian Neural Networks - PBNNは,サブサンプルバッチデータによる可能性の評価を可能にする,新たなアルゴリズムである。
PBNNは,データサイズが小さい場合でも,予測性能が良好であることを示す。
論文 参考訳（メタデータ） (2022-10-17T14:43:35Z) - Adaptive Sketches for Robust Regression with Importance Sampling [64.75899469557272]
我々は、勾配降下(SGD)による頑健な回帰を解くためのデータ構造を導入する。
我々のアルゴリズムは、サブ線形空間を使用し、データに1回パスするだけで、SGDの$T$ステップを重要サンプリングで効果的に実行します。
論文 参考訳（メタデータ） (2022-07-16T03:09:30Z) - Transformers Can Do Bayesian Inference [56.99390658880008]
我々はPFN(Presideed Data Fitted Networks)を提案する。
PFNは、大規模機械学習技術におけるインコンテキスト学習を活用して、大規模な後部集合を近似する。
我々は、PFNがガウス過程をほぼ完璧に模倣し、難解問題に対する効率的なベイズ推定を可能にすることを示した。
論文 参考訳（メタデータ） (2021-12-20T13:07:39Z) - Improved, Deterministic Smoothing for L1 Certified Robustness [119.86676998327864]
分割雑音を伴う非加法的決定論的平滑化法(dssn)を提案する。
一様加法平滑化とは対照的に、ssn認証は無作為なノイズコンポーネントを独立に必要としない。
これは、規範ベースの敵対的脅威モデルに対して決定論的「ランダム化平滑化」を提供する最初の仕事である。
論文 参考訳（メタデータ） (2021-03-17T21:49:53Z) - Breaking the Sample Size Barrier in Model-Based Reinforcement Learning
with a Generative Model [50.38446482252857]
本稿では、生成モデル(シミュレータ)へのアクセスを想定して、強化学習のサンプル効率について検討する。
最初に$gamma$-discounted infinite-horizon Markov decision process (MDPs) with state space $mathcalS$ and action space $mathcalA$を考える。
対象の精度を考慮すれば,モデルに基づく計画アルゴリズムが最小限のサンプルの複雑さを実現するのに十分であることを示す。
論文 参考訳（メタデータ） (2020-05-26T17:53:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。