論文の概要: Toward Asymptotic Optimality: Sequential Unsupervised Regression of
Density Ratio for Early Classification
- arxiv url: http://arxiv.org/abs/2302.09810v1
- Date: Mon, 20 Feb 2023 07:20:53 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-21 16:28:45.698623
- Title: Toward Asymptotic Optimality: Sequential Unsupervised Regression of
Density Ratio for Early Classification
- Title(参考訳): 漸近的最適性に向けて:早期分類のための連続的教師なし密度比回帰
- Authors: Akinori F. Ebihara, Taiki Miyagawa, Kazuyuki Sakurai, Hitoshi Imaoka
- Abstract要約: 時系列の早期分類に理論的に着想を得た逐次密度比推定(SDRE)アルゴリズムを提案する。
2つの新しいSPRTベースのアルゴリズムであるB2Bsqrt-TANDEMとTANDEMformerは、SDRの正確な教師なし回帰に対する過正規化問題を回避するために設計されている。
- 参考スコア(独自算出の注目度): 11.470070927586017
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Theoretically-inspired sequential density ratio estimation (SDRE) algorithms
are proposed for the early classification of time series. Conventional SDRE
algorithms can fail to estimate DRs precisely due to the internal
overnormalization problem, which prevents the DR-based sequential algorithm,
Sequential Probability Ratio Test (SPRT), from reaching its asymptotic Bayes
optimality. Two novel SPRT-based algorithms, B2Bsqrt-TANDEM and TANDEMformer,
are designed to avoid the overnormalization problem for precise unsupervised
regression of SDRs. The two algorithms statistically significantly reduce DR
estimation errors and classification errors on an artificial sequential
Gaussian dataset and real datasets (SiW, UCF101, and HMDB51), respectively. The
code is available at:
https://github.com/Akinori-F-Ebihara/LLR_saturation_problem.
- Abstract(参考訳): 時系列の早期分類に理論的に着想を得た逐次密度比推定(SDRE)アルゴリズムを提案する。
従来のsdreアルゴリズムは、内部過正規化問題によりdrmを正確に推定できないため、drmに基づく逐次確率比検定(sprt)が漸近ベイズ最適度に達するのを防いでいる。
2つの新しいSPRTベースのアルゴリズムであるB2Bsqrt-TANDEMとTANDEMformerは、SDRの正確な教師なし回帰に対する過正規化問題を回避するために設計されている。
この2つのアルゴリズムは, 人工連続ガウスデータセットと実データセット(SiW, UCF101, HMDB51)のDR推定誤差と分類誤差を統計的に有意に低減する。
コードは、https://github.com/Akinori-F-Ebihara/LLR_saturation_problemで入手できる。
関連論文リスト
- Towards Understanding the Generalizability of Delayed Stochastic
Gradient Descent [63.43247232708004]
非同期で実行される勾配降下は、大規模機械学習モデルのトレーニングにおいて重要な役割を果たす。
既存の一般化誤差境界は悲観的であり、非同期遅延と一般化の相関を明らかにすることはできない。
我々の理論的結果は、非同期遅延は遅延SGDアルゴリズムの一般化誤差を低減することを示唆している。
論文 参考訳(メタデータ) (2023-08-18T10:00:27Z) - Normalized/Clipped SGD with Perturbation for Differentially Private
Non-Convex Optimization [94.06564567766475]
DP-SGDとDP-NSGDは、センシティブなトレーニングデータを記憶する大規模モデルのリスクを軽減する。
DP-NSGD は DP-SGD よりも比較的チューニングが比較的容易であるのに対して,これらの2つのアルゴリズムは同様の精度を実現する。
論文 参考訳(メタデータ) (2022-06-27T03:45:02Z) - Anomaly Rule Detection in Sequence Data [2.3757190901941736]
本稿では,一組のシーケンスからユーティリティを意識した外部規則の発見を可能にする,DUOSと呼ばれる新しい異常検出フレームワークを提案する。
本研究では,集団の異常性と実用性を両立させ,ユーティリティ・アウェア・アウトリー・ルール(UOSR)の概念を導入する。
論文 参考訳(メタデータ) (2021-11-29T23:52:31Z) - Doubly Robust Off-Policy Actor-Critic: Convergence and Optimality [131.45028999325797]
ディスカウント型MDPのための2倍堅牢なオフポリチックAC(DR-Off-PAC)を開発した。
DR-Off-PACは、俳優と批評家の両方が一定のステップで同時に更新される単一のタイムスケール構造を採用しています。
有限時間収束速度を研究し, dr-off-pac のサンプル複雑性を特徴とし, $epsilon$-accurate optimal policy を得る。
論文 参考訳(メタデータ) (2021-02-23T18:56:13Z) - Stochastic Hard Thresholding Algorithms for AUC Maximization [49.00683387735522]
分散分類におけるAUCのためのハードしきい値決定アルゴリズムを開発した。
提案アルゴリズムの有効性と有効性を示す実験を行った。
論文 参考訳(メタデータ) (2020-11-04T16:49:29Z) - Variance-Reduced Off-Policy TDC Learning: Non-Asymptotic Convergence
Analysis [27.679514676804057]
オフ・ポリシー・セッティングにおける2つの時間スケールTDCアルゴリズムの分散化手法を開発した。
実験により,提案した分散還元型TDCは,従来のTDCと分散還元型TDよりも収束誤差が小さいことを示した。
論文 参考訳(メタデータ) (2020-10-26T01:33:05Z) - Single-Timescale Stochastic Nonconvex-Concave Optimization for Smooth
Nonlinear TD Learning [145.54544979467872]
本稿では,各ステップごとに1つのデータポイントしか必要としない2つの単一スケールシングルループアルゴリズムを提案する。
本研究の結果は, 同時一次および二重側収束の形で表される。
論文 参考訳(メタデータ) (2020-08-23T20:36:49Z) - Sequential Density Ratio Estimation for Simultaneous Optimization of
Speed and Accuracy [11.470070927586017]
本稿では,この2つの障害を克服する深層ニューラルネットワークに基づくSPRTアルゴリズムであるSPRT-TANDEMを提案する。
1つのオリジナルと2つの公開ビデオデータベースでのテストでは、SPRT-TANDEMは他のベースラインよりも統計的にかなり優れた分類精度を達成する。
論文 参考訳(メタデータ) (2020-06-10T01:05:00Z) - A Robust Matching Pursuit Algorithm Using Information Theoretic Learning [37.968665739578185]
情報理論学習(ITL)に基づく新しいOMPアルゴリズムの開発
シミュレーションおよび実世界の両方のデータに対する実験結果は、データ復元、画像再構成、分類において提案したOMPアルゴリズムの優位性を一貫して示している。
論文 参考訳(メタデータ) (2020-05-10T01:36:00Z) - Simple and Effective Prevention of Mode Collapse in Deep One-Class
Classification [93.2334223970488]
深部SVDDにおける超球崩壊を防止するための2つの正則化器を提案する。
第1の正則化器は、標準のクロスエントロピー損失によるランダムノイズの注入に基づいている。
第2の正規化器は、小さすぎるとミニバッチ分散をペナライズする。
論文 参考訳(メタデータ) (2020-01-24T03:44:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。