論文の概要: The Tiny Time-series Transformer: Low-latency High-throughput
Classification of Astronomical Transients using Deep Model Compression
- arxiv url: http://arxiv.org/abs/2303.08951v1
- Date: Wed, 15 Mar 2023 21:46:35 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-17 17:51:30.103585
- Title: The Tiny Time-series Transformer: Low-latency High-throughput
Classification of Astronomical Transients using Deep Model Compression
- Title（参考訳）: Tiny Time-Series Transformer:Deep Model Compressionを用いた天文遷移の低遅延高スループット分類
- Authors: Tarek Allam Jr., Julien Peloton, Jason D. McEwen
- Abstract要約: スペース・アンド・タイムのレガシー・サーベイ(LSST)は、時間領域天文学のビッグデータバーを引き上げます。
最新の深部圧縮手法がモデルサイズを18倍に削減できることを示す。
また、深部圧縮技術に加えて、ファイルフォーマットの慎重に選択することで、推論のレイテンシが向上することを示した。
- 参考スコア（独自算出の注目度）: 4.960046610835999
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A new golden age in astronomy is upon us, dominated by data. Large
astronomical surveys are broadcasting unprecedented rates of information,
demanding machine learning as a critical component in modern scientific
pipelines to handle the deluge of data. The upcoming Legacy Survey of Space and
Time (LSST) of the Vera C. Rubin Observatory will raise the big-data bar for
time-domain astronomy, with an expected 10 million alerts per-night, and
generating many petabytes of data over the lifetime of the survey. Fast and
efficient classification algorithms that can operate in real-time, yet robustly
and accurately, are needed for time-critical events where additional resources
can be sought for follow-up analyses. In order to handle such data,
state-of-the-art deep learning architectures coupled with tools that leverage
modern hardware accelerators are essential. We showcase how the use of modern
deep compression methods can achieve a $18\times$ reduction in model size,
whilst preserving classification performance. We also show that in addition to
the deep compression techniques, careful choice of file formats can improve
inference latency, and thereby throughput of alerts, on the order of $8\times$
for local processing, and $5\times$ in a live production setting. To test this
in a live setting, we deploy this optimised version of the original time-series
transformer, t2, into the community alert broking system of FINK on real Zwicky
Transient Facility (ZTF) alert data, and compare throughput performance with
other science modules that exist in FINK. The results shown herein emphasise
the time-series transformer's suitability for real-time classification at LSST
scale, and beyond, and introduce deep model compression as a fundamental tool
for improving deploy-ability and scalable inference of deep learning models for
transient classification.
- Abstract（参考訳）: 天文学の新しい黄金時代は、データによって支配されている。
大規模な天文調査は前例のない量の情報を放送しており、データの流出に対処するために現代の科学パイプラインの重要な要素として機械学習を要求している。
Vera C. Rubin ObservatoryのLegiacy Survey of Space and Time(LSST)は、時間領域天文学のためのビッグデータバーを引き上げ、一晩に1000万のアラートを発生させ、調査期間を通じて多くのペタバイトのデータを生成する。
フォローアップ分析のために追加資源を求める時間クリティカルなイベントには,リアルタイムに,かつ堅牢かつ正確に動作可能な高速かつ効率的な分類アルゴリズムが必要である。
このようなデータを扱うためには、最新のハードウェアアクセラレータを利用するツールと組み合わされた最先端のディープラーニングアーキテクチャが不可欠である。
我々は,最新の深層圧縮手法が,分類性能を維持しつつ,モデルサイズを18\times$で削減できることを示す。
また、深層圧縮技術に加えて、ファイルフォーマットの慎重な選択により、推論レイテンシが向上し、アラートのスループットが向上し、ローカル処理に$8\times$、実稼働環境で$$5\times$の順に設定できることを示した。
これを実環境でテストするために、この最適化されたバージョンである t2 を実際の Zwicky Transient Facility (ZTF) 警告データ上でFINKのコミュニティアラートブロッキングシステムにデプロイし、FINK に存在する他の科学モジュールとスループット性能を比較した。
本稿では,LSSTスケール以上のリアルタイム分類における時系列変換器の適合性を強調し,過渡的分類のためのディープラーニングモデルのデプロイ性およびスケーラブル推論を改善するための基本ツールとして,深層モデル圧縮を導入する。
関連論文リスト
- FormerTime: Hierarchical Multi-Scale Representations for Multivariate
Time Series Classification [53.55504611255664]
formerTimeは、多変量時系列分類タスクの分類能力を改善する階層的表現モデルである。
1)時系列データから階層的なマルチスケール表現を学習し、(2)トランスフォーマーと畳み込みネットワークの強さを継承し、(3)自己維持メカニズムによって引き起こされる効率の課題に取り組む。
論文 参考訳（メタデータ） (2023-02-20T07:46:14Z) - GC-GRU-N for Traffic Prediction using Loop Detector Data [5.735035463793008]
シアトルのループ検出器のデータを15分以上収集し、その問題を時空で再現する。
モデルは、最速の推論時間と非常に近いパフォーマンスで第2位(トランスフォーマー)。
論文 参考訳（メタデータ） (2022-11-13T06:32:28Z) - Improving Astronomical Time-series Classification via Data Augmentation
with Generative Adversarial Networks [1.2891210250935146]
本稿では,GAN(Generative Adrial Networks)に基づくデータ拡張手法を提案する。
変動星の分類精度は、合成データによるトレーニングや実データによるテストで著しく向上する。
論文 参考訳（メタデータ） (2022-05-13T16:39:54Z) - TTS-GAN: A Transformer-based Time-Series Generative Adversarial Network [4.989480853499916]
時系列データは、医療機械学習アプリケーションで使用される最も一般的なタイプのデータの1つである。
本稿では,現実的な合成時系列データ列を生成可能な変換器ベースのGANであるTS-GANを紹介する。
実時間と生成した時系列データの類似性を実証するために,可視化と次元削減技術を用いている。
論文 参考訳（メタデータ） (2022-02-06T03:05:47Z) - Towards Generating Real-World Time Series Data [52.51620668470388]
時系列データ生成のための新しい生成フレームワーク - RTSGANを提案する。
RTSGANは、時系列インスタンスと固定次元潜在ベクトルの間のマッピングを提供するエンコーダデコーダモジュールを学習する。
不足した値の時系列を生成するために、RTSGANに観測埋め込み層と決定・生成デコーダを更に装備する。
論文 参考訳（メタデータ） (2021-11-16T11:31:37Z) - Adaptive Machine Learning for Time-Varying Systems: Low Dimensional
Latent Space Tuning [91.3755431537592]
本稿では,時間変化システムを対象とした適応機械学習手法を提案する。
我々は,エンコーダデコーダCNNのエンコーダ部出力において,非常に高次元(N>100k)の入力を低次元(N2)潜在空間にマッピングする。
そこで本手法では,割り込みを伴わないフィードバックに基づいて,内部の相関関係を学習し,その進化をリアルタイムで追跡する。
論文 参考訳（メタデータ） (2021-07-13T16:05:28Z) - Paying Attention to Astronomical Transients: Photometric Classification
with the Time-Series Transformer [1.8833514727802587]
本稿では,自然言語処理のためのトランスフォーマーアーキテクチャを提案する。
時系列変換器をフォトメトリック分類のタスクに適用し、エキスパートドメイン知識の信頼性を最小化する。
Photometric LSST Astronomical Time-Series Classification Challengeのデータを使用して、代表設定で不均衡なデータに対する0.507の重み付き対数損失を達成します。
論文 参考訳（メタデータ） (2021-05-13T10:16:13Z) - Adaptive Latent Space Tuning for Non-Stationary Distributions [62.997667081978825]
本稿では,ディープエンコーダ・デコーダ方式cnnの低次元潜在空間の適応チューニング法を提案する。
粒子加速器における時間変動荷電粒子ビームの特性を予測するためのアプローチを実証する。
論文 参考訳（メタデータ） (2021-05-08T03:50:45Z) - Deep Transformer Networks for Time Series Classification: The NPP Safety
Case [59.20947681019466]
時間依存nppシミュレーションデータをモデル化するために、教師付き学習方法でトランスフォーマと呼ばれる高度なテンポラルニューラルネットワークを使用する。
トランスはシーケンシャルデータの特性を学習し、テストデータセット上で約99%の分類精度で有望な性能が得られる。
論文 参考訳（メタデータ） (2021-04-09T14:26:25Z) - Spatio-temporal Weather Forecasting and Attention Mechanism on
Convolutional LSTMs [12.85152408472368]
高解像度物理モデル上での数値天気予報はスーパーコンピュータ上での計算時間を消費する。
予測におけるディープラーニング機械学習手法は、この分野の新たなソリューションを明らかにした。
我々は、入力気象データと観測データの両方を用いて、高精度な気象データを予測する。
論文 参考訳（メタデータ） (2021-02-01T08:30:42Z) - Deep Cellular Recurrent Network for Efficient Analysis of Time-Series
Data with Spatial Information [52.635997570873194]
本研究では,空間情報を用いた複雑な多次元時系列データを処理するための新しいディープセルリカレントニューラルネットワーク(DCRNN)アーキテクチャを提案する。
提案するアーキテクチャは,文献に比較して,学習可能なパラメータをかなり少なくしつつ,最先端の性能を実現している。
論文 参考訳（メタデータ） (2021-01-12T20:08:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。