論文の概要: Domain-Informed Multi-View Self-Distillation for Astronomical Light-Curve Representation Learning with JEPA
- arxiv url: http://arxiv.org/abs/2606.28446v1
- Date: Fri, 26 Jun 2026 08:35:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:15.561218
- Title: Domain-Informed Multi-View Self-Distillation for Astronomical Light-Curve Representation Learning with JEPA
- Title(参考訳): ドメインインフォームド多視点自己拡張によるJEPAを用いた天文学的光循環表現学習
- Abstract要約: 本稿では、不規則な天文学時系列を対象としたドメインインフォームド表現学習フレームワークを提案する。
我々はセマンティックス保存ビュー、不確実性認識トークン化、多視点自己蒸留を組み合わせる。
我々のモデルは16の分類指標のうち15の手作りの特徴より優れています。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Light curves describe temporal variations in the brightness of celestial objects. Learning robust representations of light curves is essential for large-scale automatic discovery in the dynamic universe, but existing time-series foundation models often struggle with the uneven sampling, complex noise, and wide range of physical timescales that characterize astronomical observations. We propose a domain-informed representation learning framework for irregular astronomical time series with Joint-Embedding predictive architecture (JEPA), combining semantics-preserving views, uncertainty-aware tokenization, and multi-view self-distillation. The encoders are trained with multi-view self-distillation using LeJEPA regularization on the LEAVES dataset and evaluated on the StarEmbed classification benchmark. On StarEmbed, our model outperforms hand-crafted features on 15 of 16 classification metrics. In few-shot linear probing, it achieves macro-F1 scores of 42.56 $\pm$ 7.21 with one sample per class and 63.58 $\pm$ 1.20 with 100 samples per class, consistently improving over hand-crafted features. Beyond variable-star classification, the learned representation supports similarity search, parameter estimation, and photometric zero-point drift detection. We further evaluate cross-domain adaptation on 12 heterogeneous irregular time-series datasets from PYRREGULAR, where the adapted variant matches or exceeds previous state-of-the-art performance on 5 datasets, compared with at most 3 wins by any single prior baseline. These results demonstrate that domain-informed multi-view self-distillation is an effective strategy for learning representations of irregular time series, while also highlighting that successful time-series representation learning requires domain-specific inductive biases rather than a universally optimal architecture.
- Abstract(参考訳): 光曲線は、天体の明るさの時間変化を記述する。
光曲線の堅牢な表現を学習することは、動的宇宙における大規模な自動発見に不可欠であるが、既存の時系列基礎モデルは、天文学的な観測を特徴付ける、不均一なサンプリング、複雑なノイズ、広範囲の物理的時間スケールにしばしば苦労する。
本稿では,JEPA(Joint-Embedding predictive Architecture)を用いた不規則な天文学時系列のドメイン情報表現学習フレームワークを提案する。
エンコーダはLEAVESデータセット上でLeJEPA正規化を用いて多視点自己蒸留を用いて訓練され、StarEmbed分類ベンチマークで評価される。
StarEmbedでは、我々のモデルは16の分類指標のうち15の手作りの特徴よりも優れています。
数ショットの線形探索では、マクロF1スコアは42.56$\pm$7.21で、クラスごとに1つのサンプルと63.58$\pm$1.20で、手作りの特徴よりも一貫して改善されている。
可変星分類以外にも、学習された表現は類似性探索、パラメータ推定、光度ゼロ点ドリフト検出をサポートする。
さらに,PYRREGularから得られた12の異種不規則時系列データセットに対するクロスドメイン適応について検討した。
これらの結果から,ドメインインフォームド・マルチビュー自己蒸留は不規則時系列の表現を学習する上で有効な戦略であり,また,成功した時系列表現学習には普遍的に最適なアーキテクチャではなく,ドメイン固有の帰納的バイアスが必要であることが示唆された。
関連論文リスト
- Leveraging Multimodality for Real-Time Classification of Transients and Variables found by the Zwicky Transient Facility [0.0]
リアルタイム階層分類のための光曲線,メタデータ,画像を組み合わせたORACLE-2モデルを提案する。
追加のモダリティを組み込むことで、常に分類性能が向上することを示す。
これらの結果から,複数モードの組み合わせにより早期分類が向上し,高ボリュームな警告ストリームのより効果的なトリアージが可能となった。
論文 参考訳(メタデータ) (2026-06-30T22:15:54Z) - Learning by Shifting: Temporal View Construction for Time Series Contrastive Learning [4.7318594191739765]
監視された学習は大量のラベル付きデータを必要とします。
自己教師付き学習、特に対照的な学習は、ラベルのないデータから直接リッチな表現学習を可能にする、魅力的な代替手段として現れてきた。
時系列の既存のアプローチは、強いドメイン仮定を埋め込んだ手作りの拡張とマスキングに依存している。
本稿では,時系列設定における比較学習力学の系統的解析を行い,バッチサイズと負数の影響について検討する。
論文 参考訳(メタデータ) (2026-06-20T09:07:30Z) - Seeking SOTA: Time-Series Forecasting Must Adopt Taxonomy-Specific Evaluation to Dispel Illusory Gains [17.650604674194984]
我々は、AI/ML時系列予測モデルを評価する現在の実践は、効率的な古典的手法の性能を見極めることで、実際の進歩を曖昧にしていると論じる。
これらの「標準」データセットは、しばしばより単純な線形または統計モデルによって効果的に捉えられる、支配的な自己相関パターンと季節周期を示す。
論文 参考訳(メタデータ) (2026-03-16T16:34:26Z) - ARIES: Relation Assessment and Model Recommendation for Deep Time Series Forecasting [54.57031153712623]
ARIESは時系列特性とモデリング戦略の関係を評価するためのフレームワークである。
実世界の時系列に解釈可能な提案を提供することのできる,最初の深層予測モデルレコメンデータを提案する。
論文 参考訳(メタデータ) (2025-09-07T13:57:14Z) - Time-RA: Towards Time Series Reasoning for Anomaly with LLM Feedback [55.284574165467525]
Time-RA(Time-Series Reasoning for Anomaly)は、時系列異常検出を生成的、推論集約的なタスクに変換する。
また,実世界のマルチモーダルベンチマークデータセットであるRATs40Kを導入する。
論文 参考訳(メタデータ) (2025-07-20T18:02:50Z) - FreRA: A Frequency-Refined Augmentation for Contrastive Learning on Time Series Classification [56.925103708982164]
周波数領域からの新たな視点を示し、ダウンストリーム分類の利点として、グローバル、独立、コンパクトの3つを識別する。
本稿では,分類タスクにおける時系列のコントラスト学習に適した,軽量で効果的な周波数補充拡張(FreRA)を提案する。
FreRAは、時系列分類、異常検出、転送学習タスクにおいて、常に10つの主要なベースラインを上回ります。
論文 参考訳(メタデータ) (2025-05-29T07:18:28Z) - Breaking Silos: Adaptive Model Fusion Unlocks Better Time Series Forecasting [64.45587649141842]
時系列予測は多くの現実世界のアプリケーションにおいて重要な役割を果たす。
1つのモデルは、異なるテストサンプルで一貫して他よりも優れていますが、(ii) それぞれのモデルは特定のケースで優れています。
異種モデルのサンプルレベル適応融合による時系列予測のためのフレームワークであるTimeFuseを紹介する。
論文 参考訳(メタデータ) (2025-05-24T00:45:07Z) - AstroM$^3$: A self-supervised multimodal model for astronomy [0.0]
本稿では,モデルが複数のモーダルから同時に学習できる自己教師型事前学習手法AstroM$3$を提案する。
具体的には、CLIP(Contrastive Language- Image Pretraining)モデルをトリモーダル設定に拡張し、時系列測光データ、スペクトル、天体物理メタデータの統合を可能にする。
以上の結果から,CLIP事前学習により時系列光度測定の分類性能が向上し,精度が84.6%から91.5%に向上した。
論文 参考訳(メタデータ) (2024-11-13T18:20:29Z) - TEMPO: Prompt-based Generative Pre-trained Transformer for Time Series Forecasting [24.834846119163885]
本稿では,時系列表現を効果的に学習できる新しいフレームワークTEMPOを提案する。
TEMPOは、様々な領域のデータから現実世界の時間現象を動的にモデル化する機能を拡張する。
論文 参考訳(メタデータ) (2023-10-08T00:02:25Z) - CARLA: Self-supervised Contrastive Representation Learning for Time Series Anomaly Detection [53.83593870825628]
時系列異常検出(TSAD)の主な課題は、多くの実生活シナリオにおいてラベル付きデータの欠如である。
既存の異常検出手法の多くは、教師なしの方法で非ラベル時系列の正常な振る舞いを学習することに焦点を当てている。
本稿では,時系列異常検出のためのエンドツーエンドの自己教師型コントラアスティブ表現学習手法を提案する。
論文 参考訳(メタデータ) (2023-08-18T04:45:56Z) - OpenSTL: A Comprehensive Benchmark of Spatio-Temporal Predictive
Learning [67.07363529640784]
提案するOpenSTLは,一般的なアプローチを再帰的モデルと再帰的モデルに分類する。
我々は, 合成移動物体軌道, 人間の動き, 運転シーン, 交通流, 天気予報など, さまざまな領域にわたるデータセットの標準評価を行う。
リカレントフリーモデルは、リカレントモデルよりも効率と性能のバランスが良いことがわかった。
論文 参考訳(メタデータ) (2023-06-20T03:02:14Z) - Understanding of the properties of neural network approaches for
transient light curve approximations [37.91290708320157]
本稿では,観測光曲線を時間と波長で近似する最良性能法を提案する。
テストデータセットには、PLAsTiCCと実際のZwicky Transient Facility Bright Transient Survey光曲線のシミュレーションが含まれている。
論文 参考訳(メタデータ) (2022-09-15T18:00:08Z) - Deep Autoregressive Models with Spectral Attention [74.08846528440024]
本稿では,深部自己回帰モデルとスペクトル注意(SA)モジュールを組み合わせた予測アーキテクチャを提案する。
時系列の埋め込みをランダムなプロセスの発生としてスペクトル領域に特徴付けることにより,グローバルな傾向と季節パターンを同定することができる。
時系列に対するグローバルとローカルの2つのスペクトルアテンションモデルは、この情報を予測の中に統合し、スペクトルフィルタリングを行い、時系列のノイズを除去する。
論文 参考訳(メタデータ) (2021-07-13T11:08:47Z) - PSEUDo: Interactive Pattern Search in Multivariate Time Series with
Locality-Sensitive Hashing and Relevance Feedback [3.347485580830609]
PSEUDoは、マルチトラックシーケンシャルデータにおける視覚パターンを探索するための適応的機能学習技術である。
提案アルゴリズムは,サブ線形学習と推論時間を特徴とする。
我々は,PSEUDoの効率,精度,操縦性において優位性を示す。
論文 参考訳(メタデータ) (2021-04-30T13:00:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。