論文の概要: LeNEPA: No-Augmentation Next-Latent Prediction for Time-Series Representation Learning

• arxiv url: http://arxiv.org/abs/2607.00958v1
• Date: Wed, 01 Jul 2026 13:56:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-02 19:56:07.924353
• Title: LeNEPA: No-Augmentation Next-Latent Prediction for Time-Series Representation Learning
• Title（参考訳）: LeNEPA: 時系列表現学習のための非拡張型次世代予測
• Abstract要約: 我々は,事前学習信号ファミリーが変化した後,メソッド固有の構成が再利用されない場合にSSLレシピがどのように振る舞うかを検討する。 我々は遅延ユークリッド次世代予測アーキテクチャ(LeNEPA)を紹介する。 LeNEPAは、バニラNEPAが使用する停止段階/EMA安定化をSIGRegベースのイソトロピー正則化に置き換える。
• 参考スコア（独自算出の注目度）: 59.34593956287438
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Time series are central to modern data mining applications, from industrial telemetry and server metrics to finance and physiology, yet time-series self-supervised learning often depends on view and augmentation choices that encode domain-specific invariances. We study how an SSL recipe behaves when its method-specific configuration is reused unchanged after the pretraining signal family changes, framing this as a fixed-recipe stress test rather than a comparison against optimally tuned methods. We introduce Latent Euclidean Next-Embedding Prediction Architecture (LeNEPA), a no-augmentation next-latent-token objective with a causal backbone. LeNEPA replaces the stop-gradient/EMA stabilization used by vanilla NEPA with SIGReg-based isotropy regularization and computes the predictive loss in a lightweight projected space that is discarded for evaluation. We compare LeNEPA with an ECG-tuned JEPA recipe under a fixed-horizon frozen-probe protocol on PTB-XL and Diag, a synthetic diagnostic corpus generated with Aionoscope. Both methods are retrained independently on each dataset while keeping their method-specific recipes unchanged. In this protocol, the ECG-tuned JEPA recipe is strong in-domain on PTB-XL but weaker when reused unchanged on Diag, whereas LeNEPA preserves useful frozen-probe gains on both datasets. Learning curves suggest faster early representation acquisition: LeNEPA reaches 80% of its final AUROC/AUPRC gain after 2--5k updates, compared with 5--10k updates for the faster JEPA readout. As a separate external frozen-encoder check, a CauKer-pretrained LeNEPA variant reaches 77.65% mean UCR-128 Random-Forest accuracy in a single-seed, best-checkpoint run, within 1.16 points of Mantis and within 0.24 points of MOMENT (77.89%). Overall, the results support no-augmentation latent prediction as a useful candidate recipe for low-retuning time-series SSL.
• Abstract（参考訳）: 時系列は、産業用テレメトリやサーバのメトリクスからファイナンスや生理学まで、現代のデータマイニングアプリケーションの中心であるが、時系列の自己管理学習はドメイン固有の不変性をエンコードするビューと拡張の選択に依存することが多い。 本研究は、SSLのレシピが、事前学習信号ファミリーが変化した後、そのメソッド固有の構成が再利用されない場合にどのように振る舞うかについて、最適に調整された方法との比較ではなく、固定レシピストレステストとしてフレーミングする。 因果バックボーンを用いた非拡張次潜時目標である潜在ユークリッド次エンベッド予測アーキテクチャ(LeNEPA)を紹介する。 LeNEPAは、バニラ NEPA が使用する停止勾配/EMA安定化を SIGReg ベースの等方性正規化に置き換え、評価のために捨てられた軽量射影空間における予測損失を計算する。 PTB-XL上の固定水平凍結プローブプロトコルと,Aionoscopeで生成した合成診断コーパスであるDiagを用いて,LeNEPAとECG調整したJEPAレシピを比較した。 どちらのメソッドも、それぞれのデータセット上で独立して再トレーニングされ、メソッド固有のレシピは変更されない。 このプロトコルでは、ECGでチューニングされたJEPAレシピはTB-XLのドメイン内で強いが、Diagで再利用されない場合には弱くなり、LeNEPAは両方のデータセットで有用な凍結プローブゲインを保持する。 LeNEPAは2～5k更新後の最終的なAUROC/AUPRCゲインの80%に達し、JEPA読み込みは5～10k更新された。 別個の外部凍結エンコーダチェックとして、CauKer- Pretrained LeNEPA 変種は 77.65% に達し、UCR-128 のランダム-フォレスト精度は、マンティスの1.16ポイント、MOMENTの0.24ポイント (77.89%) 以内である。 全体として、結果は、低調整の時系列SSLの有用な候補レシピとして、増大しない潜在予測をサポートする。

関連論文リスト

• Self-Supervised Pretraining of Molecular Graph Encoders with LeJEPA [0.0]
  自己教師付き事前学習は言語とビジョンを変えてきたが、分子グラフニューラルネットワークの価値はいまだに争われている。 大規模な教師なしコーパスでの事前学習が分子特性予測を改善するかどうかを問う。 プレトレーニングは学習した表現を改善するが、微調整を堅牢に改善しない。
  論文  参考訳（メタデータ） (2026-09-02T12:08:23Z)
• SS-ESOAP: Self-Scaled Adaptive Preconditioning for Physics-Informed Learning [70.71795707610961]
  メソッドは、Kronecker幾何に適応したスカラーセマントエネルギー補正でSOAPスタイルのプレコンディショニングを強化する。 メソッドは8つのPDEベンチマークのうち6つで最下位の残差に達する。 4つの代表PDEの3列の$L2$と$H1$エラーは、低い残差と改善された解精度の間のリンクをサポートする。
  論文  参考訳（メタデータ） (2026-08-29T21:34:47Z)
• SagnacAssisted Enhanced OTDR for Distributed Acoustic Sensing: A Standardized Benchmark and Engineering Evaluation Framework [3.5435442578622127]
  本研究では,サニャック支援による$-OTDRセンシングアーキテクチャと,エンジニアリング指向のDASイベント認識のための標準ベンチマークフレームワークを開発する。 サニャック干渉計は、$$-OTDRチャネルにおけるフェーディング・パンの観測を補う連続的な位相応答を提供する。 6種類の音響クラスを持つ10km感光ファイバーを用いた実験により, 両分岐融合モデルが最も良好なトレードオフが得られた。
  論文  参考訳（メタデータ） (2026-06-04T06:29:25Z)
• Uncovering Trajectory and Topological Signatures in Multimodal Pediatric Sleep Embeddings [2.2917707112773593]
  本研究は, 自己エンコーダに埋め込まれた30秒の小児PSGエポックに含まれるセッションワイド診断情報について検討する。 本研究は, PHATE 由来の組込み座標と一晩移動記述子, 組込み雲の持続的ホモロジー要約, EHR がタスク関連信号を生成するかどうかを検証した。
  論文  参考訳（メタデータ） (2026-05-13T22:11:28Z)
• Drug Release Modeling using Physics-Informed Neural Networks [0.8390144474808291]
  物理インフォームドニューラルネットワーク(PINN)とベイズ型PINN(BPINN)を用いた新しいアプローチを提案する。 物理法則と実験データを組み合わせることにより,提案手法は短時間測定から高精度な長期リリース予測を導出する。
  論文  参考訳（メタデータ） (2026-02-10T16:51:50Z)
• Ultra-Light Test-Time Adaptation for Vision--Language Models [0.6816905600359814]
  CLIPのような視覚言語モデル(VLM)は、画像埋め込みとテキスト由来のクラスプロトタイプを比較することで、強力なゼロショット認識を実現する。 ドメインシフトでは、特徴の漂流、クラスプライアミスマッチ、深刻な誤診に悩まされる。 バックボーンを凍結し,ロジットレベルのパラメータのみを適応させる,完全トレーニングフリーでバックプロップフリーなフレームワークであるUltra-Light Test-Time Adaptation (UL-TTA)を提案する。
  論文  参考訳（メタデータ） (2025-11-12T08:19:57Z)
• LeJEPA: Provable and Scalable Self-Supervised Learning Without the Heuristics [53.247652209132376]
  JEPA(Joint-Embedding Predictive Architectures)は、有望な青写真を提供するが、実践的なガイダンスや理論の欠如がアドホックな研究開発につながっている。 我々はJEPAの包括的な理論を示し、それをbf LeJEPAでインスタンス化する。
  論文  参考訳（メタデータ） (2025-11-11T18:21:55Z)
• Gaussian Embeddings: How JEPAs Secretly Learn Your Data Density [51.15085346971361]
  JEPA(Joint Embedding Predictive Architectures)は、多くのダウンストリームタスクを最初から解決できる表現を学習する。 JEPAsには2つの目的がある: (i) 潜在空間予測項、すなわち、わずかに摂動されたサンプルの表現は、元のサンプルの表現から予測できなければならない、 (ii) 反崩壊項、すなわち、すべてのサンプルが同じ表現を持つべきではない、という2つの目的がある。
  論文  参考訳（メタデータ） (2025-10-07T14:06:30Z)
• Real-time frequency estimation of a qubit without single-shot-readout [1.1796902300802676]
  本稿では,読み出し位相を制御する適応アルゴリズムを提案する。 本稿では,適応プロトコルの追加により,将来的なリアルタイム実験における精度の向上が期待できることを示す。
  論文  参考訳（メタデータ） (2022-10-11T15:35:16Z)
• Taming Overconfident Prediction on Unlabeled Data from Hindsight [50.9088560433925]
  ラベルのないデータに対する予測の不確実性を最小化することは、半教師付き学習において優れた性能を達成するための鍵となる要素である。 本稿では,アダプティブシャーニング(Adaptive Sharpening, ADS)と呼ばれる2つのメカニズムを提案する。 ADSは、プラグインにすることで最先端のSSLメソッドを大幅に改善する。
  論文  参考訳（メタデータ） (2021-12-15T15:17:02Z)
• Hessian-Aware Pruning and Optimal Neural Implant [74.3282611517773]
  プルーニングは、ニューラルネットワークモデルに関連するメモリフットプリントとフラップを減らす効果的な方法である。 構造的プルーニングの指標として2次感度を用いたニューラルインプラントアプローチと組み合わされた新しいヘッセン認識プルーニング法を提案する。
  論文  参考訳（メタデータ） (2021-01-22T04:08:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。