論文の概要: Self-Supervised Representation Learning: From Spectral Foundation Models to Auroral Emission Spectra
- arxiv url: http://arxiv.org/abs/2609.31206v1
- Date: Fri, 25 Sep 2026 12:45:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 18:27:51.397755
- Title: Self-Supervised Representation Learning: From Spectral Foundation Models to Auroral Emission Spectra
- Title(参考訳): 自己監督型表現学習:スペクトル基礎モデルからオーロラ放射スペクトルへ
- Abstract要約: マスク付きオートエンコーダ付き1Dビジョントランスを223,000個の未標識スペクトルにプリトレーニングする。
ラベルがなければ、その表現は、沈殿粒子の診断に物理学者が使用する放出線強度比を回復させる。
- 参考スコア(独自算出の注目度): 2.43420394129881
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Auroral spectrographs such as the Auroral Spectrograph In Skibotn (ASIS) record hundreds of thousands of emission spectra, but only a few hundred can be labelled by an expert. To exploit the rest, we pretrain a 1D Vision Transformer with a masked autoencoder on 223,000 unlabelled spectra. Without labels, its representation recovers the emission-line intensity ratios that physicists use to diagnose the precipitating particles (R^2 0.91 vs. 0.77 for an untrained control) and, under one linear probe, classifies as well as 13 features designed by experts. Fine-tuned, the model outperforms the previous supervised auroral classifier on its own benchmark (macro-AP 88.5 vs. 77.8), reaches 0.870 mAP, and exceeds the same architecture trained from scratch by +0.159 with 10% of the labels; attribution shows that it uses both N2+ bands. Could an existing pretrained model replace it? Two astronomical spectral foundation models and a time-series model transfer according to their spectral window: SpectraFM, trained in the infrared, falls below the untrained control, whereas SpecFormer, trained in the optical, approaches in-domain pretraining without reaching it.
- Abstract(参考訳): オーロラ分光器 In Skibotn (ASIS) のようなオーロラ分光器は数十万の放射スペクトルを記録しているが、専門家によってラベル付けできるのはわずか数百である。
残りの部分を利用するために、223,000個の未標識スペクトルに対してマスク付きオートエンコーダで1Dビジョン変換器を事前訓練する。
ラベルがなければ、その表現は、沈殿粒子の診断に物理学者が使用する放出線強度比(R^2 0.91 vs. 0.77)を回復させ、1つの線形プローブの下では、専門家が設計した13の特徴を分類する。
微調整されたモデルでは、以前の教師付きオーロラ分類器を独自のベンチマーク(macro-AP 88.5 vs. 77.8)で上回り、0.870 mAPに達し、ラベルの10%に+0.159のスクラッチからトレーニングされた同じアーキテクチャを超える。
既存の事前訓練モデルで置き換えられるだろうか?
2つの天文学的スペクトル基盤モデルとスペクトルウィンドウによる時系列モデル転送: 赤外線で訓練されたSpectraFMは、未訓練の制御下にあるが、光学的に訓練されたSpecFormerは、到達せずにドメイン内の事前訓練に近づく。
関連論文リスト
- Turning spectra into images improves plant trait retrieval with 2D-CNNs [4.171845508984376]
我々は139,000枚のラベルのないスペクトル画像に基づいて2次元マスク付きオートエンコーダ (MAE-2D) を訓練した。
エンコーダを凍結し、多層パーセプトロンヘッドのみを訓練する線形プローブは、R2 = 0.646$に到達し、1Dの自己管理ヘッドを全て超えた。
2次元のスペクトル画像の表現的吸収の利点は、アーキテクチャ上の複雑さよりも1次元のアプローチよりも有利である。
論文 参考訳(メタデータ) (2026-08-17T14:53:56Z) - Dimension-Corrected Hitting Times for Heavy-Tailed Spectral Emergence in Neural Optimizer Dynamics [0.5076419064097734]
直撃時問題としてのスペクトル重尾形成
第1段階のスパイク・バルクギャップだけでは、開始時刻は説明できない。
我々は、線形ネットワークにおける正確な早期損失ダイナミクスが因子スペクトルの尾を決定できないことを証明した。
論文 参考訳(メタデータ) (2026-07-10T19:21:19Z) - Residual Koopman Spectral Profiling for Predicting and Preventing Transformer Training Instability [40.24077350481118]
トランスフォーマーのトレーニングのばらつきは計算を無駄にするが、実践者は高価なランニングの開始後にのみ不安定を発見する。
我々はRKSP(Residual Koopman Spectral Profiling)について検討した。
我々の中心的な診断は、近単位スペクトル質量であり、単位円の近くに集中したモードの分画を定量化し、不安定なリスクを捉えます。
論文 参考訳(メタデータ) (2026-02-26T13:33:25Z) - SpectrumFM: Redefining Spectrum Cognition via Foundation Modeling [65.65474629224558]
本稿ではスペクトル認識のための新しいパラダイムを提供するスペクトルFMと呼ばれるスペクトル基盤モデルを提案する。
畳み込みニューラルネットワークを利用した革新的なスペクトルエンコーダを提案し、スペクトルデータにおける微細な局所信号構造と高レベルのグローバルな依存関係の両方を効果的に捕捉する。
2つの新しい自己教師型学習タスク、すなわちマスク付き再構成と次のスロット信号予測が、SpectrumFMの事前学習のために開発され、モデルがリッチで伝達可能な表現を学習できるようにする。
論文 参考訳(メタデータ) (2025-08-02T14:40:50Z) - SpectralAR: Spectral Autoregressive Visual Generation [74.48368364895387]
本稿では、スペクトルの観点から視覚系列の因果性を実現するためのスペクトル自己回帰視覚生成フレームワークを提案する。
我々のSpectralARは、画像のさまざまな詳細レベルを考慮し、配列因果性とトークン効率の両方をベルとホイッスルなしで達成します。
論文 参考訳(メタデータ) (2025-06-12T17:57:44Z) - HyperspectralMAE: The Hyperspectral Imagery Classification Model using Fourier-Encoded Dual-Branch Masked Autoencoder [0.04332259966721321]
ハイパースペクトル画像は、豊富なスペクトルの詳細を提供するが、空間領域とスペクトル領域の両方において、その高次元性のためにユニークな課題を提起する。
テキストマスキング戦略を用いたハイパースペクトルデータのためのトランスフォーマーベースモデルであるtextitHyperspectralMAE を提案する。
ハイパースペクトルMAEは、二重次元事前学習が頑健なスペクトル空間表現をもたらすことを確認し、インドパインズの最先端の伝達学習精度を達成する。
論文 参考訳(メタデータ) (2025-05-09T01:16:42Z) - CARL: Camera-Agnostic Representation Learning for Spectral Image Analysis [69.02751635551724]
スペクトルイメージングは、医療や都市景観の理解など、様々な領域で有望な応用を提供する。
スペクトルカメラのチャネル次元と捕獲波長のばらつきは、AI駆動方式の開発を妨げる。
本稿では,RGB,マルチスペクトル,ハイパースペクトル画像を用いたカメラ非依存表現学習モデルCARLを紹介する。
論文 参考訳(メタデータ) (2025-04-27T13:06:40Z) - SpectralNeRF: Physically Based Spectral Rendering with Neural Radiance
Field [70.15900280156262]
本稿では,新しいスペクトルの観点から,高品質な物理ベースレンダリングのためのエンドツーエンドニューラルラジアンスフィールド(NeRF)アーキテクチャを提案する。
スペクトルNeRFは、合成データセットと実データセットの新しいビューを合成する際に、最近のNeRFベースの方法よりも優れている。
論文 参考訳(メタデータ) (2023-12-14T07:19:31Z) - Unsupervised Spectral Unmixing For Telluric Correction Using A Neural
Network Autoencoder [58.720142291102135]
本研究では,HARPS-N線速度スペクトルから高精度の太陽スペクトルを抽出するニューラルネットワークオートエンコーダ手法を提案する。
論文 参考訳(メタデータ) (2021-11-17T12:54:48Z) - Cycle-StarNet: Bridging the gap between theory and data by leveraging
large datasets [0.0]
現在のスペクトル分析の自動化手法は、(a)データ駆動であり、恒星パラメータと元素の存在量の事前の知識を必要とするか、(b)理論と実践のギャップに影響を受けやすい理論合成モデルに基づくかのいずれかである。
本研究では、シミュレーションされた恒星スペクトルを、教師なし学習を大規模分光サーベイに適用することにより、現実的なスペクトルに変換するハイブリッドな生成領域適応法を提案する。
論文 参考訳(メタデータ) (2020-07-06T23:06:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。