論文の概要: Variable Input Masked Autoencoders for Wrist-Worn Accelerometry
- arxiv url: http://arxiv.org/abs/2610.17383v1
- Date: Mon, 12 Oct 2026 20:41:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-17 19:11:14.781715
- Title: Variable Input Masked Autoencoders for Wrist-Worn Accelerometry
- Title(参考訳): Wrist-Worn Accelerometryのための可変入力マスクオートエンコーダ
- Abstract要約: 本稿では、サンプリングレートと時間文脈をまたいだ単一の表現を学習する可変入力マスキングオートエンコーダであるVarMAEを紹介する。
VarMAEはパラメータ効率が良く、単一の基盤モデルでセンシング構成をまたいで広い転送能力が得られることを示す。
- 参考スコア(独自算出の注目度): 21.28207274602126
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large-scale repositories of wearable sensor data have enabled the development of foundation models for human activities and behavior. However, existing models are pretrained using fixed input durations and sampling rates, despite substantial heterogeneity in recording conditions, downstream tasks, and deployment constraints. We introduce VarMAE, a variable input masked autoencoder that learns a single representation across sampling rates and temporal contexts. During pretraining we construct two views of the same signal: a long duration high frequency view, and a short duration lower frequency view, obtained via random cropping and downsampling. We perform masked reconstruction within each view and introduce a cross-resolution masked reconstruction objective that uses visible tokens from the long view to predict masked tokens from the short view. Cropping and downsampling impose complementary information bottlenecks, encouraging the model to learn representations that remain effective across input durations and sampling rate changes. We pretrain VarMAE on the large-scale NHANES dataset, producing a single pretrained encoder matching or outperforming controlled foundation model baselines on eight benchmark datasets. With only 3.82M parameters, VarMAE is parameter efficient and shows that a single foundation model can achieve broad transfer capabilities across sensing configurations.
- Abstract(参考訳): ウェアラブルセンサーデータの大規模リポジトリは、人間の活動と行動の基礎モデルの開発を可能にした。
しかし、既存のモデルは、記録条件、下流タスク、配置制約にかなりの不均一性があるにもかかわらず、一定の入力時間とサンプリングレートを使って事前訓練されている。
本稿では、サンプリングレートと時間文脈をまたいだ単一の表現を学習する可変入力マスキングオートエンコーダであるVarMAEを紹介する。
事前学習中、我々は同じ信号の2つのビューを構築する:長周期の高周波ビューと短周期の低周波ビューで、ランダムなトリミングとダウンサンプリングによって得られる。
両視点でマスク化再構成を行い、長視野からの可視トークンを用いて短い視点からマスク化トークンを予測するクロスレゾリューションマスク化再構成目標を導入する。
クロップとダウンサンプリングは相補的な情報のボトルネックを課し、入力期間とサンプリングレートの変化で有効である表現を学習するようモデルに促す。
大規模なNAANESデータセット上でVarMAEを事前トレーニングし、8つのベンチマークデータセットに基づいて、トレーニング済みエンコーダマッチングまたは制御基盤モデルベースラインの高性能化を実現した。
パラメータは3.82Mしかなく、VarMAEはパラメータ効率が良く、単一の基盤モデルがセンシング構成をまたいで広い転送能力を得ることができることを示す。
関連論文リスト
- FAST: Flow Any Scene Transformer [100.4134849010468]
スケーリングは、言語とビジョン基盤モデルの進歩の原動力となっている。
Flow Any Scene Transformer (FAST)は、2つの重要な洞察によって駆動されるスケーラブルな対応モデルである。
FASTは、バックボーンサイズとトレーニングデータの両方で適切にスケーリングしながら、幅広いベンチマークで最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2026-09-30T13:48:43Z) - Self-Supervised Learning via Flow-Guided Neural Operator on Time-Series Data [57.85958428020496]
Flow-Guided Neural Operator (FGNO)は、演算子学習とフローマッチングを組み合わせた新しいフレームワークである。
FGNOは、短時間フーリエ変換を用いて関数空間のマッピングを学習し、異なる時間分解能を統一する。
推論中にノイズのある入力を使用する以前の生成SSL法とは異なり、ノイズのある表現を学習しながら、クリーンな入力を用いて表現抽出を行う。
論文 参考訳(メタデータ) (2026-02-12T18:54:57Z) - LEFT: Learnable Fusion of Tri-view Tokens for Unsupervised Time Series Anomaly Detection [53.191369031661885]
教師なし時系列異常検出は、アノテーションの可用性を前提とせず、異常なタイムスタンプを識別するモデルを構築することを目的としている。
本稿では,非教師付きTSADフレームワークであるLearnable Fusion of Tri-view Tokens(LEFT)について述べる。
実世界のベンチマーク実験では、LEFTはSOTAベースラインに対して最高の検出精度を示し、FLOPの5倍、トレーニングの8倍のスピードアップを実現している。
論文 参考訳(メタデータ) (2026-02-09T13:33:49Z) - SMKC: Sketch Based Kernel Correlation Images for Variable Cardinality Time Series Anomaly Detection [0.0]
運用環境では、監視システムはセンサーチャーンを頻繁に経験する。
本稿では,異常検出器から動的入力構造を分離するフレームワークSMKCを提案する。
SMKC表現におけるランダムプロジェクションと近傍近傍の検出器は、完全に訓練されたベースラインと競合する。
論文 参考訳(メタデータ) (2026-01-28T21:15:11Z) - MARMOT: Masked Autoencoder for Modeling Transient Imaging [30.865812827455326]
我々は、非視線(NLOS)アプリケーションを容易にするために、過渡イメージング(MARMOT)をモデル化するためのマスク付きオートエンコーダを提案する。
私たちのMARMOTは、大規模で多様なNLOSトランジェントデータセットを前提とした自己教師型モデルです。
論文 参考訳(メタデータ) (2025-06-10T05:49:22Z) - Towards Efficient Real-Time Video Motion Transfer via Generative Time Series Modeling [7.3949576464066]
本研究では,モーショントランスファー対応ビデオアプリケーションにおいて,帯域幅を大幅に最適化する深層学習フレームワークを提案する。
複雑な動きを効果的に捉えるために,キーポイントを検出することで動的物体を符号化する第1次運動モデル(FOMM)を用いる。
ビデオアニメーションと再構成のために, 平均絶対誤差, 共同埋め込み予測アーキテクチャ埋め込み距離, 構造類似度指数, 平均ペアワイズ変位の3つの指標を用いて, 実験結果を検証した。
論文 参考訳(メタデータ) (2025-04-07T22:21:54Z) - Stable Virtual Camera: Generative View Synthesis with Diffusion Models [51.71244310522393]
本稿では,シーンの新たなビューを生成する汎用拡散モデルであるスタブルバーチャルカメラ(Seva)を紹介する。
このアプローチは、シンプルなモデル設計、最適化されたトレーニングレシピ、柔軟なサンプリング戦略によってこれらの制限を克服する。
提案手法では,シームレスなループ閉鎖により,最大半分間の高品質なビデオを生成することができる。
論文 参考訳(メタデータ) (2025-03-18T17:57:22Z) - Revealing the Power of Masked Autoencoders in Traffic Forecasting [16.69508205120188]
本稿では,交通予測における既存の時空間モデルを強化するためのプラグイン・アンド・プレイ・フレームワークを提案する。
STMAEは2つの学習段階から構成されており、事前学習段階では、エンコーダが2つのマスキング戦略によって生成された部分的に可視なトラフィックデータを処理している。
2つのデコーダは,空間的,時間的両面からマスクを復元することを目的としている。
トラフィックベンチマークの結果から,STMAEは様々な時空間モデルの予測能力を大幅に向上させることができることがわかった。
論文 参考訳(メタデータ) (2023-09-26T18:05:19Z) - Learning to Mask and Permute Visual Tokens for Vision Transformer Pre-Training [55.12082817901671]
我々はMasked and Permuted Vision Transformer(MaPeT)という自己教師型事前学習手法を提案する。
MaPeTは、自動回帰および置換予測を使用して、パッチ内依存関係をキャプチャする。
以上の結果から,MaPeTはベースラインやコンペティターと同一のモデル設定で比較して,ImageNet上での競合性能を実証した。
論文 参考訳(メタデータ) (2023-06-12T18:12:19Z) - Fast Non-Rigid Radiance Fields from Monocularized Data [66.74229489512683]
本稿では,不規則に変形するシーンを360度内向きに合成する新しい手法を提案する。
提案手法のコアとなるのは, 空間情報と時間情報の処理を分離し, 訓練と推論を高速化する効率的な変形モジュール, 2) 高速ハッシュ符号化ニューラルラジオアンスフィールドとしての標準シーンを表す静的モジュールである。
どちらの場合も,本手法は従来の手法よりもはるかに高速で,7分未満で収束し,1K解像度でリアルタイムのフレームレートを実現するとともに,生成した新規なビューに対して高い視覚的精度が得られる。
論文 参考訳(メタデータ) (2022-12-02T18:51:10Z) - Latent Temporal Flows for Multivariate Analysis of Wearables Data [0.9990687944474738]
本稿では,この設定に適した時系列の多変量モデリング手法であるLatent Temporal Flowsを紹介する。
提案手法は,マルチステップ予測ベンチマークにおいて常に最先端の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-10-14T02:54:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。