論文の概要: Giving Sensors a Voice: Multimodal JEPA for Semantic Time-Series Embeddings
- arxiv url: http://arxiv.org/abs/2605.31580v1
- Date: Fri, 29 May 2026 17:48:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-01 20:56:50.778183
- Title: Giving Sensors a Voice: Multimodal JEPA for Semantic Time-Series Embeddings
- Title(参考訳): センサに音声を与える: セマンティックな時系列埋め込みのためのマルチモーダルJEPA
- Abstract要約: チャネルレベルのテキスト記述をトランスフォーマーエンコーダに組み込んだCHARMを導入する。
ChaRMは、JEPA(Joint Embedding Predictive Architecture)と、情報的、時間的に安定した埋め込みを促進する新しい損失で訓練されている。
パフォーマンスは主としてJEPAの目的と条件付けアーキテクチャによって駆動され、テキスト記述はクロスデータセットの一般化のためのチャネル識別子として機能する。
- 参考スコア(独自算出の注目度): 0.43748379918040853
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Transformer-based architectures have advanced sequence modeling in language and vision, yet general-purpose representation learning for heterogeneous multivariate time series remains underexplored. We introduce CHARM (Channel-Aware Representation Model), which incorporates channel-level textual descriptions into a Transformer encoder equivariant to channel order. CHARM is trained with a Joint Embedding Predictive Architecture (JEPA) and a novel loss promoting informative, temporally stable embeddings; latent-space prediction encourages robustness to sensor noise while description-aware gating provides interpretability through learned inter-channel relationships. Across anomaly detection, classification, and short- and long-term forecasting, the learned embeddings achieve strong performance using only a linear probe. Performance is driven primarily by the JEPA objective and conditioning architecture, with text descriptions serving as channel identifiers for cross-dataset generalization.
- Abstract(参考訳): トランスフォーマーベースのアーキテクチャは、言語と視覚における高度なシーケンスモデリングを持つが、異種多変量時系列の汎用的な表現学習は未定である。
チャネルレベルのテキスト記述をトランスフォーマーエンコーダに組み込んだCHARM(Channel-Aware Representation Model)を導入する。
CHARMは、JEPA(Joint Embedding Predictive Architecture)と、情報的かつ時間的に安定した埋め込みを促進する新たな損失によって訓練されている。
異常検出,分類,短期および長期予測などを通じて,線形プローブのみを用いて,学習した埋め込み性能を向上する。
パフォーマンスは主としてJEPAの目的と条件付けアーキテクチャによって駆動され、テキスト記述はクロスデータセットの一般化のためのチャネル識別子として機能する。
関連論文リスト
- ChorusTIC: Training-Free Multivariate Time Series Classification via Chorus In-Context Learning [52.72143039958434]
異種チャネル構成にまたがるコンテキスト内分類のための分類ネイティブ基盤モデルであるChorusticを導入する。
Chorusticは、可変チャネル構成を元のチャネルカウントとは無関係に固定幅の表現にマッピングする。
コンテキスト由来の分布を使って機能軸を校正し、リーク保護されたコンテキスト内学習を通じてクエリラベルを予測する。
論文 参考訳(メタデータ) (2026-08-25T03:45:24Z) - TRaM-VSR: Importance-Aware Token Routing and Merging for One-Step Diffusion Video Super-Resolution [52.96050253456634]
TRaM-VSRは、コンテキスト対応のビデオプリエントとネットワークレベルを用いた適応トークンアロケーションのためのフレームワークである。
その結果、TRaM-VSRは、最先端の復元品質と頑健な時間的整合性を維持しつつ、推論を著しく加速することがわかった。
論文 参考訳(メタデータ) (2026-07-24T11:57:26Z) - DifFRACT: Diffusion Feature Reconstruction and Attribution for Circuit Tracing [8.306039957986394]
トランスコーダベースの回路トレースを多モード拡散変換器に拡張する。
属性結合とストリーム間セマンティックな伝搬のメカニズムを解明する。
本研究は,系統的な生成誤りの因果的説明を提供する。
論文 参考訳(メタデータ) (2026-06-14T13:02:44Z) - Hierarchical Consistency Learning for Test-time Adaptation in Camouflage Perception [50.278200968044665]
カモフラージュされた物体検出(COD)は、物理的属性を通して背景から最小限の知覚差を示すターゲットをローカライズすることを目的としている。
既存のメソッドは、静的なTrain-then-freezeパラダイムによって制約されており、ドメインの剛性と依存性のアノテーションに悩まされている。
動的表現再構成のためのテスト時間適応を統合した階層的一貫性学習フレームワークを提案する。
論文 参考訳(メタデータ) (2026-05-25T09:57:46Z) - Learning Transferable Sensor Models via Language-Informed Pretraining [4.764303199378882]
textbfSLIPは、さまざまなセンサー設定にまたがって一般化される言語対応表現を学習するためのオープンソースのフレームワークである。
SLIPはセンサ条件のキャプションとコントラストアライメントを統合し、識別的理解と生成的推論の両方を容易にする。
11データセットにわたって、SLIPはゼロショット転送、信号キャプション、質問応答において優れた性能を示す。
論文 参考訳(メタデータ) (2026-03-12T13:59:13Z) - Adapformer: Adaptive Channel Management for Multivariate Time Series Forecasting [49.40321003932633]
Adapformerは、効果的なチャネル管理を通じてCIとCD方法論のメリットをマージする、トランスフォーマーベースの高度なフレームワークである。
Adapformerは既存のモデルよりも優れた性能を実現し、予測精度と計算効率の両方を向上させる。
論文 参考訳(メタデータ) (2025-11-18T16:24:05Z) - SEED: A Structural Encoder for Embedding-Driven Decoding in Time Series Prediction with LLMs [3.036179638516407]
組込み型デコードのための構造的エンコーダSEEDは,パッチ抽出のためのトークン対応エンコーダ,言語モデル埋め込みとパッチを整列するプロジェクションモジュール,タスク対応プロトタイプにパッチをマッピングするセマンティックプログラミング機構の4つの段階を統合している。
このモジュラーアーキテクチャは、推論から表現学習を分離し、数値パターンと意味論的推論の効率的なアライメントを可能にする。
論文 参考訳(メタデータ) (2025-06-25T06:40:14Z) - FaCTR: Factorized Channel-Temporal Representation Transformers for Efficient Time Series Forecasting [0.0]
時系列データは、時間ステップごとの情報密度が低く、チャネル間の複雑な依存関係が特徴である。
構造設計を明示した軽量な変換器FaCTRを提案する。
コンパクトな設計にもかかわらず、FaCTRは11の公開予測ベンチマークで最先端のパフォーマンスを誇った。
論文 参考訳(メタデータ) (2025-06-05T21:17:53Z) - Spatial-Temporal-Spectral Unified Modeling for Remote Sensing Dense Prediction [20.1863553357121]
リモートセンシングのための現在のディープラーニングアーキテクチャは、基本的に堅固である。
本稿では,統合モデリングのための空間時間スペクトル統一ネットワーク(STSUN)について紹介する。
STSUNは任意の空間サイズ、時間長、スペクトル帯域で入力および出力データに適応することができる。
様々な密集した予測タスクと多様な意味クラス予測を統一する。
論文 参考訳(メタデータ) (2025-05-18T07:39:17Z) - ALFEE: Adaptive Large Foundation Model for EEG Representation [17.166788472910806]
本稿では,脳波信号表現(ALFEE)フレームワークのための適応大基礎モデルを提案する。
ALFEEは、堅牢な脳波表現学習のための2つの学習段階を持つ、新しいハイブリッドトランスフォーマーアーキテクチャである。
25,000時間の事前トレーニングの後、6つの下流脳波タスクに関する広範な実験結果が、既存のモデルよりもALFEEの方が優れた性能を示している。
論文 参考訳(メタデータ) (2025-05-07T13:32:31Z) - Sentinel: Multi-Patch Transformer with Temporal and Channel Attention for Time Series Forecasting [48.52101281458809]
トランスフォーマーに基づく時系列予測は、シーケンシャルデータをモデル化するトランスフォーマーの能力により、近年、強い関心を集めている。
チャネル次元からコンテキスト情報を抽出できるエンコーダで構成されるトランスフォーマーベースのアーキテクチャであるSentinelを提案する。
マルチパッチアテンション機構を導入し、パッチ処理を利用して入力シーケンスをトランスフォーマーアーキテクチャに自然に組み込むことができるように構成する。
論文 参考訳(メタデータ) (2025-03-22T06:01:50Z) - Latent Diffusion Model-Enabled Low-Latency Semantic Communication in the Presence of Semantic Ambiguities and Wireless Channel Noises [18.539501941328393]
本稿では,ソースデータのアウトレイラを処理するために,遅延拡散モデルを用いたSemComシステムを開発した。
軽量な単層遅延空間変換アダプタは、送信機でのワンショット学習を完了させる。
終端整合蒸留法を用いて, 潜時空間で訓練した拡散模型を蒸留する。
論文 参考訳(メタデータ) (2024-06-09T23:39:31Z) - CARD: Channel Aligned Robust Blend Transformer for Time Series
Forecasting [50.23240107430597]
本稿では,CARD(Channel Aligned Robust Blend Transformer)という特殊なトランスを設計する。
まず、CARDはチャネルに沿ったアテンション構造を導入し、信号間の時間的相関をキャプチャする。
第二に、マルチスケール知識を効率的に活用するために、異なる解像度のトークンを生成するトークンブレンドモジュールを設計する。
第3に,潜在的な過度な問題を軽減するため,時系列予測のためのロバストな損失関数を導入する。
論文 参考訳(メタデータ) (2023-05-20T05:16:31Z) - CCVS: Context-aware Controllable Video Synthesis [95.22008742695772]
プレゼンテーションでは、古いビデオクリップから新しいビデオクリップを合成するための自己教師付き学習アプローチを紹介している。
時間的連続性のための文脈情報と微妙な制御のための補助情報に基づいて合成過程を規定する。
論文 参考訳(メタデータ) (2021-07-16T17:57:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。