論文の概要: Device Passport: Enabling Spatio-Temporal Pretrained Models to Generalize Across Input Layouts
- arxiv url: http://arxiv.org/abs/2607.00249v1
- Date: Tue, 30 Jun 2026 22:58:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-02 19:56:07.656549
- Title: Device Passport: Enabling Spatio-Temporal Pretrained Models to Generalize Across Input Layouts
- Title(参考訳): デバイスパスポート:入力レイアウト全体の一般化のための時空間事前トレーニングモデルの実現
- Authors: Geeling Chau, Ran Liu, Juri Minxha, Wenhui Cui, Erdrin Azemi, Ellen L. Zippi, Behrooz Mahasseni, Christopher M. Sandino,
- Abstract要約: 本研究では,下流の復号化レイアウトと事前学習における異なるチャネル埋め込み手法の振る舞いについて検討する。
本稿では,各チャネルの機能的アクティビティとメタデータを入力として利用する専門家と混合モデルを学ぶ,新しいチャネル埋め込み技術であるDevice Passportを提案する。
- 参考スコア(独自算出の注目度): 5.217148612121133
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: New device layouts pose a challenging modeling problem due to the lack of large datasets for each specific layout. Biosignal foundation models offer a plausible solution if they are able to generalize to new layouts effectively. To improve cross-layout transfer, we study how different channel embedding techniques behave when pretraining layouts differ substantially from the downstream decoding layout. We propose Device Passport, a new channel embedding technique that learns experts and mixture models that take each channel's functional activity and metadata as input. This contrasts with prior embedding methods, which typically use only functional information or only metadata to look up learned or fixed positional embeddings. Across controlled subset-transfer experiments and realistic transfer to ear-EEG, Device Passport is competitive overall and improves over the strongest learned baseline in the layout-transfer regimes that motivate this work. These results suggest that channel embedding design is a key consideration when reusing large-scale pretrained biosignal models on new devices.
- Abstract(参考訳): 新しいデバイスレイアウトは、特定のレイアウトごとに大きなデータセットがないため、難しいモデリング問題を引き起こす。
バイオシグナー基礎モデルは、新しいレイアウトを効果的に一般化できる場合、有効な解決策を提供する。
クロスレイアウト転送を改善するために、下流の復号化レイアウトと事前学習レイアウトが著しく異なる場合、異なるチャネル埋め込み技術がどのように振る舞うかを検討する。
本稿では,各チャネルの機能的アクティビティとメタデータを入力として利用する専門家と混合モデルを学ぶ,新しいチャネル埋め込み技術であるDevice Passportを提案する。
これは、通常、機能情報のみまたはメタデータのみを使用して学習または固定された位置埋め込みを検索する以前の埋め込み方法とは対照的である。
制御されたサブセット転送実験と耳波EEGへの現実的な転送を通じて、Device Passportは総合的に競争力があり、この研究を動機づけるレイアウト転送体制において最も強力な学習ベースラインよりも改善されている。
これらの結果から, チャネル埋め込み設計は, 新しいデバイス上での大規模事前学習生体信号モデルの再利用において重要な考慮事項であることが示唆された。
関連論文リスト
- Generalize Your Face Forgery Detectors: An Insertable Adaptation Module Is All You Need [3.5424095074777533]
オンライン未ラベルテストデータのみを用いて、トレーニング済みオフザシェルフ検出器を適応できる挿入可能な適応モジュールを導入する。
具体的には、まず、改訂された特徴とプロトタイプから予測を生成する学習可能なクラスプロトタイプベース分類器を提案する。
また、予測精度をさらに向上し、自己学習中のノイズの多い擬似ラベルの影響を低減するため、最も近い特徴校正器を提案する。
論文 参考訳(メタデータ) (2024-12-30T08:48:04Z) - Towards Aligned Layout Generation via Diffusion Model with Aesthetic Constraints [53.66698106829144]
広い範囲のレイアウト生成タスクを処理する統一モデルを提案する。
このモデルは連続拡散モデルに基づいている。
実験結果から,LACEは高品質なレイアウトを生成することがわかった。
論文 参考訳(メタデータ) (2024-02-07T11:12:41Z) - ViT-Calibrator: Decision Stream Calibration for Vision Transformer [49.60474757318486]
本稿では、一般的な視覚変換器の性能を高めるための、決定ストリームと呼ばれる新しいパラダイムを提案する。
異なるトークンと複数の次元の関連係数の相関関係を探索し,学習過程における情報伝達機構について光を当てた。
論文 参考訳(メタデータ) (2023-04-10T02:40:24Z) - LayoutDiffusion: Improving Graphic Layout Generation by Discrete
Diffusion Probabilistic Models [50.73105631853759]
レイアウト自動生成のための新しい生成モデルLayoutDiffusionを提案する。
このプロセスでは,前方ステップの成長に伴うレイアウトの混乱が増している。
これにより、プラグアンドプレイ方式で2つの条件付きレイアウト生成タスクを再トレーニングすることなく実現し、既存の方法よりも優れたパフォーマンスを実現する。
論文 参考訳(メタデータ) (2023-03-21T04:41:02Z) - ERNIE-Layout: Layout Knowledge Enhanced Pre-training for Visually-rich
Document Understanding [52.3895498789521]
レイアウト知識を向上した新しい文書事前学習ソリューションであるERNIEを提案する。
まず、直列化段階で入力シーケンスを並べ替え、相関的な事前学習タスクを示し、順序予測を行い、文書の適切な読み順序を学習する。
実験の結果、ERNIEは様々な下流タスクにおいて優れた性能を示し、キー情報に新たな最先端設定、文書質問応答を実現している。
論文 参考訳(メタデータ) (2022-10-12T12:59:24Z) - Semi-Supervised Wide-Angle Portraits Correction by Multi-Scale
Transformer [17.455782652441187]
広角画像補正のための半教師付きネットワークを提案する。
我々のネットワークはMulti-Scale Swin-Unet(MS-Unet)と呼ばれ、MSTB(Multi-scale Swin-Unet)上に構築されている。
論文 参考訳(メタデータ) (2021-09-14T09:40:25Z) - Variational Transformer Networks for Layout Generation [39.25496294840713]
レイアウトにおける要素間の関係を捉えるために,自己対応層の特性を利用する。
提案する変分変換ネットワーク(VTN)は,明示的な監督なしにマージン,アライメント,その他のグローバルな設計規則を学習することができる。
論文 参考訳(メタデータ) (2021-04-06T10:45:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。