論文の概要: Selective Embedding for Deep Learning
- arxiv url: http://arxiv.org/abs/2507.13399v1
- Date: Wed, 16 Jul 2025 15:45:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-21 20:43:26.0748
- Title: Selective Embedding for Deep Learning
- Title(参考訳): ディープラーニングのための選択的埋め込み
- Authors: Mert Sehri, Zehui Hua, Francisco de Assis Boldt, Patrick Dumond,
- Abstract要約: ディープラーニングアルゴリズムは入力データに敏感であり、非定常条件下では性能が劣化することが多い。
本研究では,1つの入力チャネル内の複数のソースから短いセグメントのデータを交換する,新しいデータロード戦略である選択的埋め込みを導入する。
- 参考スコア(独自算出の注目度): 0.4499833362998489
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep learning has revolutionized many industries by enabling models to automatically learn complex patterns from raw data, reducing dependence on manual feature engineering. However, deep learning algorithms are sensitive to input data, and performance often deteriorates under nonstationary conditions and across dissimilar domains, especially when using time-domain data. Conventional single-channel or parallel multi-source data loading strategies either limit generalization or increase computational costs. This study introduces selective embedding, a novel data loading strategy, which alternates short segments of data from multiple sources within a single input channel. Drawing inspiration from cognitive psychology, selective embedding mimics human-like information processing to reduce model overfitting, enhance generalization, and improve computational efficiency. Validation is conducted using six time-domain datasets, demonstrating that the proposed method consistently achieves high classification accuracy across various deep learning architectures while significantly reducing training times. The approach proves particularly effective for complex systems with multiple data sources, offering a scalable and resource-efficient solution for real-world applications in healthcare, heavy machinery, marine, railway, and agriculture, where robustness and adaptability are critical.
- Abstract(参考訳): ディープラーニングは、モデルが生データから複雑なパターンを自動的に学習し、手動の機能工学への依存を減らすことによって、多くの産業に革命をもたらした。
しかし、ディープラーニングアルゴリズムは入力データに敏感であり、特に時間領域データを使用する場合、非定常状態や異なる領域間で性能が劣化することが多い。
従来の単一チャネルまたは並列マルチソースデータロード戦略は、一般化を制限するか、計算コストを増大させる。
本研究では,1つの入力チャネル内の複数のソースから短いセグメントのデータを交換する,新しいデータロード戦略である選択的埋め込みを導入する。
認知心理学からインスピレーションを得て、選択的な埋め込みは人間のような情報処理を模倣し、モデルの過度な適合を減らし、一般化を促進し、計算効率を向上させる。
検証は6つの時間領域データセットを用いて行われ、提案手法は学習時間を大幅に削減しつつ、様々なディープラーニングアーキテクチャ間で高い分類精度を一貫して達成することを示した。
このアプローチは、複数のデータソースを持つ複雑なシステムにとって特に有効であり、堅牢性と適応性が不可欠である医療、重機、海洋、鉄道、農業における現実の応用にスケーラブルでリソース効率のよいソリューションを提供する。
関連論文リスト
- Efficient Machine Unlearning via Influence Approximation [75.31015485113993]
インフルエンサーベースのアンラーニングは、個別のトレーニングサンプルがモデルパラメータに与える影響を再トレーニングせずに推定する顕著なアプローチとして現れてきた。
本稿では,暗記(増分学習)と忘れ(未学習)の理論的関連性を確立する。
本稿では、インフルエンス近似アンラーニングアルゴリズムを導入し、インクリメンタルな視点から効率的なマシンアンラーニングを行う。
論文 参考訳(メタデータ) (2025-07-31T05:34:27Z) - Learning Before Filtering: Real-Time Hardware Learning at the Detector Level [0.0]
本稿では,リアルタイムニューラルネットワークトレーニングのためのディジタルハードウェアアーキテクチャを提案する。
アーキテクチャはスケーラブルで適応性があり、検出器システムに直接学習を統合するための大きな進歩を示している。
論文 参考訳(メタデータ) (2025-06-13T17:38:16Z) - Anomaly Detection in Time Series Data Using Reinforcement Learning, Variational Autoencoder, and Active Learning [0.8287206589886879]
このアプローチは、データセンタやセンサネットワーク、ファイナンスといった領域において重要なものだ。
本手法は, 深層強化学習(DRL)と変分オートエンコーダ(VAE)とアクティブラーニングを組み合わせることで, これらの制約を克服する。
論文 参考訳(メタデータ) (2025-04-03T19:41:52Z) - Towards using Reinforcement Learning for Scaling and Data Replication in Cloud Systems [0.49157446832511503]
強化学習はクラウドコンピューティングに関連する多くの領域で使われており、自動データレプリケーション戦略を得るための有望な分野である。
本研究では、強化学習(RL)に基づくデータ複製戦略とデータスケーリングについて調査する。
論文 参考訳(メタデータ) (2024-10-07T11:32:35Z) - Stochastic Amortization: A Unified Approach to Accelerate Feature and Data Attribution [62.71425232332837]
雑音ラベル付きモデルを用いたトレーニングは安価で驚くほど効果的であることを示す。
このアプローチは、いくつかの特徴属性とデータ評価手法を著しく加速し、しばしば既存のアプローチよりも桁違いにスピードアップする。
論文 参考訳(メタデータ) (2024-01-29T03:42:37Z) - Hybridization of Capsule and LSTM Networks for unsupervised anomaly
detection on multivariate data [0.0]
本稿では,Long-Short-Term-Memory(LSTM)とCapsule Networksを1つのネットワークに結合した新しいNNアーキテクチャを提案する。
提案手法は教師なし学習手法を用いて大量のラベル付きトレーニングデータを見つける際の問題を克服する。
論文 参考訳(メタデータ) (2022-02-11T10:33:53Z) - Deep invariant networks with differentiable augmentation layers [87.22033101185201]
データ拡張ポリシーの学習方法は、保持データを必要とし、二段階最適化の問題に基づいている。
我々のアプローチは、現代の自動データ拡張技術よりも訓練が簡単で高速であることを示す。
論文 参考訳(メタデータ) (2022-02-04T14:12:31Z) - Dynamic Network-Assisted D2D-Aided Coded Distributed Learning [59.29409589861241]
本稿では,デバイス間のロードバランシングのための新しいデバイス・ツー・デバイス(D2D)支援型符号化学習手法(D2D-CFL)を提案する。
最小処理時間を達成するための最適圧縮率を導出し、収束時間との接続を確立する。
提案手法は,ユーザが継続的にトレーニングデータを生成するリアルタイム協調アプリケーションに有用である。
論文 参考訳(メタデータ) (2021-11-26T18:44:59Z) - Quasi-Global Momentum: Accelerating Decentralized Deep Learning on
Heterogeneous Data [77.88594632644347]
ディープラーニングモデルの分散トレーニングは、ネットワーク上でデータプライバシとデバイス上での学習を可能にする重要な要素である。
現実的な学習シナリオでは、異なるクライアントのローカルデータセットに異質性が存在することが最適化の課題となる。
本稿では,この分散学習の難しさを軽減するために,運動量に基づく新しい手法を提案する。
論文 参考訳(メタデータ) (2021-02-09T11:27:14Z) - Model-Based Deep Learning [155.063817656602]
信号処理、通信、制御は伝統的に古典的な統計モデリング技術に依存している。
ディープニューラルネットワーク(DNN)は、データから操作を学ぶ汎用アーキテクチャを使用し、優れたパフォーマンスを示す。
私たちは、原理数学モデルとデータ駆動システムを組み合わせて両方のアプローチの利点を享受するハイブリッド技術に興味があります。
論文 参考訳(メタデータ) (2020-12-15T16:29:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。