Fugu-MT 論文翻訳(概要): Backpropagation-free Deep Learning for Time-Series Classification

論文の概要: Backpropagation-free Deep Learning for Time-Series Classification

arxiv url: http://arxiv.org/abs/2610.41805v1
Date: Fri, 30 Oct 2026 14:33:27 GMT
ステータス: 翻訳完了
システム内更新日: 2026-11-02 22:05:31.771962
Title: Backpropagation-free Deep Learning for Time-Series Classification
Title（参考訳）: 時系列分類のためのバックプロパゲーションフリーディープラーニング
Abstract要約: 時系列分類のためのディープニューラルネットワークは、ほとんどエラーのバックプロパゲーションによって訓練されている。 DFA(Direct Feedback Alignment)やDRTP(Direct Random Target Projection)といったバックプロパゲーションフリーの学習ルールは、これらの制約を緩和する。本研究は,UCR時系列アーカイブから得られた112のデータセットを対象とした,これらの学習者の最初の体系的研究である。
参考スコア（独自算出の注目度）: 4.904092547705666
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Deep neural networks for time series classification (TSC) are trained almost exclusively by error backpropagation, which imposes update locking and the weight-transport problem. Backpropagation-free learning rules such as Direct Feedback Alignment (DFA), Direct Random Target Projection (DRTP), and the diffusion-inspired NoProp relax these constraints but have been evaluated almost exclusively on 2D image benchmarks. We adapt these three learners to univariate TSC with 1D convolutional architectures and present the first systematic study of them across 112 datasets from the UCR time series archive, with one hyperparameter-optimized configuration per method. The optimized learners reach mean F1 scores of 0.76 to 0.79, below ROCKET (0.83) and InceptionTime (0.84). We propose an analysis framework that relates the per-dataset gap to InceptionTime to dataset properties and tests convolutional feature learning by replacing the flatten readout with global average pooling, measured as a difference-in-differences (DD) against a backpropagation control on the identical architecture. Intra-class temporal variability is the dataset property most consistently associated with the gap for all three learners (partial Spearman $ρ$ from $0.28$ to $0.40$). Pooling harms DFA and DRTP more than backpropagation (DD $-0.025$ and $-0.055$), consistent with near-random convolutional features, whereas NoProp tolerates pooling as backpropagation does (DD $+0.013$). Relative to backpropagation on the same architectures, DRTP reduces training floating-point operations (FLOPs) by 33% and trains faster only on series longer than about 700 time steps, DFA yields no computational reduction, and NoProp reduces peak memory by 38% at the cost of 48% longer training.
Abstract（参考訳）: 時系列分類(TSC)のためのディープニューラルネットワークは、ほとんどエラーバックプロパゲーションによってトレーニングされており、更新ロックとウェイトトランスポートの問題を課している。 DFA(Direct Feedback Alignment)やDRTP(Direct Random Target Projection)といったバックプロパゲーションフリーの学習ルールや拡散にインスパイアされたNoPropはこれらの制約を緩和するが、ほぼ2次元画像ベンチマークでのみ評価されている。これら3人の学習者は,1次元畳み込みアーキテクチャを用いてTSCを一変させるように適応し,UCR時系列アーカイブから112個のデータセットにまたがる最初の体系的な研究を,メソッド毎に1つのハイパーパラメータ最適化構成で提示する。最適化学習者は平均F1スコアが0.76から0.79であり、ROCKET (0.83) と InceptionTime (0.84) 以下である。本稿では,インセプションタイムに対するデータセットごとのギャップを,フラットな読み出しをグローバル平均プーリングに置き換えることで,特徴学習のデータセット化とテストに関連付ける分析フレームワークを提案する。クラス内の時間変動は、3人の学習者全員のギャップに最も一貫して関連するデータセット特性である(Partial Spearman $ρ$ from $0.28$ to $0.40$)。プールはバックプロパゲーションよりもDFAやDRTP(DD $-0.025$と$-0.055$)を害し、ほとんどランダムな畳み込み機能と一致している。同じアーキテクチャのバックプロパゲーションとは対照的に、DRTPは浮動小数点演算(FLOP)のトレーニングを33%削減し、700タイムステップ以上のシリーズのみを高速にトレーニングし、DFAは計算量削減を行わず、NoPropは48%のトレーニングコストでピークメモリを38%削減する。

関連論文リスト

GroundAnything: Reconciling Parallel Decoding with Precise Visual Grounding at Flash Speed [71.05944634852158]
GroundAnythingはブロックワイズによる正確なローカライゼーションで高速並列デコーディングを再構成する。 30のグラウンドベンチマークで、私たちの自己回帰型であるGroundAnything-VLMは、この技術の新たな全体的な状態を確立します。エントロピー誘導復号法により、GroundAnythingは、この規模の芸術の先行状態を超越している。
論文参考訳（メタデータ） (2026-09-30T12:20:51Z)
Predicting Block-Coordinate Performance via Cross-Curvature [23.52696478622838]
本稿では,Jacobi (JC), Gauss--Seidel (GS) および部分的決定論的ブロック勾配更新を比較する統一理論を開発した。これらの式は、異なる機械学習環境における観察された学習軌跡に沿って評価する。
論文参考訳（メタデータ） (2026-09-27T11:58:42Z)
Systematic Evaluation of Learning Rate Scheduling Strategies Across Heterogeneous Architectures [48.83701310501069]
多様なアーキテクチャのプールにおけるスケジューラの分類精度への影響について検討する。我々は9つのPyTorchファミリーに25のスケジューラ構成を適用し、CIFAR-10で合計3,938のモデル変種を評価した。 CosineAnnealingWarmRestarts と CyclicLR は、基本的な崩壊戦略を一貫して上回ります。
論文参考訳（メタデータ） (2026-07-09T14:06:39Z)
Towards Robust Training in NNGPT AutoML Pipeline: A Loss-Optimizer Pairing Selection Study [48.83701310501069]
本稿では, 一つのレシピがヘテロジニアスなアーキテクチャプールに十分であるか, 最適ペアリングが構造的に多様なモデルによって異なるかを検討する。我々は,CEL(Cross-Entropy),NLL(Negative Log-Likelihood),および最近導入された遺伝学的に進化したNGL損失を,LEMURヘテロジニアス・アーキテクチャー・プールの6つの画像分類データセット上に提示したベースモデル間で比較検討した。我々の結果は、単一のペアリングが普遍的に最適でないことを確認した。AdamやAdamWとのクロスエントロピーは、最も堅牢な選択である。
論文参考訳（メタデータ） (2026-06-18T20:51:42Z)
EEVEE: Towards Test-time Prompt Learning in the Real World for Self-Improving Agents [64.96332056338923]
EEVEEは、LLMエージェントのための最初のマルチデータセットテスト時プロンプト学習フレームワークである。実世界のタスクストリーム下でテスト時のプロンプト学習を可能にする。 EEVEEはQwen3-4B-InstructとDeepSeek-V3.2で平均マルチベンチマークスコアを10.38点、24.32点改善している。
論文参考訳（メタデータ） (2026-06-09T17:57:16Z)
RD-ViT: Recurrent-Depth Vision Transformer for Semantic Segmentation with Reduced Data Dependence Extending the Recurrent-Depth Transformer Architecture to Dense Prediction [2.8222472653971917]
ViT(Vision Transformer)は最先端のセグメンテーション精度を実現するが、大規模なトレーニングデータセットを必要とする。本稿では,Recurrent-Depth Vision Transformerアーキテクチャを高密度予測タスクに適用したRD-ViTを提案する。 RD-ViTは、ユニークなトランスフォーマーブロックの深いスタックを単一の共有ブロックループT倍に置き換え、LTI安定状態注入で拡張してコンバージェンスを保証する。
論文参考訳（メタデータ） (2026-05-05T17:21:18Z)
Architecture-Agnostic Curriculum Learning for Document Understanding: Empirical Evidence from Text-Only and Multimodal [13.329839705160927]
文書理解モデルにおいて,プログレッシブなデータスケジューリングが一貫した効率向上をもたらすかどうかを検討する。このスケジュールは,6.67から10.0までの有効エポックなデータ削減と合わせて,ウォールクロックのトレーニング時間を約33%短縮することを確認した。
論文参考訳（メタデータ） (2026-02-02T10:09:26Z)
Beyond Random: Automatic Inner-loop Optimization in Dataset Distillation [11.37339433547758]
データセット蒸留のためのAT-BPTT(Automatic Truncated Backproagation Through Time)を提案する。 AT-BPTTは、内在勾配の挙動に応じて、トラニケート位置とウィンドウサイズの両方に適応する。 CIFAR-10、CIFAR-100、Tiny-ImageNet、ImageNet-1Kの実験では、AT-BPTTが最先端の性能を達成することが示された。
論文参考訳（メタデータ） (2025-10-06T14:22:28Z)
Drift-Resilient TabPFN: In-Context Learning Temporal Distribution Shifts on Tabular Data [39.40116554523575]
In-Context Learning with a Prior-Data Fitted Network に基づく新しいアプローチである Drift-Resilient TabPFN を提案する。先行した合成データセットのベイズ推定を近似することを学ぶ。精度は0.688から0.744に向上し、OC AUCは0.786から0.832に向上し、キャリブレーションも強化された。
論文参考訳（メタデータ） (2024-11-15T23:49:23Z)
Peeling the Onion: Hierarchical Reduction of Data Redundancy for Efficient Vision Transformer Training [110.79400526706081]
ビジョントランス (ViT) は近年多くのアプリケーションで成功を収めているが、その計算量とメモリ使用量によって一般化が制限されている。従来の圧縮アルゴリズムは通常、事前訓練された高密度モデルから始まり、効率的な推論のみに焦点を当てる。本稿では,3つのスパースの観点から,Tri-Level E-ViTと呼ばれるエンドツーエンドの効率的なトレーニングフレームワークを提案する。
論文参考訳（メタデータ） (2022-11-19T21:15:47Z)
Acceleration of Federated Learning with Alleviated Forgetting in Local Training [61.231021417674235]
フェデレートラーニング(FL)は、プライバシを保護しながら機械学習モデルの分散最適化を可能にする。我々は,FedRegを提案する。FedRegは,局所的な訓練段階において,知識を忘れることなくFLを加速するアルゴリズムである。我々の実験は、FedRegはFLの収束率を著しく改善するだけでなく、特にニューラルネットワークアーキテクチャが深い場合にも改善することを示した。
論文参考訳（メタデータ） (2022-03-05T02:31:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。