論文の概要: Towards Stream Learning on Embedded Systems: Benchmarking the Memory Consumption of Stream Learning Methods
- arxiv url: http://arxiv.org/abs/2608.30923v1
- Date: Mon, 31 Aug 2026 15:01:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-01 18:31:31.461059
- Title: Towards Stream Learning on Embedded Systems: Benchmarking the Memory Consumption of Stream Learning Methods
- Title(参考訳): 組込みシステムにおけるストリーム学習に向けて:ストリーム学習手法のメモリ消費のベンチマーク
- Abstract要約: 最先端のストリーム学習では,概念適応に強く焦点をあてる一方で,資源利用は副産物として評価されることが多い。
モデルサイズ予算が128から約8MiBの13個の実ストリームおよび合成ストリームに対して,7つの代表的なストリーム分類器をベンチマークした。
その結果、2つの異なるリソース障害モードが明らかになった。アダプティブアンサンブルは、初期フットプリントが安定していても、ほとんど即座に小さな予算を超えることができる。
明示的なコンパクトな手法は、最小の予算の下で唯一実行可能な選択肢であるが、より大きな予算が適応的なアンサンブルを競争力のあるものにするため、通常は追い越される。
- 参考スコア(独自算出の注目度): 8.154351484746416
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Stream learning is commonly evaluated through predictive performance and adaptation to concept drift. However, sustained operation of a stream learner also requires predictable and bounded resource usage even on long streams. This requirement becomes even more critical when learning moves from servers to near-sensor embedded systems where memory and processing are scarce resources. In state-of-the-art stream learning, however, we perceive a strong focus on concept drift adaptation, whereas resource usage is often an evaluation byproduct. To close this gap, we benchmark seven representative stream classifiers on 13 real and synthetic streams under model-size budgets from 128\,KiB to approximately 8\,MiB. Our benchmark comprises a total of 6,463 experiments. We measure failure-aware accuracy, peak model size, time to budget exhaustion, and prediction-plus-update latency. The results reveal two distinct resource failure modes. Adaptive ensembles can exceed small budgets almost immediately because of their initial footprint, even when their size remains stable thereafter. Incremental trees can fit initially but grow throughout a long stream, with HoeffdingTrees (HT) and Extremely Fast Decision Trees (EFDT) increasing by median factors of 7.37 and 5.87. Explicitly compact methods remain the only viable option under the smallest budgets, but are usually overtaken as larger budgets make adaptive ensembles competitive. Hence, many state-of-the-art methods are only partially applicable in embedded systems or for long-running systems. We therefore call on the stream-learning community to make bounded resource usage a first-class design objective alongside drift adaptation, and propose concrete steps toward this goal, including an API through which stream learners can explicitly expose and respect resource budgets.
- Abstract(参考訳): ストリーム学習は、予測性能とコンセプトドリフトへの適応を通じて一般的に評価される。
しかし、ストリーム学習者の持続的な操作には、長いストリームであっても予測可能でバウンドなリソース使用が必要である。
この要件は、学習がサーバから、メモリと処理が不足している準センサーの組み込みシステムに移行すると、さらに重要になる。
しかし、最先端のストリーム学習では、資源利用はしばしば生産物の評価であるのに対し、概念のドリフト適応に強く焦点をあてる。
このギャップを埋めるために、モデルサイズの予算が128\,KiBから約8\,MiBの13の実ストリームと合成ストリームの7つの代表的なストリーム分類器をベンチマークした。
ベンチマークは合計6,463実験である。
フェールアウェアの精度、ピークモデルのサイズ、予算の枯渇までの時間、および予測超過のレイテンシを測定します。
その結果、2つの異なるリソース障害モードが明らかになった。
適応的なアンサンブルは、その後のサイズが安定している場合でも、初期のフットプリントのため、ほとんど即座に小さな予算を超えることができる。
インクリメンタルツリーは最初は収まるが、長い流れを通して成長し、HoeffdingTrees (HT) とExtremely Fast Decision Trees (EFDT) は7.37と5.87の中央値で増加する。
明示的なコンパクトな手法は、最小の予算の下で唯一実行可能な選択肢であるが、より大きな予算が適応的なアンサンブルを競争力のあるものにするため、通常は追い越される。
したがって、多くの最先端の手法は組み込みシステムや長期稼働システムにのみ部分的に適用できる。
そこで我々は,ストリーム学習コミュニティに対して,境界資源の利用をドリフト適応とともに第一級の設計目標にするよう呼びかけ,ストリーム学習者がリソース予算を明示的に公開・尊重できるAPIを含む,この目標に向けた具体的なステップを提案する。
関連論文リスト
- Learning a Generative Meta-Model of LLM Activations [75.30161960337892]
ネットワークの内部状態の分布を学習する"メタモデル"を作成します。
ステアリング介入前に学んだメタモデルを適用することで、損失が減少するにつれて、流速が向上する。
これらの結果は、生成的メタモデルが制限的な構造的仮定を伴わずに、解釈可能性へのスケーラブルな経路を提供することを示唆している。
論文 参考訳(メタデータ) (2026-02-06T18:59:56Z) - Learning-based Sketches for Frequency Estimation in Data Streams without Ground Truth [24.089718708415628]
伝統的なスケッチは、厳密なメモリ制約の下でのみ粗い見積もりを提供する。
キーごとの周波数推定のための実践的な学習パラダイムであるUCL-sketchを提案する。
設計では、2つの重要なイノベーションを紹介している: (i) 基礎的な真実(GT)を必要としない同等の学習に基づくオンライントレーニングメカニズムと、 (ii) 構造化推定バケットを活用して実世界のデータストリームにスケールする高度にスケーラブルなアーキテクチャ。
論文 参考訳(メタデータ) (2024-12-04T14:00:50Z) - Streaming Deep Reinforcement Learning Finally Works [6.106447284305318]
ストリーミング学習は、リソース制限、通信制限、プライバシに敏感なアプリケーションに理想的だ。
深いRLでは、学習者はたいてい、バッチ更新とバッファの再生を使い、計算コストが高く、ストリーミング学習と互換性がない。
本稿では,バッチRLの予測と制御の両面において,ストリームバリアを克服し,サンプル効率にマッチするストリーム-xアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-10-18T17:00:29Z) - Improving Continual Learning Performance and Efficiency with Auxiliary Classifiers [12.561018201238152]
ニューラルネットワーク層における中間表現は忘れがちであり、計算を高速化する可能性を強調している。
また,ACを用いて推定平均コストを10~60%削減する。
論文 参考訳(メタデータ) (2024-03-12T08:33:26Z) - Learning from One Continuous Video Stream [70.30084026960819]
1つの連続ビデオストリームからオンライン学習のためのフレームワークを導入する。
連続するビデオフレーム間の高い相関を考えると、これは大きな課題となる。
プリトレーニングとシングルストリーム評価を切り替える実用的で柔軟な方法として,ピクセル・ツー・ピクセル・モデリングを採用している。
論文 参考訳(メタデータ) (2023-12-01T14:03:30Z) - The Cascaded Forward Algorithm for Neural Network Training [61.06444586991505]
本稿では,ニューラルネットワークのための新しい学習フレームワークであるCascaded Forward(CaFo)アルゴリズムを提案する。
FFとは異なり、我々のフレームワークは各カスケードブロックのラベル分布を直接出力する。
我々のフレームワークでは、各ブロックは独立して訓練できるので、並列加速度システムに容易に展開できる。
論文 参考訳(メタデータ) (2023-03-17T02:01:11Z) - Binary Early-Exit Network for Adaptive Inference on Low-Resource Devices [3.591566487849146]
バイナリニューラルネットワーク(BNN)は、実数値モデルと比較して、極端な圧縮とスピードアップによる問題に対処する。
そこで本研究では,BNNを早期導入戦略で統合して推論を高速化する,シンプルだが効果的な手法を提案する。
このアプローチでは、決定しきい値に基づいて単純なインスタンスを早期に終了させ、異なる中間層に追加される出力層を利用してバイナリモデル全体の実行を回避する。
論文 参考訳(メタデータ) (2022-06-17T22:11:11Z) - Real-time Object Detection for Streaming Perception [84.2559631820007]
ストリーミング知覚は,ビデオオンライン知覚の1つの指標として,レイテンシと精度を共同評価するために提案される。
ストリーミング知覚のためのシンプルで効果的なフレームワークを構築します。
提案手法はArgoverse-HDデータセット上での競合性能を実現し,強力なベースラインに比べてAPを4.9%向上させる。
論文 参考訳(メタデータ) (2022-03-23T11:33:27Z) - Asynchronous Parallel Incremental Block-Coordinate Descent for
Decentralized Machine Learning [55.198301429316125]
機械学習(ML)は、巨大なIoT(Internet of Things)ベースのインテリジェントでユビキタスなコンピューティングのビッグデータ駆動モデリングと分析のための重要なテクニックである。
急成長するアプリケーションやデータ量にとって、分散学習は有望な新興パラダイムである。
本稿では,多くのユーザデバイスに分散した分散システム上でMLモデルをトレーニングする問題について検討する。
論文 参考訳(メタデータ) (2022-02-07T15:04:15Z) - Differentiable Network Pruning for Microcontrollers [14.864940447206871]
本稿では,畳み込みニューラルネットワークのための可変構造型ネットワークプルーニング法を提案する。
モデル固有のリソース使用量とパラメータ重要度フィードバックを統合し、高度に圧縮されかつ正確な分類モデルを得る。
論文 参考訳(メタデータ) (2021-10-15T20:26:15Z) - LCS: Learning Compressible Subspaces for Adaptive Network Compression at
Inference Time [57.52251547365967]
本稿では,ニューラルネットワークの「圧縮可能な部分空間」を訓練する手法を提案する。
構造的・非構造的空間に対する推定時間における微粒な精度・効率のトレードオフを任意に達成するための結果を示す。
我々のアルゴリズムは、可変ビット幅での量子化にまで拡張し、個別に訓練されたネットワークと同等の精度を実現する。
論文 参考訳(メタデータ) (2021-10-08T17:03:34Z) - A Broad Ensemble Learning System for Drifting Stream Classification [3.087840197124265]
本研究では,概念ドリフトを用いたストリーム分類のためのBroad Ensemble Learning System (BELS)を提案する。
BELSは、クラス内の最高のモデルの精度を大幅に向上させる新しい更新方法を使用している。
提案手法は,BLSに比べて平均44%改善し,他の競争基準に比べて29%改善した。
論文 参考訳(メタデータ) (2021-10-07T15:01:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。