論文の概要: From Tiny Machine Learning to Tiny Deep Learning: A Survey
- arxiv url: http://arxiv.org/abs/2506.18927v2
- Date: Wed, 25 Jun 2025 21:42:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-27 11:26:03.74675
- Title: From Tiny Machine Learning to Tiny Deep Learning: A Survey
- Title(参考訳): Tiny Machine LearningからTiny Deep Learningへ - 調査より
- Authors: Shriyank Somvanshi, Md Monzurul Islam, Gaurab Chhetri, Rohit Chakraborty, Mahmuda Sultana Mimi, Sawgat Ahmed Shuvo, Kazi Sifatul Islam, Syed Aaqib Javed, Sharif Ahmed Rafat, Anandi Dutta, Subasish Das,
- Abstract要約: エッジデバイスの急速な成長は、エッジに人工知能(AI)をデプロイする需要を加速させた。
TinyDLの出現は、リソース制約の厳しいハードウェアにディープラーニングモデルをデプロイするためのパラダイムシフトである。
この調査は、研究者や実践者にとって基礎となる資源として機能することを目的としており、生態系の全体像を提供する。
- 参考スコア(独自算出の注目度): 0.13281177137699654
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The rapid growth of edge devices has driven the demand for deploying artificial intelligence (AI) at the edge, giving rise to Tiny Machine Learning (TinyML) and its evolving counterpart, Tiny Deep Learning (TinyDL). While TinyML initially focused on enabling simple inference tasks on microcontrollers, the emergence of TinyDL marks a paradigm shift toward deploying deep learning models on severely resource-constrained hardware. This survey presents a comprehensive overview of the transition from TinyML to TinyDL, encompassing architectural innovations, hardware platforms, model optimization techniques, and software toolchains. We analyze state-of-the-art methods in quantization, pruning, and neural architecture search (NAS), and examine hardware trends from MCUs to dedicated neural accelerators. Furthermore, we categorize software deployment frameworks, compilers, and AutoML tools enabling practical on-device learning. Applications across domains such as computer vision, audio recognition, healthcare, and industrial monitoring are reviewed to illustrate the real-world impact of TinyDL. Finally, we identify emerging directions including neuromorphic computing, federated TinyDL, edge-native foundation models, and domain-specific co-design approaches. This survey aims to serve as a foundational resource for researchers and practitioners, offering a holistic view of the ecosystem and laying the groundwork for future advancements in edge AI.
- Abstract(参考訳): エッジデバイスの急速な成長により、エッジに人工知能(AI)をデプロイする需要が高まり、Tiny Machine Learning (TinyML)と、その進化する相手であるTiny Deep Learning (TinyDL)が台頭した。
TinyMLは当初、マイクロコントローラ上の単純な推論タスクの実現に重点を置いていたが、TinyDLの出現は、リソース制約の厳しいハードウェアにディープラーニングモデルをデプロイするためのパラダイムシフトである。
この調査では、アーキテクチャの革新、ハードウェアプラットフォーム、モデル最適化技術、ソフトウェアツールチェーンを含む、TinyMLからTinyDLへの移行の概要を概観する。
我々は、量子化、プルーニング、ニューラルアーキテクチャサーチ(NAS)における最先端の手法を分析し、MCUから専用のニューラルアクセラレータへのハードウェアトレンドを調べる。
さらに、実際のデバイス上での学習を可能にするソフトウェアデプロイメントフレームワーク、コンパイラ、AutoMLツールを分類する。
コンピュータビジョン、オーディオ認識、医療、産業監視といった分野にわたるアプリケーションについて、TinyDLの現実的な影響を説明するためにレビューする。
最後に, ニューロモルフィックコンピューティング, フェデレートされたTinyDL, エッジネイティブ基盤モデル, ドメイン固有設計アプローチなど, 新たな方向性を明らかにする。
この調査は、研究者や実践者の基本的なリソースとして機能することを目的としており、エコシステムの全体像を提供し、エッジAIの今後の進歩の基盤を築き上げている。
関連論文リスト
- A Data-Centric Revisit of Pre-Trained Vision Models for Robot Learning [67.72413262980272]
事前訓練された視覚モデル(PVM)は現代のロボティクスの基本であるが、その最適構成は定かではない。
セマンティック・ボトルネックを導入してオブジェクト中心の表現を誘導する手法であるSlotMIMを開発した。
提案手法は,画像認識,シーン理解,ロボット学習評価において,従来の作業よりも大幅に改善されている。
論文 参考訳(メタデータ) (2025-03-10T06:18:31Z) - NNsight and NDIF: Democratizing Access to Open-Weight Foundation Model Internals [58.83169560132308]
NNsightとNDIFを導入し、非常に大きなニューラルネットワークによって学習された表現と計算の科学的研究を可能にする。
論文 参考訳(メタデータ) (2024-07-18T17:59:01Z) - Efficient Neural Networks for Tiny Machine Learning: A Comprehensive
Review [1.049712834719005]
このレビューでは、効率的なニューラルネットワークの進歩と超低消費電力マイクロコントローラへのディープラーニングモデルの展開を詳細に分析する。
レビューの中核は、TinyMLの効率的なニューラルネットワークに焦点を当てている。
モデル圧縮、量子化、低ランク因数分解などのテクニックをカバーし、最小限のリソース利用のためにニューラルネットワークアーキテクチャを最適化する。
次に,超低消費電力MCU上でのディープラーニングモデルの展開について検討し,限られた計算能力やメモリ資源といった課題に対処する。
論文 参考訳(メタデータ) (2023-11-20T16:20:13Z) - A Machine Learning-oriented Survey on Tiny Machine Learning [9.690117347832722]
Tiny Machine Learning(TinyML)の出現は、人工知能の分野に積極的に革命をもたらした。
TinyMLは、社会、経済、個人が効果的なAI融合コンピューティング技術を採用するのを助けるために、第4および第5次産業革命において不可欠な役割を担っている。
論文 参考訳(メタデータ) (2023-09-21T09:47:12Z) - A review of TinyML [0.0]
TinyMLの組み込み機械学習の概念は、このような多様性を、通常のハイエンドアプローチからローエンドアプリケーションへと押し上げようとしている。
TinyMLは、機械学習、ソフトウェア、ハードウェアの統合において、急速に拡大する学際的なトピックである。
本稿では,TinyMLがいくつかの産業分野,その障害,その将来的な範囲にどのようなメリットをもたらすのかを考察する。
論文 参考訳(メタデータ) (2022-11-05T06:02:08Z) - Tiny Robot Learning: Challenges and Directions for Machine Learning in
Resource-Constrained Robots [57.27442333662654]
機械学習(ML)は、コンピュータシステムにまたがる普及したツールとなっている。
ティニー・ロボット・ラーニング(Tiny Robot Learning)とは、リソースに制約された低コストの自律ロボットにMLを配置する手法である。
小型ロボット学習は、サイズ、重量、面積、パワー(SWAP)の制約によって困難にさらされる。
本稿では,小型ロボットの学習空間を簡潔に調査し,重要な課題を詳述し,MLシステム設計における将来的な仕事の機会を提案する。
論文 参考訳(メタデータ) (2022-05-11T19:36:15Z) - Software Engineering Approaches for TinyML based IoT Embedded Vision: A
Systematic Literature Review [0.0]
IoT(Internet of Things)は、マシンラーニング(ML)と協力して、遠端に深いインテリジェンスを埋め込んでいる。
TinyML(Tiny Machine Learning)は、極めてリーンなエッジハードウェア上に、組み込みビジョンのためのMLモデルのデプロイを可能にする。
TinyMLをベースとする組み込みビジョンアプリケーションは、まだ初期段階にある。
論文 参考訳(メタデータ) (2022-04-19T07:07:41Z) - Technology Readiness Levels for Machine Learning Systems [107.56979560568232]
機械学習システムの開発とデプロイは、現代のツールで簡単に実行できますが、プロセスは一般的に急ぎ、エンドツーエンドです。
私たちは、機械学習の開発と展開のための実証済みのシステムエンジニアリングアプローチを開発しました。
当社の「機械学習技術準備レベル」フレームワークは、堅牢で信頼性が高く、責任あるシステムを確保するための原則的なプロセスを定義します。
論文 参考訳(メタデータ) (2021-01-11T15:54:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。