論文の概要: SCAI: A Spectral data Classification framework with Adaptive Inference
for the IoT platform
- arxiv url: http://arxiv.org/abs/2206.12420v1
- Date: Fri, 24 Jun 2022 09:22:52 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-28 16:22:14.159273
- Title: SCAI: A Spectral data Classification framework with Adaptive Inference
for the IoT platform
- Title（参考訳）: SCAI: IoTプラットフォーム用のAdaptive Inferenceを備えたスペクトルデータ分類フレームワーク
- Authors: Yundong Sun, Dongjie Zhu, Haiwen Du, Yansong Wang and Zhaoshuo Tian
- Abstract要約: 適応推論を用いたスペクトルデータ分類フレームワークを提案する。
具体的には、異なるデバイス間のコラボレーションをよりよく活用しながら、異なるサンプルに対して異なる計算を割り当てる。
我々の知る限り、この論文はIoTプラットフォーム下でのスペクトル検出のための適応推論による最適化を行うための最初の試みである。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Currently, it is a hot research topic to realize accurate, efficient, and
real-time identification of massive spectral data with the help of deep
learning and IoT technology. Deep neural networks played a key role in spectral
analysis. However, the inference of deeper models is performed in a static
manner, and cannot be adjusted according to the device. Not all samples need to
allocate all computation to reach confident prediction, which hinders
maximizing the overall performance. To address the above issues, we propose a
Spectral data Classification framework with Adaptive Inference. Specifically,
to allocate different computations for different samples while better
exploiting the collaboration among different devices, we leverage Early-exit
architecture, place intermediate classifiers at different depths of the
architecture, and the model outputs the results when the prediction confidence
reaches a preset threshold. We propose a training paradigm of self-distillation
learning, the deepest classifier performs soft supervision on the shallow ones
to maximize their performance and training speed. At the same time, to mitigate
the vulnerability of performance to the location and number settings of
intermediate classifiers in the Early-exit paradigm, we propose a
Position-Adaptive residual network. It can adjust the number of layers in each
block at different curve positions, so it can focus on important positions of
the curve (e.g.: Raman peak), and accurately allocate the appropriate
computational budget based on task performance and computing resources. To the
best of our knowledge, this paper is the first attempt to conduct optimization
by adaptive inference for spectral detection under the IoT platform. We
conducted many experiments, the experimental results show that our proposed
method can achieve higher performance with less computational budget than
existing methods.
- Abstract（参考訳）: 現在は、ディープラーニングとIoT技術の助けを借りて、大規模なスペクトルデータの正確で効率的なリアルタイム識別を実現する、ホットな研究トピックである。
深層ニューラルネットワークはスペクトル解析において重要な役割を果たした。
しかし、より深いモデルの推論は静的な方法で行われ、デバイスに応じて調整することはできない。
すべてのサンプルが、信頼性のある予測に到達するために全ての計算を割り当てる必要はない。
上記の問題に対処するため,Adaptive Inferenceを用いたスペクトルデータ分類フレームワークを提案する。
具体的には、異なるサンプルに対して異なる計算を割り当て、異なるデバイス間のコラボレーションをうまく活用するために、アーリーエクイットアーキテクチャを利用し、アーキテクチャの異なる深さに中間分類器を配置し、予測信頼度が予め設定された閾値に達したときに結果を出力する。
最深部分類器は浅部をソフトに監督し,その性能と訓練速度を最大化する自己蒸留学習の訓練パラダイムを提案する。
同時に,中間分類器の位置と数設定に対する性能の脆弱性を軽減するため,位置適応型残差ネットワークを提案する。
各ブロック内のレイヤー数を異なる曲線位置で調整できるので、曲線の重要な位置(例えばラマンピーク)に集中することができ、タスクのパフォーマンスと計算リソースに基づいて適切な計算予算を正確に割り当てることができる。
我々の知る限り、この論文はIoTプラットフォーム下でのスペクトル検出のための適応推論による最適化を行うための最初の試みである。
実験の結果,提案手法は従来の手法よりも少ない計算予算で高い性能が得られることが示された。
関連論文リスト
- Task-Oriented Real-time Visual Inference for IoVT Systems: A Co-design Framework of Neural Networks and Edge Deployment [61.20689382879937]
タスク指向エッジコンピューティングは、データ分析をエッジにシフトすることで、この問題に対処する。
既存の手法は、高いモデル性能と低いリソース消費のバランスをとるのに苦労している。
ニューラルネットワークアーキテクチャを最適化する新しい協調設計フレームワークを提案する。
論文 参考訳（メタデータ） (2024-10-29T19:02:54Z) - Unlearning as multi-task optimization: A normalized gradient difference approach with an adaptive learning rate [105.86576388991713]
正規化勾配差(NGDiff)アルゴリズムを導入し、目的間のトレードオフをよりよく制御できるようにする。
本研究では,TOFUおよびMUSEデータセットにおける最先端の未学習手法において,NGDiffの優れた性能を実証的に実証し,理論的解析を行った。
論文 参考訳（メタデータ） (2024-10-29T14:41:44Z) - Predicting Software Performance with Divide-and-Learn [3.635696352780227]
本稿では,DALと呼ばれる「分枝学習」の概念に基づくアプローチを提案する。
実世界の8つのシステムと5つのトレーニングデータによる実験結果から、DaLは40件中33件で最高のシステムよりもパフォーマンスが劣っていることが判明した。
論文 参考訳（メタデータ） (2023-06-11T11:16:27Z) - AIO-P: Expanding Neural Performance Predictors Beyond Image
Classification [22.743278613519152]
アーキテクチャの例でニューラルネットワーク予測器を事前訓練するための新しいオールインワン予測器(AIO-P)を提案する。
AIO-Pは平均絶対誤差(MAE)とスピアマンランク相関(SRCC)をそれぞれ1%以下と0.5以上で達成できる。
論文 参考訳（メタデータ） (2022-11-30T18:30:41Z) - Towards Automated Imbalanced Learning with Deep Hierarchical
Reinforcement Learning [57.163525407022966]
不均衡学習はデータマイニングにおいて基本的な課題であり、各クラスにトレーニングサンプルの不均等な比率が存在する。
オーバーサンプリングは、少数民族のための合成サンプルを生成することによって、不均衡な学習に取り組む効果的な手法である。
我々は,異なるレベルの意思決定を共同で最適化できる自動オーバーサンプリングアルゴリズムであるAutoSMOTEを提案する。
論文 参考訳（メタデータ） (2022-08-26T04:28:01Z) - Boosting the Generalization Capability in Cross-Domain Few-shot Learning
via Noise-enhanced Supervised Autoencoder [23.860842627883187]
我々は、新しいノイズ強調型教師付きオートエンコーダ(NSAE)を用いて、特徴分布のより広範なバリエーションを捉えるようモデルに教える。
NSAEは入力を共同で再構築し、入力のラベルと再構成されたペアを予測することによってモデルを訓練する。
また、NSAE構造を利用して、より適応性を高め、対象領域の分類性能を向上させる2段階の微調整手順を提案する。
論文 参考訳（メタデータ） (2021-08-11T04:45:56Z) - Adaptive Anomaly Detection for Internet of Things in Hierarchical Edge
Computing: A Contextual-Bandit Approach [81.5261621619557]
階層エッジコンピューティング(HEC)を用いた適応型異常検出手法を提案する。
まず,複雑性を増した複数のDNNモデルを構築し,それぞれを対応するHEC層に関連付ける。
そこで我々は、文脈帯域問題として定式化され、強化学習ポリシーネットワークを用いて解決される適応モデル選択スキームを設計する。
論文 参考訳（メタデータ） (2021-08-09T08:45:47Z) - Weight Divergence Driven Divide-and-Conquer Approach for Optimal
Federated Learning from non-IID Data [0.0]
Federated Learningは、トレーニングデータを集中化することなく、分散デバイスに格納されたデータのトレーニングを可能にする。
本稿では,一般的なFedAvgアグリゲーションアルゴリズムの活用を可能にする,新しいDivide-and-Conquerトレーニング手法を提案する。
論文 参考訳（メタデータ） (2021-06-28T09:34:20Z) - No Fear of Heterogeneity: Classifier Calibration for Federated Learning
with Non-IID Data [78.69828864672978]
実世界のフェデレーションシステムにおける分類モデルのトレーニングにおける中心的な課題は、非IIDデータによる学習である。
このアルゴリズムは, 近似されたssian混合モデルからサンプリングした仮想表現を用いて分類器を調整する。
実験の結果,CIFAR-10,CIFAR-100,CINIC-10など,一般的なフェデレーション学習ベンチマークにおけるCCVRの現状が示された。
論文 参考訳（メタデータ） (2021-06-09T12:02:29Z) - Quasi-Global Momentum: Accelerating Decentralized Deep Learning on
Heterogeneous Data [77.88594632644347]
ディープラーニングモデルの分散トレーニングは、ネットワーク上でデータプライバシとデバイス上での学習を可能にする重要な要素である。
現実的な学習シナリオでは、異なるクライアントのローカルデータセットに異質性が存在することが最適化の課題となる。
本稿では,この分散学習の難しさを軽減するために,運動量に基づく新しい手法を提案する。
論文 参考訳（メタデータ） (2021-02-09T11:27:14Z) - Analysis and Optimal Edge Assignment For Hierarchical Federated Learning
on Non-IID Data [43.32085029569374]
フェデレーション学習アルゴリズムは、ユーザのデバイスに格納された分散および多様なデータを活用して、グローバルな現象を学習することを目的としている。
参加者のデータが強く歪んだ場合(例えば、非iidの場合)、ローカルモデルはローカルデータに過剰に適合し、低パフォーマンスなグローバルモデルに繋がる。
ユーザエッジ層にFederated Gradient Descent、エッジクラウド層にFederated Averagingを実行する階層学習システムを提案する。
論文 参考訳（メタデータ） (2020-12-10T12:18:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。