論文の概要: Soft-Sensing ConFormer: A Curriculum Learning-based Convolutional
Transformer
- arxiv url: http://arxiv.org/abs/2111.06981v1
- Date: Fri, 12 Nov 2021 23:29:43 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-16 16:06:55.168343
- Title: Soft-Sensing ConFormer: A Curriculum Learning-based Convolutional
Transformer
- Title（参考訳）: ソフトセンシングコンフォーマ : カリキュラム学習に基づく畳み込みトランスフォーマ
- Authors: Jaswanth Yella, Chao Zhang, Sergei Petrov, Yu Huang, Xiaoye Qian, Ali
A. Minai, Sthitie Bom
- Abstract要約: ウェーハ故障診断のためのソフトセンシング型コンバータ(畳み込み変換器)を提案する。
ソフトセンシングのConFormerモデルをカリキュラムベースの損失関数で強化し、トレーニングの初期段階で簡単なサンプルを効果的に学習し、その後に難易度を学習する。
私たちの知る限りでは、カリキュラムベースのソフトセンシングConFormerアーキテクチャがソフトセンシングデータに対して提案されたのはこれが初めてです。
- 参考スコア（独自算出の注目度）: 4.881725094341089
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Over the last few decades, modern industrial processes have investigated
several cost-effective methodologies to improve the productivity and yield of
semiconductor manufacturing. While playing an essential role in facilitating
real-time monitoring and control, the data-driven soft-sensors in industries
have provided a competitive edge when augmented with deep learning approaches
for wafer fault-diagnostics. Despite the success of deep learning methods
across various domains, they tend to suffer from bad performance on
multi-variate soft-sensing data domains. To mitigate this, we propose a
soft-sensing ConFormer (CONvolutional transFORMER) for wafer fault-diagnostic
classification task which primarily consists of multi-head convolution modules
that reap the benefits of fast and light-weight operations of convolutions, and
also the ability to learn the robust representations through multi-head design
alike transformers. Another key issue is that traditional learning paradigms
tend to suffer from low performance on noisy and highly-imbalanced soft-sensing
data. To address this, we augment our soft-sensing ConFormer model with a
curriculum learning-based loss function, which effectively learns easy samples
in the early phase of training and difficult ones later. To further demonstrate
the utility of our proposed architecture, we performed extensive experiments on
various toolsets of Seagate Technology's wafer manufacturing process which are
shared openly along with this work. To the best of our knowledge, this is the
first time that curriculum learning-based soft-sensing ConFormer architecture
has been proposed for soft-sensing data and our results show strong promise for
future use in soft-sensing research domain.
- Abstract（参考訳）: 過去数十年間、現代の工業プロセスは、半導体製造の生産性と収量を改善するためにいくつかのコスト効率の良い手法を調査してきた。
リアルタイム監視と制御の促進に不可欠な役割を担っている一方で、業界におけるデータ駆動型ソフトセンサーは、ウェハ故障診断のためのディープラーニングアプローチで強化する際に、競争力のあるエッジを提供してきた。
様々な領域にわたるディープラーニング手法の成功にもかかわらず、多変量ソフトセンシングデータドメインではパフォーマンスが悪くなる傾向にある。
そこで本研究では,畳み込みの高速かつ軽量な操作の利点を享受するマルチヘッド畳み込みモジュールと,マルチヘッド型トランスフォーマによるロバスト表現の学習機能を備えた,ウェーハ故障識別分類タスク用ソフトセンシングコンフォーマ(畳み込みトランスフォーマ)を提案する。
もうひとつの重要な問題は、従来の学習パラダイムが、ノイズと高バランスなソフトセンシングデータのパフォーマンス低下に苦しむ傾向があることだ。
そこで本研究では,ソフトセンシングのConFormerモデルをカリキュラムベースの損失関数で強化し,学習の初期段階でサンプルを効果的に学習し,その後に難易度を学習する。
提案するアーキテクチャの有用性をさらに実証するため,シーゲート技術によるウェハ製造プロセスにおける各種ツールセットについて実験を行い,その成果をオープンに共有した。
私たちの知る限りでは,ソフトセンシングデータに対してカリキュラム学習に基づくソフトセンシングコンフォーメータアーキテクチャが提案されているのはこれが初めてであり,ソフトセンシング研究領域における今後の利用への強い期待を示すものである。
関連論文リスト
- Emulating Brain-like Rapid Learning in Neuromorphic Edge Computing [3.735012564657653]
デジタルニューロモルフィック技術は、学習の2段階を用いて脳の神経とシナプスの過程をシミュレートする。
イベント駆動型視覚センサデータとIntel Loihiニューロモルフィックプロセッサの塑性ダイナミクスを用いたアプローチを実証する。
提案手法は任意の可塑性モデルで展開可能であり,学習の迅速化と適応を要求される状況に適用可能である。
論文 参考訳（メタデータ） (2024-08-28T13:51:52Z) - Hierarchical and Decoupled BEV Perception Learning Framework for Autonomous Driving [52.808273563372126]
本稿では,基本認識モジュールとユーザフレンドリなグラフィカルインタフェースのライブラリの提供を目的とした,新しい階層的BEV知覚パラダイムを提案する。
我々は,大規模公開データセットと合理化開発プロセスを効果的に活用するために,Pretrain-Finetune戦略を実行している。
また、マルチモジュールラーニング(MML)アプローチを提案し、複数のモデルの相乗的かつ反復的な訓練により性能を向上させる。
論文 参考訳（メタデータ） (2024-07-17T11:17:20Z) - Multi-unit soft sensing permits few-shot learning [0.0]
知識が強い関連性を持つソフトセンサー学習タスク間で伝達されると、一般的に性能向上が達成される。
転送可能性に関する特に関係のあるケースは、同じタイプのソフトセンサーを、類似しているが物理的に異なるプロセスやユニットのために開発する場合である。
この設定で転送可能性を利用する手法を適用すると、マルチユニットソフトセンシングと呼ばれるものになります。
論文 参考訳（メタデータ） (2023-09-27T17:50:05Z) - End-to-End Meta-Bayesian Optimisation with Transformer Neural Processes [52.818579746354665]
本稿では,ニューラルネットワークを一般化し,トランスフォーマーアーキテクチャを用いて獲得関数を学習する,エンド・ツー・エンドの差別化可能な最初のメタBOフレームワークを提案する。
我々は、この強化学習(RL)によるエンドツーエンドのフレームワークを、ラベル付き取得データの欠如に対処できるようにします。
論文 参考訳（メタデータ） (2023-05-25T10:58:46Z) - Towards Robust Dataset Learning [90.2590325441068]
本稿では,頑健なデータセット学習問題を定式化するための三段階最適化法を提案する。
ロバストな特徴と非ロバストな特徴を特徴付ける抽象モデルの下で,提案手法はロバストなデータセットを確実に学習する。
論文 参考訳（メタデータ） (2022-11-19T17:06:10Z) - Improving generalization with synthetic training data for deep learning
based quality inspection [0.0]
教師付きディープラーニングは、トレーニングのために大量の注釈付きイメージを必要とする。
実際には、そのようなデータの収集と注釈付けは費用がかかり、手間がかかる。
ランダムに生成した合成訓練画像を用いることで、領域不安定性に対処できることを示す。
論文 参考訳（メタデータ） (2022-02-25T16:51:01Z) - Deep invariant networks with differentiable augmentation layers [87.22033101185201]
データ拡張ポリシーの学習方法は、保持データを必要とし、二段階最適化の問題に基づいている。
我々のアプローチは、現代の自動データ拡張技術よりも訓練が簡単で高速であることを示す。
論文 参考訳（メタデータ） (2022-02-04T14:12:31Z) - Soft Sensing Model Visualization: Fine-tuning Neural Network from What
Model Learned [5.182947614447375]
データ駆動型ソフトセンシングモデリングは、ウエハプロセスの診断においてより普及している。
深層学習は,高非線形・動的時系列データに有望な性能を有するソフトセンシングシステムで活用されている。
本稿では,高度不均衡データセットを用いた欠陥ウェハ検出のための深層学習モデルを提案する。
論文 参考訳（メタデータ） (2021-11-12T23:32:06Z) - Consistency Training of Multi-exit Architectures for Sensor Data [0.07614628596146598]
本稿では,一貫した出口訓練(Continuous exit training)と呼ばれるマルチエクイットアーキテクチャの堅牢なトレーニングのための,新規かつアーキテクチャに依存しないアプローチを提案する。
弱監督を利用して、モデルの出力を整合性トレーニングと整合させ、ネットワーク内の出口に対してマルチタスク学習方式で二重空間を協調的に最適化する。
論文 参考訳（メタデータ） (2021-09-27T17:11:25Z) - Federated Learning: A Signal Processing Perspective [144.63726413692876]
フェデレーションラーニングは、データを明示的に交換することなく、ローカルデータセットを保持する複数のエッジデバイスでモデルをトレーニングするための新しい機械学習パラダイムです。
本稿では、信号処理ツールを用いて扱うのが自然である主な課題をカプセル化し、強調する、連合学習のための統一的な体系的フレームワークを提供する。
論文 参考訳（メタデータ） (2021-03-31T15:14:39Z) - Continuous Transition: Improving Sample Efficiency for Continuous
Control Problems via MixUp [119.69304125647785]
本稿では,連続的遷移を構築するための簡潔かつ強力な手法を提案する。
具体的には、連続的な遷移を線形に補間することにより、トレーニングのための新しい遷移を合成することを提案する。
また, 建設過程を自動案内する判別器を開発した。
論文 参考訳（メタデータ） (2020-11-30T01:20:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。