論文の概要: Towards General Industrial Intelligence: A Survey on IIoT-Enhanced Continual Large Models
- arxiv url: http://arxiv.org/abs/2409.01207v1
- Date: Mon, 2 Sep 2024 12:35:59 GMT
- ステータス: 処理完了
- システム内更新日: 2024-09-06 06:47:21.129133
- Title: Towards General Industrial Intelligence: A Survey on IIoT-Enhanced Continual Large Models
- Title(参考訳): 一般産業インテリジェンスに向けて:IIoT強化型連続型大規模モデルに関する調査
- Authors: Jiao Chen, Jiayi He, Fangfang Chen, Zuohong Lv, Jianhua Tang, Weihua Li, Zuozhu Liu, Howard H. Yang, Guangjie Han,
- Abstract要約: トランスフォーマーベース大規模モデル(LM)は、AIGC(AIGC)における印象的な能力を実証した
本報告では, IIoTによる一般産業情報(GII)へのLMの統合について検討する。
- 参考スコア(独自算出の注目度): 25.16997700703974
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Currently, most applications in the Industrial Internet of Things (IIoT) still rely on CNN-based neural networks. Although Transformer-based large models (LMs), including language, vision, and multimodal models, have demonstrated impressive capabilities in AI-generated content (AIGC), their application in industrial domains, such as detection, planning, and control, remains relatively limited. Deploying pre-trained LMs in industrial environments often encounters the challenge of stability and plasticity due to the complexity of tasks, the diversity of data, and the dynamic nature of user demands. To address these challenges, the pre-training and fine-tuning strategy, coupled with continual learning, has proven to be an effective solution, enabling models to adapt to dynamic demands while continuously optimizing their inference and decision-making capabilities. This paper surveys the integration of LMs into IIoT-enhanced General Industrial Intelligence (GII), focusing on two key areas: LMs for GII and LMs on GII. The former focuses on leveraging LMs to provide optimized solutions for industrial application challenges, while the latter investigates continuous optimization of LMs learning and inference capabilities in collaborative scenarios involving industrial devices, edge computing, and cloud computing. This paper provides insights into the future development of GII, aiming to establish a comprehensive theoretical framework and research direction for GII, thereby advancing GII towards a more general and adaptive future.
- Abstract(参考訳): 現在、Industrial Internet of Things(IIoT)のほとんどのアプリケーションは、依然としてCNNベースのニューラルネットワークに依存している。
言語、ビジョン、マルチモーダルモデルを含むトランスフォーマーベースの大規模モデル(LM)は、AIGC(AIGC)において印象的な能力を示してきたが、検出、計画、制御といった産業分野への応用は依然として比較的限られている。
産業環境に事前訓練されたLMを配置することは、タスクの複雑さ、データの多様性、ユーザ要求の動的性質などにより、安定性と可塑性の課題に直面することが多い。
これらの課題に対処するために、事前学習と微調整の戦略と継続的学習は効果的なソリューションであることが証明され、モデルが動的要求に適応し、推論と意思決定能力を継続的に最適化できるようになりました。
本稿では, GII における LM と GII 上の LM の2つの重要な領域に着目し, IIoT による汎用産業情報 (GII) への LM の統合について検討する。
前者は産業用アプリケーションの課題に対して最適化されたソリューションを提供するためにLMを活用することに焦点を当て、後者は産業用デバイス、エッジコンピューティング、クラウドコンピューティングを含む協調シナリオにおけるLM学習と推論機能の継続的な最適化について研究している。
本稿では,より汎用的で適応的な未来に向けて,GIIの総合的な理論枠組みと研究方向性を確立することを目的とした,GIIの今後の発展に関する知見を提供する。
関連論文リスト
- Large Language Model Supply Chain: A Research Agenda [5.1875389249043415]
LLM (Large Multimodal Models) とLMM (Large Multimodal Models) は、新しいインテリジェントアプリケーション時代を支えている。
本稿では,LLMサプライチェーンの概要を概説し,その3つの中核要素を概説する。
論文 参考訳(メタデータ) (2024-04-19T09:29:53Z) - Large Multi-Modal Models (LMMs) as Universal Foundation Models for
AI-Native Wireless Systems [57.41621687431203]
大規模言語モデル (LLM) と基礎モデルは6Gシステムのゲームチェンジャーとして最近注目されている。
本稿では,人工知能(AI)ネイティブネットワークの展開に適したユニバーサルファンデーションモデルを設計するための包括的ビジョンを提案する。
論文 参考訳(メタデータ) (2024-01-30T00:21:41Z) - Machine Learning Insides OptVerse AI Solver: Design Principles and
Applications [74.67495900436728]
本稿では,Huawei CloudのOpsVerse AIソルバに機械学習(ML)技術を統合するための総合的研究について述べる。
本稿では,実世界の多面構造を反映した生成モデルを用いて,複雑なSATインスタンスとMILPインスタンスを生成する手法を紹介する。
本稿では,解解器性能を著しく向上させる,最先端パラメータチューニングアルゴリズムの導入について詳述する。
論文 参考訳(メタデータ) (2024-01-11T15:02:15Z) - Towards Efficient Generative Large Language Model Serving: A Survey from
Algorithms to Systems [14.355768064425598]
生成型大規模言語モデル(LLM)が最前線に立ち、データとのインタラクション方法に革命をもたらします。
しかし、これらのモデルをデプロイする際の計算強度とメモリ消費は、効率性の観点から大きな課題を呈している。
本研究は,機械学習システム(MLSys)研究の観点から,効率的なLCM提供手法の必要性について考察する。
論文 参考訳(メタデータ) (2023-12-23T11:57:53Z) - A Survey of Serverless Machine Learning Model Inference [0.0]
ジェネレーティブAI、コンピュータビジョン、自然言語処理は、AIモデルをさまざまな製品に統合するきっかけとなった。
本調査は,大規模ディープラーニングサービスシステムにおける新たな課題と最適化の機会を要約し,分類することを目的としている。
論文 参考訳(メタデータ) (2023-11-22T18:46:05Z) - ChatGPT-Like Large-Scale Foundation Models for Prognostics and Health
Management: A Survey and Roadmaps [8.62142522782743]
産業生産と設備整備において,PHM技術は重要な役割を担っている。
ChatGPTやDALLE-Eといった大規模ファンデーションモデル(LSF-Model)は、AIがAI-2.0の新しい時代に入ることを象徴している。
本稿では,LSFモデルの主要なコンポーネントと最新の開発について,体系的に解説する。
論文 参考訳(メタデータ) (2023-05-10T21:37:44Z) - On Realization of Intelligent Decision-Making in the Real World: A
Foundation Decision Model Perspective [54.38373782121503]
FDM(Foundation Decision Model)は、様々な意思決定タスクをシーケンスデコーディングタスクとして定式化することで開発することができる。
本稿では、FDMの実装であるDigitalBrain(DB1)を13億のパラメータで実証し、870のタスクで人間レベルのパフォーマンスを達成するケーススタディを提案する。
論文 参考訳(メタデータ) (2022-12-24T06:16:45Z) - Federated Learning for Industrial Internet of Things in Future
Industries [106.13524161081355]
産業用IoT(Industrial Internet of Things)は,産業用システムの運用を変革する有望な機会を提供する。
近年、人工知能(AI)はインテリジェントIIoTアプリケーションの実現に広く利用されている。
フェデレートラーニング(FL)は、複数のIIoTデバイスとマシンを協調して、ネットワークエッジでAIトレーニングを実行することで、インテリジェントなIIoTネットワークにとって特に魅力的である。
論文 参考訳(メタデータ) (2021-05-31T01:02:59Z) - Machine Learning for Massive Industrial Internet of Things [69.52379407906017]
モノのインターネット(IIoT)は、モノのインターネット技術を産業環境に統合することで、将来の製造施設に革命をもたらします。
大規模なIIoTデバイスのデプロイでは、無線ネットワークがさまざまなQoS(Quality-of-Service)要件でユビキタス接続をサポートすることは困難である。
まず、一般的な非クリティカルかつクリティカルなIIoTユースケースの要件を要約します。
次に、大規模なIIoTシナリオと対応する機械学習ソリューションのユニークな特性を、その制限と潜在的な研究方向で識別します。
論文 参考訳(メタデータ) (2021-03-10T20:10:53Z) - Artificial Intelligence for IT Operations (AIOPS) Workshop White Paper [50.25428141435537]
AIOps(Artificial Intelligence for IT Operations)は、マシンラーニング、ビッグデータ、ストリーミング分析、IT運用管理の交差点で発生する、新たな学際分野である。
AIOPSワークショップの主な目的は、アカデミアと産業界の両方の研究者が集まり、この分野での経験、成果、作業について発表することです。
論文 参考訳(メタデータ) (2021-01-15T10:43:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。