論文の概要: Foundation Models for CPS-IoT: Opportunities and Challenges

• arxiv url: http://arxiv.org/abs/2501.16368v2
• Date: Tue, 04 Feb 2025 21:21:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-06 14:25:04.641749
• Title: Foundation Models for CPS-IoT: Opportunities and Challenges
• Title（参考訳）: CPS-IoTの基礎モデル - 機会と課題
• Authors: Ozan Baris, Yizhuo Chen, Gaofeng Dong, Liying Han, Tomoyoshi Kimura, Pengrui Quan, Ruijie Wang, Tianchen Wang, Tarek Abdelzaher, Mario Bergés, Paul Pu Liang, Mani Srivastava,
• Abstract要約: 機械学習(ML)の手法は,CPS(Cyber-Physical Systems)とIoT(Internet of Things)における知覚認知コミュニケーションループの実装を変革した。 タスクに依存しない基礎モデル(FM)の成功は、CPS-IoT分析パイプラインの柔軟なビルディングブロックとしてFMを探求するための熱意を生み出した。 CPS-IoTドメインにおけるFMと大規模言語モデル(LLM)の現在の機能と、CPS-IoTアプリケーションで実行可能な要件との間には、大きなギャップが持続する。
• 参考スコア（独自算出の注目度）: 21.767681490176027
• License:
• Abstract: Methods from machine learning (ML) have transformed the implementation of Perception-Cognition-Communication-Action loops in Cyber-Physical Systems (CPS) and the Internet of Things (IoT), replacing mechanistic and basic statistical models with those derived from data. However, the first generation of ML approaches, which depend on supervised learning with annotated data to create task-specific models, faces significant limitations in scaling to the diverse sensor modalities, deployment configurations, application tasks, and operating dynamics characterizing real-world CPS-IoT systems. The success of task-agnostic foundation models (FMs), including multimodal large language models (LLMs), in addressing similar challenges across natural language, computer vision, and human speech has generated considerable enthusiasm for and exploration of FMs and LLMs as flexible building blocks in CPS-IoT analytics pipelines, promising to reduce the need for costly task-specific engineering. Nonetheless, a significant gap persists between the current capabilities of FMs and LLMs in the CPS-IoT domain and the requirements they must meet to be viable for CPS-IoT applications. In this paper, we analyze and characterize this gap through a thorough examination of the state of the art and our research, which extends beyond it in various dimensions. Based on the results of our analysis and research, we identify essential desiderata that CPS-IoT domain-specific FMs and LLMs must satisfy to bridge this gap. We also propose actions by CPS-IoT researchers to collaborate in developing key community resources necessary for establishing FMs and LLMs as foundational tools for the next generation of CPS-IoT systems.
• Abstract（参考訳）: 機械学習(ML)の手法は、CPS(Cyber-Physical Systems)とIoT(Internet of Things)における知覚認知コミュニケーションループの実装を変え、機械的および基本的な統計モデルをデータから派生したものに置き換えた。 しかし、タスク固有のモデルを作成するためのアノテーション付きデータによる教師あり学習に依存するMLアプローチの第1世代では、さまざまなセンサーのモダリティ、デプロイメント設定、アプリケーションタスク、現実世界のCPS-IoTシステムを特徴付ける動作ダイナミクスへのスケーリングにおいて、大きな制限に直面している。 マルチモーダルな大規模言語モデル(LLM)を含むタスクに依存しない基礎モデル(FM)の成功は、自然言語、コンピュータビジョン、ヒューマンスピーチにまたがる同様の課題に対処する上で、CPS-IoT分析パイプラインの柔軟なビルディングブロックとしてFMとLLMを探求し、コストのかかるタスク固有のエンジニアリングの必要性を減らすことを約束している。 それでも、CPS-IoTドメインにおけるFMとLLMの現在の機能と、CPS-IoTアプリケーションで実行可能な要件との間には、大きなギャップが持続する。 本稿では, このギャップを, 最先端技術と研究の徹底的な検討を通じて解析し, 特徴づける。 分析と研究の結果から,CPS-IoTドメイン固有のFMとLLMが,このギャップを埋めるために満たさなければならない本質的なデシラタを同定した。 また,次世代CPS-IoTシステムの基礎となるツールとして,FMやLDMの確立に必要な重要なコミュニティリソースの開発に協力するために,CPS-IoT研究者による行動を提案する。

関連論文リスト

• IoT-LLM: Enhancing Real-World IoT Task Reasoning with Large Language Models [15.779982408779945]
  大規模言語モデル(LLM)は、テキストや視覚領域にまたがる顕著な能力を示してきたが、しばしば物理法則に違反した出力を生成する。 人間の認識にインスパイアされた我々は、IoTセンサデータと、物理的な世界でのIoTタスク推論に関する関連する知識を用いて、知覚能力の向上によるLLMの強化について検討する。 我々は,IoT-LLMがLLMによるIoTタスクの推論性能を大幅に向上し,従来の手法と比較して,各タスクの平均65%の改善を実現していることを示す。
  論文  参考訳（メタデータ） (2024-10-03T12:24:18Z)
• Cognitive LLMs: Towards Integrating Cognitive Architectures and Large Language Models for Manufacturing Decision-making [51.737762570776006]
  LLM-ACTRは、ヒトに適応し、多目的な意思決定を提供する新しいニューロシンボリックアーキテクチャである。 我々のフレームワークは、ACT-Rの内部決定過程の知識を潜在神経表現として抽出し、組み込む。 デザイン・フォー・マニュファクチャリング・タスクに関する我々の実験は、タスク性能の向上と基礎的意思決定能力の向上を両立させたものである。
  論文  参考訳（メタデータ） (2024-08-17T11:49:53Z)
• Large Language Model-based Human-Agent Collaboration for Complex Task Solving [94.3914058341565]
  複雑なタスク解決のためのLarge Language Models(LLM)に基づくヒューマンエージェントコラボレーションの問題を紹介する。 Reinforcement Learning-based Human-Agent Collaboration method, ReHACを提案する。 このアプローチには、タスク解決プロセスにおける人間の介入の最も急進的な段階を決定するために設計されたポリシーモデルが含まれている。
  論文  参考訳（メタデータ） (2024-02-20T11:03:36Z)
• Rethinking Machine Unlearning for Large Language Models [85.92660644100582]
  大規模言語モデル(LLM)の領域における機械学習の研究 このイニシアチブは、望ましくないデータの影響(機密情報や違法情報など)と関連するモデル機能を排除することを目的としている。
  論文  参考訳（メタデータ） (2024-02-13T20:51:58Z)
• Entropy-Regularized Token-Level Policy Optimization for Language Agent Reinforcement [67.1393112206885]
  大規模言語モデル(LLM)は、対話的な意思決定タスクにおいてインテリジェントなエージェントとして期待されている。 本稿では,トークンレベルでのLLMの最適化に適したエントロピー拡張RL法である,エントロピー正規化トークンレベル最適化(ETPO)を導入する。 我々は,データサイエンスコード生成を多段階対話型タスクのシリーズとしてモデル化したシミュレーション環境におけるETPOの有効性を評価する。
  論文  参考訳（メタデータ） (2024-02-09T07:45:26Z)
• Solution-oriented Agent-based Models Generation with Verifier-assisted Iterative In-context Learning [10.67134969207797]
  エージェントベースのモデル(ABM)は、仮説的な解決策やポリシーの提案と検証に不可欠なパラダイムである。 大きな言語モデル(LLM)は、ドメイン間の知識とプログラミング能力をカプセル化することで、このプロセスの難しさを軽減できる可能性がある。 SAGEは、ターゲット問題に対する自動モデリングおよびソリューション生成のために設計された、汎用的なソリューション指向のABM生成フレームワークである。
  論文  参考訳（メタデータ） (2024-02-04T07:59:06Z)
• Survey on Foundation Models for Prognostics and Health Management in Industrial Cyber-Physical Systems [1.1034992901877594]
  BERTやGPTのような大規模基盤モデル(LFM)は、AI技術の大幅な進歩を示している。 ChatGPTはこの研究パラダイムにおける顕著な成果であり、汎用人工知能の可能性を秘めている。 データ取得技術とデータ処理能力の継続的な向上を考えると、LCMはICPSのPHMドメインにおいて重要な役割を担うことが期待されている。
  論文  参考訳（メタデータ） (2023-12-11T09:58:46Z)
• Large Process Models: A Vision for Business Process Management in the Age of Generative AI [4.1636123511446055]
  大規模プロセスモデル(LPM)は、大規模言語モデルの相関力と、知識ベースシステムの分析精度と信頼性と、自動推論アプローチを組み合わせる。 LPMは、企業に対して、コンテキスト固有の(適切な)プロセスやその他のビジネスモデル、分析的なディープダイブ、改善のレコメンデーションを受け取ることを可能にする。
  論文  参考訳（メタデータ） (2023-09-02T10:32:53Z)
• TPTU: Large Language Model-based AI Agents for Task Planning and Tool Usage [28.554981886052953]
  大規模言語モデル(LLM)は、様々な現実世界のアプリケーションのための強力なツールとして登場した。 LLMの本質的な生成能力は、その長所にもかかわらず、複雑なタスクを扱うには不十分である。 本稿では,LLMベースのAIエージェントに適した構造化フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-08-07T09:22:03Z)
• Technology Readiness Levels for Machine Learning Systems [107.56979560568232]
  機械学習システムの開発とデプロイは、現代のツールで簡単に実行できますが、プロセスは一般的に急ぎ、エンドツーエンドです。 私たちは、機械学習の開発と展開のための実証済みのシステムエンジニアリングアプローチを開発しました。 当社の「機械学習技術準備レベル」フレームワークは、堅牢で信頼性が高く、責任あるシステムを確保するための原則的なプロセスを定義します。
  論文  参考訳（メタデータ） (2021-01-11T15:54:48Z)
• Dif-MAML: Decentralized Multi-Agent Meta-Learning [54.39661018886268]
  我々は,MAML や Dif-MAML と呼ばれる協調型マルチエージェントメタ学習アルゴリズムを提案する。 提案手法により, エージェントの集合が線形速度で合意に達し, 集約MAMLの定常点に収束できることを示す。 シミュレーションの結果は従来の非協調的な環境と比較して理論的な結果と優れた性能を示している。
  論文  参考訳（メタデータ） (2020-10-06T16:51:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。