論文の概要: Foundation Models for CPS-IoT: Opportunities and Challenges

• arxiv url: http://arxiv.org/abs/2501.16368v2
• Date: Tue, 04 Feb 2025 21:21:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-06 14:25:04.641749
• Title: Foundation Models for CPS-IoT: Opportunities and Challenges
• Title（参考訳）: CPS-IoTの基礎モデル - 機会と課題
• Authors: Ozan Baris, Yizhuo Chen, Gaofeng Dong, Liying Han, Tomoyoshi Kimura, Pengrui Quan, Ruijie Wang, Tianchen Wang, Tarek Abdelzaher, Mario Bergés, Paul Pu Liang, Mani Srivastava,
• Abstract要約: 機械学習(ML)の手法は,CPS(Cyber-Physical Systems)とIoT(Internet of Things)における知覚認知コミュニケーションループの実装を変革した。 タスクに依存しない基礎モデル(FM)の成功は、CPS-IoT分析パイプラインの柔軟なビルディングブロックとしてFMを探求するための熱意を生み出した。 CPS-IoTドメインにおけるFMと大規模言語モデル(LLM)の現在の機能と、CPS-IoTアプリケーションで実行可能な要件との間には、大きなギャップが持続する。
• 参考スコア（独自算出の注目度）: 21.767681490176027
• License:
• Abstract: Methods from machine learning (ML) have transformed the implementation of Perception-Cognition-Communication-Action loops in Cyber-Physical Systems (CPS) and the Internet of Things (IoT), replacing mechanistic and basic statistical models with those derived from data. However, the first generation of ML approaches, which depend on supervised learning with annotated data to create task-specific models, faces significant limitations in scaling to the diverse sensor modalities, deployment configurations, application tasks, and operating dynamics characterizing real-world CPS-IoT systems. The success of task-agnostic foundation models (FMs), including multimodal large language models (LLMs), in addressing similar challenges across natural language, computer vision, and human speech has generated considerable enthusiasm for and exploration of FMs and LLMs as flexible building blocks in CPS-IoT analytics pipelines, promising to reduce the need for costly task-specific engineering. Nonetheless, a significant gap persists between the current capabilities of FMs and LLMs in the CPS-IoT domain and the requirements they must meet to be viable for CPS-IoT applications. In this paper, we analyze and characterize this gap through a thorough examination of the state of the art and our research, which extends beyond it in various dimensions. Based on the results of our analysis and research, we identify essential desiderata that CPS-IoT domain-specific FMs and LLMs must satisfy to bridge this gap. We also propose actions by CPS-IoT researchers to collaborate in developing key community resources necessary for establishing FMs and LLMs as foundational tools for the next generation of CPS-IoT systems.
• Abstract（参考訳）: 機械学習(ML)の手法は、CPS(Cyber-Physical Systems)とIoT(Internet of Things)における知覚認知コミュニケーションループの実装を変え、機械的および基本的な統計モデルをデータから派生したものに置き換えた。 しかし、タスク固有のモデルを作成するためのアノテーション付きデータによる教師あり学習に依存するMLアプローチの第1世代では、さまざまなセンサーのモダリティ、デプロイメント設定、アプリケーションタスク、現実世界のCPS-IoTシステムを特徴付ける動作ダイナミクスへのスケーリングにおいて、大きな制限に直面している。 マルチモーダルな大規模言語モデル(LLM)を含むタスクに依存しない基礎モデル(FM)の成功は、自然言語、コンピュータビジョン、ヒューマンスピーチにまたがる同様の課題に対処する上で、CPS-IoT分析パイプラインの柔軟なビルディングブロックとしてFMとLLMを探求し、コストのかかるタスク固有のエンジニアリングの必要性を減らすことを約束している。 それでも、CPS-IoTドメインにおけるFMとLLMの現在の機能と、CPS-IoTアプリケーションで実行可能な要件との間には、大きなギャップが持続する。 本稿では, このギャップを, 最先端技術と研究の徹底的な検討を通じて解析し, 特徴づける。 分析と研究の結果から,CPS-IoTドメイン固有のFMとLLMが,このギャップを埋めるために満たさなければならない本質的なデシラタを同定した。 また,次世代CPS-IoTシステムの基礎となるツールとして,FMやLDMの確立に必要な重要なコミュニティリソースの開発に協力するために,CPS-IoT研究者による行動を提案する。

関連論文リスト

• Investigating the Zone of Proximal Development of Language Models for In-Context Learning [59.91708683601029]
  大規模言語モデル(LLM)の文脈内学習(ICL)の振る舞いを分析するための学習分析フレームワークを提案する。 我々は,各例のモデル性能に基づいて,LLMのZPDを測定することにより,ZPD理論をICLに適用する。 本研究はICLの複雑な多面的動作を明らかにし,この手法の理解と活用に関する新たな知見を提供する。
  論文  参考訳（メタデータ） (2025-02-10T19:36:21Z)
• Large Language Models for Multi-Robot Systems: A Survey [9.31855372655603]
  マルチロボットシステム(MRS)は、調整、スケーラビリティ、現実の適応性など、ユニークな課題を提起する。 このサーベイは、MSSへのLLM(Large Language Models)統合に関する最初の包括的な調査を提供する。 家庭用ロボティクス、建設、構成制御、目標追跡、ロボットゲームなど、さまざまな分野における重要な応用に焦点を当てる。
  論文  参考訳（メタデータ） (2025-02-06T06:52:14Z)
• ECM: A Unified Electronic Circuit Model for Explaining the Emergence of In-Context Learning and Chain-of-Thought in Large Language Model [64.22300168242221]
  In-Context Learning (ICL) と Chain-of-Thought (CoT) は、大規模言語モデルにおいて出現する能力である。 ICLとCoTをよりよく理解するための電子回路モデル(ECM)を提案する。 ECMは, 様々なプロンプト戦略において, LLMの性能を効果的に予測し, 説明する。
  論文  参考訳（メタデータ） (2025-02-05T16:22:33Z)
• Towards Human-Guided, Data-Centric LLM Co-Pilots [53.35493881390917]
  CliMB-DCは、機械学習コパイロットのための、ヒューマンガイド付き、データ中心のフレームワークである。 高度なデータ中心ツールとLLM駆動推論を組み合わせることで、堅牢でコンテキスト対応のデータ処理を可能にする。 CliMB-DCが未処理のデータセットをML対応フォーマットに変換する方法を示す。
  論文  参考訳（メタデータ） (2025-01-17T17:51:22Z)
• A Survey on Large Language Models with some Insights on their Capabilities and Limitations [0.3222802562733786]
  大規模言語モデル(LLM)は、様々な言語関連タスクで顕著なパフォーマンスを示す。 LLMは、そのコア機能を超えて、創発的な能力を示す。 本稿では,これらの機能を実現する基盤となるコンポーネント,スケーリング機構,アーキテクチャ戦略について検討する。
  論文  参考訳（メタデータ） (2025-01-03T21:04:49Z)
• Cognitive LLMs: Towards Integrating Cognitive Architectures and Large Language Models for Manufacturing Decision-making [51.737762570776006]
  LLM-ACTRは、ヒトに適応し、多目的な意思決定を提供する新しいニューロシンボリックアーキテクチャである。 我々のフレームワークは、ACT-Rの内部決定過程の知識を潜在神経表現として抽出し、組み込む。 デザイン・フォー・マニュファクチャリング・タスクに関する我々の実験は、タスク性能の向上と基礎的意思決定能力の向上を両立させたものである。
  論文  参考訳（メタデータ） (2024-08-17T11:49:53Z)
• Large Language Model-based Human-Agent Collaboration for Complex Task Solving [94.3914058341565]
  複雑なタスク解決のためのLarge Language Models(LLM)に基づくヒューマンエージェントコラボレーションの問題を紹介する。 Reinforcement Learning-based Human-Agent Collaboration method, ReHACを提案する。 このアプローチには、タスク解決プロセスにおける人間の介入の最も急進的な段階を決定するために設計されたポリシーモデルが含まれている。
  論文  参考訳（メタデータ） (2024-02-20T11:03:36Z)
• Rethinking Machine Unlearning for Large Language Models [85.92660644100582]
  大規模言語モデル(LLM)の領域における機械学習の研究 このイニシアチブは、望ましくないデータの影響(機密情報や違法情報など)と関連するモデル機能を排除することを目的としている。
  論文  参考訳（メタデータ） (2024-02-13T20:51:58Z)
• Solution-oriented Agent-based Models Generation with Verifier-assisted Iterative In-context Learning [10.67134969207797]
  エージェントベースのモデル(ABM)は、仮説的な解決策やポリシーの提案と検証に不可欠なパラダイムである。 大きな言語モデル(LLM)は、ドメイン間の知識とプログラミング能力をカプセル化することで、このプロセスの難しさを軽減できる可能性がある。 SAGEは、ターゲット問題に対する自動モデリングおよびソリューション生成のために設計された、汎用的なソリューション指向のABM生成フレームワークである。
  論文  参考訳（メタデータ） (2024-02-04T07:59:06Z)
• Large Process Models: A Vision for Business Process Management in the Age of Generative AI [4.1636123511446055]
  大規模プロセスモデル(LPM)は、大規模言語モデルの相関力と、知識ベースシステムの分析精度と信頼性と、自動推論アプローチを組み合わせる。 LPMは、企業に対して、コンテキスト固有の(適切な)プロセスやその他のビジネスモデル、分析的なディープダイブ、改善のレコメンデーションを受け取ることを可能にする。
  論文  参考訳（メタデータ） (2023-09-02T10:32:53Z)
• TPTU: Large Language Model-based AI Agents for Task Planning and Tool Usage [28.554981886052953]
  大規模言語モデル(LLM)は、様々な現実世界のアプリケーションのための強力なツールとして登場した。 LLMの本質的な生成能力は、その長所にもかかわらず、複雑なタスクを扱うには不十分である。 本稿では,LLMベースのAIエージェントに適した構造化フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-08-07T09:22:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。