論文の概要: Foundation Models for CPS-IoT: Opportunities and Challenges
- arxiv url: http://arxiv.org/abs/2501.16368v2
- Date: Tue, 04 Feb 2025 21:21:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-06 16:28:50.785402
- Title: Foundation Models for CPS-IoT: Opportunities and Challenges
- Title（参考訳）: CPS-IoTの基礎モデル - 機会と課題
- Authors: Ozan Baris, Yizhuo Chen, Gaofeng Dong, Liying Han, Tomoyoshi Kimura, Pengrui Quan, Ruijie Wang, Tianchen Wang, Tarek Abdelzaher, Mario Bergés, Paul Pu Liang, Mani Srivastava,
- Abstract要約: 機械学習(ML)の手法は,CPS(Cyber-Physical Systems)とIoT(Internet of Things)における知覚認知コミュニケーションループの実装を変革した。
タスクに依存しない基礎モデル(FM)の成功は、CPS-IoT分析パイプラインの柔軟なビルディングブロックとしてFMを探求するための熱意を生み出した。
CPS-IoTドメインにおけるFMと大規模言語モデル(LLM)の現在の機能と、CPS-IoTアプリケーションで実行可能な要件との間には、大きなギャップが持続する。
- 参考スコア（独自算出の注目度）: 21.767681490176027
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Methods from machine learning (ML) have transformed the implementation of Perception-Cognition-Communication-Action loops in Cyber-Physical Systems (CPS) and the Internet of Things (IoT), replacing mechanistic and basic statistical models with those derived from data. However, the first generation of ML approaches, which depend on supervised learning with annotated data to create task-specific models, faces significant limitations in scaling to the diverse sensor modalities, deployment configurations, application tasks, and operating dynamics characterizing real-world CPS-IoT systems. The success of task-agnostic foundation models (FMs), including multimodal large language models (LLMs), in addressing similar challenges across natural language, computer vision, and human speech has generated considerable enthusiasm for and exploration of FMs and LLMs as flexible building blocks in CPS-IoT analytics pipelines, promising to reduce the need for costly task-specific engineering. Nonetheless, a significant gap persists between the current capabilities of FMs and LLMs in the CPS-IoT domain and the requirements they must meet to be viable for CPS-IoT applications. In this paper, we analyze and characterize this gap through a thorough examination of the state of the art and our research, which extends beyond it in various dimensions. Based on the results of our analysis and research, we identify essential desiderata that CPS-IoT domain-specific FMs and LLMs must satisfy to bridge this gap. We also propose actions by CPS-IoT researchers to collaborate in developing key community resources necessary for establishing FMs and LLMs as foundational tools for the next generation of CPS-IoT systems.
- Abstract（参考訳）: 機械学習(ML)の手法は、CPS(Cyber-Physical Systems)とIoT(Internet of Things)における知覚認知コミュニケーションループの実装を変え、機械的および基本的な統計モデルをデータから派生したものに置き換えた。
しかし、タスク固有のモデルを作成するためのアノテーション付きデータによる教師あり学習に依存するMLアプローチの第1世代では、さまざまなセンサーのモダリティ、デプロイメント設定、アプリケーションタスク、現実世界のCPS-IoTシステムを特徴付ける動作ダイナミクスへのスケーリングにおいて、大きな制限に直面している。
マルチモーダルな大規模言語モデル(LLM)を含むタスクに依存しない基礎モデル(FM)の成功は、自然言語、コンピュータビジョン、ヒューマンスピーチにまたがる同様の課題に対処する上で、CPS-IoT分析パイプラインの柔軟なビルディングブロックとしてFMとLLMを探求し、コストのかかるタスク固有のエンジニアリングの必要性を減らすことを約束している。
それでも、CPS-IoTドメインにおけるFMとLLMの現在の機能と、CPS-IoTアプリケーションで実行可能な要件との間には、大きなギャップが持続する。
本稿では, このギャップを, 最先端技術と研究の徹底的な検討を通じて解析し, 特徴づける。
分析と研究の結果から,CPS-IoTドメイン固有のFMとLLMが,このギャップを埋めるために満たさなければならない本質的なデシラタを同定した。
また,次世代CPS-IoTシステムの基礎となるツールとして,FMやLDMの確立に必要な重要なコミュニティリソースの開発に協力するために,CPS-IoT研究者による行動を提案する。
関連論文リスト
- A Survey of Frontiers in LLM Reasoning: Inference Scaling, Learning to Reason, and Agentic Systems [93.8285345915925]
推論(Reasoning)は、論理的推論、問題解決、意思決定を可能にする基本的な認知プロセスである。
大規模言語モデル(LLM)の急速な進歩により、推論は高度なAIシステムを区別する重要な能力として浮上した。
我々は,(1)推論が達成される段階を定義するレジーム,(2)推論プロセスに関与するコンポーネントを決定するアーキテクチャの2つの側面に沿って既存の手法を分類する。
論文 参考訳（メタデータ） (2025-04-12T01:27:49Z) - Exploring Individual Factors in the Adoption of LLMs for Specific Software Engineering Tasks [17.818350887316004]
本研究では,技術導入に伴う個々の属性と大規模言語モデル(LLM)の関係について検討する。
その結果、タスク固有の採用は異なる要因の影響を受けており、その一部は単独で考えると、採用に悪影響を及ぼすことが判明した。
論文 参考訳（メタデータ） (2025-04-03T13:07:04Z) - Exploring the Roles of Large Language Models in Reshaping Transportation Systems: A Survey, Framework, and Roadmap [51.198001060683296]
大型言語モデル(LLM)は、輸送上の課題に対処するための変革的な可能性を提供する。
LLM4TRは,交通におけるLSMの役割を体系的に分類する概念的枠組みである。
それぞれの役割について,交通予測や自律運転,安全分析,都市移動最適化など,さまざまな応用について検討した。
論文 参考訳（メタデータ） (2025-03-27T11:56:27Z) - Will Pre-Training Ever End? A First Step Toward Next-Generation Foundation MLLMs via Self-Improving Systematic Cognition [86.21199607040147]
自己改善認知(Self-Improving cognition、SIcog)は、次世代基礎言語モデルを構築するための自己学習フレームワークである。
ステップバイステップの視覚的理解手法であるChain-of-Descriptionを導入し、構造化連鎖推論(CoT)を統合し、深いマルチモーダル推論をサポートする。
広範囲にわたる実験により、SIcogはマルチモーダル認知を著しく改善した次世代基盤MLLMを生産することが示された。
論文 参考訳（メタデータ） (2025-03-16T00:25:13Z) - An Overview of Large Language Models for Statisticians [109.38601458831545]
大規模言語モデル(LLM)は人工知能(AI)の変換ツールとして登場した。
本稿では, 統計学者がLLMの開発に重要な貢献できる可能性について考察する。
我々は不確実性定量化、解釈可能性、公正性、プライバシー、透かし、モデル適応といった問題に焦点を当てる。
論文 参考訳（メタデータ） (2025-02-25T03:40:36Z) - A Survey on Large Language Models with some Insights on their Capabilities and Limitations [0.3222802562733786]
大規模言語モデル(LLM)は、様々な言語関連タスクで顕著なパフォーマンスを示す。
LLMは、そのコア機能を超えて、創発的な能力を示す。
本稿では,これらの機能を実現する基盤となるコンポーネント,スケーリング機構,アーキテクチャ戦略について検討する。
論文 参考訳（メタデータ） (2025-01-03T21:04:49Z) - Cognitive LLMs: Towards Integrating Cognitive Architectures and Large Language Models for Manufacturing Decision-making [51.737762570776006]
LLM-ACTRは、ヒトに適応し、多目的な意思決定を提供する新しいニューロシンボリックアーキテクチャである。
我々のフレームワークは、ACT-Rの内部決定過程の知識を潜在神経表現として抽出し、組み込む。
デザイン・フォー・マニュファクチャリング・タスクに関する我々の実験は、タスク性能の向上と基礎的意思決定能力の向上を両立させたものである。
論文 参考訳（メタデータ） (2024-08-17T11:49:53Z) - Rethinking Machine Unlearning for Large Language Models [85.92660644100582]
大規模言語モデル(LLM)の領域における機械学習の研究
このイニシアチブは、望ましくないデータの影響(機密情報や違法情報など)と関連するモデル機能を排除することを目的としている。
論文 参考訳（メタデータ） (2024-02-13T20:51:58Z) - Solution-oriented Agent-based Models Generation with Verifier-assisted
Iterative In-context Learning [10.67134969207797]
エージェントベースのモデル(ABM)は、仮説的な解決策やポリシーの提案と検証に不可欠なパラダイムである。
大きな言語モデル(LLM)は、ドメイン間の知識とプログラミング能力をカプセル化することで、このプロセスの難しさを軽減できる可能性がある。
SAGEは、ターゲット問題に対する自動モデリングおよびソリューション生成のために設計された、汎用的なソリューション指向のABM生成フレームワークである。
論文 参考訳（メタデータ） (2024-02-04T07:59:06Z) - Survey on Foundation Models for Prognostics and Health Management in
Industrial Cyber-Physical Systems [1.1034992901877594]
BERTやGPTのような大規模基盤モデル(LFM)は、AI技術の大幅な進歩を示している。
ChatGPTはこの研究パラダイムにおける顕著な成果であり、汎用人工知能の可能性を秘めている。
データ取得技術とデータ処理能力の継続的な向上を考えると、LCMはICPSのPHMドメインにおいて重要な役割を担うことが期待されている。
論文 参考訳（メタデータ） (2023-12-11T09:58:46Z) - Large Process Models: A Vision for Business Process Management in the Age of Generative AI [4.1636123511446055]
大規模プロセスモデル(LPM)は、大規模言語モデルの相関力と、知識ベースシステムの分析精度と信頼性と、自動推論アプローチを組み合わせる。
LPMは、企業に対して、コンテキスト固有の(適切な)プロセスやその他のビジネスモデル、分析的なディープダイブ、改善のレコメンデーションを受け取ることを可能にする。
論文 参考訳（メタデータ） (2023-09-02T10:32:53Z) - TPTU: Large Language Model-based AI Agents for Task Planning and Tool
Usage [28.554981886052953]
大規模言語モデル(LLM)は、様々な現実世界のアプリケーションのための強力なツールとして登場した。
LLMの本質的な生成能力は、その長所にもかかわらず、複雑なタスクを扱うには不十分である。
本稿では,LLMベースのAIエージェントに適した構造化フレームワークを提案する。
論文 参考訳（メタデータ） (2023-08-07T09:22:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。