論文の概要: From Cool Demos to Production-Ready FMware: Core Challenges and a Technology Roadmap
- arxiv url: http://arxiv.org/abs/2410.20791v2
- Date: Mon, 27 Jan 2025 17:05:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-01-28 13:53:02.423888
- Title: From Cool Demos to Production-Ready FMware: Core Challenges and a Technology Roadmap
- Title（参考訳）: クールなデモからプロダクション対応FMware:コアチャレンジと技術ロードマップ
- Authors: Gopi Krishnan Rajbahadur, Gustavo A. Oliva, Dayi Lin, Ahmed E. Hassan,
- Abstract要約: 我々は,FMウェアを多種多様なデータソースで生産する上で重要な課題を特定するために,半構造化されたテーマ合成を行う。
FMの選択、データとモデルのアライメント、プロンプトエンジニアリング、エージェントオーケストレーション、システムテスト、デプロイメントにおける重要な問題を特定します。
これらの課題に対処するために必要な技術や戦略について議論し、デモシステムからスケーラブルで実運用対応のFMwareソリューションへの移行を可能にするためのガイダンスを提供する。
- 参考スコア（独自算出の注目度）: 12.313710667597897
- License:
- Abstract: The rapid expansion of foundation models (FMs), such as large language models (LLMs), has given rise to FMware--software systems that integrate FMs as core components. While building demonstration-level FMware is relatively straightforward, transitioning to production-ready systems presents numerous challenges, including reliability, high implementation costs, scalability, and compliance with privacy regulations. Our paper conducts a semi-structured thematic synthesis to identify the key challenges in productionizing FMware across diverse data sources including our own industry experience in developing FMArts--a FMware lifecycle engineering platform and integrating it into Huawei cloud, grey literature, academic publications, hands-on involvement in the Open Platform for Enterprise AI (OPEA), organizing the AIware conference and Bootcamp, and co-leading the ISO SPDX SBOM working group on AI and datasets. We identify critical issues in FM selection, data and model alignment, prompt engineering, agent orchestration, system testing, and deployment, alongside cross-cutting concerns such as memory management, observability, and feedback integration. We discuss needed technologies and strategies to address these challenges and offer guidance on how to enable the transition from demonstration systems to scalable, production-ready FMware solutions. Our findings underscore the importance of continued research and multi-industry collaboration to advance the development of production-ready FMware.
- Abstract（参考訳）: 大規模言語モデル(LLM)のような基礎モデル(FM)の急速な拡張は、FMをコアコンポーネントとして統合するFMウェアソフトウェアシステムを生み出した。
デモレベルのFMwareの構築は比較的単純だが、プロダクション対応システムへの移行は、信頼性、高い実装コスト、スケーラビリティ、プライバシ規制の遵守など、数多くの課題を呈している。
FMwareライフサイクルエンジニアリングプラットフォームとHuaweiクラウド、グレーの文学、学術出版物、Open Platform for Enterprise AI(OPEA)へのハンズオン関与、AIwareカンファレンスとBootcampの組織化、ISO SPDX SBOMワーキンググループによるAIとデータセットの共催など、さまざまなデータソースでFMwareを生産する上で重要な課題を特定するための半構造化テーマ合成を行う。
FM選択、データとモデルのアライメント、プロンプトエンジニアリング、エージェントオーケストレーション、システムテスト、デプロイメントにおける重要な問題と、メモリ管理、可観測性、フィードバック統合といった横断的な関心事について識別する。
我々はこれらの課題に対処するために必要な技術と戦略について議論し、デモシステムからスケーラブルで実運用対応のFMwareソリューションへの移行を可能にするためのガイダンスを提供する。
本研究は,生産可能なFMウェアの開発を進めるために,継続的な研究と多産業協力の重要性を浮き彫りにしている。
関連論文リスト
- Towards Human-Guided, Data-Centric LLM Co-Pilots [53.35493881390917]
CliMB-DCは、機械学習コパイロットのための、ヒューマンガイド付き、データ中心のフレームワークである。
高度なデータ中心ツールとLLM駆動推論を組み合わせることで、堅牢でコンテキスト対応のデータ処理を可能にする。
CliMB-DCが未処理のデータセットをML対応フォーマットに変換する方法を示す。
論文 参考訳（メタデータ） (2025-01-17T17:51:22Z) - Specifications: The missing link to making the development of LLM systems an engineering discipline [65.10077876035417]
我々は、構造化出力、プロセスの監督、テストタイム計算など、これまでの分野の進歩について論じる。
モジュール型かつ信頼性の高いLCMシステムの開発に向けた研究の今後の方向性について概説する。
論文 参考訳（メタデータ） (2024-11-25T07:48:31Z) - Software Performance Engineering for Foundation Model-Powered Software (FMware) [6.283211168007636]
大規模言語モデル(LLM)のようなファンデーションモデル(FM)はソフトウェア開発に革命をもたらしています。
本稿では,FMウェアにおけるソフトウェア性能工学(SPE)の重要性を明らかにする。
認知アーキテクチャ設計、通信プロトコル、チューニングと最適化、デプロイメントの4つの主要な課題を特定します。
論文 参考訳（メタデータ） (2024-11-14T16:42:19Z) - Software Engineering and Foundation Models: Insights from Industry Blogs Using a Jury of Foundation Models [11.993910471523073]
我々は大手テクノロジー企業から155 FM4SEと997 SE4FMのブログ記事を分析した。
我々は、コード生成が最も顕著なFM4SEタスクであるのに対して、FMは他の多くのSEアクティビティに活用されていることを観察した。
クラウドのデプロイに重点を置いているが、FMを圧縮し、小さなデバイスにデプロイすることへの関心が高まっている。
論文 参考訳（メタデータ） (2024-10-11T17:27:04Z) - Telecom Foundation Models: Applications, Challenges, and Future Trends [0.5249805590164903]
基礎モデル(FM)は、言語、ビジョン、意思決定タスクにおいて、様々な領域において効果的な一般化能力を示す。
FMは、通信エコシステムから生成された複数のデータモダリティに基づいてトレーニングし、専門的なドメイン知識を活用することができる。
本稿では,FMを用いて通信技術や規格の未来を形作る可能性について検討する。
論文 参考訳（メタデータ） (2024-08-02T21:09:13Z) - Foundation Model Engineering: Engineering Foundation Models Just as Engineering Software [8.14005646330662]
Foundation Models (FM) は、データとモデルをソースコードとして扱うことで、新しいタイプのソフトウェアになる。
我々は、期待されるFM危機に対する戦略的対応であるファンデーションモデル(FM)エンジニアリングを導入するというビジョンを概説する。
論文 参考訳（メタデータ） (2024-07-11T04:40:02Z) - Rethinking Software Engineering in the Foundation Model Era: A Curated
Catalogue of Challenges in the Development of Trustworthy FMware [13.21876203209586]
企業FMware開発を非生産的でコストがかかり、リスクが高いものにした、SE4FMwareの10つの重要な課題を特定します。
我々はFMArtsを紹介します。これは、信頼できるFMウェアのエンジニアリングのためのクレードル・ツー・グラブプラットフォームを構築するための長期的な取り組みです。
論文 参考訳（メタデータ） (2024-02-25T00:53:16Z) - Forging Vision Foundation Models for Autonomous Driving: Challenges,
Methodologies, and Opportunities [59.02391344178202]
ビジョンファウンデーションモデル(VFM)は、幅広いAIアプリケーションのための強力なビルディングブロックとして機能する。
総合的なトレーニングデータの不足、マルチセンサー統合の必要性、多様なタスク固有のアーキテクチャは、VFMの開発に重大な障害をもたらす。
本稿では、自動運転に特化したVFMを鍛造する上で重要な課題について述べるとともに、今後の方向性を概説する。
論文 参考訳（メタデータ） (2024-01-16T01:57:24Z) - The Role of Federated Learning in a Wireless World with Foundation Models [59.8129893837421]
ファンデーションモデル(FM)は汎用人工知能(AI)モデルである。
現在、FMと連邦学習(FL)の相互作用の探索はまだ初期段階にある。
本稿では、FMが無線ネットワークよりもFLに適した範囲について検討し、その研究課題と機会について概観する。
論文 参考訳（メタデータ） (2023-10-06T04:13:10Z) - Embedded Software Development with Digital Twins: Specific Requirements
for Small and Medium-Sized Enterprises [55.57032418885258]
デジタル双生児は、コスト効率の良いソフトウェア開発とメンテナンス戦略の可能性を秘めている。
私たちは中小企業に現在の開発プロセスについてインタビューした。
最初の結果は、リアルタイムの要求が、これまでは、Software-in-the-Loop開発アプローチを妨げていることを示している。
論文 参考訳（メタデータ） (2023-09-17T08:56:36Z) - Technology Readiness Levels for Machine Learning Systems [107.56979560568232]
機械学習システムの開発とデプロイは、現代のツールで簡単に実行できますが、プロセスは一般的に急ぎ、エンドツーエンドです。
私たちは、機械学習の開発と展開のための実証済みのシステムエンジニアリングアプローチを開発しました。
当社の「機械学習技術準備レベル」フレームワークは、堅牢で信頼性が高く、責任あるシステムを確保するための原則的なプロセスを定義します。
論文 参考訳（メタデータ） (2021-01-11T15:54:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。