論文の概要: From Cool Demos to Production-Ready FMware: Core Challenges and a Technology Roadmap

• arxiv url: http://arxiv.org/abs/2410.20791v1
• Date: Mon, 28 Oct 2024 07:16:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-29 12:18:52.029099
• Title: From Cool Demos to Production-Ready FMware: Core Challenges and a Technology Roadmap
• Title（参考訳）: クールなデモからプロダクション対応FMware:コアチャレンジと技術ロードマップ
• Authors: Gopi Krishnan Rajbahadur, Gustavo A. Oliva, Dayi Lin, Ahmed E. Hassan,
• Abstract要約: ファウンデーションモデル(FM)の急速な拡張により、FMをコアコンポーネントとして統合するソフトウェアシステム(FMware--software system)が台頭した。 プロダクション対応システムへの移行には、信頼性、高い実装コスト、スケーラビリティ、プライバシ規制の遵守など、数多くの課題がある。 FM選択、データとモデルのアライメント、プロンプトエンジニアリング、エージェントオーケストレーション、システムテスト、デプロイメントにおける重要な問題と、メモリ管理、可観測性、フィードバック統合といった横断的な関心事について識別する。
• 参考スコア（独自算出の注目度）: 12.313710667597897
• License:
• Abstract: The rapid expansion of foundation models (FMs), such as large language models (LLMs), has given rise to FMware--software systems that integrate FMs as core components. While building demonstration-level FMware is relatively straightforward, transitioning to production-ready systems presents numerous challenges, including reliability, high implementation costs, scalability, and compliance with privacy regulations. This paper provides a thematic analysis of the key obstacles in productionizing FMware, synthesized from industry experience and diverse data sources, including hands-on involvement in the Open Platform for Enterprise AI (OPEA) and FMware lifecycle engineering. We identify critical issues in FM selection, data and model alignment, prompt engineering, agent orchestration, system testing, and deployment, alongside cross-cutting concerns such as memory management, observability, and feedback integration. We discuss needed technologies and strategies to address these challenges and offer guidance on how to enable the transition from demonstration systems to scalable, production-ready FMware solutions. Our findings underscore the importance of continued research and multi-industry collaboration to advance the development of production-ready FMware.
• Abstract（参考訳）: 大規模言語モデル(LLM)のような基礎モデル(FM)の急速な拡張は、FMをコアコンポーネントとして統合するFMウェアソフトウェアシステムを生み出した。 デモレベルのFMwareの構築は比較的単純だが、プロダクション対応システムへの移行は、信頼性、高い実装コスト、スケーラビリティ、プライバシ規制の遵守など、数多くの課題を呈している。 本稿では、業界経験や多様なデータソースから合成されたFMwareの生産における重要な障害について、OPEA(Open Platform for Enterprise AI)やFMwareライフサイクルエンジニアリングへのハンズオンを含むテーマ分析を行う。 FM選択、データとモデルのアライメント、プロンプトエンジニアリング、エージェントオーケストレーション、システムテスト、デプロイメントにおける重要な問題と、メモリ管理、可観測性、フィードバック統合といった横断的な関心事について識別する。 我々はこれらの課題に対処するために必要な技術と戦略について議論し、デモシステムからスケーラブルで実運用対応のFMwareソリューションへの移行を可能にするためのガイダンスを提供する。 本研究は,生産可能なFMウェアの開発を進めるために,継続的な研究と多産業協力の重要性を浮き彫りにしている。

関連論文リスト

• On-Device LLMs for SMEs: Challenges and Opportunities [16.335180583743885]
  本稿では,中小企業(中小企業)の文脈における大規模言語モデル(LLM)をデバイス上で展開するためのインフラ要件に焦点を当てる。 ハードウェアの観点から、GPUやTPUなどの処理ユニットの利用、効率的なメモリとストレージソリューション、効率的なデプロイメント戦略について議論する。 ソフトウェアの観点から、我々は、フレームワークの互換性、オペレーティングシステムの最適化、リソース制約のある環境に適した特別なライブラリの使用について検討する。
  論文  参考訳（メタデータ） (2024-10-21T14:48:35Z)
• Telecom Foundation Models: Applications, Challenges, and Future Trends [0.5249805590164903]
  基礎モデル(FM)は、言語、ビジョン、意思決定タスクにおいて、様々な領域において効果的な一般化能力を示す。 FMは、通信エコシステムから生成された複数のデータモダリティに基づいてトレーニングし、専門的なドメイン知識を活用することができる。 本稿では,FMを用いて通信技術や規格の未来を形作る可能性について検討する。
  論文  参考訳（メタデータ） (2024-08-02T21:09:13Z)
• Foundation Model Engineering: Engineering Foundation Models Just as Engineering Software [8.14005646330662]
  Foundation Models (FM) は、データとモデルをソースコードとして扱うことで、新しいタイプのソフトウェアになる。 我々は、期待されるFM危機に対する戦略的対応であるファンデーションモデル(FM)エンジニアリングを導入するというビジョンを概説する。
  論文  参考訳（メタデータ） (2024-07-11T04:40:02Z)
• Rethinking Software Engineering in the Foundation Model Era: A Curated Catalogue of Challenges in the Development of Trustworthy FMware [13.21876203209586]
  企業FMware開発を非生産的でコストがかかり、リスクが高いものにした、SE4FMwareの10つの重要な課題を特定します。 我々はFMArtsを紹介します。これは、信頼できるFMウェアのエンジニアリングのためのクレードル・ツー・グラブプラットフォームを構築するための長期的な取り組みです。
  論文  参考訳（メタデータ） (2024-02-25T00:53:16Z)
• Progress and Opportunities of Foundation Models in Bioinformatics [77.74411726471439]
  基礎モデル(FM)は、特に深層学習の領域において、計算生物学の新しい時代に定着した。 我々の焦点は、特定の生物学的問題にFMを応用することであり、研究ニーズに適切なFMを選択するために研究コミュニティを指導することを目的としています。 データノイズ、モデル説明可能性、潜在的なバイアスなど、生物学においてFMが直面する課題と限界を分析します。
  論文  参考訳（メタデータ） (2024-02-06T02:29:17Z)
• Forging Vision Foundation Models for Autonomous Driving: Challenges, Methodologies, and Opportunities [59.02391344178202]
  ビジョンファウンデーションモデル(VFM)は、幅広いAIアプリケーションのための強力なビルディングブロックとして機能する。 総合的なトレーニングデータの不足、マルチセンサー統合の必要性、多様なタスク固有のアーキテクチャは、VFMの開発に重大な障害をもたらす。 本稿では、自動運転に特化したVFMを鍛造する上で重要な課題について述べるとともに、今後の方向性を概説する。
  論文  参考訳（メタデータ） (2024-01-16T01:57:24Z)
• Learn From Model Beyond Fine-Tuning: A Survey [78.80920533793595]
  Learn From Model (LFM) は、モデルインターフェースに基づいた基礎モデル(FM)の研究、修正、設計に焦点を当てている。 LFM技術の研究は、モデルチューニング、モデル蒸留、モデル再利用、メタラーニング、モデル編集の5つの分野に大別できる。 本稿では, LFM の観点から, FM に基づく現在の手法を概観する。
  論文  参考訳（メタデータ） (2023-10-12T10:20:36Z)
• The Role of Federated Learning in a Wireless World with Foundation Models [59.8129893837421]
  ファンデーションモデル(FM)は汎用人工知能(AI)モデルである。 現在、FMと連邦学習(FL)の相互作用の探索はまだ初期段階にある。 本稿では、FMが無線ネットワークよりもFLに適した範囲について検討し、その研究課題と機会について概観する。
  論文  参考訳（メタデータ） (2023-10-06T04:13:10Z)
• Embedded Software Development with Digital Twins: Specific Requirements for Small and Medium-Sized Enterprises [55.57032418885258]
  デジタル双生児は、コスト効率の良いソフトウェア開発とメンテナンス戦略の可能性を秘めている。 私たちは中小企業に現在の開発プロセスについてインタビューした。 最初の結果は、リアルタイムの要求が、これまでは、Software-in-the-Loop開発アプローチを妨げていることを示している。
  論文  参考訳（メタデータ） (2023-09-17T08:56:36Z)
• On-Premise AIOps Infrastructure for a Software Editor SME: An Experience Report [0.3277163122167433]
  AIOpsの概念は、ビッグデータと機械学習機能を使用した予測メンテナンスを強化するために登場した。 本稿では,オープンソースツールを活用したオンプレミスAIOpsソリューションの実現の可能性を検討する。
  論文  参考訳（メタデータ） (2023-08-22T06:47:36Z)
• Technology Readiness Levels for Machine Learning Systems [107.56979560568232]
  機械学習システムの開発とデプロイは、現代のツールで簡単に実行できますが、プロセスは一般的に急ぎ、エンドツーエンドです。 私たちは、機械学習の開発と展開のための実証済みのシステムエンジニアリングアプローチを開発しました。 当社の「機械学習技術準備レベル」フレームワークは、堅牢で信頼性が高く、責任あるシステムを確保するための原則的なプロセスを定義します。
  論文  参考訳（メタデータ） (2021-01-11T15:54:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。