論文の概要: Rethinking Software Engineering in the Foundation Model Era: A Curated
Catalogue of Challenges in the Development of Trustworthy FMware
- arxiv url: http://arxiv.org/abs/2402.15943v2
- Date: Mon, 4 Mar 2024 04:22:37 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-06 23:52:46.922112
- Title: Rethinking Software Engineering in the Foundation Model Era: A Curated
Catalogue of Challenges in the Development of Trustworthy FMware
- Title（参考訳）: ファンデーションモデル時代におけるソフトウェア工学の再考: 信頼できるFMウェア開発における課題のカタログ
- Authors: Ahmed E. Hassan, Dayi Lin, Gopi Krishnan Rajbahadur, Keheliya Gallaba,
Filipe R. Cogo, Boyuan Chen, Haoxiang Zhang, Kishanthan Thangarajah, Gustavo
Ansaldi Oliva, Jiahuei Lin, Wali Mohammad Abdullah, Zhen Ming Jiang
- Abstract要約: 企業FMware開発を非生産的でコストがかかり、リスクが高いものにした、SE4FMwareの10つの重要な課題を特定します。
我々はFMArtsを紹介します。これは、信頼できるFMウェアのエンジニアリングのためのクレードル・ツー・グラブプラットフォームを構築するための長期的な取り組みです。
- 参考スコア（独自算出の注目度）: 13.21876203209586
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Foundation models (FMs), such as Large Language Models (LLMs), have
revolutionized software development by enabling new use cases and business
models. We refer to software built using FMs as FMware. The unique properties
of FMware (e.g., prompts, agents, and the need for orchestration), coupled with
the intrinsic limitations of FMs (e.g., hallucination) lead to a completely new
set of software engineering challenges. Based on our industrial experience, we
identified 10 key SE4FMware challenges that have caused enterprise FMware
development to be unproductive, costly, and risky. In this paper, we discuss
these challenges in detail and state the path for innovation that we envision.
Next, we present FMArts, which is our long-term effort towards creating a
cradle-to-grave platform for the engineering of trustworthy FMware. Finally, we
(i) show how the unique properties of FMArts enabled us to design and develop a
complex FMware for a large customer in a timely manner and (ii) discuss the
lessons that we learned in doing so. We hope that the disclosure of the
aforementioned challenges and our associated efforts to tackle them will not
only raise awareness but also promote deeper and further discussions, knowledge
sharing, and innovative solutions across the software engineering discipline.
- Abstract（参考訳）: 大規模言語モデル(LLM)のような基礎モデル(FM)は、新しいユースケースやビジネスモデルを実現することでソフトウェア開発に革命をもたらした。
FMを用いて構築されたソフトウェアをFMwareと呼ぶ。
FMwareのユニークな特性(プロンプト、エージェント、オーケストレーションの必要性など)とFMの本質的な制限(幻覚など)が組み合わさって、ソフトウェア工学の全く新しい課題へとつながる。
当社の産業経験から、企業FMware開発を非生産的でコストがかかり、リスクが伴う10のSE4FMware課題を特定しました。
本稿では,これらの課題を詳細に議論し,期待するイノベーションへの道について述べる。
次に、FMArtsを紹介します。これは、信頼できるFMウェアのエンジニアリングのためのクレードル・ツー・グラブプラットフォームを構築するための長期的な取り組みです。
最後に
(i)FMArtのユニークな特性によって、大規模顧客向けの複雑なFMウェアをタイムリーに設計・開発できることを示す。
(ii)そうすることで学んだことを話し合う。
上記の課題の開示とそれに取り組むための取り組みが、認識を高めるだけでなく、より深く、より深い議論、知識共有、そしてソフトウェア工学の分野にわたる革新的なソリューションを促進することを願っています。
関連論文リスト
- Software Performance Engineering for Foundation Model-Powered Software (FMware) [6.283211168007636]
大規模言語モデル(LLM)のようなファンデーションモデル(FM)はソフトウェア開発に革命をもたらしています。
本稿では,FMウェアにおけるソフトウェア性能工学(SPE)の重要性を明らかにする。
認知アーキテクチャ設計、通信プロトコル、チューニングと最適化、デプロイメントの4つの主要な課題を特定します。
論文 参考訳（メタデータ） (2024-11-14T16:42:19Z) - Specialized Foundation Models Struggle to Beat Supervised Baselines [60.23386520331143]
ゲノミクス、衛星画像、時系列の3つのモードを最近のFMで調べ、それらを標準的な教師付き学習ワークフローと比較する。
最新のファンデーションモデルにマッチしたり、性能を上回るような、シンプルな教師付きモデルのトレーニングが一貫して可能であることが分かりました。
論文 参考訳（メタデータ） (2024-11-05T04:10:59Z) - From Cool Demos to Production-Ready FMware: Core Challenges and a Technology Roadmap [12.313710667597897]
ファウンデーションモデル(FM)の急速な拡張により、FMをコアコンポーネントとして統合するソフトウェアシステム(FMware--software system)が台頭した。
プロダクション対応システムへの移行には、信頼性、高い実装コスト、スケーラビリティ、プライバシ規制の遵守など、数多くの課題がある。
FM選択、データとモデルのアライメント、プロンプトエンジニアリング、エージェントオーケストレーション、システムテスト、デプロイメントにおける重要な問題と、メモリ管理、可観測性、フィードバック統合といった横断的な関心事について識別する。
論文 参考訳（メタデータ） (2024-10-28T07:16:00Z) - Software Engineering and Foundation Models: Insights from Industry Blogs Using a Jury of Foundation Models [11.993910471523073]
我々は大手テクノロジー企業から155 FM4SEと997 SE4FMのブログ記事を分析した。
我々は、コード生成が最も顕著なFM4SEタスクであるのに対して、FMは他の多くのSEアクティビティに活用されていることを観察した。
クラウドのデプロイに重点を置いているが、FMを圧縮し、小さなデバイスにデプロイすることへの関心が高まっている。
論文 参考訳（メタデータ） (2024-10-11T17:27:04Z) - Foundation Models for the Electric Power Grid [53.02072064670517]
ファンデーションモデル(FM)がニュースの見出しを支配している。
多様なグリッドデータやトポロジからFMを学習することで、トランスフォーメーション能力が解放されるのではないか、と私たちは主張する。
本稿では,グラフニューラルネットワークに基づく電力グリッドFMの概念,すなわちGridFMについて論じる。
論文 参考訳（メタデータ） (2024-07-12T17:09:47Z) - Foundation Model Engineering: Engineering Foundation Models Just as Engineering Software [8.14005646330662]
Foundation Models (FM) は、データとモデルをソースコードとして扱うことで、新しいタイプのソフトウェアになる。
我々は、期待されるFM危機に対する戦略的対応であるファンデーションモデル(FM)エンジニアリングを導入するというビジョンを概説する。
論文 参考訳（メタデータ） (2024-07-11T04:40:02Z) - Forging Vision Foundation Models for Autonomous Driving: Challenges,
Methodologies, and Opportunities [59.02391344178202]
ビジョンファウンデーションモデル(VFM)は、幅広いAIアプリケーションのための強力なビルディングブロックとして機能する。
総合的なトレーニングデータの不足、マルチセンサー統合の必要性、多様なタスク固有のアーキテクチャは、VFMの開発に重大な障害をもたらす。
本稿では、自動運転に特化したVFMを鍛造する上で重要な課題について述べるとともに、今後の方向性を概説する。
論文 参考訳（メタデータ） (2024-01-16T01:57:24Z) - A Survey on Efficient Federated Learning Methods for Foundation Model Training [62.473245910234304]
フェデレーテッド・ラーニング(FL)は、多数のクライアントにわたるプライバシー保護協調トレーニングを促進するための確立した技術となっている。
Foundation Models (FM)の後、多くのディープラーニングアプリケーションでは現実が異なる。
FLアプリケーションに対するパラメータ効率細調整(PEFT)の利点と欠点について論じる。
論文 参考訳（メタデータ） (2024-01-09T10:22:23Z) - Telecom AI Native Systems in the Age of Generative AI -- An Engineering
Perspective [8.199676957406167]
生成的AIと基礎モデル(FM)は、様々な産業に変革をもたらす。
この記事では、通信業界におけるFMの統合について検討し、AIネイティブ通信の概念に光を当てる。
ソフトウェアライフサイクルにFMを実装する際のエンジニアリング上の考慮事項とユニークな課題について詳しく説明している。
論文 参考訳（メタデータ） (2023-10-18T07:55:54Z) - Learn From Model Beyond Fine-Tuning: A Survey [78.80920533793595]
Learn From Model (LFM) は、モデルインターフェースに基づいた基礎モデル(FM)の研究、修正、設計に焦点を当てている。
LFM技術の研究は、モデルチューニング、モデル蒸留、モデル再利用、メタラーニング、モデル編集の5つの分野に大別できる。
本稿では, LFM の観点から, FM に基づく現在の手法を概観する。
論文 参考訳（メタデータ） (2023-10-12T10:20:36Z) - The Role of Federated Learning in a Wireless World with Foundation Models [59.8129893837421]
ファンデーションモデル(FM)は汎用人工知能(AI)モデルである。
現在、FMと連邦学習(FL)の相互作用の探索はまだ初期段階にある。
本稿では、FMが無線ネットワークよりもFLに適した範囲について検討し、その研究課題と機会について概観する。
論文 参考訳（メタデータ） (2023-10-06T04:13:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。