論文の概要: Foundation Model Engineering: Engineering Foundation Models Just as Engineering Software
- arxiv url: http://arxiv.org/abs/2407.08176v1
- Date: Thu, 11 Jul 2024 04:40:02 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-12 18:58:33.341041
- Title: Foundation Model Engineering: Engineering Foundation Models Just as Engineering Software
- Title(参考訳): Foundation Model Engineering: Engineering Foundation Models as Engineering Software
- Authors: Dezhi Ran, Mengzhou Wu, Wei Yang, Tao Xie,
- Abstract要約: Foundation Models (FM) は、データとモデルをソースコードとして扱うことで、新しいタイプのソフトウェアになる。
我々は、期待されるFM危機に対する戦略的対応であるファンデーションモデル(FM)エンジニアリングを導入するというビジョンを概説する。
- 参考スコア(独自算出の注目度): 8.14005646330662
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: By treating data and models as the source code, Foundation Models (FMs) become a new type of software. Mirroring the concept of software crisis, the increasing complexity of FMs making FM crisis a tangible concern in the coming decade, appealing for new theories and methodologies from the field of software engineering. In this paper, we outline our vision of introducing Foundation Model (FM) engineering, a strategic response to the anticipated FM crisis with principled engineering methodologies. FM engineering aims to mitigate potential issues in FM development and application through the introduction of declarative, automated, and unified programming interfaces for both data and model management, reducing the complexities involved in working with FMs by providing a more structured and intuitive process for developers. Through the establishment of FM engineering, we aim to provide a robust, automated, and extensible framework that addresses the imminent challenges, and discovering new research opportunities for the software engineering field.
- Abstract(参考訳): データとモデルをソースコードとして扱うことで、ファンデーションモデル(FM)は新しいタイプのソフトウェアになる。
ソフトウェア危機の概念を反映して、FMの複雑さの増大により、FM危機は今後10年で明らかな懸念となり、ソフトウェア工学の分野からの新しい理論や方法論をアピールする。
本稿では,原則的手法によるFM危機に対する戦略的対応であるファンデーション・モデル・エンジニアリングの導入というビジョンを概説する。
FMエンジニアリングは、データとモデル管理の両方のための宣言的、自動化され、統一されたプログラミングインターフェースを導入し、より構造化され直感的なプロセスを提供することで、FMの開発とアプリケーションの潜在的な問題を緩和することを目的としている。
FMエンジニアリングの確立を通じて、我々は、緊急の課題に対処する堅牢で自動化され、拡張可能なフレームワークの提供と、ソフトウェア工学分野における新たな研究機会の発見を目指しています。
関連論文リスト
- Software Performance Engineering for Foundation Model-Powered Software (FMware) [6.283211168007636]
大規模言語モデル(LLM)のようなファンデーションモデル(FM)はソフトウェア開発に革命をもたらしています。
本稿では,FMウェアにおけるソフトウェア性能工学(SPE)の重要性を明らかにする。
認知アーキテクチャ設計、通信プロトコル、チューニングと最適化、デプロイメントの4つの主要な課題を特定します。
論文 参考訳(メタデータ) (2024-11-14T16:42:19Z) - From Cool Demos to Production-Ready FMware: Core Challenges and a Technology Roadmap [12.313710667597897]
ファウンデーションモデル(FM)の急速な拡張により、FMをコアコンポーネントとして統合するソフトウェアシステム(FMware--software system)が台頭した。
プロダクション対応システムへの移行には、信頼性、高い実装コスト、スケーラビリティ、プライバシ規制の遵守など、数多くの課題がある。
FM選択、データとモデルのアライメント、プロンプトエンジニアリング、エージェントオーケストレーション、システムテスト、デプロイメントにおける重要な問題と、メモリ管理、可観測性、フィードバック統合といった横断的な関心事について識別する。
論文 参考訳(メタデータ) (2024-10-28T07:16:00Z) - Software Engineering and Foundation Models: Insights from Industry Blogs Using a Jury of Foundation Models [11.993910471523073]
我々は大手テクノロジー企業から155 FM4SEと997 SE4FMのブログ記事を分析した。
我々は、コード生成が最も顕著なFM4SEタスクであるのに対して、FMは他の多くのSEアクティビティに活用されていることを観察した。
クラウドのデプロイに重点を置いているが、FMを圧縮し、小さなデバイスにデプロイすることへの関心が高まっている。
論文 参考訳(メタデータ) (2024-10-11T17:27:04Z) - Foundation Models for the Electric Power Grid [53.02072064670517]
ファンデーションモデル(FM)がニュースの見出しを支配している。
多様なグリッドデータやトポロジからFMを学習することで、トランスフォーメーション能力が解放されるのではないか、と私たちは主張する。
本稿では,グラフニューラルネットワークに基づく電力グリッドFMの概念,すなわちGridFMについて論じる。
論文 参考訳(メタデータ) (2024-07-12T17:09:47Z) - Rethinking Software Engineering in the Foundation Model Era: A Curated
Catalogue of Challenges in the Development of Trustworthy FMware [13.21876203209586]
企業FMware開発を非生産的でコストがかかり、リスクが高いものにした、SE4FMwareの10つの重要な課題を特定します。
我々はFMArtsを紹介します。これは、信頼できるFMウェアのエンジニアリングのためのクレードル・ツー・グラブプラットフォームを構築するための長期的な取り組みです。
論文 参考訳(メタデータ) (2024-02-25T00:53:16Z) - Progress and Opportunities of Foundation Models in Bioinformatics [77.74411726471439]
基礎モデル(FM)は、特に深層学習の領域において、計算生物学の新しい時代に定着した。
我々の焦点は、特定の生物学的問題にFMを応用することであり、研究ニーズに適切なFMを選択するために研究コミュニティを指導することを目的としています。
データノイズ、モデル説明可能性、潜在的なバイアスなど、生物学においてFMが直面する課題と限界を分析します。
論文 参考訳(メタデータ) (2024-02-06T02:29:17Z) - Forging Vision Foundation Models for Autonomous Driving: Challenges,
Methodologies, and Opportunities [59.02391344178202]
ビジョンファウンデーションモデル(VFM)は、幅広いAIアプリケーションのための強力なビルディングブロックとして機能する。
総合的なトレーニングデータの不足、マルチセンサー統合の必要性、多様なタスク固有のアーキテクチャは、VFMの開発に重大な障害をもたらす。
本稿では、自動運転に特化したVFMを鍛造する上で重要な課題について述べるとともに、今後の方向性を概説する。
論文 参考訳(メタデータ) (2024-01-16T01:57:24Z) - A Survey on Efficient Federated Learning Methods for Foundation Model Training [62.473245910234304]
フェデレーテッド・ラーニング(FL)は、多数のクライアントにわたるプライバシー保護協調トレーニングを促進するための確立した技術となっている。
Foundation Models (FM)の後、多くのディープラーニングアプリケーションでは現実が異なる。
FLアプリケーションに対するパラメータ効率細調整(PEFT)の利点と欠点について論じる。
論文 参考訳(メタデータ) (2024-01-09T10:22:23Z) - Learn From Model Beyond Fine-Tuning: A Survey [78.80920533793595]
Learn From Model (LFM) は、モデルインターフェースに基づいた基礎モデル(FM)の研究、修正、設計に焦点を当てている。
LFM技術の研究は、モデルチューニング、モデル蒸留、モデル再利用、メタラーニング、モデル編集の5つの分野に大別できる。
本稿では, LFM の観点から, FM に基づく現在の手法を概観する。
論文 参考訳(メタデータ) (2023-10-12T10:20:36Z) - The Role of Federated Learning in a Wireless World with Foundation Models [59.8129893837421]
ファンデーションモデル(FM)は汎用人工知能(AI)モデルである。
現在、FMと連邦学習(FL)の相互作用の探索はまだ初期段階にある。
本稿では、FMが無線ネットワークよりもFLに適した範囲について検討し、その研究課題と機会について概観する。
論文 参考訳(メタデータ) (2023-10-06T04:13:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。