論文の概要: Software Engineering and Foundation Models: Insights from Industry Blogs Using a Jury of Foundation Models
- arxiv url: http://arxiv.org/abs/2410.09012v2
- Date: Mon, 06 Jan 2025 20:49:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-01-08 15:48:36.512918
- Title: Software Engineering and Foundation Models: Insights from Industry Blogs Using a Jury of Foundation Models
- Title(参考訳): ソフトウェアエンジニアリングとファンデーションモデル: ファンデーションモデルによる業界ブログからの洞察
- Authors: Hao Li, Cor-Paul Bezemer, Ahmed E. Hassan,
- Abstract要約: 我々は大手テクノロジー企業から155 FM4SEと997 SE4FMのブログ記事を分析した。
我々は、コード生成が最も顕著なFM4SEタスクであるのに対して、FMは他の多くのSEアクティビティに活用されていることを観察した。
クラウドのデプロイに重点を置いているが、FMを圧縮し、小さなデバイスにデプロイすることへの関心が高まっている。
- 参考スコア(独自算出の注目度): 11.993910471523073
- License:
- Abstract: Foundation models (FMs) such as large language models (LLMs) have significantly impacted many fields, including software engineering (SE). The interaction between SE and FMs has led to the integration of FMs into SE practices (FM4SE) and the application of SE methodologies to FMs (SE4FM). While several literature surveys exist on academic contributions to these trends, we are the first to provide a practitioner's view. We analyze 155 FM4SE and 997 SE4FM blog posts from leading technology companies, leveraging an FM-powered surveying approach to systematically label and summarize the discussed activities and tasks. We observed that while code generation is the most prominent FM4SE task, FMs are leveraged for many other SE activities such as code understanding, summarization, and API recommendation. The majority of blog posts on SE4FM are about model deployment & operation, and system architecture & orchestration. Although the emphasis is on cloud deployments, there is a growing interest in compressing FMs and deploying them on smaller devices such as edge or mobile devices. We outline eight future research directions inspired by our gained insights, aiming to bridge the gap between academic findings and real-world applications. Our study not only enriches the body of knowledge on practical applications of FM4SE and SE4FM but also demonstrates the utility of FMs as a powerful and efficient approach in conducting literature surveys within technical and grey literature domains. Our dataset, results, code and used prompts can be found in our online replication package at https://github.com/SAILResearch/fmse-blogs.
- Abstract(参考訳): 大規模言語モデル(LLM)のような基礎モデル(FM)は、ソフトウェア工学(SE)を含む多くの分野に大きな影響を与えている。
SEとFMの相互作用により、FMをSEプラクティス(FM4SE)に統合し、SE方法論をFM(SE4FM)に適用した。
これらの傾向に対する学術的貢献に関する文献調査はいくつか存在するが、我々はまず実践者の見解を提供する。
FM4SEと997 SE4FMのブログ投稿を主要なテクノロジー企業から分析し、FMによる調査手法を利用して、議論された活動やタスクを体系的にラベル付けし要約する。
我々は、コード生成が最も顕著なFM4SEタスクであるのに対して、FMはコード理解、要約、APIレコメンデーションといった他の多くのSEアクティビティに活用されていることを観察した。
SE4FMに関するブログ記事の大部分は、モデルデプロイメントと運用、システムアーキテクチャとオーケストレーションに関するものだ。
クラウドのデプロイに重点を置いているが、FMを圧縮し、エッジやモバイルデバイスなどの小さなデバイスにデプロイすることへの関心が高まっている。
得られた知見にインスパイアされた今後の8つの研究方向を概説し、学術的な発見と現実世界の応用とのギャップを埋めることを目的としている。
本研究は,FM4SE と SE4FM の実践的応用に関する知識の体系を充実させるだけでなく,技術及びグレー文学領域における文献調査を行う上で,FMs を強力かつ効率的な手法としての有用性を示すものである。
データセット、結果、コード、使用済みプロンプトは、オンラインレプリケーションパッケージhttps://github.com/SAILResearch/fmse-blogs.comにある。
関連論文リスト
- On the Workflows and Smells of Leaderboard Operations (LBOps): An Exploratory Study of Foundation Model Leaderboards [11.99718417371013]
本研究は、これらのFMリーダーボードが現実世界のシナリオでどのように動作するかを理解することに焦点を当てる("clainboard operations")。
5つのユニークなワークフローパターンを特定し、FMリーダーボード内で必要不可欠なコンポーネントとその相互作用を概説するドメインモデルを構築します。
次に、LBOpsで8種類のリーダーボードの匂いを識別します。
論文 参考訳(メタデータ) (2024-07-04T17:12:00Z) - Synergizing Foundation Models and Federated Learning: A Survey [23.416321895575507]
本稿では,フェデレートラーニング(FL)とファンデーションモデル(FM)の融合の可能性と課題について論じる。
FLは、さまざまな参加者からのデータ可用性の障壁を破る、共同学習パラダイムである。
プライバシを保護しながら、分散データセットを使用して、幅広いドメイン固有のタスクにFMをカスタマイズし、適応する有望なソリューションを提供する。
論文 参考訳(メタデータ) (2024-06-18T17:58:09Z) - Rethinking Software Engineering in the Foundation Model Era: A Curated
Catalogue of Challenges in the Development of Trustworthy FMware [13.21876203209586]
企業FMware開発を非生産的でコストがかかり、リスクが高いものにした、SE4FMwareの10つの重要な課題を特定します。
我々はFMArtsを紹介します。これは、信頼できるFMウェアのエンジニアリングのためのクレードル・ツー・グラブプラットフォームを構築するための長期的な取り組みです。
論文 参考訳(メタデータ) (2024-02-25T00:53:16Z) - Progress and Opportunities of Foundation Models in Bioinformatics [77.74411726471439]
基礎モデル(FM)は、特に深層学習の領域において、計算生物学の新しい時代に定着した。
我々の焦点は、特定の生物学的問題にFMを応用することであり、研究ニーズに適切なFMを選択するために研究コミュニティを指導することを目的としています。
データノイズ、モデル説明可能性、潜在的なバイアスなど、生物学においてFMが直面する課題と限界を分析します。
論文 参考訳(メタデータ) (2024-02-06T02:29:17Z) - Learn From Model Beyond Fine-Tuning: A Survey [78.80920533793595]
Learn From Model (LFM) は、モデルインターフェースに基づいた基礎モデル(FM)の研究、修正、設計に焦点を当てている。
LFM技術の研究は、モデルチューニング、モデル蒸留、モデル再利用、メタラーニング、モデル編集の5つの分野に大別できる。
本稿では, LFM の観点から, FM に基づく現在の手法を概観する。
論文 参考訳(メタデータ) (2023-10-12T10:20:36Z) - The Role of Federated Learning in a Wireless World with Foundation Models [59.8129893837421]
ファンデーションモデル(FM)は汎用人工知能(AI)モデルである。
現在、FMと連邦学習(FL)の相互作用の探索はまだ初期段階にある。
本稿では、FMが無線ネットワークよりもFLに適した範囲について検討し、その研究課題と機会について概観する。
論文 参考訳(メタデータ) (2023-10-06T04:13:10Z) - VideoGLUE: Video General Understanding Evaluation of Foundation Models [89.07145427268948]
我々は、慎重に設計された実験プロトコルを用いて、基礎モデル(FM)の映像理解能力を評価する。
一般的な映像理解タスクに適応する際のFMの目印と有効性について共同で検討する。
論文 参考訳(メタデータ) (2023-07-06T17:47:52Z) - Multimodal Recommender Systems: A Survey [50.23505070348051]
マルチモーダル・レコメンダ・システム(MRS)は近年,学界と産業の両方から注目を集めている。
本稿では,主に技術的観点から,MSSモデルに関する総合的な調査を行う。
実装コードなど、調査された論文の詳細にアクセスするために、リポジトリをオープンソース化します。
論文 参考訳(メタデータ) (2023-02-08T05:12:54Z) - FETA: Towards Specializing Foundation Models for Expert Task
Applications [49.57393504125937]
ファンデーションモデル(FM)は、ゼロショット学習、高忠実度データ合成、ドメインの一般化など、前例のない機能を示した。
この論文では、FMは、まだ専門家のタスクにおいて、出来の悪いパフォーマンスを保っていることを示します。
本稿では,FMに技術資料の理解を促すことを目的として,その第1のFETAベンチマークを提案する。
論文 参考訳(メタデータ) (2022-09-08T08:47:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。