論文の概要: Towards Responsible and Safe AI in the Era of Foudnation Models: A Reference Architecture for Designing Foundation Model based Systems
- arxiv url: http://arxiv.org/abs/2304.11090v4
- Date: Sun, 26 May 2024 23:51:04 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-29 12:38:03.894500
- Title: Towards Responsible and Safe AI in the Era of Foudnation Models: A Reference Architecture for Designing Foundation Model based Systems
- Title（参考訳）: ファウドネーションモデル時代の責任と安全AIに向けて:基礎モデルに基づくシステム設計のための参照アーキテクチャ
- Authors: Qinghua Lu, Liming Zhu, Xiwei Xu, Zhenchang Xing, Jon Whittle,
- Abstract要約: ファンデーションモデルが将来のAIシステムの基本的なビルディングブロックになる、という広いコンセンサスがある。
基礎モデルをAIシステムに組み込むことは、責任と安全性に関する重要な懸念を提起する。
本稿では,基礎モデルに基づくシステム設計のためのパターン指向参照アーキテクチャを提案する。
- 参考スコア（独自算出の注目度）: 28.826700360670515
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The release of ChatGPT, Gemini, and other large language model has drawn huge interests on foundations models. There is a broad consensus that foundations models will be the fundamental building blocks for future AI systems. However, there is a lack of systematic guidance on the architecture design. Particularly, the the rapidly growing capabilities of foundations models can eventually absorb other components of AI systems, posing challenges of moving boundary and interface evolution in architecture design. Furthermore, incorporating foundations models into AI systems raises significant concerns about responsible and safe AI due to their opaque nature and rapidly advancing intelligence. To address these challenges, the paper first presents an architecture evolution of AI systems in the era of foundation models, transitioning from "foundation-model-as-a-connector" to "foundation-model-as-a-monolithic architecture". The paper then identifies key design decisions and proposes a pattern-oriented reference architecture for designing responsible foundation-model-based systems. The patterns can enable the potential of foundation models while ensuring associated risks.
- Abstract（参考訳）: ChatGPT、Gemini、その他の大規模言語モデルのリリースは、基礎モデルに大きな関心を集めている。
ファンデーションモデルが将来のAIシステムの基本的なビルディングブロックになる、という広いコンセンサスがある。
しかし、アーキテクチャ設計に関する体系的なガイダンスが不足している。
特に、ファンデーションモデルの急速な機能向上は、最終的にはAIシステムの他のコンポーネントを吸収し、アーキテクチャ設計における境界の移動とインターフェースの進化の課題を提起する。
さらに、基礎モデルをAIシステムに組み込むことは、不透明な性質と急速に進歩するインテリジェンスのために、責任と安全性に関する重要な懸念を提起する。
これらの課題に対処するため,本論文では,基礎モデル時代におけるAIシステムのアーキテクチャ進化について,"境界モデル・アズ・ア・コネクタ"から"境界モデル・ア・ア・モノリシックアーキテクチャ"へ移行した。
そこで本論文では,設計上の重要な決定事項を特定し,基礎モデルに基づくシステム設計のためのパターン指向参照アーキテクチャを提案する。
このパターンは、関連するリスクを確保しながら、ファンデーションモデルの可能性を可能にする。
関連論文リスト
- A Taxonomy of Architecture Options for Foundation Model-based Agents: Analysis and Decision Model [25.78239568393706]
本稿では,基礎モデルに基づくエージェントのアーキテクチャに着目した分類法を提案する。
分類学は,これらの分類を統一し,詳細化することにより,基礎モデルに基づくエージェントの設計を改善することを目的としている。
論文 参考訳（メタデータ） (2024-08-06T03:10:52Z) - Agent Design Pattern Catalogue: A Collection of Architectural Patterns for Foundation Model based Agents [22.94671478021277]
ファウンデーションモデルに対応した生成人工知能はエージェントの開発と実装を容易にする。
エージェントを設計する実践者を指導する体系的な知識が欠如している。
本稿では、文脈、力、トレードオフを分析した18のアーキテクチャパターンからなるパターンカタログを提案する。
論文 参考訳（メタデータ） (2024-05-16T23:24:48Z) - Generative AI Models for Different Steps in Architectural Design: A Literature Review [14.910709576423576]
生成AIモデルの原則と進歩を理解し、アーキテクチャアプリケーションにおけるそれらの関連性を分析することが不可欠である。
本稿ではまず,確率拡散モデル(DDPM),3次元生成モデル,基礎モデルを中心に,生成AI技術の概要を紹介する。
建築設計プロセスを6段階に分割し、2020年から現在までの各段階における関連する研究プロジェクトについてレビューする。
論文 参考訳（メタデータ） (2024-03-30T13:25:11Z) - Towards Responsible Generative AI: A Reference Architecture for Designing Foundation Model based Agents [28.406492378232695]
ファンデーションモデルに基づくエージェントは、ファンデーションモデルの能力から自律性を引き出す。
本稿では,基礎モデルに基づくエージェントの設計におけるガイダンスとして機能するパターン指向参照アーキテクチャを提案する。
論文 参考訳（メタデータ） (2023-11-22T04:21:47Z) - A Taxonomy of Foundation Model based Systems through the Lens of
Software Architecture [35.20191493188642]
本稿では,基礎モデルと設計オプションの特徴を分類・比較する基礎モデルベースシステムの分類法を提案する。
我々の分類学は、基礎モデルの事前学習と適応、基礎モデルに基づくシステムのアーキテクチャ設計、そして責任あるAI・バイ・デザインの3つのカテゴリから構成される。
論文 参考訳（メタデータ） (2023-05-09T11:37:16Z) - Kernel Based Cognitive Architecture for Autonomous Agents [91.3755431537592]
本稿では,認知機能構築への進化的アプローチについて考察する。
本稿では,シンボル創発問題に基づくエージェントの進化を保証する認知アーキテクチャについて考察する。
論文 参考訳（メタデータ） (2022-07-02T12:41:32Z) - MRKL Systems: A modular, neuro-symbolic architecture that combines large
language models, external knowledge sources and discrete reasoning [50.40151403246205]
巨大な言語モデル(LM)は、自然言語ベースの知識タスクのゲートウェイとして機能する、AIの新しい時代を支えている。
離散的な知識と推論モジュールによって補完される、複数のニューラルモデルによる柔軟なアーキテクチャを定義する。
本稿では,MRKL(Modular Reasoning, Knowledge and Language)システムと呼ばれる,このニューロシンボリックアーキテクチャについて述べる。
論文 参考訳（メタデータ） (2022-05-01T11:01:28Z) - On the Opportunities and Risks of Foundation Models [256.61956234436553]
これらのモデルの基礎モデルは、批判的に中心的だが不完全な性格を根底から立証するものです。
本報告では,基礎モデルの可能性とリスクについて概説する。
これらの疑問に対処するためには、基礎モデルに関する重要な研究の多くは、深い学際的なコラボレーションが必要であると信じている。
論文 参考訳（メタデータ） (2021-08-16T17:50:08Z) - Towards a Predictive Processing Implementation of the Common Model of
Cognition [79.63867412771461]
本稿では,ニューラル生成符号化とホログラフィック連想記憶に基づく認知モデルの実装について述べる。
提案システムは,多様なタスクから継続的に学習し,大規模に人的パフォーマンスをモデル化するエージェントを開発するための基盤となる。
論文 参考訳（メタデータ） (2021-05-15T22:55:23Z) - Model-Based Machine Learning for Communications [110.47840878388453]
モデルベースのアルゴリズムと機械学習をハイレベルな視点で組み合わせるための既存の戦略を見直します。
通信受信機の基本的なタスクの一つであるシンボル検出に注目する。
論文 参考訳（メタデータ） (2021-01-12T19:55:34Z) - Towards an Interface Description Template for AI-enabled Systems [77.34726150561087]
再利用(Reuse)は、システムアーキテクチャを既存のコンポーネントでインスタンス化しようとする、一般的なシステムアーキテクチャのアプローチである。
現在、コンポーネントが当初目的としていたものと異なるシステムで運用する可搬性を評価するために必要な情報の選択をガイドするフレームワークは存在しない。
我々は、AI対応コンポーネントの主情報をキャプチャするインターフェイス記述テンプレートの確立に向けて、現在進行中の作業について述べる。
論文 参考訳（メタデータ） (2020-07-13T20:30:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。