論文の概要: Flama: a Python framework for development and deployment of production-ready APIs, machine learning, and LLM services
- arxiv url: http://arxiv.org/abs/2608.18733v1
- Date: Wed, 19 Aug 2026 09:37:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-20 20:13:55.364891
- Title: Flama: a Python framework for development and deployment of production-ready APIs, machine learning, and LLM services
- Title（参考訳）: Flama: プロダクション対応API、マシンラーニング、LLMサービスの開発とデプロイのためのPythonフレームワーク
- Abstract要約: Flamaは、プロダクション対応のWeb API、機械学習サービス、大規模モデル(LLM)アプリケーションの開発とデプロイのためのオープンソースのPythonフレームワークである。
REST API開発、予測モデルの提供、ひとつのアーキテクチャにおける生成AI推論を統合する、型駆動の非同期ファーストプログラミングモデルを提供する。
- 参考スコア（独自算出の注目度）: 0.9668407688201359
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present Flama, an open-source Python framework for developing and deploying production-ready web APIs, machine learning services, and large-language-model (LLM) applications. Built on the Asynchronous Server Gateway Interface (ASGI), Flama offers a type-driven, async-first programming model that unifies REST API development, predictive model serving, and generative AI inference in one architecture. It is organised around seven subsystems: a component-based dependency injection system resolving handler parameters from type annotations at startup; a pluggable schema layer supporting Pydantic, Marshmallow and Typesystem behind a single adapter; an automatic CRUD generator turning a SQLAlchemy table and a schema class into REST endpoints backed by the Repository and Unit of Work patterns; a portable binary format (.flm) packaging models from scikit-learn, TensorFlow, PyTorch and Hugging Face Transformers with their metadata for zero-code deployment; a multi-backend LLM server running vLLM (Linux/CUDA) or MLX (Apple Silicon) and exposing four wire protocols (OpenAI, Anthropic, Ollama, and a native streaming dialect) through a shared codec; a Rust-accelerated core compiled via Maturin for routing, JSON encoding, compression and parsing; and a Model Context Protocol module turning any application into an MCP server over JSON-RPC 2.0. Built-in capabilities include JWT authentication, two pagination strategies, background tasks in threads or processes, WebSocket endpoints, Server-Sent Event and NDJSON streaming, OpenAPI 3.2.0 generation from handler signatures, and a command-line interface for running applications and for serving, packaging and inspecting models. We describe the architecture, present the programming model through worked examples, and compare Flama with existing frameworks, model serving platforms and LLM inference engines.
- Abstract（参考訳）: 実運用対応のWeb API,マシンラーニングサービス,大規模言語モデル(LLM)アプリケーションの開発とデプロイを行うための,オープンソースのPythonフレームワークであるFramaを紹介します。
Asynchronous Server Gateway Interface (ASGI)上に構築されたFramaは、型駆動の非同期ファーストプログラミングモデルを提供する。
起動時に型アノテーションからハンドラパラメータを解決するコンポーネントベースの依存性注入システム、単一のアダプタの背後にあるPydantic、Marshmallow、Typesystemをサポートするプラグイン可能なスキーマ層、SQLAlchemyテーブルとスキーマクラスをRepositoryとUnit of WorkパターンによってバックアップされたRESTエンドポイントに変換する自動CRUDジェネレータ、Scikit-learn、TensorFlow、PyTorch、Hugging Faceのパッケージングモデルとゼロコードデプロイメントのためのメタデータを備えたポータブルバイナリフォーマット(.flm)、vLLM(Linux/CUDA)またはMLX(Apple Silicon)を実行するマルチバックのLLMサーバ、4つのワイヤプロトコル(OpenAI、rohropic、Ollama、ネイティブストリーミング)と4つのコアコードを通じてコンパイルされたラスタライゼーション、JSON通信、JSONプロトコルのパース、JSONのパース、JSONサーバへの変換などである。
JWT認証,2つのページネーション戦略,スレッドあるいはプロセスのバックグラウンドタスク,WebSocketエンドポイント,Server-Sent EventとNDJSONストリーミング,ハンドラシグネチャからのOpenAPI 3.2.0生成,アプリケーションの実行とサービス,パッケージング,モデル検査のためのコマンドラインインターフェースなどが組み込まれている。
アーキテクチャを説明し、実例を通してプログラミングモデルを提示し、Framaを既存のフレームワーク、モデル提供プラットフォーム、LLM推論エンジンと比較する。
関連論文リスト
- NVIDIA-labs OO Agents: Native Python Object-Oriented Agents [8.777370925453148]
我々は、信頼できるAIエージェントを構築するためのモデルに依存しないPythonフレームワークであるNVIDIA Object-Oriented Agents (NOOA)を紹介する。
NOOAはシンプルなアプローチを取る。エージェントはPythonオブジェクトである。そのメソッドはモデルが取ることができるアクションであり、フィールドは状態であり、ドキュメントはプロンプトであり、型アノテーションはコントラクトである。
論文 参考訳（メタデータ） (2026-07-22T20:25:55Z) - Environment-free Synthetic Data Generation for API-Calling Agents [68.95520739708304]
API呼び出し大型言語モデル(LLM)エージェントの訓練には、大量の高品質なトラジェクトリが必要である。
本研究では,LLMをオンザフライデジタルワールドモデルとして活用する環境不要な合成データ生成手法を提案する。
我々は,情報検索タスクと状態変更タスクの両方を含む,挑戦的なAppWorldとOfficeBenchベンチマークに対するアプローチを評価した。
論文 参考訳（メタデータ） (2026-07-18T17:36:44Z) - minWM: A Full-Stack Open-Source Framework for Real-Time Interactive Video World Models [51.45338589543413]
minWMはリアルタイムインタラクティブなビデオワールドモデルを構築するためのフルスタックのオープンソースフレームワークである。
minWMは既存の双方向T2V/TI2Vビデオ基盤モデルをカメラ制御可能な数ステップの自己回帰世界モデルに変換する。
論文 参考訳（メタデータ） (2026-05-28T17:27:03Z) - HarnessAPI: A Skill-First Framework for Unified Streaming APIs and MCP Tools [0.0]
この重複を取り除くPythonフレームワークであるHarnessAPIを紹介します。
1つのハンドラ.pyとPydanticスキーマから、このフレームワークは自動的にストリーミングHTTPエンドポイントを導出する。
手動でメンテナンスされたデュアルスタック実装と比較して,フレームワーク対応のバリデーションを74%削減する。
論文 参考訳（メタデータ） (2026-05-21T17:03:44Z) - Apple Intelligence Foundation Language Models: Tech Report 2025 [230.86919268176976]
AppleのデバイスやサービスにまたがってAppleのインテリジェンス機能を駆動する2つの基礎言語モデルを紹介します。
どちらのモデルも、責任あるWebクローリングを通じてソースされる大規模なマルチリンガルデータセットとマルチモーダルデータセットに基づいてトレーニングされている。
新しいSwift中心のFoundation Modelsフレームワークでは、ガイド付き生成、制約付きツール呼び出し、LoRAアダプタの微調整が公開されている。
論文 参考訳（メタデータ） (2025-07-17T23:37:19Z) - Two are better than one: Context window extension with multi-grained self-injection [111.1376461868317]
SharedLLMは、多粒度コンテキスト圧縮とクエリ対応情報検索の設計哲学に基づく新しいアプローチである。
本研究では,テキストチャンクの多粒度コンテキスト情報を効率的にエンコードし,保存し,検索するための木構造データ構造を提案する。
論文 参考訳（メタデータ） (2024-10-25T06:08:59Z) - DistML.js: Installation-free Distributed Deep Learning Framework for Web Browsers [40.48978035180545]
DistML.jsは、Webブラウザ内で機械学習モデルのトレーニングと推論のために設計されたライブラリである。
実用的なアプリケーションとともに、DistML.jsの設計、API、実装に関する包括的な説明を提供する。
論文 参考訳（メタデータ） (2024-07-01T07:13:14Z) - KerasCV and KerasNLP: Vision and Language Power-Ups [9.395199188271254]
KerasCVとKerasNLPはコンピュータビジョンと自然言語処理のためのKeras APIの拡張である。
これらのドメインパッケージは、使いやすさとパフォーマンスを重視した高速な実験を可能にするように設計されている。
ライブラリは完全にオープンソース(Apache 2.0ライセンス)で、GitHubから入手できる。
論文 参考訳（メタデータ） (2024-05-30T16:58:34Z) - ModelScope-Agent: Building Your Customizable Agent System with
Open-source Large Language Models [74.64651681052628]
本稿では,オープンソースのLCMをコントローラとする実世界のアプリケーションのためのカスタマイズ可能なエージェントフレームワークであるModelScope-Agentを紹介する。
ユーザフレンドリーなシステムライブラリを提供し、カスタマイズ可能なエンジン設計により、複数のオープンソースLLMでモデルトレーニングをサポートする。
ツール使用データ収集、ツール検索、ツール登録、メモリ制御、カスタマイズされたモデルトレーニング、評価にまたがる包括的なフレームワークが提案されている。
論文 参考訳（メタデータ） (2023-09-02T16:50:30Z) - OSFormer: One-Stage Camouflaged Instance Segmentation with Transformers [79.09486658392626]
OSFormerは、camouflaged instance segmentation (CIS)のためのワンステージトランスフォーマーフレームワークである
位置認識変換器(LST)を設計し、位置ラベルとインスタンス認識パラメータを求める。
我々は、LSTエンコーダとCNNバックボーンから様々なコンテキスト情報を統合するための粗大な融合(CFF)を開発する。
論文 参考訳（メタデータ） (2022-07-05T18:32:21Z) - CodeReef: an open platform for portable MLOps, reusable automation
actions and reproducible benchmarking [0.2148535041822524]
CodeReef - クロスプラットフォームMLOps(MLSysOps)を実現するために必要なすべてのコンポーネントを共有するオープンプラットフォームを提供する。
CodeReefソリューションも導入しています – 非仮想化、ポータブル、カスタマイズ可能なアーカイブファイルとしてモデルをパッケージ化し、共有する手段です。
論文 参考訳（メタデータ） (2020-01-22T09:52:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。