論文の概要: Kani: A Lightweight and Highly Hackable Framework for Building Language
Model Applications
- arxiv url: http://arxiv.org/abs/2309.05542v1
- Date: Mon, 11 Sep 2023 15:27:59 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-12 11:59:46.842475
- Title: Kani: A Lightweight and Highly Hackable Framework for Building Language
Model Applications
- Title(参考訳): Kani: 言語モデルアプリケーションを構築するための軽量でハイハック可能なフレームワーク
- Authors: Andrew Zhu, Liam Dugan, Alyssa Hwang, Chris Callison-Burch
- Abstract要約: Kaniは軽量でフレキシブルで、モデルに依存しないオープンソースのフレームワークで、言語モデルアプリケーションを構築する。
Kaniは、モデルインターフェース、チャット管理、堅牢な関数呼び出しといった、チャットインタラクションのコアビルディングブロックをサポートすることで、開発者がさまざまな複雑な機能を実装するのに役立つ。
- 参考スコア(独自算出の注目度): 40.800025261168265
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Language model applications are becoming increasingly popular and complex,
often including features like tool usage and retrieval augmentation. However,
existing frameworks for such applications are often opinionated, deciding for
developers how their prompts ought to be formatted and imposing limitations on
customizability and reproducibility. To solve this we present Kani: a
lightweight, flexible, and model-agnostic open-source framework for building
language model applications. Kani helps developers implement a variety of
complex features by supporting the core building blocks of chat interaction:
model interfacing, chat management, and robust function calling. All Kani core
functions are easily overridable and well documented to empower developers to
customize functionality for their own needs. Kani thus serves as a useful tool
for researchers, hobbyists, and industry professionals alike to accelerate
their development while retaining interoperability and fine-grained control.
- Abstract(参考訳): 言語モデルアプリケーションは、ツールの使用や検索の強化といった機能を含むように、ますます人気と複雑さを増しています。
しかし、そのようなアプリケーションのための既存のフレームワークはしばしば意見が分かれており、開発者がどのようにプロンプトをフォーマットするかを決め、カスタマイズ性と再現性に関する制限を課す。
これを解決するために、言語モデルアプリケーションを構築するための軽量でフレキシブルでモデルに依存しないオープンソースフレームワークであるkaniを紹介します。
Kaniは、モデルインターフェース、チャット管理、堅牢な関数呼び出しといった、チャットインタラクションのコアビルディングブロックをサポートすることで、開発者がさまざまな複雑な機能を実装するのに役立つ。
Kaniコア関数はすべて簡単にオーバーライド可能であり、開発者が自身のニーズに合わせて機能をカスタマイズできるようにドキュメント化されている。
これにより、研究者、趣味家、産業専門家が相互運用ときめ細かい制御を維持しつつ開発を加速する上で有用なツールとなる。
関連論文リスト
- ELICIT: LLM Augmentation via External In-Context Capability [16.237679215248196]
algは2つのモジュールからなるフレームワークで、タスクベクトルを効果的に保存し再利用する。
algは、モデル機能の適応的な適用を可能にするプラグイン・アンド・プレイパフォーマンス・ブースターとして機能する。
論文 参考訳(メタデータ) (2024-10-12T03:19:06Z) - CMULAB: An Open-Source Framework for Training and Deployment of Natural Language Processing Models [59.91221728187576]
本稿では,NLPモデルのモデル展開と連続的なヒューマン・イン・ザ・ループの微調整を簡単にするオープンソースフレームワークであるCMU言語バックエンドを紹介する。
CMULABは、マルチ言語モデルのパワーを活用して、音声認識、OCR、翻訳、構文解析などの既存のツールを新しい言語に迅速に適応し、拡張することができる。
論文 参考訳(メタデータ) (2024-04-03T02:21:46Z) - Arcee's MergeKit: A Toolkit for Merging Large Language Models [0.6374098147778188]
MergeKitは、任意のハードウェア上でモデルを効率的にマージするためのフレームワークである。
これまで、何千ものモデルがオープンソースコミュニティによってマージされてきた。
論文 参考訳(メタデータ) (2024-03-20T02:38:01Z) - AgentScope: A Flexible yet Robust Multi-Agent Platform [66.64116117163755]
AgentScopeは、メッセージ交換をコアコミュニケーションメカニズムとする、開発者中心のマルチエージェントプラットフォームである。
豊富な構文ツール、組み込みエージェントとサービス機能、アプリケーションのデモとユーティリティモニタのためのユーザフレンドリなインターフェース、ゼロコードプログラミングワークステーション、自動プロンプトチューニング機構により、開発とデプロイメントの両方の障壁は大幅に低下した。
論文 参考訳(メタデータ) (2024-02-21T04:11:28Z) - Lemur: Harmonizing Natural Language and Code for Language Agents [105.43564788499901]
自然言語とコーディング機能の両方に最適化されたオープンソースの言語モデルであるLemurとLemur-Chatを紹介する。
我々のモデルは、様々なテキストおよびコーディングベンチマークで最先端の平均性能を達成する。
自然言語とプログラミング言語の調和により、Lemur-Chatはエージェント能力に関するプロプライエタリなモデルとのギャップを著しく狭めることができる。
論文 参考訳(メタデータ) (2023-10-10T17:57:45Z) - ModelScope-Agent: Building Your Customizable Agent System with
Open-source Large Language Models [74.64651681052628]
本稿では,オープンソースのLCMをコントローラとする実世界のアプリケーションのためのカスタマイズ可能なエージェントフレームワークであるModelScope-Agentを紹介する。
ユーザフレンドリーなシステムライブラリを提供し、カスタマイズ可能なエンジン設計により、複数のオープンソースLLMでモデルトレーニングをサポートする。
ツール使用データ収集、ツール検索、ツール登録、メモリ制御、カスタマイズされたモデルトレーニング、評価にまたがる包括的なフレームワークが提案されている。
論文 参考訳(メタデータ) (2023-09-02T16:50:30Z) - Gentopia: A Collaborative Platform for Tool-Augmented LLMs [21.09079715807735]
簡単な構成でエージェントを柔軟にカスタマイズできる拡張言語モデル(ALM)フレームワークであるgentopiaを提案する。
我々はまた、ユーザカスタマイズエージェントの登録と共有を可能にするパブリックプラットフォームであるgentpoolを構築した。
ジェントプールの不可欠なコンポーネントであるgentbenchは、安全性、堅牢性、効率性など、さまざまな面でユーザカスタマイズエージェントを徹底的に評価するように設計されている。
論文 参考訳(メタデータ) (2023-08-08T04:12:29Z) - i-Code Studio: A Configurable and Composable Framework for Integrative
AI [93.74891865028867]
統合AIのためのフレキシブルで構成可能なフレームワークであるi-Code Studioを提案する。
i-Code Studioは、複雑なマルチモーダルタスクを実行するために、微調整なしで複数の事前訓練されたモデルを編成する。
i-Code Studioは、ビデオからテキストへの検索、音声から音声への翻訳、視覚的質問応答など、さまざまなゼロショットマルチモーダルタスクに関する印象的な結果を達成する。
論文 参考訳(メタデータ) (2023-05-23T06:45:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。