Fugu-MT 論文翻訳(概要): MetaInfer: A Knowledge Only LLM Inference Engine Generator SKILL Toolbox

論文の概要: MetaInfer: A Knowledge Only LLM Inference Engine Generator SKILL Toolbox

arxiv url: http://arxiv.org/abs/2607.12875v1
Date: Tue, 14 Jul 2026 15:22:48 GMT
ステータス: 翻訳完了
システム内更新日: 2026-07-15 17:08:30.191903
Title: MetaInfer: A Knowledge Only LLM Inference Engine Generator SKILL Toolbox
Title（参考訳）: MetaInfer: LLM推論エンジンジェネレータSKILLツールボックス
Abstract要約: 本稿では,LLM-as-Compiler(LLM-as-Compiler)アプローチであるmetainferを提案する。 LLM駆動のマルチエージェントコラボレーションシステムは,契約知識ベースと組み合わせて,コンパクトな推論フレームワークを自動生成する。
参考スコア（独自算出の注目度）: 0.3581211034057412
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: As LLM technology advances, the space of model families, compute hardware, quantization schemes, parallelization strategies, and specialized optimization kernels continues to expand, sharply increasing the code complexity and maintenance cost of general-purpose inference frameworks. Conventional software engineering uses multiple layers of abstraction to support diverse application scenarios, but these abstractions also increase system complexity and may introduce additional performance overhead. This paper presents metainfer, an 'LLM-as-Compiler' approach in which users specify only the runtime constraints of an inference program. An LLM-driven multi-agent collaboration system, coupled with a contract knowledge base, then automatically generates a compact customized inference framework that satisfies these constraints. We evaluate metainfer from three perspectives: the effect of source-code reference, the runtime behavior and performance profile of engines generated under the zero-reference constraint on CKB-covered targets, and knowledge-base evolution for new model and platform scenarios. The results show that metainfer organizes generation constraints, validation feedback, and knowledge consolidation into a continuous closed loop, enabling runnable customized inference solutions to be generated from explicit knowledge. The code is publicly available at https://github.com/MetaInfer/MetaInfer.
Abstract（参考訳）: LLM技術が進歩するにつれて、モデルファミリ、計算ハードウェア、量子化スキーム、並列化戦略、特殊最適化カーネルの領域が拡大し続け、汎用推論フレームワークのコードの複雑さとメンテナンスコストが大幅に増大する。従来のソフトウェアエンジニアリングでは、さまざまなアプリケーションシナリオをサポートするために複数の抽象化レイヤを使用します。本稿では,LLM-as-Compiler(LLM-as-Compiler)アプローチであるmetainferを提案する。 LLM駆動のマルチエージェントコラボレーションシステムと契約知識ベースが組み合わさって,これらの制約を満たすコンパクトな推論フレームワークを自動生成する。我々は、ソースコード参照の効果、CKBが対象とするゼロ参照制約の下で生成されたエンジンのランタイム動作と性能プロファイル、新しいモデルとプラットフォームシナリオに対する知識ベース進化の3つの観点からメテンファーを評価する。その結果、Metainferは生成制約、検証フィードバック、知識統合を連続した閉ループに整理し、実行可能なカスタマイズ推論ソリューションを明示的な知識から生成できることが判明した。コードはhttps://github.com/MetaInfer/MetaInferで公開されている。

関連論文リスト

OpenCompass: A Universal Evaluation Platform for Large Language Models [62.59671563145442]
汎用大規模言語モデル (LLM) は, 技術の進歩において重要なリンクとなっている。メインストリームベンチマークデータセットは、タスクタイプの多様性、一貫性のない評価基準、データと処理の断片化といった課題に直面している。本稿では,ワンストップ,スケーラブル,高精度な汎用評価プラットフォームであるOpen LLMをオープンソースとして提案する。
論文参考訳（メタデータ） (2026-05-19T02:50:11Z)
PymooLab: An Open-Source Visual Analytics Framework for Multi-Objective Optimization using LLM-Based Code Generation and MCDM [0.0]
PymooLabは、textitpymoo上に構築されたオープンソースのビジュアル分析環境である。単一の再現可能なワークフローで構成、実行監視、正式な決定サポートを統合する。計算集約的な研究のために、PymooLab は JAX を通したネイティブなテキストピモオ加速経路に依存している。
論文参考訳（メタデータ） (2026-03-02T00:56:32Z)
ProfInfer: An eBPF-based Fine-Grained LLM Inference Profiler [4.191309912359899]
最新の推論エンジンのためのきめ細かな非侵入型プロファイリングフレームワークを開発した。私たちのシステムは、ソースの変更や再コンパイルなしに、複数のレイヤにわたるランタイム関数にプローブをアタッチします。収集されたトレースを演算子、グラフ、タイムライン、ハードウェアカウンタトレンドのリッチな視覚化に変換する。
論文参考訳（メタデータ） (2026-01-28T16:39:38Z)
AIConfigurator: Lightning-Fast Configuration Optimization for Multi-Framework LLM Serving [16.664502126572856]
AIConfiguratorは、Large Language Model(LLM)推論のための統一されたパフォーマンスモデリングシステムである。 GPUベースのプロファイリングを必要とせずに、迅速なフレームワークベースの構成検索を可能にする。これは、高密度モデルのパフォーマンスを最大40%向上させる優れたサービス構成を特定する。
論文参考訳（メタデータ） (2026-01-09T20:03:57Z)
ThinkGen: Generalized Thinking for Visual Generation [97.19923474851987]
ThinkGenは、さまざまな世代のシナリオでChain-of-Thought(CoT)推論を明示的に活用する、思考駆動のビジュアル生成フレームワークである。本稿では,MLLMとDiTモジュール間の強化学習を交互に行う,分離可能なGRPOベースのトレーニングパラダイムを提案する。実験の結果、ThinkGenは複数の世代ベンチマークで堅牢で最先端のパフォーマンスを実現している。
論文参考訳（メタデータ） (2025-12-29T16:08:50Z)
LLM-MemCluster: Empowering Large Language Models with Dynamic Memory for Text Clustering [52.41664454251679]
大規模言語モデル(LLM)は、テキストクラスタリングを行う前例のない能力を提供することで、教師なしの学習を再構築している。既存のメソッドは、しばしば外部モジュールを持つ複雑なパイプラインに依存し、真にエンドツーエンドのアプローチを犠牲にする。 LLM-MemClusterは,クラスタリングをLLMネイティブタスクとして再認識する新しいフレームワークである。
論文参考訳（メタデータ） (2025-11-19T13:22:08Z)
On LLM-Assisted Generation of Smart Contracts from Business Processes [0.08192907805418582]
大規模言語モデル(LLM)は、ソフトウェアの生成方法の現実を変えました。本稿では、ビジネスプロセス記述からスマートコントラクトコードを生成するためのLCMの使用について探索的研究を行う。以上の結果から,LLMの性能はスマートコントラクト開発に必要な信頼性に劣ることがわかった。
論文参考訳（メタデータ） (2025-07-30T20:39:45Z)
Discrete Tokenization for Multimodal LLMs: A Comprehensive Survey [69.45421620616486]
本研究は、大規模言語モデル(LLM)用に設計された離散トークン化手法の最初の構造的分類と解析である。古典的および近代的なパラダイムにまたがる8つの代表的なVQ変種を分類し、アルゴリズムの原理を分析し、力学を訓練し、LLMパイプラインとの統合に挑戦する。コードブックの崩壊、不安定な勾配推定、モダリティ固有の符号化制約など、重要な課題を特定する。
論文参考訳（メタデータ） (2025-07-21T10:52:14Z)
Syntactic and Semantic Control of Large Language Models via Sequential Monte Carlo [90.78001821963008]
広い範囲のLMアプリケーションは、構文的制約や意味論的制約に適合するテキストを生成する必要がある。我々は、連続モンテカルロ(SMC)に基づく制御LM生成のためのアーキテクチャを開発する。我々のシステムはLew et al. (2023) のフレームワーク上に構築されており、言語モデル確率型プログラミング言語と統合されている。
論文参考訳（メタデータ） (2025-04-17T17:49:40Z)
The Compressor-Retriever Architecture for Language Model OS [20.56093501980724]
オペレーティングシステム(OS)のコアコンポーネントとして言語モデルを用いるという概念について検討する。このようなLM OSを実現する上で重要な課題は、寿命の長いコンテキストを管理し、セッション間のステートフルネスを確保することだ。本稿では,生涯のコンテキスト管理のために設計されたモデル非依存アーキテクチャであるコンプレッサー・レトリバーを紹介する。
論文参考訳（メタデータ） (2024-09-02T23:28:15Z)
CRAFT: Customizing LLMs by Creating and Retrieving from Specialized Toolsets [75.64181719386497]
大規模言語モデル(LLM)のためのツール作成・検索フレームワークであるCRAFTを提案する。タスク用に特別にキュレートされたツールセットを作成し、複雑なタスクを解決する能力を高めるためにこれらのセットからツールを取得するコンポーネントをLLMに装備する。本手法はフレキシブルに設計されており,既製のLCMを細かな調整なしに未確認領域やモダリティに適応するためのプラグアンドプレイ方式を提供する。
論文参考訳（メタデータ） (2023-09-29T17:40:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。