論文の概要: Write Once, Run Everywhere: The Axon DSL for Shape-Safe and Framework-Agnostic LLM Architectures
- arxiv url: http://arxiv.org/abs/2608.19889v1
- Date: Thu, 20 Aug 2026 10:56:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-21 20:28:51.535135
- Title: Write Once, Run Everywhere: The Axon DSL for Shape-Safe and Framework-Agnostic LLM Architectures
- Title(参考訳): Write Once, Run Everywhere: The Axon DSL for Shape-Safe and Framework-Agnostic LLM Architectures
- Abstract要約: AxonはHaskellのような構文を持つ強く型付けされたドメイン固有言語である。
特定のフレームワークのビジョンではなく、言語仕様のコラボレーションを基盤にすることで、Axonはオープンな協力を促進する。
135Mから32Bパラメータのモデルに対する467のベンチマーク実験では、PyTorchでは7%、Tritonでは12%、JAXでは91%、MLXでは107%のスピードアップを示した。
- 参考スコア(独自算出の注目度): 4.307697295291473
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The entire ecosystem of open-source language models effectively relies on a single platform. What if this platform was forced to shut down tomorrow? Implementing and maintaining efficient model definitions and translating them between different training and inference regimes is a resource-heavy task that severely limits model efficiency and portability, hindering both scaling and deployment. Here, we present Axon, a strongly typed domain-specific language with Haskell-like syntax, that enables a write-once, run everywhere paradigm for LLM architectures. By basing collaboration on a language specification rather than a specific framework's vision, Axon fosters open cooperation and empowers researchers to implement highly specialized architectures without giving up optimization infrastructure or accepting deployment lock-in. Axon allows for concise, auditable specifications that can be automatically compiled to standalone implementations for leading frameworks: PyTorch, PyTorch with Triton, JAX, MLX and vLLM. In 467 inference benchmarking experiments on models ranging from 135M to 32B parameters, we demonstrate median speedups of 7% on PyTorch, 12% on PyTorch with Triton, 91% on JAX, and 107% on MLX, compared to the reference implementations from Transformers. When deployed as native vLLM architectures with PagedAttention and KV-cache, Axon models achieve a 58% median speedup over Transformers implementations.
- Abstract(参考訳): オープンソース言語モデルのエコシステム全体が、事実上単一のプラットフォームに依存しています。
もし明日このプラットフォームを閉鎖せざるを得なかったら?
効率的なモデル定義の実装と維持、異なるトレーニングと推論の仕組みの相互変換は、モデルの効率性とポータビリティを著しく制限し、スケーリングとデプロイメントの両方を妨げるリソースの多いタスクです。
本稿では,Haskellに似た構文を持つ強く型付けされたドメイン固有言語であるAxonについて述べる。
特定のフレームワークのビジョンではなく、言語仕様のコラボレーションを基盤として、Axonはオープンな協力を促進し、最適化インフラストラクチャを諦めたり、デプロイメントロックインを受け入れることなく、研究者に高度に専門的なアーキテクチャを実装する権限を与える。
Axonは、PyTorch、PyTorch with Triton、JAX、MLX、vLLMといった主要なフレームワーク用のスタンドアロン実装に自動的にコンパイルできる簡潔で監査可能な仕様を可能にする。
135Mから32Bパラメータのモデルに対する467のベンチマーク実験では、トランスフォーマーの参照実装と比較して、PyTorchでは7%、Tritonでは12%、JAXでは91%、MLXでは107%の平均的なスピードアップを示した。
PagedAttentionとKV-cacheを備えたネイティブのvLLMアーキテクチャとしてデプロイされると、AxonモデルはTransformersの実装よりも58%の中央値のスピードアップを達成した。
関連論文リスト
- ClawArena-Team: Benchmarking Subagent Orchestration and Dynamic Workflows in Language-Model Agents [61.184954205350984]
ClawArena-Teamは、41のマルチターン、マルチモーダル、マルチエージェントシナリオのベンチマークである。
全体的なスコア -- Subagent-Management Score (SMS) -- は、タスクの正しさを最小限のプライマリとモダリティのルーティング因子によって乗算する。
論文 参考訳(メタデータ) (2026-06-30T06:06:08Z) - Agentic Framework for Deep Learning workload migration via In-Context Learning [0.5496900364175868]
大規模言語モデル(LLM)は、正確な操作のミスをしがちである。
In-Context Learning(ICL)とオラクル駆動の自己老化を組み合わせた完全自律システムを提案する。
我々のパイプラインは、ニューラルネットワークモジュール上で91%の数値等価性(ベースライン:9%、命令+自己老化:27%)を達成する。
論文 参考訳(メタデータ) (2026-06-14T19:41:57Z) - OneDrive: Unified Multi-Paradigm Driving with Vision-Language-Action Models [69.2503510410147]
予め訓練されたVLM上に構築した統合自動運転フレームワークを提案する。
トレーニング済みのVLMアテンションは、純粋言語モデリング以上の強い伝達性を示すことを示す。
エンドツーエンドの自動運転ベンチマークの実験は、最先端のパフォーマンスを示している。
論文 参考訳(メタデータ) (2026-04-20T07:50:00Z) - From Translation to Superset: Benchmark-Driven Evolution of a Production AI Agent from Rust to Python [2.7324157162184157]
本稿では,大規模な言語モデルでRustの目的をPythonに翻訳するLLM支援型連続コード翻訳手法を提案する。
我々は、Pythonポートが59/80 SWE-bench検証タスク(73.8%)をRustの56/80(70.0%)に対して解決し、現実世界のエージェントタスクでほぼ同等であることを実証した。
評価の結果,APIレイテンシが支配的な LLM ベースのエージェントでは,Python の表現性が 15.9 倍のコード削減を実現している。
論文 参考訳(メタデータ) (2026-04-13T14:21:44Z) - SAGAI-MID: A Generative AI-Driven Middleware for Dynamic Runtime Interoperability [1.2744523252873352]
SAGAI-MIDは、大規模言語モデル(LLM)を使用して実行時にスキーマミスマッチを動的に検出し、解決するFastAPIである。
SAGAI-MIDは、バージョンマイグレーション、IoTから分析へのブリッジング、および2つのプロバイダからの6つのLLM間のプロトコル変換にまたがる10の相互運用性シナリオで評価する。
論文 参考訳(メタデータ) (2026-03-30T17:46:41Z) - Interfaze: The Future of AI is built on Task-Specific Small Models [0.25489046505746704]
現代LLMアプリケーションをコンテキスト上で構築および動作する問題として扱うシステムであるInterfazeを提案する。
このスタックの上に薄いコントローラがあり、単一のOpenAIスタイルのエンドポイントを公開する。
このアーキテクチャでは、Interfaze-BetaはMMLU-Proで83.6%、MMLUで91.4%、GPQA-Diamondで81.3%、LiveCodeBench v5で57.8%、AIME-2025で90.0%を達成している。
論文 参考訳(メタデータ) (2026-02-04T00:36:37Z) - Spark-LLM-Eval: A Distributed Framework for Statistically Rigorous Large Language Model Evaluation [0.0]
本稿では,Apache Spark上に構築された分散評価フレームワークであるSpark-LLM-Evalを紹介する。
フレームワークとすべての評価コードはオープンソースとして利用可能である。
論文 参考訳(メタデータ) (2026-01-18T04:34:39Z) - A Multi-Language Object-Oriented Programming Benchmark for Large Language Models [61.267115598083315]
35の既存ベンチマークの調査では、3つの大きな不均衡が明らかになった。
85.7%は単一のプログラミング言語に重点を置いている。
94.3%は関数レベルまたはステートメントレベルのタスクのみを対象としている。
80%以上は平均10件未満のテストケースを含む。
論文 参考訳(メタデータ) (2025-09-30T11:30:08Z) - SwingArena: Competitive Programming Arena for Long-context GitHub Issue Solving [90.32201622392137]
We present SwingArena, a competitive evaluation framework for Large Language Models (LLMs)。
従来の静的ベンチマークとは異なり、SwingArenaはLLMをイテレーションとして組み合わせて、テストケースを作成し、継続的インテグレーション(CI)パイプラインを通じてパッチを検証するパッチとレビュアーを生成することで、ソフトウェアのコラボレーションプロセスをモデル化する。
論文 参考訳(メタデータ) (2025-05-29T18:28:02Z) - CRAB: Cross-environment Agent Benchmark for Multimodal Language Model Agents [49.68117560675367]
Crabは、クロス環境タスクをサポートするように設計された最初のベンチマークフレームワークである。
私たちのフレームワークは複数のデバイスをサポートし、Pythonインターフェースで簡単に任意の環境に拡張できます。
実験の結果、GPT-4oの1剤が38.01%の最高完成率を達成することが示された。
論文 参考訳(メタデータ) (2024-07-01T17:55:04Z) - Cheaply Evaluating Inference Efficiency Metrics for Autoregressive
Transformer APIs [66.30706841821123]
大規模言語モデル(LLM)は、自然言語処理において多くの最先端システムに電力を供給する。
LLMは、推論時でさえ非常に計算コストが高い。
モデル間での推論効率を比較するための新しい指標を提案する。
論文 参考訳(メタデータ) (2023-05-03T21:51:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。