論文の概要: GGUF-Metadata Prediction of Single-Sequence llama.cpp Throughput Across Three Systems

• arxiv url: http://arxiv.org/abs/2609.14864v1
• Date: Mon, 14 Sep 2026 00:31:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 07:15:06.018992
• Title: GGUF-Metadata Prediction of Single-Sequence llama.cpp Throughput Across Three Systems
• Title（参考訳）: GGUF-Metadataによる3つのシステム間の単一シーケンスラマ.cpp出力予測
• Abstract要約: GGUFメタデータからの単一シーケンスモデルスループットを,基準モデルに適合する量子化特異的スケール係数を持つ屋根線型予測器を用いて予測する。 このコホートは、2つのApple M4 Maxシステムにおける53のホストファイル構成とNVIDIA GTX 5080の318の位相深度測定を含む。
• 参考スコア（独自算出の注目度）: 3.3498577203654816
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We predict single-sequence model throughput from GGUF metadata using roofline-shaped predictors with quantization-specific scale factors fitted on reference models. The scored cohort comprises 318 phase-depth measurements from 53 host-file configurations on two Apple M4 Max systems and an NVIDIA RTX 5080. On host-specific held-out sets of four, five, and two configurations, an active-parameter decode model obtains 13.1%, 14.4%, and 36.1% mean absolute percentage error (MAPE), versus 49.4%, 55.3%, and 51.9% when charging total parameters. Leave-one-host-out coefficients fitted on the other two systems yield 11.6%, 16.8%, and 36.0% test MAPE. A low-bit model ladder changes ordering across runtime stacks. The P2 prefill baseline gives 18.7%, 22.2%, and 108.2% test MAPE. GGUF structure helps on all three systems, but fitted efficiencies are not universal.
• Abstract（参考訳）: GGUFメタデータからの単一シーケンスモデルスループットを,基準モデルに適合する量子化特異的スケール係数を持つ屋根線型予測器を用いて予測する。 スコアされたコホートは、2つのApple M4 Maxシステム上の53のホストファイル構成から318の位相深度測定とNVIDIA RTX 5080を含む。 ホスト固有の4、5、2構成のホールトアウトセットでは、アクティブパラメータデコードモデルは13.1%、14.4%、36.1%の平均絶対パーセンテージ誤差(MAPE)が49.4%、55.3%、51.9%となる。 他の2つのシステムに装着された1対1のホストアウト係数は11.6%、16.8%、36.0%のテストMAPEとなる。 低ビットモデルラグは、ランタイムスタック間の順序を変更します。 P2プリフィルベースラインは18.7%、22.2%、および108.2%のテストMAPEを提供する。 GGUF構造は3つのシステム全てに役立つが、適合効率は普遍的ではない。

関連論文リスト

• Parameter-Efficient Quantum NLP for Paraphrase Detection: Performance, Robustness, and Entanglement [0.05999777817331314]
  パラフレーズ検出のための10量子ビットハイブリッド量子古典変動回路の評価を行った。 QQPでは、回路は75.53% +/- 0.75%の精度を達成する。 MRPCでは、最適2層版がBERTベースの精度の92%に達し、パラメータコストは54,000ドルである。 これらの結果は,NLP用ハイブリッド変分回路の適応型マルチベンチマーク実証実験として最初のものである。
  論文  参考訳（メタデータ） (2026-09-13T14:06:49Z)
• Interpretable machine learning for predicting splitting strength of asphalt concrete: insights from SHAP analysis [2.5274533414341493]
  本稿では,アスファルトコンクリートの分裂強度(ST)を予測するための解釈可能な機械学習フレームワークを提案する。 TabPFN、ANN、SVR、RF、XGBoost、LightGBMの6つの機械学習モデルを開発し、比較した。 その結果、TabPFNはテストセットで最高の総合性能を示し、RMSEは0.28、MAEは0.21、MAPEは18.01%、MADは0.14、R2は0.88、最高合成スコアは0.91であった。
  論文  参考訳（メタデータ） (2026-08-02T03:05:54Z)
• Multi-Domain Physics-Based MDO of Multirotor UAVs: A Deterministic Framework for Discrete COTS Sizing [1.6114012813668932]
  本稿では物理に基づくマルチディシプリナ設計最適化(MDO)エンジンであるAeroEvalについて述べる。 エンジンは、連続サイズ最適化を物理的に購入可能な商用オフザシェルフ(COTS)コンポーネントにマップする。 バッテリーの質量は単パックプラットフォームで7.9%の範囲で予測される。
  論文  参考訳（メタデータ） (2026-07-24T03:52:36Z)
• SLAI T-Rex: Full-Parameter Post-training of the DeepSeek-V4 Family on Ascend SuperPOD [91.71050339479261]
  本稿では,Ascend NPU SuperPODにおけるエンドツーエンド最適化手法を提案する。 モデルレベルの並列性、計算通信オーケストレーション、低レベルのカーネル実行にまたがる階層的最適化フレームワークを開発した。 その結果、34.22%のモデルFLOP(Model FLOP)利用が達成され、オープンソースのベースラインレシピよりも2.93倍改善された。
  論文  参考訳（メタデータ） (2026-07-22T13:49:17Z)
• MemDelta: Controlled Baselines and Hidden Confounds in Agent Memory Evaluation [8.38765074765613]
  エージェントメモリシステムは、RAGとフルコンテキストベースラインに対してますます評価される。 報告されたゲインは、しばしばメモリメソッドの変更と言語モデル、埋め込みモデル、または検索パイプラインの変更を混合する。 我々は,LongMemEval-S(500の質問,50以上のセッション,3つのモデルファミリ)において,一度に1つのコンポーネントを変更する制御された評価プロトコルであるMemDeltaを提案する。
  論文  参考訳（メタデータ） (2026-06-29T07:51:22Z)
• THEIA: Learning Complete Kleene Three-Valued Logic in a Pure-Neural Modular Architecture [0.0]
  THEIAは2.75Mのモジュラー・ニューラルアーキテクチャで、外部のシンボル推論や手書きのK3ゲートプリミティブを使わずにタスクデータから完全Kleene 3値論理(K3)真理表を学習する。 トランスフォーマーのベースラインは39の規則すべてで99%に到達し、フラットは0.04pp以内のフェーズ1の精度でTheIAと一致している。
  論文  参考訳（メタデータ） (2026-04-13T10:44:15Z)
• Towards a Science of Scaling Agent Systems [79.64446272302287]
  エージェント評価の定義を定式化し,エージェント量,コーディネーション構造,モデル,タスク特性の相互作用として,スケーリング法則を特徴付ける。 協調指標を用いて予測モデルを導出し,R2=0をクロスバリデーションし,未知のタスク領域の予測を可能にする。 ツールコーディネーショントレードオフ: 固定的な計算予算の下では, ツールヘビータスクはマルチエージェントのオーバーヘッドから不均衡に悩まされ, 2) 能力飽和: 調整が減少または負のリターンを, 単一エージェントのベースラインが45%を超えると達成できる。
  論文  参考訳（メタデータ） (2025-12-09T06:52:21Z)
• The Ninth NTIRE 2024 Efficient Super-Resolution Challenge Report [180.94772271910315]
  本稿は,NTIRE 2024の課題を概観し,効率的な単一画像超解像(ESR)ソリューションに焦点をあてる。 主な目的は、ランタイム、パラメータ、FLOPなどの様々な側面を最適化するネットワークを開発することである。 このチャレンジには262人の登録参加者が参加し、34チームが有効な応募を行った。
  論文  参考訳（メタデータ） (2024-04-16T07:26:20Z)
• A Meta-Learning Approach to Predicting Performance and Data Requirements [163.4412093478316]
  本稿では,モデルが目標性能に達するために必要なサンプル数を推定する手法を提案する。 モデル性能を推定するデファクト原理であるパワー法則が,小さなデータセットを使用する場合の誤差が大きいことが判明した。 本稿では,2つのデータを異なる方法で処理するPPL法について紹介する。
  論文  参考訳（メタデータ） (2023-03-02T21:48:22Z)
• Scaling & Shifting Your Features: A New Baseline for Efficient Model Tuning [126.84770886628833]
  既存の微調整法は、事前訓練されたモデルの全てのパラメータ(フル微調整)をチューニングするか、最後の線形層(線形プローブ)のみをチューニングする。 そこで本研究では,SSFと呼ばれるパラメータ効率の高いファインタニング手法を提案する。
  論文  参考訳（メタデータ） (2022-10-17T08:14:49Z)
• Alexa Teacher Model: Pretraining and Distilling Multi-Billion-Parameter Encoders for Natural Language Understanding Systems [63.713297451300086]
  本研究では,700Mから9.3Bまでの非埋め込みパラメータ数を持つ事前学習エンコーダの大規模実験結果について述べる。 その後、17M-170Mパラメータからより小さなモデルに蒸留し、仮想アシスタントシステムの自然言語理解(NLU)コンポーネントに応用した。
  論文  参考訳（メタデータ） (2022-06-15T20:44:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。