論文の概要: Cost-Optimal Foundation Model Deployment Portfolio for Transportation Management
- arxiv url: http://arxiv.org/abs/2607.13239v1
- Date: Tue, 14 Jul 2026 20:01:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-16 16:39:12.578877
- Title: Cost-Optimal Foundation Model Deployment Portfolio for Transportation Management
- Title(参考訳): 交通管理のためのコスト最適ファンデーションモデル展開ポートフォリオ
- Abstract要約: 大規模言語モデル (LLM) や視覚言語モデル (VLM) を含む基礎モデルは、交通管理センター (TMC) の業務にますます利用されている。
TMC関数に複数のモデルをデプロイすると、ポートフォリオの疑問が持ち上がる: どのモデルが各関数に、どのデプロイモードに、どの共有ハードウェア予算の下で機能するか?
我々はこれをファンデーションモデル展開ポートフォリオ(FMDP)問題として定式化し、共有容量に対する機能毎の品質、レイテンシ、安全性の制約を考慮に入れた総所有コスト(TCO)を最小化する混合整数プログラムを定式化する。
- 参考スコア(独自算出の注目度): 8.276086419039556
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Foundation models, including large language models (LLMs) and vision-language models (VLMs), are increasingly used for transportation management center (TMC) tasks such as anomaly detection, incident reporting, and traveler information. Deploying multiple such models across TMC functions raises a portfolio question: which model should serve each function, in which deployment mode, and under what shared hardware budget? We formulate this as the Foundation Model Deployment Portfolio (FMDP) problem, a mixed-integer program minimizing total cost of ownership (TCO) subject to per-function quality, latency, and safety constraints over shared GPU capacity. We prove the problem NP-hard by reduction from the 0-1 knapsack problem and propose a polynomial-time greedy heuristic. In an illustrative case study with five TMC functions and 19 candidate (model, mode) pairs, FMDP identifies a mixed portfolio costing $34/mo (97% below the cheapest feasible all-closed-API baseline) by routing four functions to open-source APIs and the one function whose quality floor no open-source model meets to a closed API. Break-even analysis shows that on-premise GPU investment becomes reasonable only above approximately 309 vision queries/hour or if API prices double.
- Abstract(参考訳): 大規模言語モデル(LLM)や視覚言語モデル(VLM)を含む基礎モデルは、異常検出、インシデントレポート、旅行者情報といった交通管理センター(TMC)の業務にますます利用されている。
TMC関数に複数のモデルをデプロイすると、ポートフォリオの疑問が持ち上がる: どのモデルが各関数に、どのデプロイモードに、どの共有ハードウェア予算の下で機能するか?
我々はこれを、ファンデーションモデルデプロイポートフォリオ(FMDP)問題として定式化し、GPUキャパシティの共有に対する機能毎の品質、レイテンシ、安全性の制約を考慮に入れた総所有コスト(TCO)を最小化する混合整数プログラムを定式化する。
この問題を0-1knapsack問題から減らしてNPハードを証明し,多項式時間グリーディヒューリスティックを提案する。
5つのTMC関数と19の候補(モデル、モード)ペアによる実証的なケーススタディで、FMDPは、4つの関数をオープンソースAPIにルーティングすることで、34/mo(最も安い全閉鎖APIベースラインより97%低い)の混合ポートフォリオを特定した。
Break-even分析によると、オンプレミスのGPU投資は、約309のヴィジュアルクエリ/時間以上、あるいはAPIの価格が倍になった場合にのみ、合理的になる。
関連論文リスト
- All in One: Generative Modeling as Mean-Field Game Design [9.305417960678357]
平均場ゲーム(MFG)は、連続時間生成モデリングにおける統一レンズを提供する。
コストが主なAPIであるオープンソースライブラリを開発し、4つの構成可能なコスト関数で12モデルが指定され、トレーニングループ、log-Jacobian、reverse-ODEサンプルが自動的に共有される。
さらに、モードカバレッジを促進するための新しいコスト関数であるDI-Flowを提案し、MFG-dynamics行でのニューラルネットワークトレーニングを大幅に上回る学習ベースの解決器を提供する。
論文 参考訳(メタデータ) (2026-07-25T03:57:31Z) - Large Databases Need Small, Open-Weight Language Models [1.2631497223901655]
プロプライエタリなAPIを中心に構築された言語モデルは、トークンベースのコストモデルで運用されることが多い。
これは、LM強化演算子が1つの実験セットに対して10,000ドルを超えるコストを発生させることができる大規模なデータベースの文脈で高価になる。
我々は16GBのVRAMでローカルに動作する量子化されたオープンウェイトモデルが、低レイテンシでクローズドソースモデルと同等か、あるいは超えることを実証した。
論文 参考訳(メタデータ) (2026-06-30T15:25:10Z) - Embodied-R1.5: Evolving Physical Intelligence via Embodied Foundation Models [63.96252564303143]
Embodied-R1.5は統合されたEmbodied Foundation Model(EFM)であり、包括的エンボディド推論機能を統合する。
我々は15B以上のトークンからなる大規模データシステムを構築し、マルチタスクバランスのRLレシピを設計する。
8Bパラメータしか持たず、Embodied-R1.5 SOTAは24のVLMベンチマークのうち16で、Gemini-Robotics-ER-1.5やGPT-5.4といった主要なモデルを上回った。
論文 参考訳(メタデータ) (2026-06-09T18:07:50Z) - Efficient LLM Collaboration via Planning [56.081879390960204]
小規模で大規模なモデルでは、プランナーと実行担当者として交代で行動し、タスクを協調的に解決するために、多段階のカスケードでプランを交換する。
私たちはCOPEが大規模プロプライエタリモデルに匹敵するパフォーマンスを実現し,推論APIのコストを大幅に削減できることを実証した。
論文 参考訳(メタデータ) (2025-06-13T08:35:50Z) - OptMerge: Unifying Multimodal LLM Capabilities and Modalities via Model Merging [124.91183814854126]
モデルマージは、複数のエキスパートモデルをひとつのモデルに組み合わせようとしている。
本稿ではMLLMのトレーニングと評価のタスクを明確に分割したモデルマージ研究のベンチマークを紹介する。
モデルマージは、トレーニングデータを必要とせずに改善されたMLLMを構築するための有望な方法であることがわかった。
論文 参考訳(メタデータ) (2025-05-26T12:23:14Z) - Modeling Multi-Task Model Merging as Adaptive Projective Gradient Descent [72.10987117380584]
複数のエキスパートモデルをマージすることは、元のデータにアクセスせずにマルチタスク学習を実行するための有望なアプローチを提供する。
既存のメソッドは、競合を引き起こす一方で、パフォーマンスにとって重要なタスク固有の情報を捨てている。
我々の手法は従来の手法より一貫して優れており、視覚領域とNLP領域の両方において様々なアーキテクチャやタスクにまたがって最先端の結果が得られます。
論文 参考訳(メタデータ) (2025-01-02T12:45:21Z) - $M^3EL$: A Multi-task Multi-topic Dataset for Multi-modal Entity Linking [11.334577756093923]
我々はデータセット構築パイプラインを提案し、MELのための大規模データセットであるM3EL$を発行する。
M3EL$には79,625のインスタンスが含まれ、9つの多様なマルチモーダルタスクと5つのトピックが含まれている。
我々のデータセットはこれらの問題に効果的に対処し、$textitCLIP_textitND$モデルに$M3EL$を微調整すると精度が大幅に向上する。
論文 参考訳(メタデータ) (2024-10-08T10:52:23Z) - Improving Large Models with Small models: Lower Costs and Better Performance [81.55672406002715]
我々は,小型モデルと大規模モデルの協調のための一般的なパラダイムであるData Shunt$+$ (DS$+$)を提案する。
例えば、ChatGPTはAmazon Productの感情分析で9,43%の精度を達成し、DS$+は9,5.64%の精度を達成している。
論文 参考訳(メタデータ) (2024-06-15T14:44:43Z) - MAP: Low-compute Model Merging with Amortized Pareto Fronts via Quadratic Approximation [80.47072100963017]
Amortized Pareto Front (MAP) を用いた新しい低演算アルゴリズム Model Merging を導入する。
MAPは、複数のモデルをマージするためのスケーリング係数のセットを効率的に識別し、関連するトレードオフを反映する。
また,タスク数が比較的少ないシナリオではベイジアンMAP,タスク数の多い状況ではNested MAPを導入し,計算コストを削減した。
論文 参考訳(メタデータ) (2024-06-11T17:55:25Z) - Herd: Using multiple, smaller LLMs to match the performances of proprietary, large LLMs via an intelligent composer [1.3108652488669732]
オープンソースモデルの群れは、インテリジェントルータを介して、プロプライエタリなモデルのパフォーマンスに適合または超えることができることを示す。
GPTがクエリに答えられない場合、Herdは少なくとも40%の確率でモデルを特定できる。
論文 参考訳(メタデータ) (2023-10-30T18:11:02Z) - MM-SHAP: A Performance-agnostic Metric for Measuring Multimodal
Contributions in Vision and Language Models & Tasks [20.902155496422417]
視覚と言語モデルは、各モダリティにおける関連情報に焦点をあてるのではなく、個々のモダリティにおける不正な指標を利用する。
MM-SHAPは,シェープリー値に基づく性能非依存のマルチモーダリティスコアである。
論文 参考訳(メタデータ) (2022-12-15T21:41:06Z) - Evaluating model-based planning and planner amortization for continuous
control [79.49319308600228]
我々は、モデル予測制御(MPC)と学習モデルとモデルフリーポリシー学習を組み合わせたハイブリッドアプローチを採っている。
モデルフリーエージェントは高いDoF制御問題においても強いベースラインであることがわかった。
モデルに基づくプランナを,パフォーマンスを損なうことなく,計画が損なわれるようなポリシーに置き換えることが可能であることを示す。
論文 参考訳(メタデータ) (2021-10-07T12:00:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。