論文の概要: Measure Once, Model Everywhere: Model-Based Per-Request Resource Consumption for HTTP
- arxiv url: http://arxiv.org/abs/2607.01246v1
- Date: Mon, 01 Jun 2026 08:19:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-05 17:01:29.633914
- Title: Measure Once, Model Everywhere: Model-Based Per-Request Resource Consumption for HTTP
- Title(参考訳): 一度に測定し、どこでもモデルを作る: HTTPのモデルベースリクエスト毎のリソース消費
- Abstract要約: 我々は、詳細な生産力を必要としない、リソース消費量とHTTPリクエスト当たりの$COe$を推定するためのモデルベースのアプローチを提案する。
本機構は, モデルレジストリをロードし, エネルギー, グリッド強度, 実施エミッション, 総要求レベルの影響に対する要求毎のメタデータを出力する拡張として実装する。
評価の結果,本手法は運用可能であり,オーバーヘッドの低減を図っている。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent proposals for HTTP-based sustainability disclosure focus on \textbf{what} environmental information should be transmitted at the protocol boundary, for example through response headers, but leave open the practical question of \textbf{how} such per-request values can be generated in realistic deployments. This paper addresses that implementation gap. We present a model-based approach for estimating resource consumption and $CO_2e$ per HTTP request without requiring fine-grained production power telemetry. The approach benchmarks endpoints offline under controlled conditions, derives compact endpoint-specific energy models from observable request features, and evaluates these models online at the HTTP server boundary. We implement this mechanism as an nginx extension that loads a JSON model registry and emits per-request metadata for energy, grid intensity, embodied emissions, and total request-level impact. We show that heterogeneous request classes can be represented with constant, linear, and piecewise models, and that the same approach extends to endpoints whose dominant cost driver is only visible at the application layer through inputs such as token counts. Our evaluation indicates that the approach is operationally feasible and introduces only low runtime overhead.
- Abstract(参考訳): HTTPベースのサステナビリティ開示の最近の提案は、例えばレスポンスヘッダを通じてプロトコル境界で送信されるべきである。
本稿ではその実装ギャップに対処する。
本稿では、細粒度生産電力テレメトリを必要とせずに、リソース消費量とHTTPリクエストあたりのCO_2e$を推定するためのモデルベースのアプローチを提案する。
このアプローチは、制御された条件下でエンドポイントをオフラインにベンチマークし、観測可能な要求機能からコンパクトなエンドポイント固有のエネルギーモデルを導き、これらのモデルをHTTPサーバ境界でオンライン評価する。
我々は、このメカニズムを、JSONモデルレジストリをロードし、エネルギ、グリッド強度、エボダイドエミッション、総要求レベルの影響に対する要求毎のメタデータを出力するnginx拡張として実装する。
我々は、不均一な要求クラスを定数、線形、断片的なモデルで表現できることを示し、同じアプローチがトークン数などの入力を通じてアプリケーション層で支配的なコストドライバがのみ見えるエンドポイントにまで拡張できることを示します。
我々の評価では、このアプローチは運用上実現可能であり、ランタイムオーバーヘッドが低いだけであることを示している。
関連論文リスト
- Open Evaluation Agent: Efficient and Promptable Evaluation of Visual Generative Models [74.1961755473754]
既存の評価手法は、特定のユーザのニーズを見落とし、明確な説明なしに数値的な結果を提供する厳密なパイプラインに依存している。
本研究では,効率的,動的,多ラウンドな評価に人間的な戦略を用いる評価エージェントフレームワークを提案する。
その結果,評価エージェントは評価時間を従来の手法の10%に短縮し,比較結果が得られた。
論文 参考訳(メタデータ) (2026-08-10T14:42:10Z) - Beyond Parameter Aggregation: Semantic Consensus for Federated Fine-Tuning of LLMs [12.534172413885342]
大規模言語モデルのフェデレートされた微調整は、パラメータ集約問題として一般的に定式化される。
我々は、パラメータではなくモデル行動を通じて協調を媒介する代替の定式化を考える。
本稿では,この手法が強結合型微調整ベースラインと一致することを示す理論的解析と実験結果を示す。
論文 参考訳(メタデータ) (2026-05-12T09:41:40Z) - Query-efficient model evaluation using cached responses [0.2994962964425238]
データカーネル・パースペクティブ・スペース(DKPS)に基づくキャッシュモデル応答を利用したベンチマーク性能の予測手法を提案する。
DKPSに基づく手法は,クエリ予算を大幅に削減したベースラインと同じ平均絶対誤差を達成できることを実証する。
提案手法は,参照モデルにおける適合度を最大化するクエリ群を選択するためのオフライン手法である。
論文 参考訳(メタデータ) (2026-05-08T01:24:06Z) - Replacing Parameters with Preferences: Federated Alignment of Heterogeneous Vision-Language Models [63.70401095689976]
VLM(Vision-Language Models)は、医療や金融といったプライバシに敏感な分野において大きな可能性を秘めている。
ヘテロジニアスVLMのためのGRPOとMixture-of-Rewardsを組み合わせた協調アライメントフレームワークであるMoRを提案する。
MoRは、一般化とクロスクライアント適応性において、フェデレートされたアライメントベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2026-05-05T07:02:50Z) - Scalable Offline Model-Based RL with Action Chunks [60.80151356018376]
モデルに基づく強化学習が、オフラインRLにおける複雑で長期のタスクに対処するためのスケーラブルなレシピを提供するかどうかを検討する。
我々はこのレシピを textbfModel-based RL with Action Chunks (MAC) と呼ぶ。
MAC はオフラインモデルベース RL アルゴリズムの中で,特に長期的タスクにおいて,最高の性能を発揮することを示す。
論文 参考訳(メタデータ) (2025-12-08T23:26:29Z) - SERFLOW: A Cross-Service Cost Optimization Framework for SLO-Aware Dynamic ML Inference [0.15039745292757667]
以前の作業は、仮想マシン(VM)のコールドスタート、ロングテールなサービス時間分布でのリクエストなど、現実の要素をしばしば見落としています。
我々は、各MLクエリ(要求)を、内部または最終出口で終了するスパースモデルのパラメータの連続ブロックを構成する非巡回的なステージ列をトラバースするものとしてモデル化する。
SERFLOWは、Fベースのサーバレス機能(コンテナ)を活用し、各ステージで終了するリクエストのごく一部を占めるステージ固有のリソースプロビジョニングを使用することで、この問題に対処する。
論文 参考訳(メタデータ) (2025-10-31T05:10:33Z) - Leveraging Generative Models for Real-Time Query-Driven Text Summarization in Large-Scale Web Search [54.987957691350665]
クエリ駆動テキスト要約(QDTS)は、与えられたクエリに基づいてテキスト文書から簡潔で情報的な要約を生成することを目的としている。
従来の抽出的要約モデルは、主にランク付け候補の要約セグメントに基づいており、産業応用において支配的なアプローチとなっている。
産業Web検索におけるリアルタイムQDTSに対処するための生成モデルの適用を開拓するための新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2025-08-28T08:51:51Z) - Retrieval-augmented reasoning with lean language models [5.615564811138556]
複雑なドメイン固有のクエリを解釈できる検索拡張会話エージェントを開発した。
本システムでは,細調整されたQwen2.5-Instructモデルと高密度レトリバーを統合した。
すべての実装の詳細とコードは、ドメイン間のサポートと適応のために公開されています。
論文 参考訳(メタデータ) (2025-08-15T10:38:15Z) - Chain-of-Skills: A Configurable Model for Open-domain Question Answering [79.8644260578301]
検索モデルは、現実世界の知識集約的なタスクに欠かせない要素である。
最近の研究はカスタマイズされたメソッドに焦点を合わせ、モデルの転送可能性とスケーラビリティを制限している。
本稿では,各モジュールがデータセット間で再利用可能なキースキルに対応するモジュールレトリバーを提案する。
論文 参考訳(メタデータ) (2023-05-04T20:19:39Z) - Earning Extra Performance from Restrictive Feedbacks [41.05874087063763]
モデルチューニング問題の形式を記述するために,rerestriCTive feeddbacks (EXPECTED) から emphEarning eXtra PerformancE という課題を設定した。
モデルプロバイダの目標は、最終的にフィードバックを利用することで、ローカルユーザに対して満足のいくモデルを提供することです。
本稿では,パラメータ分布を探索し,モデルパラメータに関するモデル性能の幾何を特徴付けることを提案する。
論文 参考訳(メタデータ) (2023-04-28T13:16:54Z) - A Generative Approach for Production-Aware Industrial Network Traffic
Modeling [70.46446906513677]
ドイツにあるTrumpf工場に配備されたレーザー切断機から発生するネットワークトラフィックデータについて検討した。
我々は、トラフィック統計を分析し、マシンの内部状態間の依存関係をキャプチャし、ネットワークトラフィックを生産状態依存プロセスとしてモデル化する。
可変オートエンコーダ(VAE)、条件付き可変オートエンコーダ(CVAE)、生成逆ネットワーク(GAN)など、様々な生成モデルの性能の比較を行った。
論文 参考訳(メタデータ) (2022-11-11T09:46:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。