論文の概要: Reducing Cold-Start Latency in Serverless Applications via Dynamic Slicing
- arxiv url: http://arxiv.org/abs/2609.14040v1
- Date: Sat, 12 Sep 2026 16:49:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 07:15:05.645199
- Title: Reducing Cold-Start Latency in Serverless Applications via Dynamic Slicing
- Title（参考訳）: 動的スライシングによるサーバーレスアプリケーションのコールドスタートレイテンシ低減
- Abstract要約: PyXtrimは、デブロ化によってサーバーレスアプリケーションのコールドスタート遅延を低減するシステムである。
動的機能とネイティブ拡張の広範な使用が、従来の静的デブロを特に困難にしている、サーバレスアプリケーションの主要な言語であるPythonに重点を置いています。
AWS上の31のアプリケーションで、PyXtrimはコールドスタートのレイテンシを21.7%削減し、ピークメモリ使用量は中央値で17.1%削減した。
- 参考スコア（独自算出の注目度）: 4.649765341421346
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: We present PyXtrim, a system that reduces the cold-start latency of serverless applications through debloating. We focus on Python, a dominant language for serverless applications whose dynamic features and extensive use of native extensions make traditional static debloating particularly challenging. PyXtrim frames debloating as a dynamic slicing problem, using the application's externally visible behavior as the slicing criterion. Everything outside the resulting slice is removed, both from the application and its dependencies. Our key technical contribution is that the slice is computed by a cross-language dynamic dependence engine that tracks data and control dependences across Python and native code and identifies operations that interact with the operating system, which form the slicing criterion. As a result, PyXtrim can effectively handle real-world applications that rely on dynamic features such as reflection, interoperate with native code and interact with system resources. Across 31 applications on AWS Lambda, PyXtrim reduces cold-start latency by 21.7% and peak memory usage by 17.1% at the median. This is more than double the reduction achieved by the state of the art, while debloating each application in minutes.
- Abstract（参考訳）: PyXtrimは、デブロ化によってサーバーレスアプリケーションのコールドスタート遅延を低減するシステムである。
動的機能とネイティブ拡張の広範な使用が、従来の静的デブロを特に困難にしている、サーバレスアプリケーションの主要な言語であるPythonに重点を置いています。
PyXtrimフレームは動的スライシングの問題であり、アプリケーションの外部から見える振る舞いをスライシング基準として利用している。
結果のスライス以外はすべて、アプリケーションと依存関係の両方から削除されます。
我々の重要な技術的貢献は、スライスが言語間動的依存エンジンによって計算され、Pythonとネイティブコード間のデータと制御依存を追跡し、オペレーティングシステムと相互作用する操作を特定し、スライス基準を形成することです。
その結果、PyXtrimはリフレクションのような動的な機能に依存し、ネイティブコードと相互運用し、システムリソースと対話する現実世界のアプリケーションを効果的に処理できる。
AWS Lambda上の31のアプリケーションで、PyXtrimはコールドスタートのレイテンシを21.7%削減し、ピークメモリ使用量は中央値で17.1%削減した。
これは、最先端技術によって達成された2倍以上の削減であり、各アプリケーションを数分でデブロする。
関連論文リスト
- CUA-Universe: A Scalable and Dynamic Environment for Hybrid GUI+CLI Agents [57.098070497654874]
コンピュータ利用エージェントはOSWorldやAndroidWorldのようなベンチマークに進歩してきたが、いまだGUIを通して動作している。
本稿では,スケーラブルな環境間パイプラインCUA-Universeを紹介する。
論文 参考訳（メタデータ） (2026-09-04T17:26:18Z) - PopPy: Opportunistically Exploiting Parallelism in Python Compound AI Applications [23.38594451793918]
PopPyは、Pythonアプリケーションにおける並列化の機会を明らかにするシステムである。
現実世界の複合AIアプリケーションセットでは、PopPyはエンドツーエンドの実行時間で最大6.4倍のスピードアップを達成する。
論文 参考訳（メタデータ） (2026-05-18T17:33:50Z) - Stroke Lesion Segmentation in Clinical Workflows: A Modular, Lightweight, and Deployment-Ready Tool [0.08699280339422537]
nnU-Netのようなディープラーニングフレームワークは、脳病変のセグメンテーションにおいて最先端のパフォーマンスを達成するが、臨床展開は困難である。
textitStrokeSegは、研究グレードの脳梗塞のセグメンテーションモデルをデプロイ可能なアプリケーションに変換するモジュール式で軽量なフレームワークである。
論文 参考訳（メタデータ） (2025-10-28T12:56:48Z) - Catalpa: GC for a Low-Variance Software Stack [0.0]
実際には、アプリケーションの優れたパフォーマンスは、よりバイナリ関数と見なされる。
本稿では,Bosqueプログラミング言語とランタイムのための新しいガベージコレクタ,Catalpaコレクタを提案する。
論文 参考訳（メタデータ） (2025-09-16T18:07:21Z) - Visual Perception Engine: Fast and Flexible Multi-Head Inference for Robotic Vision Tasks [6.943057640797408]
Visual Perception Engine (VPEngine)は、開発者のアクセシビリティを維持しながら、視覚的マルチタスクのための効率的なGPU使用を可能にするために設計されたモジュラーフレームワークである。
我々のフレームワークアーキテクチャは、並列に実行される複数のタスク固有のモデルヘッド間で効率的に共有される画像表現を抽出する共有基盤モデルバックボーンを活用している。
実装例では、NVIDIA Jetson Orin AGX forRT最適化モデル上で、エンド・ツー・エンドのリアルタイム性能を$geq$50 Hzで示す。
論文 参考訳（メタデータ） (2025-08-15T16:42:23Z) - CSGO: Generalized Optimization for Cold Start in Wireless Collaborative Edge LLM Systems [62.24576366776727]
本稿では,全体の推論遅延を最小限に抑えるために,遅延を考慮したスケジューリングフレームワークを提案する。
提案手法は,ベースライン戦略と比較して,コールドスタート遅延を著しく低減することを示す。
論文 参考訳（メタデータ） (2025-08-15T07:49:22Z) - Real-Time Execution of Action Chunking Flow Policies [49.1574468325115]
本稿では,アクションインタラクションシステムの非同期実行を可能にする新しい推論時アルゴリズムを提案する。
これは、再トレーニングなしでボックスから実行する拡散またはVLAベースのシステムに適用できる。
その結果、RTCは高速で、性能が高く、推論操作に対して一意に堅牢であることがわかった。
論文 参考訳（メタデータ） (2025-06-09T01:01:59Z) - A Simple Linear Patch Revives Layer-Pruned Large Language Models [58.056251480151104]
大規模言語モデル(LLM)の圧縮技術として広く使われているレイヤプルーニング(Layer pruning)が登場している。
textscLinearPatchはプルーニングインターフェイスで2つの操作を1つの行列に乗算する。
パッチはメモリ効率の悪いオフライン蒸留によって5Kの未ラベルのサンプルでさらに洗練され、1つのGPUでわずか30分で95.16%に保留できる。
論文 参考訳（メタデータ） (2025-05-30T15:06:08Z) - LibProf: A Python Profiler for Improving Cold Start Performance in Serverless Applications [0.08388591755871733]
コールドスタートのレイテンシは、Pythonベースのサーバレスアプリケーションのエンドツーエンドのパフォーマンスに影響する。
動的プログラム解析を用いて非効率性を識別するPythonプロファイラであるLibProfを紹介する。
LibProfは、コールドスタート実行時の最大2.26倍の高速化とメモリ使用量の1.51倍の削減を実現した。
論文 参考訳（メタデータ） (2024-06-17T16:50:23Z) - Green AI: A Preliminary Empirical Study on Energy Consumption in DL
Models Across Different Runtime Infrastructures [56.200335252600354]
トレーニング済みのモデルを、ネイティブな開発環境とは異なる環境にデプロイするのは、一般的なプラクティスです。
これにより、インフラを含むONNXや標準フォーマットとして機能するONNXなどの交換フォーマットが導入された。
論文 参考訳（メタデータ） (2024-02-21T09:18:44Z) - Latency-aware Unified Dynamic Networks for Efficient Image Recognition [72.8951331472913]
LAUDNetは動的ネットワークの理論的および実用的な効率ギャップを橋渡しするフレームワークである。
3つの主要な動的パラダイム - 適応型計算、動的層スキップ、動的チャネルスキップ - を統合している。
これにより、V100,3090やTX2 GPUのようなプラットフォーム上で、ResNetのようなモデルの遅延を50%以上削減できる。
論文 参考訳（メタデータ） (2023-08-30T10:57:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。