論文の概要: Performance best practices using Java and AWS Lambda
- arxiv url: http://arxiv.org/abs/2310.16510v1
- Date: Wed, 25 Oct 2023 09:58:07 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-26 15:35:21.924705
- Title: Performance best practices using Java and AWS Lambda
- Title(参考訳): JavaとAWS Lambdaを使用したパフォーマンスベストプラクティス
- Authors: Juan Mera Men\'endez, Martin Bartlett
- Abstract要約: 最も広く使用されているFサービスはAWS Lambdaで、Amazon Web Servicesが提供している。
これら2つの技術を併用する際の大きな問題は、大きなレイテンシと恐ろしいコールドスタートである。
Lambda関数のパフォーマンスを大幅に改善するために、さまざまなテクニック、戦略、アプローチが研究される。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Despite its already widespread popularity, it continues to gain adoption.
More and more developers and architects continue to adopt and apply the FaaS
(Function as a Service) model in cloud solutions. The most extensively used
FaaS service is AWS Lambda, provided by Amazon Web Services. Moreover, despite
the new trends in programming languages, Java still maintains a significant
share of usage. The main problem that arises when using these two technologies
together is widely known: significant latencies and the dreaded cold start.
However, it is possible to greatly mitigate this problem without dedicating too
much effort. In this article, various techniques, strategies and approaches
will be studied with the aim of reducing the cold start and significantly
improving the performance of Lambda functions with Java. Starting from a system
that involves AWS lambda, java, DynamoDB and Api Gateway. Each approach will be
tested independently, analyzing its impact through load tests. Subsequently,
they will be tested in combination in an effort to achieve the greatest
possible performance improvement.
- Abstract(参考訳): 既に広く普及しているが、引き続き普及している。
ますます多くの開発者やアーキテクトがFaaS(Function as a Service)モデルをクラウドソリューションに適用し続けている。
最も広く使用されているFaaSサービスは、Amazon Web Servicesが提供するAWS Lambdaである。
さらに、プログラミング言語の新しいトレンドにもかかわらず、Javaは依然としてかなりの使用率を維持している。
これら2つの技術を一緒に使用する際に生じる主な問題は、大きなレイテンシと恐ろしいコールドスタートである。
しかし、多くの労力を費やすことなく、この問題を大幅に軽減することができる。
本稿では,コールドスタートの削減とLambda関数のJavaによるパフォーマンス向上を目的とした,さまざまな技術,戦略,アプローチについて検討する。
AWS lambda、java、DynamoDB、Api Gatewayを含むシステムから始める。
各アプローチは独立してテストされ、負荷テストによって影響を分析する。
その後、最大のパフォーマンス改善を達成するために、それらを組み合わせてテストします。
関連論文リスト
- COTS: Connected OpenAPI Test Synthesis for RESTful Applications [0.0]
OpenAPI仕様のための(i)ドメイン固有言語を導入し、(ii)方法論をサポートするツールを導入します。
私たちのツールはCOTSと呼ばれ、(ランダムに)モデルベースのテスト実行を生成し、ソフトウェア欠陥を報告します。
論文 参考訳(メタデータ) (2024-04-30T15:12:31Z) - Green AI: A Preliminary Empirical Study on Energy Consumption in DL
Models Across Different Runtime Infrastructures [56.200335252600354]
トレーニング済みのモデルを、ネイティブな開発環境とは異なる環境にデプロイするのは、一般的なプラクティスです。
これにより、インフラを含むONNXや標準フォーマットとして機能するONNXなどの交換フォーマットが導入された。
論文 参考訳(メタデータ) (2024-02-21T09:18:44Z) - Adaptive REST API Testing with Reinforcement Learning [54.68542517176757]
現在のテストツールは効率的な探索機構がなく、全ての操作とパラメータを等しく扱う。
現在のツールは、仕様にレスポンススキーマがない場合や、変種を示す場合に苦労している。
我々は、強化学習を取り入れた適応型REST APIテスト手法を提案し、探索中の操作を優先順位付けする。
論文 参考訳(メタデータ) (2023-09-08T20:27:05Z) - Handling Communication via APIs for Microservices [6.5499625417846685]
本稿では,従来の通信技術による課題について論じ,API経由のIDパスの代替手法を提案する。
また,API数を削減するアルゴリズムも考案した。
論文 参考訳(メタデータ) (2023-08-02T17:40:34Z) - A comparison between traditional and Serverless technologies in a
microservices setting [0.0]
本研究では、異なる技術を使用して、同じマイクロサービスアプリケーションの9つのプロトタイプを実装します。
私たちはAmazon Web Servicesを使い、より伝統的なデプロイメント環境(Kubernetes)を使用するアプリケーションから始めます。
サーバレスアーキテクチャへの移行は、AWS ECS Fargate、AWS、DynamoDBDBなど、さまざまなテクノロジの使用による影響(コストとパフォーマンスの両方)を組み合わせて、分析することによって行われる。
論文 参考訳(メタデータ) (2023-05-23T10:56:28Z) - Cheaply Evaluating Inference Efficiency Metrics for Autoregressive
Transformer APIs [66.30706841821123]
大規模言語モデル(LLM)は、自然言語処理において多くの最先端システムに電力を供給する。
LLMは、推論時でさえ非常に計算コストが高い。
モデル間での推論効率を比較するための新しい指標を提案する。
論文 参考訳(メタデータ) (2023-05-03T21:51:42Z) - Hyperparameter Optimization as a Service on INFN Cloud [0.0]
我々は、単純なHTTPリクエストを通じて、勾配のない最適化技術を用いて、複数のトレーニングインスタンスを監視し、おそらく調整するためのINFN Cloudベースの専用サービスを提示します。
Hopaasという名前のこのサービスは、WebインターフェースとAPIセットで構成されており、INFN Cloudの仮想インスタンスでUvicornとNGINXを経由するFastAPIバックエンドで実装されている。
論文 参考訳(メタデータ) (2023-01-13T12:57:48Z) - Efficient Few-Shot Object Detection via Knowledge Inheritance [62.36414544915032]
Few-shot Object Detection (FSOD) は、未確認のタスクに少ないトレーニングサンプルで適応できるジェネリック検出器を学習することを目的としている。
計算量の増加を伴わない効率的なプレトレイン・トランスファー・フレームワーク(PTF)のベースラインを提案する。
また,予測された新しいウェイトと事前訓練されたベースウェイトとのベクトル長の不整合を軽減するために,適応長再スケーリング(ALR)戦略を提案する。
論文 参考訳(メタデータ) (2022-03-23T06:24:31Z) - Revisiting Point Cloud Shape Classification with a Simple and Effective
Baseline [111.3236030935478]
評価手法の違い,データ拡張戦略,損失関数などの補助的要因が,性能に大きな違いをもたらすことがわかった。
SimpleViewと呼ばれるプロジェクションベースのメソッドは驚くほどうまく機能します。
ポイントネット++の半分のサイズでありながら、ModelNet40の洗練された最先端メソッドよりも同等かそれ以上の結果が得られる。
論文 参考訳(メタデータ) (2021-06-09T18:01:11Z) - Top-KAST: Top-K Always Sparse Training [50.05611544535801]
トレーニングを通して一定間隔を保存するTop-KASTを提案する。
確立したImageNetベンチマークのトレーニングモデルでは,従来の作業と同等かそれ以上に動作可能であることを示す。
ImageNetの結果に加えて、言語モデリングの分野においても、我々のアプローチを実証しています。
論文 参考訳(メタデータ) (2021-06-07T11:13:05Z) - Towards Demystifying Serverless Machine Learning Training [19.061432528378788]
本稿では、サーバーレスインフラストラクチャ上で分散機械学習トレーニングを体系的に比較研究する。
サーバレスインフラストラクチャを選択する際に考慮すべきコスト/パフォーマンストレードオフをキャプチャする分析モデルを開発する。
論文 参考訳(メタデータ) (2021-05-17T13:19:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。