論文の概要: Reducio: Optimized Confidential Serverless Cloud Deployments for Enterprise Customers
- arxiv url: http://arxiv.org/abs/2608.30171v1
- Date: Mon, 31 Aug 2026 02:48:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-01 18:31:31.202419
- Title: Reducio: Optimized Confidential Serverless Cloud Deployments for Enterprise Customers
- Title(参考訳): Reducio: エンタープライズユーザのための信頼性の高いサーバレスクラウドデプロイメントの最適化
- Abstract要約: Reducioは、インフラストラクチャの変更を必要とせず、プラットフォームのメモリ要求を大幅に削減する、代替のサーバレスプラットフォーム設計である。
評価の結果,Reduceioはデプロイと関数メモリ消費の両方のプラットフォーム要件を著しく削減できることがわかった。
- 参考スコア(独自算出の注目度): 4.177836786909784
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Serverless platforms based on Confidential Virtual Machines (CVMs) have been recently proposed to address the privacy problems with serverless functions, while achieving low latency. Unfortunately, our study indicates that to achieve these properties, existing proposals impose non-trivial requirements in terms of infrastructure changes and platform memory. Reducio is an alternate serverless platform design that does not require infrastructure changes and significantly reduces platform memory requirements. The platform is designed using two key components: (1) a function isolation framework inside a CVM based on kernel deprivileging features that minimize infrastructure requirements, and (2) a layer-wise caching methodology and algorithm that effectively uses a small in-memory function cache. Our evaluation indicates that Reducio can significantly reduce both platform requirements for deployment and function memory consumption.
- Abstract(参考訳): Confidential Virtual Machines(CVM)に基づくサーバレスプラットフォームは、サーバレス機能によるプライバシ問題に対処すると同時に、低レイテンシを実現するために最近提案されている。
残念なことに、これらの特性を達成するために、既存の提案では、インフラの変更やプラットフォームメモリに関して、非自明な要件を課している。
Reducioは、インフラストラクチャの変更を必要とせず、プラットフォームのメモリ要求を大幅に削減する、代替のサーバレスプラットフォーム設計である。
プラットフォームは、2つの主要なコンポーネントを使って設計されている。(1)カーネルの非脆弱な機能に基づくCVM内の関数分離フレームワークでインフラ要件を最小化し、(2)小さなインメモリ関数キャッシュを効果的に利用するレイヤワイドキャッシュ手法とアルゴリズムである。
評価の結果,Reduceioはデプロイと関数メモリ消費の両方のプラットフォーム要件を著しく削減できることがわかった。
関連論文リスト
- Scaling Short-Term Memory of Visuomotor Policies for Long-Horizon Tasks [69.19366746169906]
本稿では,短期記憶を利用するビジュモータポリシーのためのトランスフォーマーベースのアーキテクチャであるPRISMを提案する。
海賊フィルタは情報を取得し、関連する詳細を抑え、性能を向上する。
階層アーキテクチャは、ローカル情報をコンパクトなトークンに圧縮し、計算とメモリフットプリントを改善する。
論文 参考訳(メタデータ) (2026-06-15T03:49:23Z) - Proxics: an efficient programming model for far memory accelerators [1.1863266199894045]
ニアデータ処理(NDP: Near-Data Processing) コアをメモリの近くに配置することで、CPU間の帯域幅の要求を減らします。
使い慣れたOS抽象化に基づくNDPデバイスのためのプログラミングモデルを提案する。
本稿では,コンパイルプロトコルと相互接続プロトコルを利用して,これらの抽象化を軽量かつ効率的な方法で実装する方法を示す。
論文 参考訳(メタデータ) (2026-04-20T11:38:54Z) - Memory-Efficient Fine-Tuning Diffusion Transformers via Dynamic Patch Sampling and Block Skipping [95.91466630940084]
Diffusion Transformer (DiTs) はテキスト・ツー・イメージ(T2I)の生成品質を大幅に向上させ、高品質なパーソナライズされたコンテンツ作成を可能にした。
時間ステップ対応動的パッチサンプリングとブロックスキップを統合した,メモリ効率の良い細調整フレームワークDiT-BlockSkipを提案する。
提案手法は,メモリ使用量を大幅に削減しつつ,質的,定量的に競合するパーソナライズ性能を実現する。
論文 参考訳(メタデータ) (2026-03-21T11:02:18Z) - TinyServe: Query-Aware Cache Selection for Efficient LLM Serving [5.216774377033164]
本稿では,大規模言語モデル(LLM)を効率的に提供するためのTinyServeを提案する。
TinyServeは、スポーシティ戦略ときめ細かいインスツルメンテーションでリアルタイムデコーディングを実行する。
我々の実験では、TinyServeがtextbf3.4x の高速化と textbf2x のメモリ節約を無視できる精度の低下で実現している。
論文 参考訳(メタデータ) (2025-08-28T16:17:18Z) - SmallThinker: A Family of Efficient Large Language Models Natively Trained for Local Deployment [5.141876811512978]
SmallThinkerは、ローカルデバイス向けに設計された大型言語モデル(LLM)のファミリーである。
本研究では,微細なMixture-of-Experts(MoE)とスパースフィードフォワードネットワークを組み合わせた2レベルスパース構造を提案する。
我々はSmallThinker-4B-A0.6BとSmallThinker-21B-A3Bをリリースした。
論文 参考訳(メタデータ) (2025-07-28T16:45:14Z) - A Universal Framework for Compressing Embeddings in CTR Prediction [68.27582084015044]
本稿では,事前学習した埋め込みを定量化することにより,埋め込みテーブルを圧縮するモデル非依存型埋め込み圧縮(MEC)フレームワークを提案する。
まず、高頻度特徴と低周波特徴のバランスをとるために、人気重み付け正規化を適用します。
3つのデータセットの実験により,提案手法はメモリ使用量を50倍以上削減し,レコメンデーション性能を維持・改善する。
論文 参考訳(メタデータ) (2025-02-21T10:12:34Z) - CSR:Achieving 1 Bit Key-Value Cache via Sparse Representation [63.65323577445951]
キャッシュスパース表現(CSR)と呼ばれる新しい手法を提案する。
CSRは、密度の高いKey-Valueキャッシュテンソルをスパースインデックスとウェイトに変換し、LLM推論中によりメモリ効率のよい表現を提供する。
我々の実験は、CSRが最先端KVキャッシュ量子化アルゴリズムに匹敵する性能を達成することを示した。
論文 参考訳(メタデータ) (2024-12-16T13:01:53Z) - Structured Pruning for Efficient Visual Place Recognition [24.433604332415204]
視覚的位置認識(VPR)は、ロボットや機器のグローバルな再ローカライズに欠かせない。
本稿では,共通VPRアーキテクチャを合理化するための新しい構造化プルーニング手法を提案する。
この二重焦点はシステムの効率を大幅に向上させ、マップとモデルメモリの要求を減らし、特徴抽出と検索待ち時間を短縮する。
論文 参考訳(メタデータ) (2024-09-12T08:32:25Z) - SPES: Towards Optimizing Performance-Resource Trade-Off for Serverless Functions [31.01399126339857]
サーバーレスコンピューティングは、その効率性とオンデマンドのクラウドリソースを活用する能力によって、勢いを増している。
既存のソリューションでは、完全な呼び出しパターンを使わずに関数のプリロード/アンロードのために、過剰に単純化された戦略を使う傾向があります。
本研究では、サーバーレス関数のプロビジョニングを最適化することにより、実行時コールドスタート緩和のための最初の差別化スケジューラであるSPESを提案する。
論文 参考訳(メタデータ) (2024-03-26T10:28:41Z) - UniPT: Universal Parallel Tuning for Transfer Learning with Efficient
Parameter and Memory [69.33445217944029]
PETLは、トレーニング済みモデルを下流ドメインに適応するための効果的な戦略である。
最近のPETLは、より価値の高いメモリ効率特性に焦点を当てている。
メモリ効率の良い新しいPETL戦略Universal Parallel Tuning (UniPT)を提案する。
論文 参考訳(メタデータ) (2023-08-28T05:38:43Z) - On-Device Training Under 256KB Memory [62.95579393237751]
本稿では,256KBのメモリでデバイス上でのトレーニングを可能にするアルゴリズム・システム協調設計フレームワークを提案する。
私たちのフレームワークは256KBと1MBのFlashで畳み込みニューラルネットワークのデバイス上での小さなトレーニングを可能にする最初のソリューションです。
論文 参考訳(メタデータ) (2022-06-30T17:59:08Z) - MCUNetV2: Memory-Efficient Patch-based Inference for Tiny Deep Learning [72.80896338009579]
メモリボトルネックは畳み込みニューラルネットワーク(CNN)の設計における不均衡なメモリ分布に起因する。
本稿では,ピークメモリを大幅に削減するパッチ・バイ・パッチ・推論スケジューリングを提案する。
ニューラルアーキテクチャサーチによるプロセスを自動化し、ニューラルアーキテクチャと推論スケジューリングを共同で最適化し、MCUNetV2に導いた。
論文 参考訳(メタデータ) (2021-10-28T17:58:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。