論文の概要: Learning Forward Reuse Distance
- arxiv url: http://arxiv.org/abs/2007.15859v1
- Date: Fri, 31 Jul 2020 05:57:50 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-04 06:11:20.235866
- Title: Learning Forward Reuse Distance
- Title(参考訳): 再利用距離の学習
- Authors: Pengcheng Li, Yongbin Gu
- Abstract要約: 近年のディープラーニング技術の進歩は、新しいインテリジェントキャッシュ置換ポリシーの設計を可能にする。
LSTMに基づく強力なリカレントニューラルネットワークモデルにより,キャッシュトレースのみを入力として,高い予測精度が得られることがわかった。
その結果、新しいキャッシュポリシは、最先端の実用的なポリシを19.2%改善し、平均してOPTよりも2.3%高いミス比しか発生しないことが示された。
- 参考スコア(独自算出の注目度): 1.8777512961936749
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Caching techniques are widely used in the era of cloud computing from
applications, such as Web caches to infrastructures, Memcached and memory
caches in computer architectures. Prediction of cached data can greatly help
improve cache management and performance. The recent advancement of deep
learning techniques enables the design of novel intelligent cache replacement
policies. In this work, we propose a learning-aided approach to predict future
data accesses. We find that a powerful LSTM-based recurrent neural network
model can provide high prediction accuracy based on only a cache trace as
input. The high accuracy results from a carefully crafted locality-driven
feature design. Inspired by the high prediction accuracy, we propose a pseudo
OPT policy and evaluate it upon 13 real-world storage workloads from Microsoft
Research. Results demonstrate that the new cache policy improves state-of-art
practical policies by up to 19.2% and incurs only 2.3% higher miss ratio than
OPT on average.
- Abstract(参考訳): キャッシング技術は、コンピュータアーキテクチャにおけるwebキャッシュからインフラストラクチャ、memcached、メモリキャッシュに至るまで、クラウドコンピューティングの時代において広く使われている。
キャッシュされたデータの予測は、キャッシュ管理とパフォーマンスを大幅に改善する。
近年のディープラーニング技術の進歩は、新しいインテリジェントキャッシュ置換ポリシーの設計を可能にする。
本研究では,将来のデータアクセスを予測する学習支援手法を提案する。
LSTMに基づく強力なリカレントニューラルネットワークモデルにより,キャッシュトレースのみを入力として,高い予測精度が得られることがわかった。
高い精度は、慎重に作られたローカリティ駆動の機能設計から得られる。
高い予測精度に触発され、擬似PTポリシーを提案し、Microsoft Researchから13の現実世界のストレージワークロードに対して評価する。
その結果、新しいキャッシュポリシーは、最先端の実用的なポリシーを最大19.2%改善し、平均でオプトより2.3%高いミス率しか発生しないことがわかった。
関連論文リスト
- Efficient Inference of Vision Instruction-Following Models with Elastic Cache [76.44955111634545]
我々は,命令追従型大規模視覚言語モデルの効率的なデプロイのための新しい戦略であるElastic Cacheを紹介する。
本稿では,冗長キャッシュを具現化する重要なキャッシュマージ戦略を提案する。
命令符号化では,キャッシュの重要性を評価するために周波数を利用する。
様々なLVLMの結果は、Elastic Cacheが効率を向上するだけでなく、言語生成における既存のプルーニングメソッドよりも優れていることを示している。
論文 参考訳(メタデータ) (2024-07-25T15:29:05Z) - A Learning-Based Caching Mechanism for Edge Content Delivery [2.412158290827225]
5GネットワークとIoT(Internet of Things)の台頭により、ネットワークのエッジはますます拡大している。
このシフトは、特に限られたキャッシュストレージとエッジにおける多様な要求パターンのために、ユニークな課題をもたらす。
HR-Cacheは、ハザードレート(HR)順序付けの原則に基づく学習ベースのキャッシュフレームワークである。
論文 参考訳(メタデータ) (2024-02-05T08:06:03Z) - Accelerating Deep Learning Classification with Error-controlled
Approximate-key Caching [72.50506500576746]
我々は、近似キーキャッシングと名付けた新しいキャッシングパラダイムを提案する。
近似キャッシュはDL推論の負荷を軽減し、システムのスループットを向上するが、近似誤差を導入する。
我々は古典的なLRUと理想的なキャッシュのキャッシュシステム性能を解析的にモデル化し、期待される性能のトレース駆動評価を行い、提案手法の利点を最先端の類似キャッシュと比較した。
論文 参考訳(メタデータ) (2021-12-13T13:49:11Z) - DAAS: Differentiable Architecture and Augmentation Policy Search [107.53318939844422]
この研究は、ニューラルネットワークとデータ拡張のカップリングの可能性を検討し、それらを共同で検索する効果的なアルゴリズムを提案する。
CIFAR-10では97.91%、ImageNetデータセットでは76.6%の精度で97.91%の精度を達成し、検索アルゴリズムの優れた性能を示している。
論文 参考訳(メタデータ) (2021-09-30T17:15:17Z) - DEAP Cache: Deep Eviction Admission and Prefetching for Cache [1.201626478128059]
機械学習を用いて3つのポリシーすべてを学習するエンド・ツー・エンドパイプラインを提案する。
我々は,大規模コーパスの事前学習の成功からインスピレーションを得て,タスクの専門的な埋め込みを学習する。
本手法は,機械学習を用いてキャッシュ戦略の3つのコンポーネントすべてを学習する"概念の保護"として提案する。
論文 参考訳(メタデータ) (2020-09-19T10:23:15Z) - A Survey of Deep Learning for Data Caching in Edge Network [1.9798034349981157]
本稿では,エッジネットワークにおけるデータキャッシングにおけるディープラーニングの利用について要約する。
まず、コンテンツキャッシングにおける典型的な研究トピックを概説し、ネットワーク階層構造に基づく分類を定式化する。
次に、教師なし学習から教師なし学習、強化学習まで、多くの重要なディープラーニングアルゴリズムが提示される。
論文 参考訳(メタデータ) (2020-08-17T12:02:32Z) - Optimizing Memory Placement using Evolutionary Graph Reinforcement
Learning [56.83172249278467]
大規模検索空間を対象とした進化グラフ強化学習(EGRL)を提案する。
我々は、推論のために、Intel NNP-Iチップ上で、我々のアプローチを直接訓練し、検証する。
また,NNP-Iコンパイラと比較して28~78%の高速化を実現している。
論文 参考訳(メタデータ) (2020-07-14T18:50:12Z) - An Imitation Learning Approach for Cache Replacement [23.03767134871606]
キャッシュアクセスパターンを自動的に学習するための模倣学習手法を提案する。
我々は過去のアクセスのみに条件付きポリシーを訓練し、多様な複雑なアクセスパターンでもベラディの情報を正確に近似する。
Parrotは、現在の最先端よりもキャッシュミス率を20%向上させる。
論文 参考訳(メタデータ) (2020-06-29T17:58:40Z) - DrNAS: Dirichlet Neural Architecture Search [88.56953713817545]
ディリクレ分布をモデルとした連続緩和型混合重みをランダム変数として扱う。
最近開発されたパスワイズ微分により、ディリクレパラメータは勾配に基づく一般化で容易に最適化できる。
微分可能なNASの大きなメモリ消費を軽減するために, 単純かつ効果的な進行学習方式を提案する。
論文 参考訳(メタデータ) (2020-06-18T08:23:02Z) - Reinforcement Learning for Caching with Space-Time Popularity Dynamics [61.55827760294755]
キャッシングは次世代ネットワークにおいて重要な役割を果たすと想定されている。
コンテンツをインテリジェントにプリフェッチし、保存するためには、キャッシュノードは、何といつキャッシュするかを学ばなければならない。
本章では、近似キャッシングポリシー設計のための多目的強化学習に基づくアプローチを提案する。
論文 参考訳(メタデータ) (2020-05-19T01:23:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。