論文の概要: CACHEFORGE: LLM-Guided End-to-End Generative Cache Replacement Policy for Performance and Hardware Efficiency

• arxiv url: http://arxiv.org/abs/2610.07668v1
• Date: Tue, 06 Oct 2026 03:03:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:29.779607
• Title: CACHEFORGE: LLM-Guided End-to-End Generative Cache Replacement Policy for Performance and Hardware Efficiency
• Title（参考訳）: CACHEFORGE: LLM-Guided End-to-Endの生成キャッシュ置換ポリシー
• Abstract要約: CACHEFORGEは、キャッシュ置換ポリシーをエンドツーエンドに進化させる最初のフレームワークである。 総ヒット率は27.36%、19.69%、13.15%、11.83%、MPPPB、ReD、ホークアイ、SHiP++、LIME、LRUで5.73%向上している。 IPCは10.15%増、7.89%増、6.34%増、3.64%増、3.12%増、2.71%増、LRU、MPP、LIME、ReD、
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Modern cache replacement designs saturate because they operate within fixed representational structures, hand-crafted and heuristic based feature-engineered predictors, or offline imitation models that cannot generate new decision logic on their own. At the same time, replacement is shaped by the causal interaction of prefetching, thrashing, spatial locality, and access-type behavior, producing an enormous design space that is difficult to traverse manually. Prior approaches typically rely on heuristics, parameter tuning, or imitation of an offline optimal policy, capturing correlations rather than synthesizing new mechanisms. As a result, their performance gains often plateau and they overfit under dynamic workload conditions. CACHEFORGE is the first framework to evolve cache-replacement policies end-to-end by embedding a large language model inside a governed hardware-aware loop. In each iteration, the LLM proposes new C++ replacement logic, the policy is evaluated under a trace-based CRC-2 ChampSim simulator, and the framework enforces feasibility through reward shaping, structural checks, dynamic mutation, temperature scheduling, and cross-policy crossover. This closed-loop generation-evolution loop specifically designed for cache replacement policy enables the discovery of compact policies that satisfy hardware constraints while exploring algorithmic transformations beyond fixed predictor structures. Across SPEC CPU2006, CACHEFORGE outperforms all CRC-2 baselines. It improves the total hit rate by 27.36%, 19.69%, 13.72%, 13.15%, 11.83%, and 5.73% over MPPPB, ReD, Hawk-eye, SHiP++, LIME, and LRU, respectively. On memory-intensive workloads, it increases IPC by 10.15%, 7.89%, 6.34%, 3.64%, 3.12%, and 2.71% over LRU, MPPPB, LIME, ReD, SHiP++, and Hawkeye.
• Abstract（参考訳）: 現代のキャッシュ置換設計は、固定された表現構造、手作りでヒューリスティックな特徴工学的予測器、あるいは新しい決定ロジックを独自に生成できないオフラインの模倣モデルで機能するため飽和している。 同時に、プリフェッチ、スラッシュ、空間的局所性、アクセス型行動といった因果的相互作用によって置き換えられ、手動での移動が困難な巨大なデザイン空間が形成される。 従来のアプローチは概してヒューリスティックス、パラメータチューニング、あるいはオフラインの最適ポリシーの模倣に頼っており、新しいメカニズムを合成するよりも相関を捉えている。 その結果、パフォーマンスは高騰し、動的ワークロード条件下では過度に適合する。 CACHEFORGEは、キャッシュ置換ポリシーをエンドツーエンドに進化させる最初のフレームワークである。 各イテレーションにおいて、LLMは新しいC++置換ロジックを提案し、このポリシーはトレースベースのCRC-2 ChampSimシミュレータで評価され、このフレームワークは報酬のシェーピング、構造チェック、動的突然変異、温度スケジューリング、クロスポリシーのクロスオーバーを通じて実現可能である。 このクローズドループ生成進化ループは、キャッシュ置換ポリシーのために特別に設計されたもので、ハードウェア制約を満たすコンパクトなポリシーの発見を可能にし、固定された予測構造を超えたアルゴリズム変換を探索する。 SPEC CPU2006全体で、CACHEFORGEは全てのCRC-2ベースラインを上回っている。 総ヒット率は27.36%、19.69%、13.72%、13.15%、11.83%、MPPPB、ReD、ホークアイ、SHiP++、LIME、LRUで5.73%向上している。 メモリ集約型ワークロードでは、IPCを10.15%、7.89%、6.34%、3.64%、3.12%、LRU、MPPPB、LIME、ReD、SHiP++、Hawkeyeで2.71%増加させる。

関連論文リスト

• Planning-aligned Token Compression for Long-Context Autonomous Driving [95.59023657139208]
  条件付きVQ-VA上に構築した計画整合型ワーキングメモリフレームワークを提案する。 圧縮は歴史的軌跡と学習した計画意図の両方で条件付けられている。 歴史的文脈が行動の正確性に最も重要となる高信号動的シナリオについて評価する。
  論文  参考訳（メタデータ） (2026-06-05T17:16:21Z)
• RaBiT: Residual-Aware Binarization Training for Accurate and Efficient LLMs [5.782015253162346]
  残留バイナライゼーションは、バイナリ層を積み重ねることで、マットルフリーな推論を可能にする。 本稿では,残差階層をアルゴリズム的に強制することでコダプタ化を解決する新しい量子化フレームワークであるRaBiTを提案する。 RaBiTは最先端のパフォーマンスを実現し、ハードウェア集約型ベクトル量子化(VQ)の手法と競合する。
  論文  参考訳（メタデータ） (2026-02-05T06:41:11Z)
• Learning to Accelerate Vision-Language-Action Models through Adaptive Visual Token Caching [25.295588774254952]
  我々は、学習可能なポリシー最適化問題として推論加速度を再構成する。 本稿では,タスク認識による意思決定プロセスを直接Vision-Language-Actionモデルに統合する新しいフレームワークを提案する。 提案手法は, 平均成功率を同時に向上させながら, 1.76倍のウォールクロック推定速度向上を実現する。
  論文  参考訳（メタデータ） (2026-01-31T12:12:51Z)
• CAHC:A General Conflict-Aware Heuristic Caching Framework for Multi-Agent Path Finding [0.0]
  我々は、状態と関連する制約コンテキストの両方に基づいて値をキャッシュする一般的なフレームワークであるtextbfCAHC(Conflict-Aware Heuristic Caching)を提案する。 カーライクロボットにおけるCL-CBSのケーススタディを通じてCAHCを実演し、コンフリクト対応キャッシングと適応ハイブリッドを併用したtextbfCARCHASE(Car-like Robot Conflict-Aware Heuristic Adaptive Search Enhancement)を提案する。 キーとなるイノベーションは、(1)制約が状態のコンテキストに影響を及ぼすことを効率的にエンコードするコンパクトなEmphconflict指紋、(2)ドメイン適応型指紋である。
  論文  参考訳（メタデータ） (2025-12-13T08:42:18Z)
• Rethinking Autoregressive Models for Lossless Image Compression via Hierarchical Parallelism and Progressive Adaptation [75.58269386927076]
  自己回帰(AR)モデルは、しばしば計算コストの禁止のために非現実的に除外される。 この研究は、階層的並列性とプログレッシブ適応に基づくフレームワークを導入して、このパラダイムを再考する。 各種データセット(自然,衛星,医療)の実験により,本手法が新たな最先端圧縮を実現することを確認した。
  論文  参考訳（メタデータ） (2025-11-14T06:27:58Z)
• Adacc: An Adaptive Framework Unifying Compression and Activation Recomputation for LLM Training [40.371351103295765]
  大きな言語モデル(LLM)のトレーニングは、GPUメモリの制限によって制限されることが多い。 Adaccはアクティベーション再計算とデータ圧縮を統合する最初の適応型メモリ最適化フレームワークである。 Adaccは、最先端のフレームワークと比較して、トレーニングのスループットを1.01倍から1.37倍改善している。
  論文  参考訳（メタデータ） (2025-08-01T17:39:25Z)
• Bypass Back-propagation: Optimization-based Structural Pruning for Large Language Models via Policy Gradient [57.9629676017527]
  本研究では,プルーンドモデルの損失を最適化することにより,確率空間におけるプルーニングマスクを直接学習する最適化に基づく構造的プルーニングを提案する。 我々は、基底となるベルヌーイ分布をサンプルのバイナリ・プルーニングマスクに学習することでこれを実現する。 LLaMA, LLaMA-2, LLaMA-3, Vicuna, Mistral モデルによる実験により, 本手法の有効性と有効性を示すことができた。
  論文  参考訳（メタデータ） (2024-06-15T09:31:03Z)
• REBEL: Reinforcement Learning via Regressing Relative Rewards [59.68420022466047]
  生成モデルの時代における最小限のRLアルゴリズムであるREBELを提案する。 理論的には、自然ポリシーグラディエントのような基本的なRLアルゴリズムはREBELの変種と見なすことができる。 我々はREBELが言語モデリングと画像生成に一貫したアプローチを提供し、PPOやDPOとより強くあるいは類似した性能を実現することを発見した。
  論文  参考訳（メタデータ） (2024-04-25T17:20:45Z)
• Adjustable Robust Reinforcement Learning for Online 3D Bin Packing [11.157035538606968]
  現在のオンライン3D-BPPの深層強化学習方法は、いくつかの最悪のシナリオが実現可能な実世界の環境では失敗する。 本研究では,ロバストネス重みの効率的な調整が可能なロバスト強化学習フレームワークを提案する。 実験により、AR2Lはポリシーの堅牢性を向上しつつ、名目上のケースで許容されるパフォーマンスのレベルを維持しつつ、万能であることが示された。
  論文  参考訳（メタデータ） (2023-10-06T15:34:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。