論文の概要: Analysis of Memory-Runtime Trade-offs in Caching Strategies for Genetic Programming Symbolic Regression
- arxiv url: http://arxiv.org/abs/2607.29116v1
- Date: Fri, 31 Jul 2026 07:44:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-03 14:29:40.647147
- Title: Analysis of Memory-Runtime Trade-offs in Caching Strategies for Genetic Programming Symbolic Regression
- Title(参考訳): 遺伝的プログラミングシンボリック回帰のためのキャッシング戦略におけるメモリ・ランタイムトレードオフの解析
- Abstract要約: 遺伝的プログラミング記号回帰(GPSR)は、進化過程を用いて入力-出力関係をモデル化するための数学的表現を生成する。
この非効率性に対処するために、冗長な計算を減らすためにキャッシュ機構が採用されている。
合成および実世界のデータセット上でのGPSRのキャッシング機構を網羅的に解析する。
- 参考スコア(独自算出の注目度): 11.179495797420506
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Genetic Programming Symbolic Regression (GPSR) generates mathematical expressions to model input-output relationships using an evolutionary process. A significant challenge in GPSR lies in the repeated evaluation of entire expressions or their sub-expression, which inflates computational runtime. To address this inefficiency, caching mechanisms have been employed to reduce redundant computations. However, prior studies predominantly employ a single caching strategy, offering limited insights into their comparative performance or memory-runtime trade-offs. In this paper, we present a comprehensive analysis of caching mechanisms for GPSR on synthetic and real-world datasets. We also include an empirical study of key-value usage frequencies under an infinitely large cache, offering insights into optimal cache sizing. Furthermore, we provide actionable guidelines for configuring caching strategies based on computational and memory constraints. Our findings indicate that complex caching mechanisms necessitate a minimum cache size to achieve computational time reductions. Conversely, lightweight caching strategies, such as Least Recently Used (LRU) and, notably, First-In-First-Out (FIFO), can significantly decrease computation time for fitness evaluations, which are a substantial component of the overall runtime.
- Abstract(参考訳): 遺伝的プログラミング記号回帰(GPSR)は、進化過程を用いて入力-出力関係をモデル化するための数学的表現を生成する。
GPSRにおける重要な課題は、計算ランタイムを膨らませる表現全体またはその部分表現の繰り返しの評価である。
この非効率性に対処するために、冗長な計算を減らすためにキャッシュ機構が採用されている。
しかし、先行研究は主に単一のキャッシュ戦略を採用し、比較パフォーマンスやメモリ・ランタイムのトレードオフに関する限られた洞察を提供する。
本稿では,合成および実世界のデータセット上でのGPSRのキャッシング機構を網羅的に解析する。
また、キー値の使用頻度を無限大のキャッシュで実証し、最適なキャッシュサイズに関する洞察を提供する。
さらに、計算およびメモリ制約に基づいてキャッシュ戦略を設定するための実行可能なガイドラインを提供する。
以上の結果から,計算時間短縮を実現するためには,キャッシュサイズを最小化する複雑なキャッシュ機構が必要であることが示唆された。
逆に、LRU(Last recently Used)やFIFO(First-In-First-Out)といった軽量キャッシュ戦略は、全体的なランタイムの重要なコンポーネントであるフィットネス評価の計算時間を著しく削減することができる。
関連論文リスト
- Back from the Future: Key-Value Cache Management by Counter-Causal Surprise [67.1056509495879]
近年,キーバリュー(KV)キャッシュ管理が重要な研究方向として注目されている。
より最近のトークンからよく予測できる過去のトークンは冗長である,という洞察に動機づけられた,単純かつ効果的なKV消去スキームを提案する。
我々は,他の最先端手法と比較して,競争力や性能向上を示す各種オープンソースLCMとベンチマークデータセットについて,我々の戦略を評価した。
論文 参考訳(メタデータ) (2026-07-30T02:42:51Z) - FAST: A Holistic Framework for Optimizing Memory-I/O, Computation, and Sampling in Temporal GNN Training [13.505374557741169]
時間グラフニューラルネットワーク(TGNN)は、リコメンデーション、ソーシャルネットワーク分析、トラフィック予測といったアプリケーションにおける動的グラフから学習するために広く利用されている。
我々は、サンプリング、メモリI/O、計算を共同最適化することで、エンドツーエンドのTGNNトレーニングを加速する総合的なフレームワークであるFASTを提案する。
FASTは、モデル精度を犠牲にすることなく、最先端システムの平均2.1倍(最大4.7倍)のスピードアップを達成する。
論文 参考訳(メタデータ) (2026-07-06T13:54:01Z) - Predictive Feature Caching for Training-free Acceleration of Molecular Geometry Generation [67.20779609022108]
フローマッチングモデルは、高忠実度分子ジオメトリを生成するが、推論中にかなりの計算コストを発生させる。
本研究は,分子幾何生成を加速する学習自由キャッシング戦略について論じる。
GEOM-Drugsデータセットの実験は、キャッシングがウォールクロックの推測時間の2倍の削減を実現することを示した。
論文 参考訳(メタデータ) (2025-10-06T09:49:14Z) - Zobrist Hash-based Duplicate Detection in Symbolic Regression [0.5439020425819]
遺伝的プログラミング(GP)は、自然選択のメカニズムを通じて数学的表現の集団を進化させる進化的探索法である。
探索空間の多くの点がアルゴリズムによって何度も再訪・再評価され、時間の無駄な計算作業に繋がることを示す。
抽象ボードゲームでよく使われるハッシュの一種であるZobristハッシュに基づくキャッシュ機構を導入する。
論文 参考訳(メタデータ) (2025-08-19T14:18:16Z) - Advancing Semantic Caching for LLMs with Domain-Specific Embeddings and Synthetic Data [3.877325424485755]
本報告では, セマンティックキャッシングの精度向上を, 特別に調整された埋め込みモデルを用いて検討する。
そこで本研究では,ターゲットとした実世界と合成されたデータセットを微調整した,より小さなドメイン固有埋め込みモデルを提案する。
論文 参考訳(メタデータ) (2025-04-03T04:27:02Z) - Structured Token Retention and Computational Memory Paths in Large Language Models [0.0]
本稿では,文脈的重要性に基づいてトークンの永続化を動的に調整する確率的選択フレームワークを提案する。
階層的なメモリ割り当てによって拡張され、トークン埋め込みの構造化された再配置によって保持効率を向上する。
STRとCMPのオープンソースモデルへの統合は、構造化メモリ保持手法の適応性を示している。
論文 参考訳(メタデータ) (2025-02-05T11:59:22Z) - CSR:Achieving 1 Bit Key-Value Cache via Sparse Representation [63.65323577445951]
キャッシュスパース表現(CSR)と呼ばれる新しい手法を提案する。
CSRは、密度の高いKey-Valueキャッシュテンソルをスパースインデックスとウェイトに変換し、LLM推論中によりメモリ効率のよい表現を提供する。
我々の実験は、CSRが最先端KVキャッシュ量子化アルゴリズムに匹敵する性能を達成することを示した。
論文 参考訳(メタデータ) (2024-12-16T13:01:53Z) - ExpertFlow: Optimized Expert Activation and Token Allocation for Efficient Mixture-of-Experts Inference [41.41316718220569]
ExpertFlowは、柔軟なルーティングを調整し、CPUとGPU間の効率的な専門家スケジューリングを可能にすることで、推論効率を向上させるように設計されている。
実験により、ExpertFlowは最大93.72%のGPUメモリを節約し、ベースライン法に比べて推論速度を2~10倍に向上することを示した。
論文 参考訳(メタデータ) (2024-10-23T15:24:54Z) - CORM: Cache Optimization with Recent Message for Large Language Model Inference [57.109354287786154]
メモリフットプリントを大幅に最小化するKVキャッシュを最適化する革新的な手法を提案する。
KVキャッシュ消去ポリシーであるCORMは、モデル微調整を必要とせずに、推論に必要なキーと値のペアを動的に保持する。
検証の結果,CORMはKVキャッシュの推論メモリ使用量を最大70%削減し,LongBenchの6つのタスクで性能劣化を無視できることがわかった。
論文 参考訳(メタデータ) (2024-04-24T16:11:54Z) - Accelerating Deep Learning Classification with Error-controlled
Approximate-key Caching [72.50506500576746]
我々は、近似キーキャッシングと名付けた新しいキャッシングパラダイムを提案する。
近似キャッシュはDL推論の負荷を軽減し、システムのスループットを向上するが、近似誤差を導入する。
我々は古典的なLRUと理想的なキャッシュのキャッシュシステム性能を解析的にモデル化し、期待される性能のトレース駆動評価を行い、提案手法の利点を最先端の類似キャッシュと比較した。
論文 参考訳(メタデータ) (2021-12-13T13:49:11Z) - ARCH: Efficient Adversarial Regularized Training with Caching [91.74682538906691]
逆正則化は、多くの自然言語処理タスクにおけるモデル一般化を改善することができる。
本稿では,複数のエポック毎に摂動を発生・キャッシュする新たな逆正則化手法ARCHを提案する。
提案手法をニューラルネットワーク翻訳と自然言語理解タスクのセットで評価する。
論文 参考訳(メタデータ) (2021-09-15T02:05:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。