論文の概要: Entropy-Punctured Bloom Filters for Memory-Efficient Machine Learning

• arxiv url: http://arxiv.org/abs/2609.14187v1
• Date: Sat, 12 Sep 2026 23:37:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 07:15:05.757321
• Title: Entropy-Punctured Bloom Filters for Memory-Efficient Machine Learning
• Title（参考訳）: メモリ効率のよい機械学習のためのエントロピー可変ブルームフィルタ
• Abstract要約: ブルームフィルタ符号化は、エンジニアリングされた特徴のコンパクトな確率的表現を提供する。 低可変ビット位置を除去するメモリ対応符号化方式であるエントロピー可変ブルームフィルタを提案する。 多様な回帰データセットに対するアプローチを評価する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Memory-efficient feature representations are increasingly important in machine learning settings where storage, transmission cost, bandwidth, or privacy constraints limit access to raw data. Bloom Filter (BF) encodings provide compact probabilistic representations of engineered features, but their behavior under structural compression and their applicability to regression tasks remain underexplored. In this work, we propose entropy-punctured Bloom Filters, a memory-aware encoding strategy that removes low-variability bit positions identified using empirical entropy. Starting from fixed-length BF encodings of quantized features, the proposed approach produces reduced representations that preserve predictive structure while improving predictive efficiency relative to encoded representation size. We evaluate the approach on diverse regression datasets, comparing raw features, Principal Component Analysis (PCA), Random Projection (RP), and Bloom Filter variants under leakage-free evaluation protocols and approximately matched representation sizes. Performance is assessed using ridge regression, XGBoost, and neural networks, with predictive efficiency measured as R2 relative to encoded representation size per sample. Results show that Bloom Filter encodings remain competitive with classical compressed representations while achieving substantial storage savings. Entropy-based puncturing further reduces representation size with minimal loss in predictive fidelity, yielding improved predictive efficiency. These findings demonstrate that entropy-punctured Bloom Filters provide an effective representation-level compression approach for memory-constrained machine learning.
• Abstract（参考訳）: ストレージ、送信コスト、帯域幅、プライバシ制約が生データへのアクセスを制限する機械学習環境では、メモリ効率のよい特徴表現がますます重要になっている。 ブルームフィルタ (BF) エンコーディングは、工学的特徴のコンパクトな確率的表現を提供するが、その構造的圧縮の下での挙動と回帰処理への適用性は未定のままである。 本研究では,経験的エントロピーを用いて識別された低可変ビット位置を除去するメモリ対応符号化方式であるエントロピー可変ブルームフィルタを提案する。 量子化特徴の固定長BF符号化から始め、符号化された表現サイズに対して予測効率を向上しつつ、予測構造を保った表現を小さくする手法を提案する。 各種回帰データセットに対するアプローチの評価を行い、主成分分析(PCA)、ランダム投影(RP)、ブルームフィルタをリークフリー評価プロトコルとほぼ一致する表現サイズで比較した。 性能は、リッジ回帰、XGBoost、ニューラルネットワークを用いて評価され、サンプルあたりのエンコード表現サイズに対するR2の予測効率が測定される。 その結果,ブルームフィルタ符号化は従来の圧縮表現と競合する一方で,ストレージの大幅な節約を実現していることがわかった。 エントロピーに基づく句読点法により、予測忠実度が最小限に抑えられ、予測効率が向上する。 これらの結果から,エントロピー可変ブルームフィルタは,メモリ制約機械学習に有効な表現レベル圧縮手法を提供することが示された。

関連論文リスト

• LASER: Loss-Aware Singular-value Decomposition and Rank Allocation for Efficient Low-Precision Vision-Language Models [12.483003654711203]
  視覚言語モデル(VLM)は、強力なマルチモーダル推論機能を提供するが、その計算コストと高いパラメータ数によって、リソース制約のあるデバイスへの展開が困難になる。 提案するtextitER(textbfLoss-textbfLASAware textbfSingular-value dtextbfEcomposition and textbfRank allocation)は,低精度なVLM推論のための低ランク圧縮フレームワークである。
  論文  参考訳（メタデータ） (2026-05-30T06:53:23Z)
• Adaptive Data Compression and Reconstruction for Memory-Bounded EEG Continual Learning [0.0]
  教師なし個別連続学習(UICL)のための適応データ圧縮・再構成(ADaCoRe)を提案する。 ADaCoReは、サリエンシ駆動のパーソナライゼーション保護、有理多相圧縮、保護された指標に対する動詞による副次再構成、適応的初期維持のためのプロトタイプ-自信選択からなるメモリ効率の高いパイプラインである。
  論文  参考訳（メタデータ） (2026-05-04T18:59:35Z)
• Theoretical Insights in Model Inversion Robustness and Conditional Entropy Maximization for Collaborative Inference Systems [89.35169042718739]
  協調推論により、クラウドサーバに機密データを公開することなく、エンドユーザは強力なディープラーニングモデルを活用することができる。 近年の研究では、これらの中間機能は、情報が漏洩し、生データをモデル反転攻撃(MIA)によって再構築できるため、プライバシーを十分に保持できないことが判明している。 この研究はまず、与えられた中間特徴の入力の条件エントロピーが、任意のMIAの下での再構成平均二乗誤差(MSE)の保証された下界を与えることを理論的に証明する。 そして、ガウス混合推定に基づいて、この条件付きエントロピーを有界化するための微分可能かつ可解な尺度を導出し、逆ロバスト性を高める条件付きエントロピーアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-03-01T07:15:21Z)
• Contextual Compression Encoding for Large Language Models: A Novel Framework for Multi-Layered Parameter Space Pruning [0.0]
  文脈圧縮。 (CCE)はパラメータ分布を動的に再構成する多段符号化機構を導入した。 CCEは言語表現力とコヒーレンスを維持し、テキスト生成や分類タスクの精度を維持した。
  論文  参考訳（メタデータ） (2025-02-12T11:44:19Z)
• UNComp: Can Matrix Entropy Uncover Sparsity? -- A Compressor Design from an Uncertainty-Aware Perspective [85.08718140718707]
  UNCompは不確実性を認識したフレームワークで、適応圧縮に使用できる空間パターンを明らかにする。 スパーシティパターンを詳細に分析する不確実性に注目して、UNCompはKVキャッシュサイズを4.74%に削減し、6%のプリフィルスピードアップを実現し、スループットを6.4倍改善した。
  論文  参考訳（メタデータ） (2024-10-04T02:32:36Z)
• Compression with Bayesian Implicit Neural Representations [16.593537431810237]
  本稿では,データに変分ニューラルネットワークをオーバーフィッティングし,相対エントロピー符号化を用いて近似後重みサンプルを圧縮し,量子化やエントロピー符号化を行う。 実験により,本手法は単純さを維持しつつ,画像および音声の圧縮に強い性能を発揮することが示された。
  論文  参考訳（メタデータ） (2023-05-30T16:29:52Z)
• Fundamental Limits of Two-layer Autoencoders, and Achieving Them with Gradient Methods [91.54785981649228]
  本稿では,非線形二層型オートエンコーダについて述べる。 本結果は,人口リスクの最小化要因を特徴付け,その最小化要因が勾配法によって達成されることを示す。 符号アクティベーション関数の特別な場合において、この解析は、シャローオートエンコーダによるガウス音源の損失圧縮の基本的な限界を確立する。
  論文  参考訳（メタデータ） (2022-12-27T12:37:34Z)
• Reducing Predictive Feature Suppression in Resource-Constrained Contrastive Image-Caption Retrieval [65.33981533521207]
  我々は、リソース制約のあるICR手法における予測的特徴抑圧を減らすアプローチを提案する:潜在目標デコーディング(LTD) LTDは、汎用文エンコーダの潜時空間で入力キャプションを再構成し、画像及びキャプションエンコーダが予測的特徴を抑制するのを防止する。 実験の結果,入力空間における入力キャプションの再構成とは異なり,LTDはリコール@k,r精度,nDCGスコアを高くすることで,予測的特徴抑制を低減できることがわかった。
  論文  参考訳（メタデータ） (2022-04-28T09:55:28Z)
• Neural BRDF Representation and Importance Sampling [79.84316447473873]
  本稿では,リフレクタンスBRDFデータのコンパクトニューラルネットワークに基づく表現について述べる。 BRDFを軽量ネットワークとしてエンコードし、適応角サンプリングによるトレーニングスキームを提案する。 複数の実世界のデータセットから等方性および異方性BRDFの符号化結果を評価する。
  論文  参考訳（メタデータ） (2021-02-11T12:00:24Z)
• End-to-End Facial Deep Learning Feature Compression with Teacher-Student Enhancement [57.18801093608717]
  本稿では,ディープニューラルネットワークの表現と学習能力を活用することで,エンドツーエンドの特徴圧縮手法を提案する。 特に、抽出した特徴量を、レート歪みコストを最適化することにより、エンドツーエンドでコンパクトに符号化する。 提案モデルの有効性を顔の特徴で検証し, 圧縮性能を高いレート精度で評価した。
  論文  参考訳（メタデータ） (2020-02-10T10:08:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。