論文の概要: Coresets via Bilevel Optimization for Continual Learning and Streaming

• arxiv url: http://arxiv.org/abs/2006.03875v2
• Date: Thu, 22 Oct 2020 17:53:39 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-24 21:06:05.525721
• Title: Coresets via Bilevel Optimization for Continual Learning and Streaming
• Title（参考訳）: 連続学習とストリーミングのための2レベル最適化によるcoresets
• Authors: Zal\'an Borsos, Mojm\'ir Mutn\'y, Andreas Krause
• Abstract要約: 濃度制約付き二レベル最適化による新しいコアセット構成を提案する。 我々のフレームワークがディープニューラルネットワークのコアセットを効率的に生成できることを示し、連続学習やストリーミング設定における経験的メリットを示す。
• 参考スコア（独自算出の注目度）: 86.67190358712064
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Coresets are small data summaries that are sufficient for model training. They can be maintained online, enabling efficient handling of large data streams under resource constraints. However, existing constructions are limited to simple models such as k-means and logistic regression. In this work, we propose a novel coreset construction via cardinality-constrained bilevel optimization. We show how our framework can efficiently generate coresets for deep neural networks, and demonstrate its empirical benefits in continual learning and in streaming settings.
• Abstract（参考訳）: コアセットは、モデルトレーニングに十分な小さなデータ要約である。 リソース制約下での大規模データストリームの効率的な処理を可能にする。 しかし、既存の構成はk平均やロジスティック回帰のような単純なモデルに限られている。 本研究では,濃度制約付き二レベル最適化による新しいコアセット構成を提案する。 我々のフレームワークがディープニューラルネットワークのコアセットを効率的に生成できることを示し、連続学習やストリーミング設定における経験的メリットを示す。

関連論文リスト

• Refined Coreset Selection: Towards Minimal Coreset Size under Model Performance Constraints [69.27190330994635]
  コアセットの選択は、計算コストの削減とディープラーニングアルゴリズムのデータ処理の高速化に強力である。 本稿では,モデル性能とコアセットサイズに対する最適化優先順序を維持する革新的な手法を提案する。 実験的に、広範な実験によりその優位性が確認され、しばしばより小さなコアセットサイズでモデル性能が向上する。
  論文  参考訳（メタデータ） (2023-11-15T03:43:04Z)
• Composable Core-sets for Diversity Approximation on Multi-Dataset Streams [4.765131728094872]
  構成可能なコアセットはコアセットであり、コアセットのサブセットを結合して元のデータに対する近似を得るという性質を持つ。 本研究では,構成可能なコアセットを構築するためのコアセット構築アルゴリズムを導入し,アクティブな学習環境におけるストリームデータを要約する。
  論文  参考訳（メタデータ） (2023-08-10T23:24:51Z)
• Recurrent Bilinear Optimization for Binary Neural Networks [58.972212365275595]
  BNNは、実数値重みとスケールファクターの内在的双線型関係を無視している。 私たちの仕事は、双線形の観点からBNNを最適化する最初の試みです。 我々は、様々なモデルやデータセット上で最先端のBNNに対して印象的な性能を示す頑健なRBONNを得る。
  論文  参考訳（メタデータ） (2022-09-04T06:45:33Z)
• Adaptive Second Order Coresets for Data-efficient Machine Learning [5.362258158646462]
  データセット上で機械学習モデルをトレーニングすると、かなりの計算コストが発生する。 機械学習のためのトレーニング例のサブセットを抽出するために,AdaCoreを提案する。
  論文  参考訳（メタデータ） (2022-07-28T05:43:09Z)
• Data Summarization via Bilevel Optimization [48.89977988203108]
  シンプルだが強力なアプローチは、小さなサブセットのデータを操作することだ。 本研究では,コアセット選択を基数制約付き双レベル最適化問題として定式化する汎用コアセットフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-09-26T09:08:38Z)
• Robust Coreset for Continuous-and-Bounded Learning (with Outliers) [30.91741925182613]
  本研究では,エム連続有界学習問題に対する新しいロバストなコアセット法を提案する。 私たちの堅牢なコアセットは、完全にダイナミックな環境で効率的に維持できます。
  論文  参考訳（メタデータ） (2021-06-30T19:24:20Z)
• Top-KAST: Top-K Always Sparse Training [50.05611544535801]
  トレーニングを通して一定間隔を保存するTop-KASTを提案する。 確立したImageNetベンチマークのトレーニングモデルでは,従来の作業と同等かそれ以上に動作可能であることを示す。 ImageNetの結果に加えて、言語モデリングの分野においても、我々のアプローチを実証しています。
  論文  参考訳（メタデータ） (2021-06-07T11:13:05Z)
• On Coresets for Support Vector Machines [61.928187390362176]
  coresetは、元のデータポイントの小さな、代表的なサブセットである。 我々は,本アルゴリズムを用いて,既製のSVMソルバをストリーミング,分散,動的データ設定に適用可能であることを示す。
  論文  参考訳（メタデータ） (2020-02-15T23:25:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。