論文の概要: FasterAI: A Lightweight Library for Creating Sparse Neural Networks

• arxiv url: http://arxiv.org/abs/2207.01088v1
• Date: Sun, 3 Jul 2022 18:13:47 GMT
• ステータス: 処理完了
• システム内更新日: 2022-07-06 07:58:32.949735
• Title: FasterAI: A Lightweight Library for Creating Sparse Neural Networks
• Title（参考訳）: fasterai:スパースニューラルネットワークを作成するための軽量ライブラリ
• Authors: Nathan Hubens
• Abstract要約: FasterAIは、ディープニューラルネットワーク圧縮技術の利用を促進することを目的とした、PyTorchベースのライブラリである。 本稿では,ライブラリのコアとなるFasterAIのスパース化機能に注目した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: FasterAI is a PyTorch-based library, aiming to facilitate the utilization of deep neural networks compression techniques such as sparsification, pruning, knowledge distillation, or regularization. The library is built with the purpose of enabling quick implementation and experimentation. More particularly, compression techniques are leveraging Callback systems of libraries such as fastai and Pytorch Lightning to bring a user-friendly and high-level API. The main asset of FasterAI is its lightweight, yet powerful, simplicity of use. Indeed, because it was developed in a very granular way, users can create thousands of unique experiments by using different combinations of parameters. In this paper, we focus on the sparsifying capabilities of FasterAI, which represents the core of the library. Performing sparsification of a neural network in FasterAI only requires a single additional line of code in the traditional training loop, yet allows to perform state-of-the-art techniques such as Lottery Ticket Hypothesis experiments
• Abstract（参考訳）: FasterAIはPyTorchベースのライブラリで、スパシフィケーション、プルーニング、知識蒸留、正規化といったディープニューラルネットワーク圧縮技術の利用を促進することを目的としている。 このライブラリは、迅速な実装と実験を可能にする目的で構築されている。 特に圧縮技術では,fastaiやPytorch Lightningといったライブラリのコールバックシステムを活用して,ユーザフレンドリでハイレベルなAPIを実現している。 FasterAIの主な資産は、軽量で、強力で、使用の単純さです。 実際、非常に粒度の細かい方法で開発されたため、ユーザーは異なるパラメータの組み合わせを使って何千ものユニークな実験を作成できる。 本稿では,ライブラリのコアとなるFasterAIのスパース化機能に注目した。 FasterAIでニューラルネットワークのスパーシフィケーションを実行するには、従来のトレーニングループで1行追加のコードのみを必要とするが、Lottery Ticket仮説実験のような最先端のテクニックを実行することができる。

関連論文リスト

• torchgfn: A PyTorch GFlowNet library [56.071033896777784]
  torchgfnはPyTorchライブラリで、このニーズに対処することを目指している。 環境のためのシンプルなAPIと、サンプルと損失のための有用な抽象化を提供する。
  論文  参考訳（メタデータ） (2023-05-24T00:20:59Z)
• TorchNTK: A Library for Calculation of Neural Tangent Kernels of PyTorch Models [16.30276204466139]
  我々は、PyTorchフレームワークでニューラルネットワークモデルの実験的ニューラルネットワークカーネル(NTK)を計算するためのピソンライブラリであるTorchNTKを紹介する。 このライブラリの特徴は、ユーザをレイヤワイドNTKコンポーネントに公開し、階層ワイドの計算がよりメモリ効率が高いことを示すことである。
  論文  参考訳（メタデータ） (2022-05-24T21:27:58Z)
• Opacus: User-Friendly Differential Privacy Library in PyTorch [54.8720687562153]
  私たちは、差分プライバシーでディープラーニングモデルをトレーニングするための、オープンソースのPyTorchライブラリであるOpacusを紹介します。 シンプルでユーザフレンドリなAPIを提供しており、コードに最大2行を追加することで、マシンラーニングの実践者がトレーニングパイプラインをプライベートにすることができる。
  論文  参考訳（メタデータ） (2021-09-25T07:10:54Z)
• Solo-learn: A Library of Self-supervised Methods for Visual Representation Learning [83.02597612195966]
  solo-learnは視覚表現学習のための自己指導型のメソッドのライブラリである。 Pythonで実装され、PytorchとPytorch Lightningを使用して、このライブラリは研究と業界のニーズの両方に適合する。
  論文  参考訳（メタデータ） (2021-08-03T22:19:55Z)
• Podracer architectures for scalable Reinforcement Learning [23.369001500657028]
  強化学習(RL)エージェントを大規模に訓練する方法はまだ活発な研究分野である。 このレポートでは、TPUはスケーラブルで効率的で再現性の高い方法でRLエージェントをトレーニングするのに特に適しています。
  論文  参考訳（メタデータ） (2021-04-13T15:05:35Z)
• TorchRadon: Fast Differentiable Routines for Computed Tomography [0.0]
  TorchRadonライブラリは、ディープラーニングとモデルベースのアプローチを組み合わせるために、CT問題に取り組む研究者を支援するように設計されている。 既存のAstra Toolboxと比較すると、TorchRadonは125倍高速である。 そのスピードとGPUサポートのため、TorchRadonは反復アルゴリズムの実装の高速バックエンドとしても効果的に使用できる。
  論文  参考訳（メタデータ） (2020-09-29T09:20:22Z)
• Collaborative Learning for Faster StyleGAN Embedding [127.84690280196597]
  本稿では,効率的な埋め込みネットワークと最適化に基づくイテレータからなる新しい協調学習フレームワークを提案する。 埋め込みネットワークを1つのフォワードパスで効率よく高品質の潜伏コードを得ることができる。
  論文  参考訳（メタデータ） (2020-07-03T15:27:37Z)
• Neural Network Compression Framework for fast model inference [59.65531492759006]
  我々は、ニューラルネットワーク圧縮フレームワーク(NNCF)と呼ばれる、微調整によるニューラルネットワーク圧縮のための新しいフレームワークを提案する。 様々なネットワーク圧縮手法の最近の進歩を活用し、空間性、量子化、双項化などのいくつかの実装を行っている。 フレームワークは、トレーニングサンプル内に提供され、あるいは既存のトレーニングコードにシームレスに統合可能なスタンドアロンパッケージとして使用することができる。
  論文  参考訳（メタデータ） (2020-02-20T11:24:01Z)
• fastai: A Layered API for Deep Learning [1.7223564681760164]
  fastaiは、実践者に高度なコンポーネントを提供するディープラーニングライブラリである。 これは研究者に、新しいアプローチを構築するために混在し、マッチできる低レベルのコンポーネントを提供する。
  論文  参考訳（メタデータ） (2020-02-11T21:16:48Z)
• Torch-Struct: Deep Structured Prediction Library [138.5262350501951]
  本稿では,構造化予測ライブラリTorch-Structを紹介する。 Torch-Structには,シンプルで柔軟な分散ベースのAPIを通じてアクセスされる,確率的構造の広範なコレクションが含まれている。
  論文  参考訳（メタデータ） (2020-02-03T16:43:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。