論文の概要: Approximate Computing and the Efficient Machine Learning Expedition
- arxiv url: http://arxiv.org/abs/2210.00497v1
- Date: Sun, 2 Oct 2022 12:10:39 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-04 17:30:32.278047
- Title: Approximate Computing and the Efficient Machine Learning Expedition
- Title(参考訳): 近似計算と機械学習の効率的な展開
- Authors: J\"org Henkel, Hai Li, Anand Raghunathan, Mehdi B. Tahoori, Swagath
Venkataramani, Xiaoxuan Yang, Georgios Zervakis
- Abstract要約: 近似コンピューティング(AxC)は、緩和された精度要件を犠牲にして、効率的なシステム実装のための設計代替案として長い間受け入れられてきた。
さまざまなアプリケーション領域におけるAxCの研究活動にもかかわらず、AxCは機械学習(ML)に適用された過去10年間に成長した。
- 参考スコア(独自算出の注目度): 9.79841817640016
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Approximate computing (AxC) has been long accepted as a design alternative
for efficient system implementation at the cost of relaxed accuracy
requirements. Despite the AxC research activities in various application
domains, AxC thrived the past decade when it was applied in Machine Learning
(ML). The by definition approximate notion of ML models but also the increased
computational overheads associated with ML applications-that were effectively
mitigated by corresponding approximations-led to a perfect matching and a
fruitful synergy. AxC for AI/ML has transcended beyond academic prototypes. In
this work, we enlighten the synergistic nature of AxC and ML and elucidate the
impact of AxC in designing efficient ML systems. To that end, we present an
overview and taxonomy of AxC for ML and use two descriptive application
scenarios to demonstrate how AxC boosts the efficiency of ML systems.
- Abstract(参考訳): 近似コンピューティング(AxC)は、緩和された精度要件を犠牲にして効率的なシステム実装の代替案として長い間受け入れられてきた。
さまざまなアプリケーション領域におけるAxCの研究活動にもかかわらず、AxCは機械学習(ML)に適用された過去10年間に成長した。
定義により、MLモデルの近似概念だけでなく、MLアプリケーションに関連する計算オーバーヘッドの増加も、完全なマッチングと実りある相乗効果に関連付けられた対応する近似によって効果的に緩和された。
AI/ML用のAxCは、学術的なプロトタイプを超えた。
本研究では,AxCとMLの相乗的性質を啓蒙し,効率的なMLシステムの設計におけるAxCの影響を明らかにする。
そこで我々は、AxC for MLの概要と分類を提示し、AxCがMLシステムの効率をいかに向上するかを示すために、2つの記述的なアプリケーションシナリオを使用する。
関連論文リスト
- DeeR-VLA: Dynamic Inference of Multimodal Large Language Models for Efficient Robot Execution [114.61347672265076]
実世界のロボットのためのMLLMの開発は、ロボットプラットフォームで利用可能な計算能力とメモリ容量が典型的に限られているため、難しい。
活性化MLLMのサイズを自動的に調整するロボットビジョンランゲージ・アクション・モデル(DeeR)の動的早期実行フレームワークを提案する。
DeeR は LLM の計算コストを 5.2-6.5x に削減し、GPU のメモリを 2-6x に削減した。
論文 参考訳(メタデータ) (2024-11-04T18:26:08Z) - AxOMaP: Designing FPGA-based Approximate Arithmetic Operators using
Mathematical Programming [2.898055875927704]
FPGAの近似演算子を合成するための,データ解析による数学的プログラミングに基づく手法を提案する。
具体的には、特徴量データの相関解析の結果に基づいて、混合整数の2次制約付きプログラムを定式化する。
従来の進化的アルゴリズムによる最適化と比較して,PPAとBEHAVの併用最適化において,ハイパーボリュームの最大21%の改善が報告されている。
論文 参考訳(メタデータ) (2023-09-23T18:23:54Z) - AxOCS: Scaling FPGA-based Approximate Operators using Configuration
Supersampling [2.578571429830403]
MLに基づくスーパーサンプリングにより近似演算子を設計する手法であるAxOCSを提案する。
ビット幅の異なる演算子間でのPPAとBEHAVの相関を利用して大きなビット幅演算子を生成する手法を提案する。
FPGAに最適化された近似演算子に対するAxOCSの実験評価により,提案手法は性能改善効果を示す。
論文 参考訳(メタデータ) (2023-09-22T12:36:40Z) - In Situ Framework for Coupling Simulation and Machine Learning with
Application to CFD [51.04126395480625]
近年、流体力学計算を容易にする機械学習(ML)の多くの成功例が報告されている。
シミュレーションが大きくなるにつれて、従来のオフライン学習のための新しいトレーニングデータセットの生成は、I/Oとストレージのボトルネックを生み出します。
この作業は、この結合を単純化し、異種クラスタでのその場トレーニングと推論を可能にするソリューションを提供する。
論文 参考訳(メタデータ) (2023-06-22T14:07:54Z) - ezDPS: An Efficient and Zero-Knowledge Machine Learning Inference
Pipeline [2.0813318162800707]
我々は,新しい効率的かつゼロ知識の機械学習推論スキームであるezDPSを提案する。
ezDPSはzkMLパイプラインで、データを複数のステージで高精度に処理する。
ezDPSは,全測定値における一般的な回路ベース手法よりも1~3桁効率が高いことを示す。
論文 参考訳(メタデータ) (2022-12-11T06:47:28Z) - Towards an Efficient ML System: Unveiling a Trade-off between Task
Accuracy and Engineering Efficiency in a Large-scale Car Sharing Platform [0.0]
本稿では,実践者のドメインに存在する多数のデータセット,分類器,配布外検知器,予測テーブルを単一のMLに記述する,テキスト効率中心型MLシステムを提案する。
実世界のカーシェアリングプラットフォームにおける様々な画像認識タスクの下で、提案システムの構築と、この旅から学んだ教訓について検討した。
論文 参考訳(メタデータ) (2022-10-10T15:40:50Z) - Practical Machine Learning Safety: A Survey and Primer [81.73857913779534]
自動運転車のような安全クリティカルなアプリケーションにおける機械学習アルゴリズムのオープンワールド展開は、さまざまなML脆弱性に対処する必要がある。
一般化エラーを低減し、ドメイン適応を実現し、外乱例や敵攻撃を検出するための新しいモデルと訓練技術。
我々の組織は、MLアルゴリズムの信頼性を異なる側面から向上するために、最先端のML技術を安全戦略にマッピングする。
論文 参考訳(メタデータ) (2021-06-09T05:56:42Z) - Machine Learning Force Fields [54.48599172620472]
機械学習(ML)は、計算化学の多くの進歩を可能にした。
最も有望な応用の1つは、MLベースの力場(FF)の構築である。
本稿では,ML-FFの応用と,それらから得られる化学的知見について概説する。
論文 参考訳(メタデータ) (2020-10-14T13:14:14Z) - A Survey on Large-scale Machine Learning [67.6997613600942]
機械学習はデータに対する深い洞察を与え、マシンが高品質な予測を行うことを可能にする。
ほとんどの高度な機械学習アプローチは、大規模なデータを扱う場合の膨大な時間コストに悩まされる。
大規模機械学習は、ビッグデータからパターンを、同等のパフォーマンスで効率的に学習することを目的としている。
論文 参考訳(メタデータ) (2020-08-10T06:07:52Z) - Efficient Learning of Generative Models via Finite-Difference Score
Matching [111.55998083406134]
有限差分で任意の順序方向微分を効率的に近似する汎用戦略を提案する。
我々の近似は関数評価にのみ関係しており、これは並列で実行でき、勾配計算は行わない。
論文 参考訳(メタデータ) (2020-07-07T10:05:01Z) - Insights into Performance Fitness and Error Metrics for Machine Learning [1.827510863075184]
機械学習(ML)は、高いレベルの認知を達成し、人間のような分析を行うための訓練機械の分野である。
本稿では、回帰アルゴリズムや分類アルゴリズムにおいて、最もよく使われている性能適合度と誤差の測定値について検討する。
論文 参考訳(メタデータ) (2020-05-17T22:59:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。