論文の概要: Exploring Energy-Accuracy Tradeoffs in AI Hardware

• arxiv url: http://arxiv.org/abs/2011.08779v1
• Date: Tue, 17 Nov 2020 17:14:28 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-24 15:53:59.250971
• Title: Exploring Energy-Accuracy Tradeoffs in AI Hardware
• Title（参考訳）: AIハードウェアにおけるエネルギー精度のトレードオフを探る
• Authors: Cory Merkel
• Abstract要約: 我々は、アプリケーション依存のエネルギー要求を満たすために、AIシステムが最小限の精度で運用する必要があるシナリオを考察する。 本稿では,AIシステムのコストを意思決定プロセスのコストと意思決定実行のコストに分割する簡易関数を提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Artificial intelligence (AI) is playing an increasingly significant role in our everyday lives. This trend is expected to continue, especially with recent pushes to move more AI to the edge. However, one of the biggest challenges associated with AI on edge devices (mobile phones, unmanned vehicles, sensors, etc.) is their associated size, weight, and power constraints. In this work, we consider the scenario where an AI system may need to operate at less-than-maximum accuracy in order to meet application-dependent energy requirements. We propose a simple function that divides the cost of using an AI system into the cost of the decision making process and the cost of decision execution. For simple binary decision problems with convolutional neural networks, it is shown that minimizing the cost corresponds to using fewer than the maximum number of resources (e.g. convolutional neural network layers and filters). Finally, it is shown that the cost associated with energy can be significantly reduced by leveraging high-confidence predictions made in lower-level layers of the network.
• Abstract（参考訳）: 人工知能(AI)は、私たちの日常生活においてますます重要な役割を担っている。 この傾向は今後も続くことが期待されており、特に最近のAIをもっとエッジに移そうとする動きがある。 しかし、エッジデバイス(携帯電話、無人車両、センサーなど)におけるAIに関する最大の課題の1つは、そのサイズ、重量、電力制約である。 本研究では,アプリケーション依存エネルギー要求を満たすために,AIシステムが最小限の精度で動作する必要があるシナリオを考察する。 本稿では,AIシステムのコストを意思決定プロセスのコストと意思決定実行のコストに分割する簡易関数を提案する。 畳み込みニューラルネットワークを用いた単純な二分決定問題に対して,コストの最小化はリソースの最大数以下(畳み込みニューラルネットワーク層やフィルタなど)に対応することを示した。 最後に,ネットワークの低層層における高信頼度予測を活用することで,エネルギー関連コストを大幅に削減できることを示した。

関連論文リスト

• Hype, Sustainability, and the Price of the Bigger-is-Better Paradigm in AI [67.58673784790375]
  AIパラダイムは、科学的に脆弱なだけでなく、望ましくない結果をもたらすものだ、と私たちは主張する。 第一に、計算要求がモデルの性能よりも早く増加し、不合理な経済要求と不均等な環境フットプリントにつながるため、持続可能ではない。 第二に、健康、教育、気候などの重要な応用は別として、他人を犠牲にして特定の問題に焦点をあてることである。
  論文  参考訳（メタデータ） (2024-09-21T14:43:54Z)
• The Unseen AI Disruptions for Power Grids: LLM-Induced Transients [0.5749787074942511]
  AIインフラストラクチャは、超低慣性、シャープなパワーサージとディップ、ピーク時のパワー比を特徴としている。 これらの目に見えない特徴は、AIを非常にユニークな負荷にし、電力グリッドの信頼性とレジリエンスに脅威をもたらす。 本稿では、AI電力消費の規模を調査し、様々なシナリオにおけるAI過渡行動を分析し、AIワークロードの振る舞いを記述するための高レベルな数学的モデルを開発し、既存の電力網にもたらす可能性のある課題と機会について論じる。
  論文  参考訳（メタデータ） (2024-09-09T05:22:01Z)
• TinyM$^2$Net-V3: Memory-Aware Compressed Multimodal Deep Neural Networks for Sustainable Edge Deployment [0.5893124686141782]
  この研究はTinyM$2$Net-V3を導入し、相補的なデータの異なるモジュラリティを処理し、ディープニューラルネットワーク(DNN)モデルを設計し、モデル圧縮技術を採用している。 私たちの小さな機械学習モデルは、リソース制限されたハードウェア上にデプロイされ、ミリ秒以内の低レイテンシと非常に高い電力効率を示しました。
  論文  参考訳（メタデータ） (2024-05-20T20:03:51Z)
• Adaptation of XAI to Auto-tuning for Numerical Libraries [0.0]
  説明可能なAI(XAI)技術は、AIモデル開発の合理化と、ユーザへのAI出力の説明の負担軽減を目的として、注目を集めている。 本研究は,2つの異なるプロセスに統合されたAIモデルのXAIに着目し,数値計算を行う。
  論文  参考訳（メタデータ） (2024-05-12T09:00:56Z)
• Green Edge AI: A Contemporary Survey [46.11332733210337]
  AIの変換力は、ディープニューラルネットワーク(DNN)の利用から導かれる。 ディープラーニング(DL)は、エンドユーザーデバイス(EUD)に近い無線エッジネットワークに移行しつつある。 その可能性にもかかわらず、エッジAIは大きな課題に直面している。主な原因は、無線エッジネットワークのリソース制限と、DLのリソース集約的な性質の分離である。
  論文  参考訳（メタデータ） (2023-12-01T04:04:37Z)
• Power Hungry Processing: Watts Driving the Cost of AI Deployment? [74.19749699665216]
  生成された多目的AIシステムは、機械学習(ML)モデルをテクノロジに構築するための統一的なアプローチを約束する。 この「一般性」の野心は、これらのシステムが必要とするエネルギー量と放出する炭素量を考えると、環境に急激なコストがかかる。 これらのモデルを用いて,代表的なベンチマークデータセット上で1,000の推論を行うのに必要なエネルギーと炭素の量として,デプロイメントコストを測定した。 本稿は、多目的MLシステムの展開動向に関する議論から締めくくり、エネルギーと排出の面でコストの増大に対して、その実用性はより意図的に重み付けされるべきである、と警告する。
  論文  参考訳（メタデータ） (2023-11-28T15:09:36Z)
• Multi-Objective Optimization for UAV Swarm-Assisted IoT with Virtual Antenna Arrays [55.736718475856726]
  無人航空機(UAV)ネットワークはIoT(Internet-of-Things)を支援するための有望な技術である 既存のUAV支援データ収集および普及スキームでは、UAVはIoTとアクセスポイントの間を頻繁に飛行する必要がある。 協調ビームフォーミングをIoTとUAVに同時に導入し、エネルギーと時間効率のデータ収集と普及を実現した。
  論文  参考訳（メタデータ） (2023-08-03T02:49:50Z)
• Energy-frugal and Interpretable AI Hardware Design using Learning Automata [5.514795777097036]
  Tsetlin Machineと呼ばれる新しい機械学習アルゴリズムが提案されている。 本稿では,エネルギーフルーガルな人工知能ハードウェア設計手法について検討する。 本研究は, 資源配分が, 頑健かつ解釈可能な学習を達成しつつ, 決定的なエネルギー削減をもたらすことを示す。
  論文  参考訳（メタデータ） (2023-05-19T15:11:18Z)
• AI Maintenance: A Robustness Perspective [91.28724422822003]
  我々は、AIライフサイクルにおけるロバストネスの課題を強調し、自動車のメンテナンスに類似させることで、AIのメンテナンスを動機付ける。 本稿では,ロバストネスリスクの検出と軽減を目的としたAIモデル検査フレームワークを提案する。 我々のAIメンテナンスの提案は、AIライフサイクル全体を通して堅牢性評価、状態追跡、リスクスキャン、モデル硬化、規制を促進する。
  論文  参考訳（メタデータ） (2023-01-08T15:02:38Z)
• FPGA-optimized Hardware acceleration for Spiking Neural Networks [69.49429223251178]
  本研究は,画像認識タスクに適用したオフライントレーニングによるSNN用ハードウェアアクセラレータの開発について述べる。 この設計はXilinx Artix-7 FPGAをターゲットにしており、利用可能なハードウェアリソースの40%を合計で使用している。 分類時間を3桁に短縮し、ソフトウェアと比較すると精度にわずか4.5%の影響を与えている。
  論文  参考訳（メタデータ） (2022-01-18T13:59:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。