論文の概要: Chanakya: Learning Runtime Decisions for Adaptive Real-Time Perception
- arxiv url: http://arxiv.org/abs/2106.05665v3
- Date: Fri, 10 Nov 2023 18:36:29 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-13 18:51:50.040347
- Title: Chanakya: Learning Runtime Decisions for Adaptive Real-Time Perception
- Title(参考訳): Chanakya: 適応的なリアルタイム認識のための学習ランタイムの決定
- Authors: Anurag Ghosh, Vaibhav Balloli, Akshay Nambi, Aditya Singh, Tanuja Ganu
- Abstract要約: Chanakyaは、トレードオフによって引き起こされる決定を自動的に学習する、学習された近似実行フレームワークである。
どちらの目標も近似することなく、精度とレイテンシを暗黙的にバランスさせる。
パブリックデータセット上での最先端の静的および動的実行ポリシよりも優れています。
- 参考スコア(独自算出の注目度): 4.201396612455545
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Real-time perception requires planned resource utilization. Computational
planning in real-time perception is governed by two considerations -- accuracy
and latency. There exist run-time decisions (e.g. choice of input resolution)
that induce tradeoffs affecting performance on a given hardware, arising from
intrinsic (content, e.g. scene clutter) and extrinsic (system, e.g. resource
contention) characteristics.
Earlier runtime execution frameworks employed rule-based decision algorithms
and operated with a fixed algorithm latency budget to balance these concerns,
which is sub-optimal and inflexible. We propose Chanakya, a learned approximate
execution framework that naturally derives from the streaming perception
paradigm, to automatically learn decisions induced by these tradeoffs instead.
Chanakya is trained via novel rewards balancing accuracy and latency
implicitly, without approximating either objectives. Chanakya simultaneously
considers intrinsic and extrinsic context, and predicts decisions in a flexible
manner. Chanakya, designed with low overhead in mind, outperforms
state-of-the-art static and dynamic execution policies on public datasets on
both server GPUs and edge devices.
- Abstract(参考訳): リアルタイムの知覚には計画された資源利用が必要である。
リアルタイム知覚における計算計画には、精度とレイテンシという2つの考慮事項がある。
特定のハードウェアの性能に影響を与えるトレードオフを誘発する実行時決定(例えば、入力解像度の選択)があり、本質的(コンテンツ、シーンクラッタなど)と外生的(システム、リソース競合など)の特性から生じる。
以前のランタイム実行フレームワークはルールベースの決定アルゴリズムを採用し、これらの懸念のバランスをとるためにアルゴリズムの遅延予算を固定した。
ストリーミング認識パラダイムから自然に派生した学習された近似実行フレームワークであるChanakyaを提案し、代わりにこれらのトレードオフによって引き起こされる決定を自動的に学習する。
Chanakyaは、どちらの目標も近似することなく、正確さとレイテンシを暗黙的にバランスさせる新しい報酬を通じてトレーニングされている。
チャナキヤは内在的な文脈と外在的な文脈を同時に考慮し、柔軟な方法で決定を予測する。
オーバーヘッドを念頭に設計されたChanakyaは、サーバGPUとエッジデバイスの両方のパブリックデータセット上で、最先端の静的および動的実行ポリシより優れています。
関連論文リスト
- Understanding Optimization in Deep Learning with Central Flows [53.66160508990508]
RMSの暗黙的な振る舞いは、微分方程式の「中央流:」によって明示的に捉えられることを示す。
これらのフローは、汎用ニューラルネットワークの長期最適化軌道を経験的に予測できることを示す。
論文 参考訳(メタデータ) (2024-10-31T17:58:13Z) - Switchable Decision: Dynamic Neural Generation Networks [98.61113699324429]
本稿では,各データインスタンスのリソースを動的に割り当てることで,推論を高速化するスイッチブルな決定を提案する。
提案手法は, 同一の精度を維持しながら, 推論時のコスト低減に有効である。
論文 参考訳(メタデータ) (2024-05-07T17:44:54Z) - Learning Logic Specifications for Policy Guidance in POMDPs: an
Inductive Logic Programming Approach [57.788675205519986]
我々は任意の解法によって生成されるPOMDP実行から高品質なトレースを学習する。
我々は、データと時間効率のIndu Logic Programming(ILP)を利用して、解釈可能な信念に基づくポリシー仕様を生成する。
ASP(Answer Set Programming)で表現された学習は、ニューラルネットワークよりも優れた性能を示し、より少ない計算時間で最適な手作りタスクに類似していることを示す。
論文 参考訳(メタデータ) (2024-02-29T15:36:01Z) - Successive Refinement in Large-Scale Computation: Advancing Model
Inference Applications [67.76749044675721]
階層化分解能計算の解を導入する。
これらの解により、最終結果よりも早い段階でより解像度の低い結果が得られる。
論文 参考訳(メタデータ) (2024-02-11T15:36:33Z) - Adaptive Decision-Making with Constraints and Dependent Losses:
Performance Guarantees and Applications to Online and Nonlinear
Identification [5.787117733071415]
エージェントが有限の選択肢の中から繰り返し選択することで累積性能目標を最適化する適応的意思決定問題を考える。
我々のアルゴリズムと分析はインスタンス依存であり、つまり、環境の最適以下の選択は、我々の後悔の限界に利用され、反映される。
得られたアルゴリズムの性能は2つの数値例で強調される。
論文 参考訳(メタデータ) (2023-04-06T18:32:26Z) - Adaptive Information Belief Space Planning [9.365993173260316]
我々は、不確実性に明示的に対処する報酬関数を使用して、情報決定を効率的に行うことに重点を置いている。
期待される情報理論の報奨関数と結果の値関数のバウンダリを導出する。
そこで我々は,計算時間のごく一部で同一の動作選択を実現するために集約を洗練させる手法を提案する。
論文 参考訳(メタデータ) (2022-01-14T21:12:00Z) - Learning-based decentralized offloading decision making in an
adversarial environment [1.9978675755638664]
Vehicular fog Computing (VFC) は、クラウドコンピューティング機能をインターネットの端にある分散フォグノードにプッシュする。
本稿では,対戦型マルチアームバンディット理論に基づく,バンドリットフィードバックを用いた新しい逆オンラインアルゴリズムを開発する。
理論的には、入力サイズ依存選択規則は、準最適動作を探索することなく、適切な霧ノードを選択することができる。
論文 参考訳(メタデータ) (2021-04-26T19:04:55Z) - Towards Streaming Perception [70.68520310095155]
本稿では、リアルタイムオンライン知覚のための単一のメトリクスにレイテンシと精度を協調的に統合するアプローチを提案する。
この指標の背後にある重要な洞察は、瞬間ごとに認識スタック全体の出力を共同で評価することである。
本稿では,都市ビデオストリームにおけるオブジェクト検出とインスタンスセグメンテーションの具体的タスクに注目し,高品質で時間依存的なアノテーションを備えた新しいデータセットを寄贈する。
論文 参考訳(メタデータ) (2020-05-21T01:51:35Z) - Learning with Differentiable Perturbed Optimizers [54.351317101356614]
本稿では,操作を微分可能で局所的に一定ではない操作に変換する手法を提案する。
提案手法は摂動に依拠し,既存の解法とともに容易に利用することができる。
本稿では,この枠組みが,構造化予測において発達した損失の族とどのように結びつくかを示し,学習課題におけるそれらの使用に関する理論的保証を与える。
論文 参考訳(メタデータ) (2020-02-20T11:11:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。