論文の概要: KATANA: A Fast, Low-Power Mapping of Kalman Filters onto Edge NPUs for Real-Time Tracking
- arxiv url: http://arxiv.org/abs/2606.14992v1
- Date: Fri, 12 Jun 2026 22:26:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-16 16:21:32.565158
- Title: KATANA: A Fast, Low-Power Mapping of Kalman Filters onto Edge NPUs for Real-Time Tracking
- Title(参考訳): KATANA: リアルタイムトラッキングのための高速かつ低消費電力なカルマンフィルタのエッジNPUへのマッピング
- Abstract要約: 本稿では,Kalmanフィルタの商用NPUへのエンド・ツー・エンドマッピングを実現するNPU対応最適化フレームワークであるKATANAを紹介する。
カタナはDPUマトリクスエンジン上で100%の演算を実行するために3つの代数グラフを書き換える。
シリーズ2では、最適化されたバッチEKFは13.43Wで223.35FPS、LKFは14.05Wで408.73FPSに達し、CPU実装と比較して97.9%のダイナミックエネルギー削減を実現している。
- 参考スコア(独自算出の注目度): 0.6840587119863305
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: State estimation is the closed-loop core of every real-time tracking system, from radar surveillance and counter-UAV defense to autonomous driving and robotics. These deployments run on edge platforms, where defense systems mount on vehicles and drones, and civilian pipelines live on cars and handheld devices. Here, every additional watt of compute erodes mission duration or operational range. Two hard constraints follow: each new measurement must be fused before the next control cycle, and the total compute must fit within a strict battery and thermal power envelope. The Linear and Extended Kalman Filters (LKF, EKF) are dominant estimators on these systems, but today they execute almost exclusively on CPUs, which serialize multi-object tracking (MOT) updates, or on custom FPGA/ASIC accelerators that lengthen design cycles. Contemporary AI-PC SoCs, like the Intel Core Ultra Series 1 and 2, integrate a low-power, data-parallel Neural Processing Unit (NPU). We therefore ask whether the Kalman filter can be mapped onto this existing matrix engine to meet real-time and low-power budgets simultaneously, avoiding a dedicated accelerator and keeping the CPU and GPU free for primary workloads. We present KATANA, an NPU-aware optimization framework delivering the first end-to-end mapping of the LKF and EKF onto a commercial NPU, alongside a cross-platform characterization on shipping AI-PC silicon. KATANA applies three algebraic graph rewrites: subtract-to-add reformulation via a precomputed negative-projection matrix H_neg, static-shape tensor fusion, and block-diagonal batched parallelization, ensuring 100% of operations execute on the DPU matrix engine. On the Series 2, the optimized batched EKF reaches 223.35 FPS at 13.43 W active power, and the LKF reaches 408.73 FPS at 14.05 W, delivering up to a 97.9% reduction in dynamic energy versus the CPU implementation.
- Abstract(参考訳): 状態推定は、レーダー監視や対UAV防御から自動運転やロボット工学まで、あらゆるリアルタイムトラッキングシステムのクローズドループコアである。
これらの配備はエッジプラットフォーム上で行われ、防衛システムは車やドローンに搭載され、民間のパイプラインは車やハンドヘルドデバイスで運用されている。
ここでは、余分な計算用エローダのミッション持続時間または運用範囲を計る。
以下の2つの厳しい制約が従う: それぞれの新しい測定は次の制御サイクルの前に融合されなければならず、全体の計算は厳しいバッテリーと熱パワーの封筒に収まらなければならない。
線形および拡張カルマンフィルタ(LKF、EKF)は、これらのシステムにおいて支配的な推定器であるが、今日では、マルチオブジェクト追跡(MOT)更新をシリアライズするCPUや、設計サイクルを延長するカスタムFPGA/ASICアクセラレータ上でのみ実行される。
Intel Core Ultra Series 1や2のような現代のAI-PC SoCは、低消費電力のデータ並列ニューラル処理ユニット(NPU)を統合している。
したがって、Kalmanフィルタを既存のマトリックスエンジンにマッピングして、リアルタイムと低消費電力の予算を同時に満たすことができるかどうかを問う。
我々は、LKFとEKFの最初のエンドツーエンドマッピングを商用NPUに提供したNPU対応の最適化フレームワークであるKATANAと、AI-PCシリコンの出荷に関するクロスプラットフォームな特徴について紹介する。
KATANAは3つの代数グラフを書き換える: 事前計算された負射影行列 H_neg、静的形状テンソル融合、ブロック対角のバッチ並列化、DPU行列エンジン上で100%の演算の実行を保証する。
シリーズ2では、最適化されたバッチEKFは13.43Wで223.35FPS、LKFは14.05Wで408.73FPSに達し、CPU実装と比較して97.9%のダイナミックエネルギー削減を実現している。
関連論文リスト
- Edge Physical AI Deployment of Vision Transformers on Heterogeneous Edge GPU Targeting Autonomous Vehicles [8.523119912549232]
本稿では最近のNVIDIAエッジGPUにおける変圧器推論のための不均一フレームディスパッチスケジューリング(H-FraDS)を提案する。
H-FraDSは、固定ディスパッチ比を使用してGPUとデュアルディープラーニングアクセラレータ(DLA)コアにフレームをルーティングし、レイテンシと電力制約下での利用を改善する。
H-FraDS Balanced Dispatch (1:2)はスウィントランスフォーマーを用いて125.93 FPSを達成する。
論文 参考訳(メタデータ) (2026-07-12T22:06:43Z) - STEEL: Sparsity-Aware Fused Attention for Energy-Efficient Long-Sequence Inference on AMD's XDNA NPU [17.901016888350735]
我々は、XDNAライクなニューラルプロセッシングエンジン(NPU)をターゲットにしたFlashAttentionの最初のオープンソース実装であるSTEELを提案する。
STEELは、それぞれCPUとGPUのベースラインに対して平均9.17xと1.75xのエネルギー消費を減らす。
XDNA 1では、STEELは、最先端技術よりも平均9.6倍のレイテンシ低減を実現し、XDNA 2上の層間アテンション実装と比較して平均22.8倍のスピードアップを実現している。
論文 参考訳(メタデータ) (2026-07-10T13:09:47Z) - An Agentic AI Framework with Large Language Models and Chain-of-Thought for UAV-Assisted Logistics Scheduling with Mobile Edge Computing [47.615329461292504]
クラウド製造において、無人航空機(UAV)は製品収集と移動エッジコンピューティング(MEC)の両方をサポートすることができる。
本稿では,エージェントAIによる2つのコンポーネントの最適化フレームワークを提案する。
まず,大規模言語モデル,検索拡張生成,および連鎖推論を組み合わせたエージェントAIを開発し,ユーザ入力をハイブリッドスケジューリング問題に対する解釈可能な数学的定式化に変換する。
論文 参考訳(メタデータ) (2026-05-13T09:13:19Z) - Reconfigurable Computing Challenge: Real-Time Graph Neural Networks for Online Event Selection in Big Science [0.4054399764907913]
本研究は、AMD Versal VCK190上でのベルII電磁量計ハードウェアトリガのための動的グラフニューラルネットワークのリアルタイム展開のためのエンドツーエンド実証実験である。
我々は,演算子融合,分割,マッピング,空間並列化,カーネルレベルの最適化を含むPythonベースの半自動設計フローを開発した。
私たちの設計では、エンドツーエンドのレイテンシ7.15マイクロ秒で、毎秒2.94万イベントのスループットを実現しています。
論文 参考訳(メタデータ) (2026-05-11T14:10:06Z) - Towards Intelligent Computation Offloading in Dynamic Vehicular Networks: A Scalable Multilayer Pipeline [0.3324986723090369]
高度なアルゴリズムと頻繁なソフトウェア更新によって、オンボードハードウェアが静的である間、より多くの処理パワーが要求されるため、ソフトウェア定義車両は計算ギャップが増大する。
このミスマッチは、運転支援システムやリアルタイム認識タスクを含む安全クリティカルな機能の性能を脅かす。
本研究では,厳密なラウンドトリップ時間制約を満たしつつ,車両の機能をクラウドやエッジリソースに動的に分散する新しい4層オフロードパイプラインを提案する。
論文 参考訳(メタデータ) (2026-04-29T08:27:35Z) - Characterizing Vision-Language-Action Models across XPUs: Constraints and Acceleration for On-Robot Deployment [8.758783768535805]
VLA(Vision-Language-Action)モデルは、一般的なロボット制御に期待できるが、ロボット上での展開は、コストとエネルギー予算の厳しいリアルタイム推論によってボトルネックとなる。
本稿では,モデル・ハードウエアのコキャラクタリゼーションによる低コストVLAデプロイメントの系統的解析を行う。
論文 参考訳(メタデータ) (2026-04-27T13:12:16Z) - Speeding Up MACE: Low-Precision Tricks for Equivarient Force Fields [51.95157731126864]
機械学習力場は高い計算コストで正確な分子動力学(MD)を提供することができる。
この論文は、計算ボトルネックを特定し、低精度の実行ポリシーを評価することで、MACEを安価かつ高速にすることを目的としている。
論文 参考訳(メタデータ) (2025-10-23T14:02:34Z) - StrikeWatch: Wrist-worn Gait Recognition with Compact Time-series Models on Low-power FPGAs [10.946464973530214]
歩行パターンが良くなると、特に専門家のフィードバックなしに怪我につながることがある。
Wrist-wornウェアラブルは、実用的で非侵襲的な代替手段を提供する。
本稿では,デバイス上でリアルタイム歩行認識を行う小型手首輪システムであるStrikeWatchを紹介する。
論文 参考訳(メタデータ) (2025-10-14T20:28:31Z) - TPLA: Tensor Parallel Latent Attention for Efficient Disaggregated Prefill and Decode Inference [48.40143137402824]
MLA(Multi-Head Latent Attention)は、キー値の状態を低ランクの潜在ベクトルに圧縮し、このベクトルだけをキャッシュしてメモリを減少させる。
しかし、テンソル並列性(TP)では、アテンションヘッドは複数のデバイスにまたがって計算され、各デバイスはフルキャッシュをロードしなければならない。
本稿では,潜在表現と各頭部の入力次元をデバイス間で分割し,シャード毎に独立して注目を行い,結果を全再現と組み合わせる方式であるTPLAを提案する。
論文 参考訳(メタデータ) (2025-08-21T15:25:40Z) - Pushing the Envelope of LLM Inference on AI-PC [45.081663877447816]
ウルトラロービットモデル(1/1.58/2-bit)は、同じモデルサイズを用いて、その完全精度のモデルのパープレキシティとエンドタスクのパフォーマンスとを一致させる。
最先端の推論ランタイム(例えばbitnet)の計算効率は未調査のままである。
まず1ビットと2ビットのマイクロカーネルを設計・実装し,計算効率の最大化を実現した。
我々は、現在のSOTAランタイムビットネットよりも優れた2ビットモデルを用いて、エンドツーエンドの推論結果を示す。
論文 参考訳(メタデータ) (2025-08-08T23:33:38Z) - Design and Implementation of an FPGA-Based Hardware Accelerator for Transformer [0.0]
トランスフォーマーベースの大規模言語モデルは、注意層とフィードフォワード層のための行列乗法に大きく依存している。
資源制約付き Xilinx KV260 FPGA 上で,高度に最適化されたタイル行列乗算アクセラレータを提案する。
我々の設計では、永続的なオンチップストレージ、最大データ再利用のための堅牢な2レベルタイリング戦略、およびシストリックのような非ローリング計算エンジンを活用している。
論文 参考訳(メタデータ) (2025-03-20T22:15:42Z) - Gated Linear Attention Transformers with Hardware-Efficient Training [60.670102007737476]
本研究は、並列化性に対してメモリ移動をオフにする線形注意のためのハードウェア効率のアルゴリズムについて述べる。
次に、このアルゴリズムを、データ依存ゲートを用いたより表現力豊かな線形アテンションに一般化する。
変圧器の標準アテンション層に代えて使用すると、結果として生じるゲート状リニアアテンショントランスが競合的に動作することが分かる。
論文 参考訳(メタデータ) (2023-12-11T18:51:59Z) - FastFlowNet: A Lightweight Network for Fast Optical Flow Estimation [81.76975488010213]
ディセンス光学フロー推定は、多くのロボットビジョンタスクで重要な役割を果たしています。
現在のネットワークはしばしば多くのパラメータを占有し、計算コストがかかる。
提案したFastFlowNetは、周知の粗大なやり方で、以下のイノベーションで機能する。
論文 参考訳(メタデータ) (2021-03-08T03:09:37Z) - Fully Convolutional Online Tracking [47.78513247048846]
我々は、分類と回帰の両方のためにFCOTと呼ばれる完全な畳み込みオンライン追跡フレームワークを提示する。
我々の重要な貢献は、ターゲットフィルタの重みをオンラインサンプルで初期化するオンライン回帰モデル生成器(RMG)の導入である。
RMGのユニークな設計のおかげで、我々のFCOTは時間次元に沿った目標変動の処理に有効であるばかりでなく、より正確な結果を生み出すことができる。
論文 参考訳(メタデータ) (2020-04-15T14:21:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。