論文の概要: TERMon: Detecting Persistent Behavioral Threats in Edge AI via Hardware-Native Ternary Runtime Monitor

• arxiv url: http://arxiv.org/abs/2609.21713v1
• Date: Fri, 18 Sep 2026 12:49:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-21 18:40:17.087605
• Title: TERMon: Detecting Persistent Behavioral Threats in Edge AI via Hardware-Native Ternary Runtime Monitor
• Title（参考訳）: TERMon:ハードウェアNative Ternary Runtime MonitorによるエッジAIの永続的行動脅威の検出
• Abstract要約: エッジAIアクセラレータは、安全クリティカルな環境にますますデプロイされている。 モデル破損、分散シフト、および敵対的な入力が依然として良好で確実な予測を生成できるため、実行時の障害は検出されないことが多い。 本稿では,モデルの再実行や形式検証ではなく,推論動作を観察することで,そのような異常を検出する軽量ハードウェアランタイムモニタであるTERMonを提案する。
• 参考スコア（独自算出の注目度）: 0.9396259916237174
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Edge AI accelerators are increasingly deployed in safety-critical environments, where model outputs may control physical actuators, make access-control decisions, or trigger alarms. In these settings, runtime failures often remain undetected because model corruption, distribution shift, and adversarial inputs can still produce well-formed, confident predictions. This paper presents TERMon, a lightweight hardware runtime monitor that detects such anomalies by observing inference behavior rather than re-executing or formally verifying the model. TERMon represents class-conditional trusted behavior as hardware-efficient ternary patterns that are matched in parallel against a thermometer-encoded fingerprint. The ternary encoding reproduces the corresponding unquantized range decision exactly. TERMon detects harmful weight corruptions in proportion to their behavioral impact, while out-of-distribution and adversarial inputs are largely not separable using the monitored features at a strict false-positive operating point. We implemented TERMon on a PYNQ-Z2 FPGA, and the pipelined design requires no on-chip block RAM or DSPs and has a two-cycle decision latency.
• Abstract（参考訳）: エッジAIアクセラレータは、モデル出力が物理的なアクチュエータを制御したり、アクセス制御の決定をしたり、アラームをトリガーしたりする、安全クリティカルな環境にますますデプロイされている。 これらの設定では、モデル破損、分散シフト、および敵対的な入力が依然として良好で確実な予測を生成するため、実行時の障害は検出されないことが多い。 本稿では,モデルの再実行や形式検証ではなく,推論動作を観察することで,そのような異常を検出する軽量ハードウェアランタイムモニタであるTERMonを提案する。 TERMonは、温度計で符号化された指紋と平行に一致するハードウェア効率の3次パターンとして、クラスコンディションの信頼できる振る舞いを表現している。 三項符号化は、対応する未定量範囲決定を正確に再現する。 TERMonは、その行動への影響に比例して有害な体重減少を検知するが、分布外および逆入力は、厳密な偽陽性動作点における監視された特徴を用いては、ほとんど分離できない。 我々はPYNQ-Z2 FPGA上でTERMonを実装し,パイプライン設計ではオンチップブロックRAMやDSPを必要とせず,2サイクル決定遅延を有する。

関連論文リスト

• Predictive Varanus: Combining CSP Conformance Monitoring with Predictive LTL Runtime Verification [0.5996444607432799]
  PreDICTIVE VARANUSはプロセス代数Communicating Sequential Processes (CSP)で記述されたモデルを使用する2段階検証パイプラインである。 CSPバリデーションと予測の組み合わせによって、標準的なランタイムモニタリングよりも早期の検証が可能になることを示す。 ケーススタディは、CSPバリデーションと予測の組み合わせが、標準のランタイムモニタリングよりも早期のバリデーションを提供する方法を示している。
  論文  参考訳（メタデータ） (2026-09-15T06:26:51Z)
• ESTANet: Efficient Online Error Detection in Procedural Videos via Prediction Inconsistency [10.854541165722814]
  手続き型ビデオにおけるオンラインエラーのリアルタイム検出を,単純だが見落とされがちな視点から検討する。 動作検知器は入力力学や時間的文脈に対する感度によって自然に異なる予測特性を示す。 本稿では,動作予測の不整合を利用してエラーを検出する軽量フレームワークESTANetを提案する。
  論文  参考訳（メタデータ） (2026-06-24T02:29:57Z)
• Foresight: Failure Detection for Long-Horizon Robotic Manipulation with Action-Conditioned World Model Latents [58.49879338545782]
  ロングホライゾンタスクは、現実のロボット展開では一般的なものだが、そのようなタスクの障害検出は未調査のままである。 動作条件付き世界モデルからの潜在表現を用いて、操作軌跡をモニタする故障検出フレームワークであるForesightを提案する。 この結果から, 動作条件付きワールドモデル埋め込みは, 長距離操作における信頼性のある故障監視のためのスケーラブルな表現を提供する可能性が示唆された。
  論文  参考訳（メタデータ） (2026-06-22T09:32:28Z)
• CIAware-Bench: Benchmarking Control Intervention Awareness Across Frontier LLMs [100.38986535324284]
  我々は、フロンティアモデル全体でのtextbfcontrol textbfintervention (CI) の認識を測定するベンチマークである textbfCIAware-Bench を紹介する。 CIAware-Benchは、モデルが自身の軌跡を制御介入によって修正されたものと区別できるかどうかをテストする。
  論文  参考訳（メタデータ） (2026-06-09T16:24:16Z)
• Bit-Exact AI Inference Verification Without Performance Tradeoffs [0.0]
  カバー敵は、監視された計算において検証不可能な自由度を利用することができる。 現代の推論エンジンが決定論的だが不変ではない出力をいかに生み出すかを分析する。 ビットワイズな再計算は同一ハードウェアへのアクセスを必要としないことを示す。
  論文  参考訳（メタデータ） (2026-05-29T19:15:15Z)
• Detecting Object Tracking Failure via Sequential Hypothesis Testing [80.7891291021747]
  ビデオにおけるリアルタイムのオンラインオブジェクト追跡は、コンピュータビジョンにおける中核的なタスクである。 本稿では,物体追跡を逐次的仮説テストとして解釈することを提案する。 本研究では,地中追跡情報と内部追跡情報の両方を活用することにより,教師なしと教師なしの両方の変種を提案する。
  論文  参考訳（メタデータ） (2026-02-13T14:57:15Z)
• Adaptive Attacks on Trusted Monitors Subvert AI Control Protocols [80.68060125494645]
  プロトコルとモニタモデルを知っている信頼できないモデルによるアダプティブアタックについて検討する。 我々は、攻撃者がモデル出力に公知またはゼロショットプロンプトインジェクションを埋め込む単純な適応攻撃ベクトルをインスタンス化する。
  論文  参考訳（メタデータ） (2025-10-10T15:12:44Z)
• Beyond Linear Probes: Dynamic Safety Monitoring for Language Models [67.15793594651609]
  従来の安全モニタは、クエリ毎に同じ量の計算を必要とする。 動的アクティベーションモニタリングのための線形プローブの自然な拡張であるTrncated Polynomials (TPCs)を紹介する。 我々の重要な洞察は、TPCを段階的に、短期的に訓練し、評価できるということです。
  論文  参考訳（メタデータ） (2025-09-30T13:32:59Z)
• WATCH: Adaptive Monitoring for AI Deployments via Weighted-Conformal Martingales [22.789611187514975]
  非パラメトリックシーケンシャルテストのメソッド -- 特にコンフォーマルテストマーチンチャル(CTM)と任意の時間価推論 -- は、この監視タスクに有望なツールを提供する。 既存のアプローチは、限られた仮説クラスやアラーム基準の監視に限られています。」
  論文  参考訳（メタデータ） (2025-05-07T17:53:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。