論文の概要: Workload Identification with Physical Side Channels for AI Governance
- arxiv url: http://arxiv.org/abs/2609.00309v1
- Date: Mon, 31 Aug 2026 19:59:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-02 16:31:36.040778
- Title: Workload Identification with Physical Side Channels for AI Governance
- Title（参考訳）: AIガバナンスのための物理側チャネルを用いたワークロード同定
- Abstract要約: 外部オブザーバは、NVIDIA H200上で動作するワークロードのクラスを、そのパワードローから特定できることを示す。
推論としてトレーニングを偽装するために4つの回避策がテストされ、さらに680個の敵の痕跡が得られた。
- 参考スコア（独自算出の注目度）: 0.5013248430919224
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: AI compute verification is one of the first tangible and tractable points for international policy aimed at AI governance. Determining whether frontier labs, or any operator, comply with agreements requires the regulating authority to discern how their compute is used. The elementary building block of AI compute is the GPU, and any activity it executes leaves a physical trace. Here, we show that an external observer can identify the class of the workload running on an NVIDIA H200 from its power draw. Unlike on-chip NVML telemetry, which can be spoofed or replayed, such a physical channel can in principle be observed independently of operator cooperation. We recorded $930$ five-second traces at $\sim 10$ MHz, covering seventeen open LLM families and twenty-five non-AI workloads. Over this corpus we separate training from inference and from non-AI computation with an accuracy of $97\%$ and a macro-averaged F1 score of $0.955$, evaluated on model families unseen during training. AI workload spectral content predominantly lies below $\sim 20$kHz and training is particularly recognizable through the memory-bound optimizer update. The GPU operator is then treated as adversarial and able to reshape the physical computation itself. Four evasion strategies are tested to disguise training as inference, producing an additional 680 adversarial traces. A detector hardened against evasion strategies, with the tested strategy held out, catches training $\geq 99\%$ of the time for three of the four strategies. The fourth, diluted low-rank adaptation (LoRA), is detected $48$--$88\%$ of the time with a hardened classifier, rising to $\geq 98\%$ with an additional rescue rule. While these attacks are not a comprehensive evaluation against adversarial behaviour, they offer initial insights beyond genuine activities and a dataset for developing and testing stronger evasion mechanisms.
- Abstract（参考訳）: AIの計算検証は、AIガバナンスを目標とする国際政策において、初めて明確かつ困難なポイントの1つだ。
フロンティア研究所、またはいかなるオペレーターも合意に従うかどうかを決定するには、その計算がどのように使用されるかを特定するための規制当局が必要である。
AIコンピューティングの基本的なビルディングブロックはGPUであり、それが実行するアクティビティは物理的なトレースを残します。
ここでは、外部オブザーバがNVIDIA H200上で動作しているワークロードのクラスをパワードローから特定できることを示す。
オンチップのNVMLテレメトリとは異なり、このような物理チャネルは操作者の協調とは独立して観測することができる。
930ドル、5秒のトレースを$\sim 10$ MHzで記録し、17のオープンLLMファミリーと25の非AIワークロードをカバーしました。
このコーパスでは、推論とAI以外の計算から9,7\%の精度でトレーニングを分離し、マクロ平均F1スコアは0.955$で、トレーニング中に見つからないモデルファミリで評価する。
AIワークロードのスペクトルコンテンツは、主に$\sim 20$kHz以下で、トレーニングはメモリバウンドオプティマイザ更新を通じて特に認識可能である。
GPU演算子は逆数扱いされ、物理計算自体を再構成することができる。
推論としてトレーニングを偽装するために4つの回避策がテストされ、さらに680個の敵の痕跡が得られた。
検出器は、回避戦略に対して強化され、テストされた戦略が示され、4つの戦略のうち3つの戦略のうち3つの時間の99.%のトレーニングをキャッチする。
第4の希薄なローランク適応(LoRA)は、強化された分類器で48ドルから88ドル%の価格で検出され、追加の救済規則により$\geq 98\%の値に上昇する。
これらの攻撃は敵の行動に対する包括的評価ではないが、真の活動を超えた最初の洞察と、より強力な回避メカニズムの開発とテストのためのデータセットを提供する。
関連論文リスト
- Adversarially Robust Abductive Fusion of Pre-trained Transformer-based Perception Models [5.574264082008515]
従来のメタ認知的手法は、モデルのエラーを示す論理ルールを学習するが、手書きのドメイン知識に頼っている。
このメタ認知層はベクトル空間幾何学を利用してドメインの知識を使わずに学習可能であることを示す。
アプローチはニューロシンボリックであるため、これらのルールは単一の論理的枠組みを共有しており、利用可能なドメイン知識によって補完することができる。
論文 参考訳（メタデータ） (2026-08-04T19:46:57Z) - OVIG: Optimistic Verification of AI Training Integrity via Gradient Signals [12.13115443718909]
アウトソーストレーニングは、トレーニング統合性ギャップを生み出します。
OVIGは、異種実行下でのトレーニング後のアウトソースAIに対して、実用的な整合性レイヤを提供する。
論文 参考訳（メタデータ） (2026-06-19T02:22:28Z) - Detecting Hidden ML Training With Zero-Overhead Telemetry [0.5633936331890176]
GPUワークロードのハードウェア対応監視は、AIコンピューティングガバナンスのための多くの提案を基盤としているが、開発者が監視メカニズムを破ることができれば、そのようなスキームは動作不能である。
我々は,ゼロオーバーヘッド・プライバシ保存型NVMLテレメトリのみを用いて,GPUワークロード分類の逆方向の堅牢性を評価する。
我々は、コーパス全体にわたるトレーニングワークロードを特定するための98.2%のバイナリ精度と、最も困難な予期せぬワークロードに対して43～87%の精度を達成する分類器を開発する。
論文 参考訳（メタデータ） (2026-06-17T16:39:40Z) - Scaling Laws for Agent Harnesses via Effective Feedback Compute [53.68149869349268]
emphEffective Feedback Compute (EFC)は、情報的、有効、非冗長な場合にのみフィードバックを信用し、その後の決定のために保持するトレースレベルのスケーリング座標である。
EFCベースの座標は、生の計算ベースラインよりも失敗率を常に予測する。
論文 参考訳（メタデータ） (2026-05-28T09:45:47Z) - Cybersecurity AI: A Game-Theoretic AI for Guiding Attack and Defense [1.0933254855925085]
Generative Cut-the-Rope (G-CTR) はエージェントのコンテキストから攻撃グラフを抽出するゲーム理論誘導層である。
5つの実世界のエクササイズでは、G-CTRは専門家グラフ構造の70～90%と一致し、60～245倍高速で、手作業による分析より140倍以上安い。
論文 参考訳（メタデータ） (2026-01-09T16:06:10Z) - LLM-Powered Detection of Price Manipulation in DeFi [12.59175486585742]
分散ファイナンス(DeFi)のスマートコントラクトは数十億ドルを管理し、エクスプロイトの主要なターゲットとなっている。
価格操作の脆弱性は、しばしばフラッシュローンを通じて発生し、壊滅的な攻撃の類である。
本稿では,静的解析とLarge Language Model(LLM)に基づく推論を組み合わせたハイブリッドフレームワークPMDetectorを提案する。
論文 参考訳（メタデータ） (2025-10-24T09:13:30Z) - Provably Efficient Action-Manipulation Attack Against Continuous Reinforcement Learning [49.48615590763914]
我々は,モンテカルロ木探索法を用いて効率的な行動探索と操作を行うLCBTというブラックボックス攻撃アルゴリズムを提案する。
提案手法は, DDPG, PPO, TD3の3つの攻撃的アルゴリズムに対して, 連続的な設定で実行し, 攻撃性能が期待できることを示す。
論文 参考訳（メタデータ） (2024-11-20T08:20:29Z) - T2IShield: Defending Against Backdoors on Text-to-Image Diffusion Models [70.03122709795122]
バックドア攻撃の検出, 局所化, 緩和のための総合防御手法T2IShieldを提案する。
バックドアトリガーによって引き起こされた横断アテンションマップの「アシミレーション現象」を見いだす。
バックドアサンプル検出のために、T2IShieldは計算コストの低い88.9$%のF1スコアを達成している。
論文 参考訳（メタデータ） (2024-07-05T01:53:21Z) - Intention Analysis Makes LLMs A Good Jailbreak Defender [79.4014719271075]
我々は,シンプルかつ高能率な防衛戦略,すなわち意図分析(mathbbIA$)を提示する。
$mathbbIA$ は LLM 固有の自己修正をトリガーし、2段階のプロセスを通じて能力を向上させる。
さまざまなjailbreakベンチマークの実験によると、$mathbbIA$は一貫して応答の有害性を著しく低減できる。
論文 参考訳（メタデータ） (2024-01-12T13:15:05Z) - Online Apprenticeship Learning [58.45089581278177]
見習い学習(AL)では、コスト関数にアクセスせずにマルコフ決定プロセス(MDP)が与えられます。
目標は、事前に定義されたコスト関数のセットで専門家のパフォーマンスに一致するポリシーを見つけることです。
ミラー下降型ノンレグレットアルゴリズムを2つ組み合わせることで,OAL問題を効果的に解くことができることを示す。
論文 参考訳（メタデータ） (2021-02-13T12:57:51Z) - Fast is better than free: Revisiting adversarial training [86.11788847990783]
より弱く安価な敵を用いて、経験的に堅牢なモデルを訓練することが可能であることを示す。
我々は,FGSM逆行訓練を失敗に導く「破滅的オーバーフィッティング(catastrophic overfitting)」と呼ばれる障害モードを特定した。
論文 参考訳（メタデータ） (2020-01-12T20:30:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。