論文の概要: Near-Term Enforcement of AI Chip Export Controls Using A Minimal Firmware-Based Design for Offline Licensing
- arxiv url: http://arxiv.org/abs/2404.18308v1
- Date: Sun, 28 Apr 2024 20:38:20 GMT
- ステータス: 処理完了
- システム内更新日: 2024-04-30 15:06:26.216553
- Title: Near-Term Enforcement of AI Chip Export Controls Using A Minimal Firmware-Based Design for Offline Licensing
- Title（参考訳）: オフラインライセンスのための最小限のファームウェア設計によるAIチップ輸出制御の長期化
- Authors: James Petrie,
- Abstract要約: オフラインライセンスは、コンピューティングガバナンスの技術的なメカニズムです。
これは、潜在的に危険なフロンティアAIモデルの非規制トレーニングを防ぐために使用できる。
ファームウェアのアップデートを通じて配信できる、オフラインライセンスの最小バージョンの設計を提示します。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Offline licensing is a technical mechanism for compute governance that could be used to prevent unregulated training of potentially dangerous frontier AI models. The mechanism works by disabling AI chips unless they have an up-to-date license from a regulator. In this report, we present a technical design for a minimal version of offline licensing that could be delivered via a firmware update. Existing AI chips could potentially support offline licensing within a year if they have the following (relatively common) hardware security features: firmware verification, firmware rollback protection, and secure non-volatile memory. Public documentation suggests that NVIDIA's H100 AI chip already has these security features. Without additional hardware modifications, the system is susceptible to physical hardware attacks. However, these attacks might require expensive equipment and could be difficult to reliably apply to thousands of AI chips. A firmware-based offline licensing design shares the same legal requirements and license approval mechanism as a hardware-based solution. Implementing a firmware-based solution now could accelerate the eventual deployment of a more secure hardware-based solution in the future. For AI chip manufacturers, implementing this security mechanism might allow chips to be sold to customers that would otherwise be prohibited by export restrictions. For governments, it may be important to be able to prevent unsafe or malicious actors from training frontier AI models in the next few years. Based on this initial analysis, firmware-based offline licensing could partially solve urgent security and trade problems and is technically feasible for AI chips that have common hardware security features.
- Abstract（参考訳）: オフラインライセンスは、潜在的に危険なフロンティアAIモデルの非規制トレーニングを防ぐために使用できる計算ガバナンスの技術的メカニズムである。
このメカニズムは、規制当局から最新のライセンスを持っていない限り、AIチップを無効にすることで機能する。
本報告では,ファームウェア更新を通じて配信可能な,オフラインライセンスの最小バージョンに関する技術的設計について述べる。
既存のAIチップは、ファームウェアの検証、ファームウェアのロールバック保護、不揮発性メモリの安全性といった、ハードウェアセキュリティ機能(比較的一般的な)がある場合、1年以内にオフラインライセンスをサポートする可能性がある。
公開資料によると、NVIDIAのH100 AIチップには、これらのセキュリティ機能がすでに備わっている。
追加のハードウェア修正がなければ、物理的なハードウェア攻撃の影響を受けやすい。
しかし、これらの攻撃は高価な機器を必要とする可能性があり、何千ものAIチップに確実に適用することは困難である。
ファームウェアベースのオフラインライセンス設計は、ハードウェアベースのソリューションと同じ法的要件とライセンス承認メカニズムを共有している。
ファームウェアベースのソリューションの実装は、将来的にはよりセキュアなハードウェアベースのソリューションの最終的な展開を加速する可能性がある。
AIチップメーカーにとって、このセキュリティメカニズムを実装することで、輸出制限によって禁止されるであろう顧客にチップを販売できるようになるかもしれない。
政府にとって、今後数年間で、安全でないアクターや悪意のないアクターがフロンティアAIモデルをトレーニングするのを防ぐことが重要である。
この初期分析に基づいて、ファームウェアベースのオフラインライセンスは、緊急のセキュリティと取引の問題を部分的に解決し、ハードウェアのセキュリティに共通する機能を持つAIチップに対して技術的に実現可能である。
関連論文リスト
- Using AI Alignment Theory to understand the potential pitfalls of regulatory frameworks [55.2480439325792]
本稿では、欧州連合の人工知能法(EU AI法)を批判的に検討する。
人工知能における技術的アライメントの潜在的な落とし穴に焦点を当てたアライメント理論(AT)研究からの洞察を利用する。
これらの概念をEU AI Actに適用すると、潜在的な脆弱性と規制を改善するための領域が明らかになる。
論文 参考訳（メタデータ） (2024-10-10T17:38:38Z) - Propelling Innovation to Defeat Data-Leakage Hardware Trojans: From Theory to Practice [0.0]
多くの企業は、半導体製造コストの増大により、外部製造設備に依存してチップの製造を行っている。
ハードウェアにトロイの木馬を注入し、システムのセキュリティを危険にさらすこともある。
ハードウェアTrojansの一般的な目的の1つは、データ漏洩のサイドチャネルを確立することである。
論文 参考訳（メタデータ） (2024-09-30T16:51:30Z) - Physical Backdoor Attack can Jeopardize Driving with Vision-Large-Language Models [53.701148276912406]
Vision-Large-Language-models (VLMs) は自動運転において大きな応用可能性を持っている。
BadVLMDriverは、物理的オブジェクトを使用して実際に起動できる自動運転のためのVLMに対する最初のバックドア攻撃である。
BadVLMDriverは、赤い風船を持った歩行者に突如、加速を誘導する攻撃の成功率を92%達成する。
論文 参考訳（メタデータ） (2024-04-19T14:40:38Z) - Machine learning-based malware detection for IoT devices using
control-flow data [0.0]
マルウェア検出のための実行ファイルの制御フロー関連データの適用性について検討する。
本稿では,2段階のマルウェア検出手法を提案する。第1フェーズでは,静的バイナリ解析を用いて制御フロー関連データを抽出する。
第2フェーズでは、ニューラルネットワークモデルを使用してバイナリ実行ファイルを悪意または良性のいずれかとして分類する。
論文 参考訳（メタデータ） (2023-11-20T08:43:09Z) - Embedded Software Development with Digital Twins: Specific Requirements
for Small and Medium-Sized Enterprises [55.57032418885258]
デジタル双生児は、コスト効率の良いソフトウェア開発とメンテナンス戦略の可能性を秘めている。
私たちは中小企業に現在の開発プロセスについてインタビューした。
最初の結果は、リアルタイムの要求が、これまでは、Software-in-the-Loop開発アプローチを妨げていることを示している。
論文 参考訳（メタデータ） (2023-09-17T08:56:36Z) - When Authentication Is Not Enough: On the Security of Behavioral-Based Driver Authentication Systems [53.2306792009435]
我々はランダムフォレストとリカレントニューラルネットワークアーキテクチャに基づく2つの軽量ドライバ認証システムを開発した。
我々は,SMARTCANとGANCANという2つの新しいエスケープアタックを開発することで,これらのシステムに対する攻撃を最初に提案する。
コントリビューションを通じて、これらのシステムを安全に採用する実践者を支援し、車の盗難を軽減し、ドライバーのセキュリティを高める。
論文 参考訳（メタデータ） (2023-06-09T14:33:26Z) - Evil from Within: Machine Learning Backdoors through Hardware Trojans [72.99519529521919]
バックドアは、自動運転車のようなセキュリティクリティカルなシステムの整合性を損なう可能性があるため、機械学習に深刻な脅威をもたらす。
私たちは、機械学習のための一般的なハードウェアアクセラレーターに完全に存在するバックドアアタックを導入します。
我々は,Xilinx Vitis AI DPUにハードウェアトロイの木馬を埋め込むことにより,攻撃の実現可能性を示す。
論文 参考訳（メタデータ） (2023-04-17T16:24:48Z) - Explainability as a Requirement for Hardware: Introducing Explainable Hardware (XHW) [9.671698593620134]
現代のマイクロチップの不透明さは、セキュリティの問題を引き起こす。
政府は、セキュアなマイクロチップサプライチェーンを促進するために、大幅に投資する。
本稿では、説明可能なハードウェア(XHW)の概念を紹介する。
論文 参考訳（メタデータ） (2023-02-28T15:29:45Z) - EVHA: Explainable Vision System for Hardware Testing and Assurance -- An
Overview [0.0]
本稿では,ハードウェアテストと保証のための説明可能なビジョンシステム(EVHA)を提案する。
EVHAは、低コストで正確で高速な設計変更を最小限に検出することができる。
本稿では,防衛システムの設計,開発,実装,分析について概説する。
論文 参考訳（メタデータ） (2022-07-20T02:58:46Z) - Proceedings of the Artificial Intelligence for Cyber Security (AICS)
Workshop at AAAI 2022 [55.573187938617636]
ワークショップは、サイバーセキュリティの問題へのAIの適用に焦点を当てる。
サイバーシステムは大量のデータを生成し、これを効果的に活用することは人間の能力を超えます。
論文 参考訳（メタデータ） (2022-02-28T18:27:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。