論文の概要: Near-Term Enforcement of AI Chip Export Controls Using A Firmware-Based Design for Offline Licensing
- arxiv url: http://arxiv.org/abs/2404.18308v2
- Date: Tue, 28 May 2024 13:51:02 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-30 00:39:49.547910
- Title: Near-Term Enforcement of AI Chip Export Controls Using A Firmware-Based Design for Offline Licensing
- Title（参考訳）: オフラインライセンスのためのファームウェアに基づくAIチップ輸出制御の短期実施
- Authors: James Petrie,
- Abstract要約: オフラインライセンスは、AIモデルの非規制トレーニングを防ぐために使用できる、計算ガバナンスのメカニズムである。
ファームウェアのアップデートを通じて配信できるオフラインライセンスの最小バージョンの設計を提示します。
政府にとって、安全でないアクターや悪意のあるアクターがフロンティアAIモデルをトレーニングするのを防ぐことは重要であるかもしれない。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Offline Licensing is a mechanism for compute governance that could be used to prevent unregulated training of potentially dangerous frontier AI models. The mechanism works by disabling AI chips unless they have an unused license from a regulator. In this report, we present a design for a minimal version of Offline Licensing that could be delivered via a firmware update. Existing AI chips could potentially support Offline Licensing within a year if they have the following (relatively common) hardware security features: firmware verification, firmware rollback protection, and secure non-volatile memory. Public documentation suggests that NVIDIA's H100 AI chip already has these security features. Without additional hardware modifications, the system is susceptible to physical hardware attacks. However, these attacks might require expensive equipment and could be difficult to reliably apply to thousands of AI chips. A firmware-based Offline Licensing design shares the same legal requirements and license approval mechanism as a hardware-based solution. Implementing a firmware-based solution now could accelerate the eventual deployment of a more secure hardware-based solution in the future. For AI chip manufacturers, implementing this security mechanism might allow chips to be sold to customers that would otherwise be prohibited by export restrictions. For governments, it may be important to be able to prevent unsafe or malicious actors from training frontier AI models in the next few years. Based on this initial analysis, firmware-based Offline Licensing could partially solve urgent security and trade problems and is technically feasible for AI chips that have common hardware security features.
- Abstract（参考訳）: オフラインライセンスは、潜在的に危険なフロンティアAIモデルの非規制トレーニングを防ぐために使用できる、計算ガバナンスのメカニズムである。
このメカニズムは、規制当局から未使用のライセンスを持っていない限り、AIチップを無効にすることで機能する。
本報告では,ファームウェア更新を通じて配信可能なオフラインライセンスの最小バージョンの設計について述べる。
既存のAIチップは、ファームウェアの検証、ファームウェアのロールバック保護、不揮発性メモリの安全性といった(比較的一般的な)ハードウェアセキュリティ機能があれば、1年以内にオフラインライセンスをサポートする可能性がある。
公開資料によると、NVIDIAのH100 AIチップには、これらのセキュリティ機能がすでに備わっている。
追加のハードウェア修正がなければ、物理的なハードウェア攻撃の影響を受けやすい。
しかし、これらの攻撃は高価な機器を必要とする可能性があり、何千ものAIチップに確実に適用することは困難である。
ファームウェアベースのオフラインライセンス設計は、ハードウェアベースのソリューションと同じ法的要件とライセンス承認メカニズムを共有している。
ファームウェアベースのソリューションの実装は、将来的にはよりセキュアなハードウェアベースのソリューションの最終的な展開を加速する可能性がある。
AIチップメーカーにとって、このセキュリティメカニズムを実装することで、輸出制限によって禁止されるであろう顧客にチップを販売できるようになるかもしれない。
政府にとって、今後数年間で、安全でないアクターや悪意のないアクターがフロンティアAIモデルをトレーニングするのを防ぐことが重要である。
この初期分析に基づいて、ファームウェアベースのオフラインライセンスは、緊急のセキュリティと貿易の問題を部分的に解決し、ハードウェアのセキュリティに共通する機能を持つAIチップに対して技術的に実現可能である。
関連論文リスト
- Physical Backdoor Attack can Jeopardize Driving with Vision-Large-Language Models [53.701148276912406]
Vision-Large-Language-models (VLMs) は自動運転において大きな応用可能性を持っている。
BadVLMDriverは、物理的オブジェクトを使用して実際に起動できる自動運転のためのVLMに対する最初のバックドア攻撃である。
BadVLMDriverは、赤い風船を持った歩行者に突如、加速を誘導する攻撃の成功率を92%達成する。
論文 参考訳（メタデータ） (2024-04-19T14:40:38Z) - Challenges in Drone Firmware Analyses of Drone Firmware and Its Solutions [2.1961544533969257]
ドローン部門は商業目的と軍事目的の両方で大きな注目を集めている。
IoTデバイスに対する脅威を軽減するセキュリティ研究のほとんどは、主にネットワーク、ファームウェア、モバイルアプリケーションに焦点を当てている。
本稿では,ドローンファームウェアを動的に解析することの課題について論じ,潜在的な解決策を提案する。
論文 参考訳（メタデータ） (2023-12-28T04:25:49Z) - Machine learning-based malware detection for IoT devices using
control-flow data [0.0]
マルウェア検出のための実行ファイルの制御フロー関連データの適用性について検討する。
本稿では,2段階のマルウェア検出手法を提案する。第1フェーズでは,静的バイナリ解析を用いて制御フロー関連データを抽出する。
第2フェーズでは、ニューラルネットワークモデルを使用してバイナリ実行ファイルを悪意または良性のいずれかとして分類する。
論文 参考訳（メタデータ） (2023-11-20T08:43:09Z) - Embedded Software Development with Digital Twins: Specific Requirements
for Small and Medium-Sized Enterprises [55.57032418885258]
デジタル双生児は、コスト効率の良いソフトウェア開発とメンテナンス戦略の可能性を秘めている。
私たちは中小企業に現在の開発プロセスについてインタビューした。
最初の結果は、リアルタイムの要求が、これまでは、Software-in-the-Loop開発アプローチを妨げていることを示している。
論文 参考訳（メタデータ） (2023-09-17T08:56:36Z) - When Authentication Is Not Enough: On the Security of Behavioral-Based Driver Authentication Systems [53.2306792009435]
我々はランダムフォレストとリカレントニューラルネットワークアーキテクチャに基づく2つの軽量ドライバ認証システムを開発した。
我々は,SMARTCANとGANCANという2つの新しいエスケープアタックを開発することで,これらのシステムに対する攻撃を最初に提案する。
コントリビューションを通じて、これらのシステムを安全に採用する実践者を支援し、車の盗難を軽減し、ドライバーのセキュリティを高める。
論文 参考訳（メタデータ） (2023-06-09T14:33:26Z) - Evil from Within: Machine Learning Backdoors through Hardware Trojans [72.99519529521919]
バックドアは、自動運転車のようなセキュリティクリティカルなシステムの整合性を損なう可能性があるため、機械学習に深刻な脅威をもたらす。
私たちは、機械学習のための一般的なハードウェアアクセラレーターに完全に存在するバックドアアタックを導入します。
我々は,Xilinx Vitis AI DPUにハードウェアトロイの木馬を埋め込むことにより,攻撃の実現可能性を示す。
論文 参考訳（メタデータ） (2023-04-17T16:24:48Z) - Explainability as a Requirement for Hardware: Introducing Explainable Hardware (XHW) [9.671698593620134]
現代のマイクロチップの不透明さは、セキュリティの問題を引き起こす。
政府は、セキュアなマイクロチップサプライチェーンを促進するために、大幅に投資する。
本稿では、説明可能なハードウェア(XHW)の概念を紹介する。
論文 参考訳（メタデータ） (2023-02-28T15:29:45Z) - EVHA: Explainable Vision System for Hardware Testing and Assurance -- An
Overview [0.0]
本稿では,ハードウェアテストと保証のための説明可能なビジョンシステム(EVHA)を提案する。
EVHAは、低コストで正確で高速な設計変更を最小限に検出することができる。
本稿では,防衛システムの設計,開発,実装,分析について概説する。
論文 参考訳（メタデータ） (2022-07-20T02:58:46Z) - Proceedings of the Artificial Intelligence for Cyber Security (AICS)
Workshop at AAAI 2022 [55.573187938617636]
ワークショップは、サイバーセキュリティの問題へのAIの適用に焦点を当てる。
サイバーシステムは大量のデータを生成し、これを効果的に活用することは人間の能力を超えます。
論文 参考訳（メタデータ） (2022-02-28T18:27:41Z) - Mate! Are You Really Aware? An Explainability-Guided Testing Framework
for Robustness of Malware Detectors [49.34155921877441]
マルウェア検出装置のロバスト性を示すための説明可能性誘導型およびモデルに依存しないテストフレームワークを提案する。
次に、このフレームワークを使用して、操作されたマルウェアを検出する最先端のマルウェア検知器の能力をテストする。
我々の発見は、現在のマルウェア検知器の限界と、その改善方法に光を当てた。
論文 参考訳（メタデータ） (2021-11-19T08:02:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。