論文の概要: KNOX: Hardware-assisted Regulatory Sandbox for Generative Models

• arxiv url: http://arxiv.org/abs/2610.27543v1
• Date: Tue, 20 Oct 2026 02:57:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.59569
• Title: KNOX: Hardware-assisted Regulatory Sandbox for Generative Models
• Title（参考訳）: KNOX: 生成モデルのためのハードウェア支援型規制サンドボックス
• Abstract要約: KNOXは、TEE内でAIワークロードを実行することで構築された、最初の規制サンドボックスである。 規制の遵守や意図した行動からの逸脱をチェックすることができる。
• 参考スコア（独自算出の注目度）: 9.884265347615537
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Regulations require companies to run AI models in a regulatory sandbox, an isolated environment that enables monitoring model behavior by regulators, prior to deployment. But, they do not spell out the technical mechanisms to design such a sandbox. Ideally, a regulatory sandbox should show (i) compliance (checks against regulations, and deviations from intended behavior, i.e., unauthorized tool and system calls); (ii) confidentiality (protects model weights from regulators); (iii) attestability (produces tamper-resistant evidence of model behavior for monitoring); and (iv) scalability (evidence is verifiable by multiple regulators). Several prior works (information-flow control, prompt-injection defenses, control-flow integrity, and traditional sandboxing) address specific compliance aspects but lack confidentiality, attestability, and scalability. TEEs meet some of these requirements, but simply running models inside a TEE is insufficient as we need compliance mechanisms. We present KNOX, the first regulatory sandbox, built by running AI workloads inside TEEs. We demonstrate KNOX using agentic workloads. For compliance, we derive an attested policy manifest (with the applicable regulations, the expected tool calls, and the permitted system calls) for a given user prompt. Before an executor performs an action, an attested reference monitor compares it against the attested policy manifest and allows it only if it matches. Every action and verdict is recorded in an attested execution graph, enabling regulators to verify the model's execution and its compliance. We show that KNOX meets all requirements, and can check for compliance with regulations and deviations from intended behavior (e.g., due to prompt injection); and incurs low overhead (<1%).
• Abstract（参考訳）: 規制は、企業がデプロイメント前に、規制当局によるモデル動作の監視を可能にする独立した環境である規制サンドボックスでAIモデルを実行することを要求する。 しかし、このようなサンドボックスを設計するための技術的なメカニズムは説明されていない。 理想的には、規制サンドボックスが示すべき 一 コンプライアンス(規制に反し、意図した行動、すなわち不正な工具及びシステムコールから逸脱すること。) 二 秘密性(規制から模型重量を保護すること。) 三 検査可能性(監視のためのモデル行動の改ざんに抵抗する証拠を産出すること。)及び (4)スケーラビリティ(複数の規制当局による検証)。 これまでのいくつかの作業(情報フロー制御、インジェクション防御、制御フロー整合性、従来のサンドボックス化)は、特定のコンプライアンス面に対処するが、機密性、検証可能性、スケーラビリティに欠ける。 TEEはこれらの要件のいくつかを満たすが、コンプライアンスメカニズムを必要とするため、単にTEE内でモデルを実行するだけでは不十分である。 私たちは、TEE内でAIワークロードを実行することで構築された、最初の規制サンドボックスであるKNOXを紹介します。 エージェントワークロードを用いたKNOXを実演する。 コンプライアンスのために、所定のユーザプロンプトに対して認証済みのポリシーマニフェスト(該当する規則、期待されるツールコール、許可されたシステムコール)を導出する。 実行者がアクションを実行する前に、テスト対象の参照モニタが、テスト対象のポリシーマニフェストと比較し、マッチした場合のみ許可する。 すべてのアクションとバリデーションは、認証された実行グラフに記録され、レギュレータはモデルの実行とコンプライアンスを検証できる。 我々は、KNOXが全ての要件を満たすことを示し、意図した行動(即時注入のため)からの規制や逸脱の遵守を確認し、オーバーヘッドを低くする(1%)。

関連論文リスト

• Predictive Varanus: Combining CSP Conformance Monitoring with Predictive LTL Runtime Verification [0.5996444607432799]
  PreDICTIVE VARANUSはプロセス代数Communicating Sequential Processes (CSP)で記述されたモデルを使用する2段階検証パイプラインである。 CSPバリデーションと予測の組み合わせによって、標準的なランタイムモニタリングよりも早期の検証が可能になることを示す。 ケーススタディは、CSPバリデーションと予測の組み合わせが、標準のランタイムモニタリングよりも早期のバリデーションを提供する方法を示している。
  論文  参考訳（メタデータ） (2026-09-15T06:26:51Z)
• What Do Compliance Detectors Read? An Audit of Activation Probes and Guard Models [3.3598755777055374]
  ICS(Internal Compliance Score)は、10組のラベル付きペアからのトレーニング不要のアクティベーション読み出しであり、単一のプロジェクションで得点される。 この状態は、現在のコンプライアンス・ディテクターのクラスにまたがって失敗することを示し、これはルール・ブラインドネスと呼ばれる失敗である。 対策プロトコルとクロスルールベンチマークを公開し、将来の調査でルールの盲点をテストし、クレームを保護します。
  論文  参考訳（メタデータ） (2026-08-17T17:37:07Z)
• CIAware-Bench: Benchmarking Control Intervention Awareness Across Frontier LLMs [100.38986535324284]
  我々は、フロンティアモデル全体でのtextbfcontrol textbfintervention (CI) の認識を測定するベンチマークである textbfCIAware-Bench を紹介する。 CIAware-Benchは、モデルが自身の軌跡を制御介入によって修正されたものと区別できるかどうかをテストする。
  論文  参考訳（メタデータ） (2026-06-09T16:24:16Z)
• The Hidden Signal of Verifier Strictness: Controlling and Improving Step-Wise Verification via Selective Latent Steering [67.8271652641864]
  我々は,隠蔽状態の介入によって検証の厳密性を制御できるかどうかを検討した。 VerifySteerは、サンプルレベルのルーティングに潜時補正信号を使用し、段落境界に選択的に介入する。
  論文  参考訳（メタデータ） (2026-05-20T05:48:16Z)
• CORA: Conformal Risk-Controlled Agents for Safeguarded Mobile GUI Automation [68.53387633351484]
  有害な行為に対する統計的保証を提供するポスト・ポリティクス・プレアクション保護フレームワークであるCORA(Conformal Risk-control GUI Agent)を提案する。 CORAは、安全を選択的行動実行として再定義する:我々は、提案されたステップごとに行動条件リスクを推定するためにガーディアンモデルを訓練する。 このパラダイムを厳格に評価するために、ステップレベルのハーモラベルを持つモバイル安全違反の新しいベンチマークであるPhone-Harmを紹介する。
  論文  参考訳（メタデータ） (2026-04-10T09:41:21Z)
• CaMeLs Can Use Computers Too: System-level Security for Computer Use Agents [60.98294016925157]
  AIエージェントは、悪意のあるコンテンツがエージェントの行動をハイジャックして認証情報を盗んだり、金銭的損失を引き起こすような、インジェクション攻撃に弱い。 CUAのためのシングルショットプランニングでは、信頼できるプランナーが、潜在的に悪意のあるコンテンツを観察する前に、条件付きブランチで完全な実行グラフを生成する。 このアーキテクチャ分離は命令インジェクションを効果的に防止するが、ブランチステアリング攻撃を防ぐには追加の対策が必要であることを示す。
  論文  参考訳（メタデータ） (2026-01-14T23:06:35Z)
• Adaptive Attacks on Trusted Monitors Subvert AI Control Protocols [80.68060125494645]
  プロトコルとモニタモデルを知っている信頼できないモデルによるアダプティブアタックについて検討する。 我々は、攻撃者がモデル出力に公知またはゼロショットプロンプトインジェクションを埋め込む単純な適応攻撃ベクトルをインスタンス化する。
  論文  参考訳（メタデータ） (2025-10-10T15:12:44Z)
• CANTXSec: A Deterministic Intrusion Detection and Prevention System for CAN Bus Monitoring ECU Activations [53.036288487863786]
  物理ECUアクティベーションに基づく最初の決定論的侵入検知・防止システムであるCANTXSecを提案する。 CANバスの古典的な攻撃を検知・防止し、文献では調査されていない高度な攻撃を検知する。 物理テストベッド上での解法の有効性を実証し,攻撃の両クラスにおいて100%検出精度を達成し,100%のFIAを防止した。
  論文  参考訳（メタデータ） (2025-05-14T13:37:07Z)
• Auction-Based Regulation for Artificial Intelligence [28.86995747151915]
  規制当局は、AIの展開が壊れた後に残された安全、偏見、法的な破片をゆっくりと拾い上げている。 本稿では,デバイスに適合したモデルをデプロイする動機付けを確実に行う,オークションベースの規制機構を提案する。 規制入札は,基準規制機構と比較して,コンプライアンス率を20%,参加率を15%向上させることを示す。
  論文  参考訳（メタデータ） (2024-10-02T17:57:02Z)
• Stateless and Rule-Based Verification For Compliance Checking Applications [1.7403133838762452]
  本稿では,インテリジェントなコンプライアンスチェックシステムを構築するための形式的な論理ベースのフレームワークを提案する。 SARVは、ステートレスおよびルールベースの検証問題の全体的な検証プロセスを単純化するために設計された検証フレームワークである。 300のデータ実験に基づいて、SARVベースのコンプライアンスソリューションは、3125レコードのソフトウェア品質データセット上で機械学習メソッドよりも優れています。
  論文  参考訳（メタデータ） (2022-04-14T17:31:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。