論文の概要: Bounded Sovereignty and the Control Tax: Pricing AI Oversight When the Deployer Does Not Own the Model

• arxiv url: http://arxiv.org/abs/2608.19216v1
• Date: Mon, 06 Jul 2026 17:38:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.269275
• Title: Bounded Sovereignty and the Control Tax: Pricing AI Oversight When the Deployer Does Not Own the Model
• Title（参考訳）: 境界の主権と規制税: 展開者がモデルを所有していない場合、AIを過小評価する
• Abstract要約: 本稿では,AIスタックのデータ,モデル,インフラストラクチャ,インタラクション層にまたがる部分的技術的および契約的アクセスについて紹介する。 これらのアクセス条件は、どの制御プロトコルを実際に実行できるかを決定する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI control research asks how to deploy models safely even when they may be misaligned, but many control protocols assume that the deployer can instrument the model and its surrounding pipeline. That assumption often fails for regulated organisations using frontier models through APIs or managed endpoints, where the deployer may control the business process but not the model weights, serving infrastructure, internal traces, update process, or full interaction logs. This paper introduces bounded sovereignty: partial technical and contractual access across the data, model, infrastructure, and interaction layers of the AI stack. It argues that these access conditions determine which control protocols can be executed in practice. The paper contributes a four-layer access typology, a protocol-by-layer requirements matrix, and the concept of sovereignty discount cost: the part of the control tax spent substituting for missing access through contracts, architecture, audit, vendor assurance, residual risk, or reduced system scope. It also reports a synthetic access-ablation experiment over 1.35 million synthetic case simulations and interprets the findings through an anonymised national-payments-infrastructure scenario. The experiment is not real-world payment-system evidence; it is a construct-validity exercise. The results show that complete logs improve diagnosis, a pre-execution gateway enables intervention, trace access and model-version control strengthen post-incident explanation, and scope restriction can improve safety while reducing usefulness. Control protocols proposed as general safety solutions should therefore state their access assumptions explicitly.
• Abstract（参考訳）: AIコントロール研究は、ミスアライメントされたとしてもモデルを安全にデプロイする方法を問うが、多くのコントロールプロトコルでは、デプロイ者がモデルとその周辺のパイプラインを計測できると仮定している。 この仮定は、APIや管理されたエンドポイントを通じてフロンティアモデルを使用する規制組織にとって失敗することが多い。 本稿では,AIスタックのデータ,モデル,インフラストラクチャ,インタラクション層にまたがる部分的技術的および契約的アクセスについて紹介する。 これらのアクセス条件は、どの制御プロトコルを実際に実行できるかを決定する。 本論文は,契約,アーキテクチャ,監査,ベンダー保証,残リスク,システムスコープの削減といった4層アクセスタイプ,プロトコル・バイ・レイヤ要件マトリックス,および主権の割引コストのコンセプトに寄与する。 また、135万件の合成ケースシミュレーションの合成アクセス改善実験を報告し、匿名化された国債・インフラのシナリオを通じて研究結果を解釈した。 この実験は実際の支払いシステムによる証拠ではない。 その結果, 完全ログによる診断の改善, 事前実行ゲートウェイにより介入, トレースアクセス, モデル変換制御が可能となり, インシデント後の説明が強化され, スコープ制限は有用性を低減しつつ安全性を向上できることがわかった。 したがって、一般的な安全ソリューションとして提案される制御プロトコルは、アクセス仮定を明示的に記述すべきである。

関連論文リスト

• One Gate Is Not Enough: Composing Stateful Pre-Action Controls for Agentic AI [0.0]
  1つのコントロールが適用した修復は、他のコントロールが評価するアクション、エビデンス、コンテキストを変更し、そのコントロールの以前の判断を無効にすることができることを示す。 我々は、この結合を形式化し、現在の有界等質な設定において、アクションごとの音質を復元するremediate-and-regateプロトコルを提供する。 これは、生産の頻度に関する主張ではなく、合成メタデータ層によるオープンペイロードデータに対するメカニズム実証である。
  論文  参考訳（メタデータ） (2026-08-18T22:24:44Z)
• CIAware-Bench: Benchmarking Control Intervention Awareness Across Frontier LLMs [100.38986535324284]
  我々は、フロンティアモデル全体でのtextbfcontrol textbfintervention (CI) の認識を測定するベンチマークである textbfCIAware-Bench を紹介する。 CIAware-Benchは、モデルが自身の軌跡を制御介入によって修正されたものと区別できるかどうかをテストする。
  論文  参考訳（メタデータ） (2026-06-09T16:24:16Z)
• From CRUD to Autonomous Agents: Formal Validation and Zero-Trust Security for Semantic Gateways in AI-Native Enterprise Systems [0.0]
  本稿では,モデルコンテキストプロトコル(MCP)が管理するセマンティックゲートウェイの設計,形式検証,実証評価を提案する。 ゲートウェイは、エンタプライズAPIをセマンティックサーフェスとして再構成する。 このアーキテクチャでは、事前に推論されたセマンティックファイアウォール、決定論的ツールレベルRBAC、アウトオブバンドの暗号化人間対ループの承認を含む3層ゼロトラストセキュリティモデルが導入されている。
  論文  参考訳（メタデータ） (2026-04-28T12:25:06Z)
• "Show Me You Comply... Without Showing Me Anything": Zero-Knowledge Software Auditing for AI-Enabled Systems [2.2981698355892686]
  本稿では,新しいMLOps検証フレームワークであるZKMLOpsを紹介する。 ZKP(Zero-Knowledge Proofs)暗号プロトコルを運用し、証明者が証明者に対して、文が真実であることを納得させることができる。 我々は、金融リスク監査における規制コンプライアンスの研究を通じて、この枠組みの実践性を評価する。
  論文  参考訳（メタデータ） (2025-10-30T15:03:32Z)
• Adaptive Attacks on Trusted Monitors Subvert AI Control Protocols [80.68060125494645]
  プロトコルとモニタモデルを知っている信頼できないモデルによるアダプティブアタックについて検討する。 我々は、攻撃者がモデル出力に公知またはゼロショットプロンプトインジェクションを埋め込む単純な適応攻撃ベクトルをインスタンス化する。
  論文  参考訳（メタデータ） (2025-10-10T15:12:44Z)
• Control Tax: The Price of Keeping AI in Check [22.94651464417764]
  我々は、AIパイプラインに制御手段を統合するための運用的および財政的コストである制御税の概念を導入する。 我々は,現在最先端の言語モデルに関する総合的な評価を,敵対的設定で実施する。 制御プロトコルに対する実証的な金銭的コスト見積を行い、最適化されたモニタリング戦略を開発する。
  論文  参考訳（メタデータ） (2025-06-05T17:48:39Z)
• Are You Getting What You Pay For? Auditing Model Substitution in LLM APIs [71.7892165868749]
  LLM(Commercial Large Language Model) APIは基本的な信頼の問題を生み出します。 ユーザーは特定のモデルに課金するが、プロバイダが忠実に提供できることを保証することはない。 我々は,このモデル置換問題を定式化し,現実的な逆条件下での検出方法を評価する。 我々は,信頼された実行環境(TEE)を実用的で堅牢なソリューションとして使用し,評価する。
  論文  参考訳（メタデータ） (2025-04-07T03:57:41Z)
• Subversion Strategy Eval: Can language models statelessly strategize to subvert control protocols? [50.62012690460685]
  本稿では、制御プロトコルを変換する独自の戦略で、AIシステムがいかにうまく生成し、動作できるかを検討する。 AIシステムは、各コンテキストにおける最適なプランを確実に生成し、適切に調整された確率で行動し、通信せずに他のインスタンスと計画を調整する必要がある。
  論文  参考訳（メタデータ） (2024-12-17T02:33:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。