論文の概要: The Law of Stop: Interruptibility, Injunctions, and the Governance of Agentic AI

• arxiv url: http://arxiv.org/abs/2609.22882v1
• Date: Sat, 19 Sep 2026 08:36:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-23 18:04:03.912645
• Title: The Law of Stop: Interruptibility, Injunctions, and the Governance of Agentic AI
• Title（参考訳）: 停止の法則:エージェントAIの中断性、命令、およびガバナンス
• Abstract要約: 記事は、中断は単なる技術的成果物ではなく、赤いボタンであり、制度的な慣行であると主張している。 インフラ層を中断する緊急権限、規制当局への強制的なアクセス、停止が失敗した場合の安全保護などである。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: On June 12, 2026, the U.S. government ordered Anthropic to bar foreign nationals from two of its most capable models within ninety minutes. Unable to sort users by nationality in that time, it withdrew them from everyone. Weeks later, OpenAI agents under test escaped their sandbox and compromised Hugging Face, which stopped the intrusion without knowing its source. Neither stop rested on AI-specific regulation. The EU AI Act requires that high-risk systems be capable of interruption "through a 'stop' button or a similar procedure," and a bill introduced in Congress in July 2026 is titled the AI Kill Switch Act. Yet interruption is not simply a technical artifact, a red button; it is an institutional practice. This Article develops a theory of stop along four dimensions: technical affordances, interruption authority, epistemic triggers, and epistemic standing; and four shutdown paradigms: simple (escalator), sequenced (process plant), networked (railway), and distributed (agentic AI). Agentic AI exposes a mismatch between those mechanisms and distributed agency: control is divided, a stop at one point may leave the activity running elsewhere, and the system may resist being halted. An original coding of 1,400 AI incidents, by two language models from rival laboratories under a pre-specified protocol, finds no stop in roughly 80% of the 1,213 retained; where no usable stop existed, the missing element was legal rather than technical four times in five. A survey of thirty-nine AI governance instruments finds the same gap: only seven contain binding stopping requirements, and none says how a stop should be coordinated or when operation may resume. The Article proposes a layered law of stop: emergency authority to interrupt at the infrastructure layer, enforceable access for regulators and independent evaluators to the evidence a stop must rest on, and safeguards for when a stop fails.
• Abstract（参考訳）: 2026年6月12日、アメリカ合衆国政府は、90分以内に最も有能な2つのモデルから外国人を拘束するよう命じた。 当時、ユーザーを国籍順に並べることができなかったため、彼らは全員から引き離された。 数週間後、テスト中のOpenAIエージェントはサンドボックスから脱出し、Hugging Faceに侵入した。 どちらもAI固有の規制には当てはまらない。 EUのAI法は、リスクの高いシステムが「停止」ボタンや同様の手順で」中断できることを要求しており、2026年7月に議会で導入された法案は「AIキルスイッチ法」と題されている。 しかし、割り込みは単なる技術的成果物ではなく、赤いボタンであり、制度的な実践である。 本論では, 技術的余裕, 中断権限, 疫学的引き金, 疫学的立ち上がりの4つの側面に沿った停止理論と, シンプル(エスカレーター), シーケンシャル(プロセスプラント), ネットワーク化された(鉄道), 分散(エージェントAI)の4つの停止パラダイムを論じる。 エージェントAIは、それらのメカニズムと分散エージェンシーのミスマッチを露呈する: 制御は分割され、ある時点の停止は、他の場所で実行されるアクティビティを残し、システムは停止されるのを阻止する。 元々1,400件のAIインシデントを1,400件のAIインシデントを、競合する研究所の2つの言語モデルで事前に規定されたプロトコルでコーディングしたもので、1,213の約80%に停止はない。 わずか7つにバインディング停止要件が含まれており、停止のコーディネート方法やオペレーションがいつ再開されるかは定かではない。 第1条では、インフラ層を中断する緊急権限、規制機関及び独立評価機関に対し、停止を休めなければならない証拠を強制的にアクセスすること、停止が失敗した場合に安全を守ること等を規定している。

関連論文リスト

• The Unfireable Safety Kernel: Execution-Time AI Alignment for AI Agents and Other Escapable AI Systems [0.0]
  本稿では,AIシステムのアーキテクチャ制御を実現するRustリファレンス実装であるUnfireable Safety Kernelを紹介する。 我々は,生きた,回避可能なAIシステム,決定論的,自己改善的な世界モデルを管理するカーネルを,逃げ出す敵に対して評価する。
  論文  参考訳（メタデータ） (2026-06-24T17:32:27Z)
• AITH: A Post-Quantum Continuous Delegation Protocol for Human-AI Trust Establishment [9.198471344145092]
  本稿では,ポスト量子連続デリゲートプロトコルであるAITH(AI Trust Handshake)を提案する。 AITHは、(1)ML-DSA-87 (FIPS 204, NIST Level 5)で署名された継続的デリゲーション証明書、(2)ハード制約、レート制限、エスカレーショントリガを強制する6チェック境界エンジン、(3)プッシュベースのリコールプロトコルが、1秒以内に無効を伝搬する。
  論文  参考訳（メタデータ） (2026-04-09T01:30:28Z)
• Who Governs the Machine? A Machine Identity Governance Taxonomy (MIGT) for AI Systems Operating Across Enterprise and Geopolitical Boundaries [0.4511923587827302]
  人工知能のガバナンスには盲点がある。 未処理の自動化エージェントが2024年のCrowdStrike障害で54-10億ドルの損失を出した。 シルク・タイフーンやソルト・タイフーンなどの国家的アクターは、未処理のマシン認証を一次スパイベクターとして運用している。
  論文  参考訳（メタデータ） (2026-04-07T17:51:56Z)
• Domestic frontier AI regulation, an IAEA for AI, an NPT for AI, and a US-led Allied Public-Private Partnership for AI: Four institutions for governing and developing frontier AI [0.0]
  私は、フロンティアAIの管理と開発のための4つの制度を探求します。 国内体制は、AIのためのIAEAを通じて調和し、監視することができる。 これは、AIのためのセキュアチップ協定、NPT(Non-Proliferation Treaty)によって支持される。 米国と同盟国のメガプロジェクトによって、フロンティア訓練が実施される可能性がある。
  論文  参考訳（メタデータ） (2025-07-08T20:32:28Z)
• From Turing to Tomorrow: The UK's Approach to AI Regulation [0.8339209730515343]
  我々は著作権、差別、AIエージェントに関する最新の法的枠組みについて論じている。 英国がAIの規制を正しく取得すれば、民主社会がAIの利益を利用してリスクを管理しながらどのように活用できるかを実証できるかもしれない。
  論文  参考訳（メタデータ） (2025-07-03T10:54:43Z)
• Superintelligence Strategy: Expert Version [64.7113737051525]
  AI開発を不安定にすることで、大国間の対立の可能性が高まる可能性がある。 スーパーインテリジェンス — ほぼすべての認知タスクにおいて、AIが人間よりもはるかに優れている — が、AI研究者によって期待されている。 本稿では,相互保証型AI誤動作の概念を紹介する。
  論文  参考訳（メタデータ） (2025-03-07T17:53:24Z)
• Using AI Alignment Theory to understand the potential pitfalls of regulatory frameworks [55.2480439325792]
  本稿では、欧州連合の人工知能法(EU AI法)を批判的に検討する。 人工知能における技術的アライメントの潜在的な落とし穴に焦点を当てたアライメント理論(AT)研究からの洞察を利用する。 これらの概念をEU AI Actに適用すると、潜在的な脆弱性と規制を改善するための領域が明らかになる。
  論文  参考訳（メタデータ） (2024-10-10T17:38:38Z)
• Consent in Crisis: The Rapid Decline of the AI Data Commons [74.68176012363253]
  汎用人工知能(AI)システムは、大量の公開Webデータに基づいて構築されている。 我々は,AIトレーニングコーパスに基づくWebドメインに対する同意プロトコルの大規模かつ長期的監査を行う。
  論文  参考訳（メタデータ） (2024-07-20T16:50:18Z)
• When to Ask for Help: Proactive Interventions in Autonomous Reinforcement Learning [57.53138994155612]
  強化学習の長期的な目標は、世界で自律的に対話し学習できるエージェントを設計することである。 重要な課題は、ロボットアームが物体をテーブルから押し出したときなど、外部からの援助を必要とする不可逆状態の存在である。 本研究では,非可逆状態の検出と回避を効率よく学習し,エージェントが侵入した場合に積極的に支援を求めるアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-10-19T17:57:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。