論文の概要: How to Catch a GPU: A Taxonomy of Verification and Enforcement Mechanisms for International AI Agreements

• arxiv url: http://arxiv.org/abs/2607.22619v1
• Date: Tue, 16 Jun 2026 10:51:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-02 22:55:38.988031
• Title: How to Catch a GPU: A Taxonomy of Verification and Enforcement Mechanisms for International AI Agreements
• Title（参考訳）: GPUをキャッチする方法: 国際AI協定の検証と実施メカニズムの分類
• Abstract要約: 本論では,合意に違反する十分な能力が存在する場合には,規制体制の下にいなければならないという原則に基づく分類法を提案する。 これにより、未管理の資源取得を防止し、制御体制外の全容量を検出し、制御体制からの脱却を防止するための合意の遵守を確保する問題が解消される。 この分類法を既存の提案に適用すると、制御体制からの脱出を防ぎつつ、資源の獲得を防ぎ、制御体制以外の全ての能力を検出することに注意が向けられることが明らかになる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Several international agreements have been proposed to regulate frontier AI development in response to catastrophic risks. However, there is no structured way to evaluate whether these proposals are enforceable, to assess where they might fail in practice, or to determine which combination of policies is most effective. We propose a taxonomy based on the principle that wherever sufficient capacity exists to violate an agreement, it must be under a control regime. This decomposes the problem of ensuring compliance with the agreement into preventing uncontrolled resource acquisition, detecting all capacity outside the control regime, and preventing escape from the control regime. Existing proposals consist of individual policies that address one or more of these sub-problems. Because the compute required for dangerous capabilities may decrease over time, more actors can violate an agreement and enforcement of these policies becomes harder. We define the enforcement breaking point as the FLOP-threshold or equivalent metric at which a policy loses its effectiveness in solving the sub-problem, and introduce a set of factors to assess how and why this breakdown occurs. This reveals which of the three sub-problems any given proposal adequately addresses, and where enforceability breaks down first. Applying this taxonomy to existing proposals reveals that more focus is placed on preventing escape from the control regime, while preventing resource acquisition and detecting all capacity outside the control regime receive less attention. By making these gaps explicit, this taxonomy can help researchers and policymakers prioritize future enforcement and verification efforts.
• Abstract（参考訳）: 破滅的なリスクに対応するために、フロンティアAI開発を規制するいくつかの国際協定が提案されている。 しかし、これらの提案が施行可能かどうかを判断したり、実際にどこで失敗するかを判断したり、どの組み合わせが最も効果的かを決定するための構造的な方法はない。 本論では,合意に違反する十分な能力が存在する場合には,規制体制の下にいなければならないという原則に基づく分類法を提案する。 これにより、未管理の資源取得を防止し、制御体制外の全容量を検出し、制御体制からの脱却を防止するための合意の遵守を確保する問題が解消される。 既存の提案は、これらのサブプロブレムの1つ以上の問題に対処する個別のポリシーで構成されている。 危険な能力に必要な計算は時間の経過とともに減少する可能性があるため、より多くのアクターが合意に違反し、これらのポリシーの実施が困難になる可能性がある。 我々は,政策がサブプロブレムの解法において効率を損なうような,FLOP-thresholdあるいは等価な指標として実施のブレークポイントを定義し,このブレークポイントの発生の理由と原因を評価するための一連の要因を紹介した。 これは、与えられた提案に適切に対処する3つのサブプロブレムのうちのどれが、そして、最初に強制可能性が壊れているかを明らかにする。 この分類法を既存の提案に適用すると、制御体制からの脱出を防ぎつつ、資源の獲得を防ぎ、制御体制以外の全ての能力を検出することに注意が向けられることが明らかになる。 これらのギャップを明確にすることで、この分類は研究者や政策立案者が将来の執行と検証の努力を優先するのに役立つ。

関連論文リスト

• Right-to-Act: A Pre-Execution Non-Compensatory Decision Protocol for AI Systems [0.0]
  我々は,AI生成した決定が実現可能であるかどうかを評価する決定論的で非補償的な事前実行決定層であるRight-to-Actプロトコルを導入する。 高信頼信号が故障した条件をオーバーライドできる補償システムとは異なり、提案手法は厳密な構造制約を強制する。
  論文  参考訳（メタデータ） (2026-04-27T08:09:12Z)
• Verification of Robust Properties for Access Control Policies [51.736723807086385]
  既存のアクセス制御ポリシーの検証方法は、検証が進む前に、ポリシーを完全かつ完全に決定する必要がある。 本稿では,政策構造がどのような決定を下すか,どのような決定を下すか,あるいはその後の拡張に拘わらず,その決定を行うかという課題について,ロバストなプロパティ検証を導入する。 可能なすべてのポリシー拡張を普遍的に定量化しているにもかかわらず、判断は二階述語論理プログラミング言語における探索の証明に還元されることを示す。
  論文  参考訳（メタデータ） (2026-03-13T17:14:38Z)
• Autonomous Agents and Policy Compliance: A Framework for Reasoning About Penalties [1.2891210250935148]
  本稿では、非コンプライアンスに対する潜在的な罰則を推論できる政策対応自律エージェントのための論理プログラミングベースのフレームワークを提案する。 我々のフレームワークは、罰則を組み込むために、Gelfond と Lobo's Authorization and Obligation Policy Language (AOPL)を拡張しています。 本手法は, 規則違反を明確に識別することで, 整然とした政策の確保, 方針の優先事項の説明, 説明可能性の向上を図る。
  論文  参考訳（メタデータ） (2025-12-03T16:29:09Z)
• The Loss of Control Playbook: Degrees, Dynamics, and Preparedness [39.39076397908963]
  本報告では,新たな分類と準備の枠組みを開発することにより,AIシステムにおけるロス・オブ・コントロール(Los of Control, LoC)の実用的な定義が欠如していることに対処する。 そこで本研究では,重度と持続性の指標に基づいて,偏差,境界LoC,Strict LoCを区別したLoC分類法を提案する。 我々は,社会的脆弱性が到達した場合に,準備の維持と LoC 結果の発生防止を計画した。
  論文  参考訳（メタデータ） (2025-11-19T20:10:39Z)
• Limits of Safe AI Deployment: Differentiating Oversight and Control [0.0]
  「Human oversight」は、監視や制御といった重要な概念の曖昧さや矛盾した解釈を成すリスクである。 本稿では,AI以外の文献の監視を対象とする批判的レビューを行う。 コントロールは失敗を防ぐことを目的としており、監視は将来の予防のための検出、修復、インセンティブに焦点を当てている。
  論文  参考訳（メタデータ） (2025-07-04T12:22:35Z)
• Learning Deterministic Policies with Policy Gradients in Constrained Markov Decision Processes [59.27926064817273]
  我々はC-PGと呼ばれる探索非依存のアルゴリズムを導入し,支配的仮定の下でのグローバルな最終点収束保証を享受する。 制約制御タスクにおいて,アクションベース(C-PGAE)とパラメータベース(C-PGPE)の両方を実証的に検証する。
  論文  参考訳（メタデータ） (2025-06-06T10:29:05Z)
• Rethinking State Disentanglement in Causal Reinforcement Learning [78.12976579620165]
  因果性は、根底にある状態が識別可能性によって一意に回復できることを保証するための厳密な理論的支援を提供する。 我々はこの研究ラインを再考し、RL固有のコンテキストを取り入れることで、潜在状態に対する以前の識別可能性分析における不要な仮定を低減できることを示した。 本稿では, 従来手法の複雑な構造制約を, 遷移と報酬保存の2つの簡単な制約に置き換えることにより, 一般に部分的に観測可能なマルコフ決定過程(POMDP)を提案する。
  論文  参考訳（メタデータ） (2024-08-24T06:49:13Z)
• Last-Iterate Global Convergence of Policy Gradients for Constrained Reinforcement Learning [62.81324245896717]
  我々はC-PGと呼ばれる探索非依存のアルゴリズムを導入し、このアルゴリズムは(弱)勾配支配仮定の下でのグローバルな最終点収束を保証する。 制約付き制御問題に対して,我々のアルゴリズムを数値的に検証し,それらを最先端のベースラインと比較する。
  論文  参考訳（メタデータ） (2024-07-15T14:54:57Z)
• Do No Harm: A Counterfactual Approach to Safe Reinforcement Learning [5.862025534776996]
  制御のための強化学習は、環境の不確実性や複雑な表現を考慮に入れた豊かなフィードバックポリシーを学ぶ能力によって、ますます人気が高まっている。 このような方法では、もしエージェントが入居しているか、あるいは訪れなければならない場合、制約違反が避けられない状態であるなら、どの程度罰せられるべきかは明らかでない。 我々は,この課題に対して,既定の安全政策と比較して,学習した政策の事実的害に対する制約を定式化することによって対処する。 哲学的な意味では、この定式化は学習者にそれが引き起こした制約違反を罰するだけであり、実際的な意味では最適な制御問題の実現可能性を維持する。
  論文  参考訳（メタデータ） (2024-05-19T20:33:21Z)
• Verification of indefinite-horizon POMDPs [63.6726420864286]
  本稿では,部分観測可能なMDPの検証問題について考察する。 本稿では,Lovejoy-approachの過去のインスタンス化を拡張した抽象化・リファインメント・フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-06-30T21:01:52Z)
• Hierarchical Adaptive Contextual Bandits for Resource Constraint based Recommendation [49.69139684065241]
  コンテキスト多重武装バンディット(MAB)は、様々な問題において最先端のパフォーマンスを達成する。 本稿では,階層型適応型文脈帯域幅法(HATCH)を提案する。
  論文  参考訳（メタデータ） (2020-04-02T17:04:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。