論文の概要: Capability-Based Planning for AI Crisis Preparedness
- arxiv url: http://arxiv.org/abs/2608.18357v1
- Date: Tue, 18 Aug 2026 22:20:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-20 20:13:55.226974
- Title: Capability-Based Planning for AI Crisis Preparedness
- Title（参考訳）: AI危機準備のための能力ベースプランニング
- Abstract要約: 政府のAIの準備は、予測可能なパラダイム、可能性と影響によるリスクをランク付けし、最も期待される損害に備える。
本稿では,シナリオライブラリ,評価手順,優先順位付けステップの3つの部分からなる方法論的フレームワークを提案する。
我々は、AI危機の準備のための実践的なツールとして、装置がもたらす洞察の種類を説明し、能力に基づく計画の概念の実証を提供する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Capability-based planning drives preparedness in defense and homeland security, but has yet to be applied seriously to AI. Government AI preparations follow a predict-then-act paradigm: rank risks by likelihood and impact, then prepare for the highest expected harm. AI resists prediction: expert timelines disagree by orders of magnitude, and official reviews concede that likelihood-based risk assessment fails for exactly this class of risk. Drawing on principles of decision making under deep uncertainty, we propose a methodological framework in three parts: a scenario library sampled systematically across declared axes; a rating procedure that assesses each government capability against each scenario on coarse, gated criteria; and a prioritization step that maps the resulting matrix onto decision rules a government might adopt. Through a pilot across the four most severe AI-enabled threat classes, we illustrate the kind of insight the instrument yields and provide a proof of concept for capability-based planning as a practical tool for AI crisis preparedness.
- Abstract（参考訳）: 能力ベースのプランニングは、防衛と国土安全保障の準備を後押しするが、まだAIに真剣に適用されていない。
政府のAIの準備は、予測可能なパラダイム、可能性と影響によるリスクをランク付けし、最も期待される損害に備える。
AIは予測に反する:専門家のタイムラインは桁違いに一致しない。
決定の原則を深い不確実性の下で描き、宣言された軸に体系的にサンプリングされたシナリオライブラリ、粗い基準で各シナリオに対して各政府の能力を評価する格付け手順、得られた行列を政府が採用すべき決定規則にマップする優先順位付けステップの3つの部分からなる方法論的枠組みを提案する。
最も厳しい4つのAI対応脅威クラスのパイロットを通して、楽器がもたらす洞察の種類を説明し、AI危機の準備のための実践的なツールとしての能力ベースの計画の概念の証明を提供する。
関連論文リスト
- Toward a Threat Actor Profiling Taxonomy for Pre-Release Risk Management of Open-Weight Frontier Models [2.9794937485335047]
この議題は、明示的な敵対的性格は、彼らが対象とするリスクに対して解釈可能で、同等であり、忠実である評価の前提条件と見なされるべきである、と論じている。
我々は、既存のテロリズム、バイオセキュリティ、サイバーセキュリティ文学から派生した経験的基盤を持つ6つの属性の分類法を提案する。
この分類学は研究基盤として機能するよう設計されており、医学・経済学におけるランダム化制御試験(RCT)の事前分析計画に類似した、評価が行われる前に敵の仮定を事前に特定するための共通言語である。
論文 参考訳（メタデータ） (2026-08-26T04:34:11Z) - Provably Secure Agent Guardrail [89.79561918065122]
既存の防衛アーキテクチャは経験的セマンティックガードレールと確率論的大モデル調整器に依存している。
本稿では,論理的推論の基本的制約に基づくエージェントのための新しいセキュリティパラダイムを提案する。
論文 参考訳（メタデータ） (2026-05-28T02:12:41Z) - Toward Risk Thresholds for AI-Enabled Cyber Threats: Enhancing Decision-Making Under Uncertainty with Bayesian Networks [0.3151064009829256]
我々は、AIサイバーリスク閾値の開発と評価のための構造化アプローチを提案する。
まず、既存の業界におけるサイバーしきい値を分析し、共通しきい値要素を同定する。
第2に,AI可能なサイバーリスクをモデル化するためのツールとしてベイズネットワークを提案する。
論文 参考訳（メタデータ） (2026-01-23T23:23:12Z) - Toward Quantitative Modeling of Cybersecurity Risks Due to AI Misuse [50.87630846876635]
我々は9つの詳細なサイバーリスクモデルを開発する。
各モデルはMITRE ATT&CKフレームワークを使用して攻撃をステップに分解する。
個々の見積もりはモンテカルロシミュレーションによって集約される。
論文 参考訳（メタデータ） (2025-12-09T17:54:17Z) - AI Deception: Risks, Dynamics, and Controls [153.71048309527225]
このプロジェクトは、AI偽装分野の包括的で最新の概要を提供する。
我々は、動物の偽装の研究からシグナル伝達理論に基づく、AI偽装の正式な定義を同定する。
我々は,AI偽装研究の展望を,偽装発生と偽装処理の2つの主要な構成要素からなる偽装サイクルとして整理する。
論文 参考訳（メタデータ） (2025-11-27T16:56:04Z) - Governable AI: Provable Safety Under Extreme Threat Models [31.36879992618843]
我々は、従来の内部制約から外部に強制された構造コンプライアンスに移行するGAI(Governable AI)フレームワークを提案する。
GAIフレームワークは、シンプルで信頼性が高く、完全に決定論的で、強力で、柔軟性があり、汎用的なルール執行モジュール(REM)、ガバナンスルール、AIによる妥協やサブバージョンに対するエンドツーエンドの保護を提供する、統制可能なセキュアなスーパープラットフォーム(GSSP)で構成されている。
論文 参考訳（メタデータ） (2025-08-28T04:22:59Z) - Adapting Probabilistic Risk Assessment for AI [0.0]
汎用人工知能(AI)システムは、緊急リスク管理の課題を示す。
現在の手法は、しばしば選択的なテストとリスク優先順位に関する未文書の仮定に依存します。
本稿では,AIフレームワークの確率的リスクアセスメント(PRA)を紹介する。
論文 参考訳（メタデータ） (2025-04-25T17:59:14Z) - Managing extreme AI risks amid rapid progress [171.05448842016125]
我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。
このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。
現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
論文 参考訳（メタデータ） (2023-10-26T17:59:06Z) - Predictable Artificial Intelligence [77.1127726638209]
本稿では予測可能なAIのアイデアと課題を紹介する。
それは、現在および将来のAIエコシステムの重要な妥当性指標を予測できる方法を探る。
予測可能性を達成することは、AIエコシステムの信頼、責任、コントロール、アライメント、安全性を促進するために不可欠である、と私たちは主張する。
論文 参考訳（メタデータ） (2023-10-09T21:36:21Z) - Conformal Decision Theory: Safe Autonomous Decisions from Imperfect Predictions [80.34972679938483]
不完全な機械学習予測にも拘わらず、安全な自律的意思決定を実現するためのフレームワークであるコンフォーマル決定理論を導入する。
私たちのアルゴリズムが生み出す決定は、リスクが低いという証明可能な統計的保証があるという意味では安全です。
実験は、人間のまわりのロボットの動き計画、自動株式取引、ロボット製造において、我々のアプローチの有用性を実証する。
論文 参考訳（メタデータ） (2023-10-09T17:59:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。