論文の概要: The Security Cost of Intelligence: AI Capability, Cyber Risk, and Deployment Paradox

• arxiv url: http://arxiv.org/abs/2604.23058v1
• Date: Fri, 24 Apr 2026 22:58:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-28 17:12:07.128323
• Title: The Security Cost of Intelligence: AI Capability, Cyber Risk, and Deployment Paradox
• Title（参考訳）: 人工知能のセキュリティコスト:AI能力、サイバーリスク、デプロイパラドックス
• Authors: Sukwoong Choi,
• Abstract要約: 企業はより有能なAIシステムを展開しているが、組織のコントロールはペースを保っていないことが多い。 高価値の使用は、ガバナンスコントロールが権限の露光からまだ分離していない場合に、より広範な権限の露光を必要とする。 我々は、このガバナンス能力のギャップの下で、企業がAIデプロイメントとサイバーセキュリティ投資を共同で選択する分析モデルを開発する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Firms are deploying more capable AI systems, but organizational controls often have not kept pace. These systems can generate greater productivity gains, but high-value uses require broader authority exposure -- data access, workflow integration, and delegated authority -- when governance controls have not yet decoupled capability from authority exposure. We develop an analytical model in which a firm jointly chooses AI deployment and cybersecurity investment under this governance-capability gap. The central result shows a deployment paradox: in high-loss environments, better AI can lead a firm to deploy less when capability is deployed through broader authority exposure under weak governance. Optimal deployment also falls below the no-risk benchmark, and this shortfall widens with breach-loss magnitude and with the authority exposure attached to more capable systems. Governance investment that reduces breach-loss magnitude shrinks the paradox region itself, while breach externalities expand the range of environments in which deployment is socially constrained. Governance maturity is therefore not merely a constraint on AI adoption. It is a condition that shapes whether capability improvements translate into productive deployment.
• Abstract（参考訳）: 企業はより有能なAIシステムを展開しているが、組織のコントロールはペースを保っていないことが多い。 これらのシステムは生産性が向上する可能性があるが、高価値な使用には、権限の露出から権限が分離されていなければ、データアクセス、ワークフロー統合、委譲された権限といった、より広範な権限の露光が必要となる。 我々は、このガバナンス能力のギャップの下で、企業がAIデプロイメントとサイバーセキュリティ投資を共同で選択する分析モデルを開発する。 高損失環境では、より優れたAIが、弱いガバナンスの下で広範な権限の暴露を通じて能力がデプロイされる場合に、企業のデプロイを減少させる可能性がある。 最適なデプロイメントはリスクのないベンチマークよりも低く、この不足は侵入の規模が大きくなり、より有能なシステムに権限が付与される。 侵害の規模を小さくするガバナンス投資はパラドックス領域自体を縮小する一方、違反の外部性は、社会的に制約された環境の範囲を広げる。 したがって、ガバナンスの成熟度は単なるAI導入の制約ではない。 能力改善が生産的なデプロイメントに変換されるかどうかを判断する条件です。

関連論文リスト

• The Open-Weight Paradox: Why Restricting Access to AI Models May Undermine the Safety It Seeks to Protect [0.0]
  オープンウェイト人工知能(AI)モデルのガバナンスは、リスクとしてのオープン性、安全性としての制限という2つの選択肢として考えられている。 本稿は、規制された代替手段を使わずに、アクセス制限がリスクを減らすよりもリスクをなくす可能性があることを論じる。
  論文  参考訳（メタデータ） (2026-04-19T12:38:14Z)
• When Autonomy Goes Rogue: Preparing for Risks of Multi-Agent Collusion in Social Systems [78.04679174291329]
  悪意のあるマルチエージェントシステム(MAS)のリスクをシミュレートするための概念実証手法を提案する。 この枠組みを、誤情報拡散とeコマース詐欺という2つのリスクの高い分野に適用する。 その結果,分散システムの方が,集中型システムよりも悪意ある行動を実行するのに効果的であることが示唆された。
  論文  参考訳（メタデータ） (2025-07-19T15:17:30Z)
• Artificial Intelligence in Government: Why People Feel They Lose Control [44.99833362998488]
  行政における人工知能の利用は急速に拡大している。 AIはより効率と応答性を約束するが、政府機能への統合は公正性、透明性、説明責任に関する懸念を提起する。 この記事では、デリゲートの特別事例として、AI導入に関するプリンシパル・エージェント理論を適用します。
  論文  参考訳（メタデータ） (2025-05-02T07:46:41Z)
• AI Behind Closed Doors: a Primer on The Governance of Internal Deployment [33.99253912746621]
  内部デプロイメントは、フロンティアAIシステムによるメリットとリスクの主な源泉である。 このレポートは、内部デプロイメントのガバナンスに関する会話を予備して、この欠如に対処することを目的としている。 そこでは,AI研究開発パイプラインに対するAIシステムの内部適用による制御の喪失に関連するリスクについて論じる。
  論文  参考訳（メタデータ） (2025-04-16T15:21:13Z)
• Position: Mind the Gap-the Growing Disconnect Between Established Vulnerability Disclosure and AI Security [56.219994752894294]
  我々は、AIセキュリティレポートに既存のプロセスを適用することは、AIシステムの特徴的な特徴に対する根本的な欠点のために失敗する運命にあると主張している。 これらの欠点に対処する私たちの提案に基づき、AIセキュリティレポートへのアプローチと、新たなAIパラダイムであるAIエージェントが、AIセキュリティインシデント報告の進展をさらに強化する方法について論じる。
  論文  参考訳（メタデータ） (2024-12-19T13:50:26Z)
• Computing Power and the Governance of Artificial Intelligence [51.967584623262674]
  政府や企業は、AIを管理する手段として計算を活用し始めている。 計算ベースのポリシーと技術は、これらの領域を補助する可能性があるが、実装の準備ができている点で大きなバリエーションがある。 プライバシーや経済的影響、権力の中央集権化といった分野において、ガバナンスの計算方法の素早い、あるいは不十分なアプローチは重大なリスクを伴います。
  論文  参考訳（メタデータ） (2024-02-13T21:10:21Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• Examining the Differential Risk from High-level Artificial Intelligence and the Question of Control [0.0]
  将来のAI能力の範囲と範囲は、依然として重要な不確実性である。 AIの不透明な意思決定プロセスの統合と監視の程度には懸念がある。 本研究では、AIリスクをモデル化し、代替先分析のためのテンプレートを提供する階層的な複雑なシステムフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-11-06T15:46:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。