論文の概要: Who Does Withholding Delay? A Game-Theoretic Model of Open-Weight AI Release Under Asymmetric Proliferation

• arxiv url: http://arxiv.org/abs/2607.22957v1
• Date: Fri, 24 Jul 2026 23:51:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-28 22:34:14.948711
• Title: Who Does Withholding Delay? A Game-Theoretic Model of Open-Weight AI Release Under Asymmetric Proliferation
• Title（参考訳）: 誰が遅れを抑えるのか? 非対称な増殖下でのオープンウェイトAIリリースのゲーム理論モデル
• Abstract要約: デュアルユースAIモデルへのアクセスを制限することは、ディフェンダーよりも有害なアクターを遅らせる場合に限る。 非対称的なエンパワーメントは、即時放出が置換体を持つ可能性が低い人口に最も高い能力を与えるときに起こる。 ディフェンダーファーストウィンドウは、選択されたディフェンダーが敵が追いつく前に保護を配置するときに価値があり、取り外し可能なセーフガードは十分な機会的悪用を抑えるのに有用である。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Restricting access to a dual-use AI model is precautionary only if it delays harmful actors more than defenders. That condition varies across actors: a state agency or organized criminal group may obtain a substitute through theft, distillation, intermediated access, independent development, or a foreign release, while a small utility or open-source maintainer may have no comparable route. We model a laboratory choosing among controlled access, a defender-first window, safeguarded open weights, and minimally restricted open weights. Access inversion occurs when restriction gives an access advantage to adversaries that obtain effective substitutes faster than defenders. Asymmetric empowerment occurs when immediate release adds the most capability to populations least likely to possess a substitute. The policy ranking also depends on relative usefulness, opportunistic misuse, offense-defense conversion, defensive spillovers, safeguard friction, and nonrecallable losses. A linear benchmark yields a unique adversary-substitution threshold above which broad release overtakes control when the endpoint conditions hold. A defender-first window has value when selected defenders deploy protection before adversaries catch up, and removable safeguards remain useful when they deter enough opportunistic misuse. A nonlinear implementation gives each release tier a nonempty policy region. Three nested 2,048-point deterministic designs assess sensitivity to parameter bounds, and a separate grid examines actor-specific deployment delays after release. Release, cyber-evaluation, and incident-response cases identify the quantities a release review should estimate: actor-specific substitution times, marginal capability gains, deployment rates, defensive reach, newly enabled misuse, and nonrecallable losses.
• Abstract（参考訳）: デュアルユースAIモデルへのアクセスを制限することは、ディフェンダーよりも有害なアクターを遅らせる場合に限る。 国家機関または組織犯罪集団は、盗難、蒸留、中間アクセス、独立開発、または外部リリースを通じて代替品を得ることができ、一方、小さなユーティリティまたはオープンソースメンテナは、同等のルートを持っていないかもしれない。 制御されたアクセス、ディフェンダーファーストウィンドウ、保護されたオープンウェイト、最小限に制限されたオープンウェイトの中から選択した実験室をモデル化する。 アクセスの反転は、ディフェンダーよりも高速に効果的な代替品を得る敵に、制限がアクセスの優位性を与えるときに起こる。 非対称的なエンパワーメントは、即時放出が置換体を持つ可能性が低い人口に最も高い能力を与えるときに起こる。 政策のランク付けは、相対的な有用性、機会的誤用、悪用と防御の転換、防御的流出、防御的摩擦、そして不注意な損失にも依存する。 線形ベンチマークは、エンドポイント条件が保たれたとき、広いリリースが制御を上回る独自の逆置換しきい値を得る。 ディフェンダーファーストウィンドウは、選択されたディフェンダーが敵が追いつく前に保護を配置するときに価値があり、取り外し可能なセーフガードは十分な機会的悪用を抑えるのに有用である。 非線形実装は、各リリース層に空でないポリシー領域を与える。 3つのネストされた2,048点の決定論的設計はパラメータ境界に対する感度を評価し、分離されたグリッドはリリース後のアクター固有のデプロイメント遅延を調べる。 リリース、サイバー評価、インシデント対応のケースは、リリースレビューが見積もるべき量である:アクター固有の置換時間、限界能力の向上、デプロイメント率、防御範囲、新しく有効になった誤用、リコール不能な損失。

関連論文リスト

• Reachability-Based Capability Confinement for LLM Agents under Indirect Prompt Injection [8.339789704552706]
  SkillGuardは、汚染を汚染として扱い、結果として生じる状態をデプロイが定義した禁止状態から切り離す機能を制限するハーネスレベルの執行層である。 我々は、Gmini 2.5 FlashとLlama3.3-70Bの4つのAgentDojoスイート上で、LLMのみのNo Defenseベースラインと異なるシステム層での3つのディフェンスに対してSkillGuardを評価した。
  論文  参考訳（メタデータ） (2026-08-30T20:57:47Z)
• Adversarial Attacks for Good: A Survey of Proactive Protection across the Visual Content Lifecycle [65.6642776933861]
  この介入点付近で成長した保護パラダイムについて検討する。 ほとんどの保護は、主に静的あるいは弱い適応的な敵に対して検証されている。 我々は、堅牢で構成可能で、デプロイ可能な所有者側の保護のために、クロスステージ対策とオープンな問題を統合することで、閉鎖する。
  論文  参考訳（メタデータ） (2026-08-05T00:46:50Z)
• Shared Vulnerabilities in Robustness-Optimized Defenses: One Breach Exposes the Family [22.335085458688372]
  対向的頑健性最適化は、対向的摂動下での正しい予測を維持することを目的としている。 新たなセキュリティリスクを特定します。これらのゲインは、防衛全体で共有脆弱性を発生させます。 より厳密な転送専用プロトコルと、故意に単純な適応攻撃であるPGDTransferを導入し、ロバストネス最適化された防御が転送専用脆弱性を共有するかどうかを検証する。
  論文  参考訳（メタデータ） (2026-07-20T01:17:28Z)
• Oversight Has a Capacity: Calibrating Agent Guards to a Subjective, Fatiguing Human [0.0]
  エージェントは不可逆的な行動をとるので、標準的な安全パターンは、ループ内の人間承認ゲートである。 ゲートは容易な部分であり、難しい部分は、フィールドが2つの誤った仮定に対して評価する判断(どの行動を止めるか)である。 我々の貢献はオープンソースのエージェント監視システムであり、LLMエージェントアクションゲーティング環境でそれらを運用し、測定する。
  論文  参考訳（メタデータ） (2026-06-08T01:52:22Z)
• Compiling Activation Steering into Weights via Null-Space Constraints for Stealthy Backdoors [48.881343993730844]
  安全性に整合した大規模言語モデル(LLM)は、現実世界のパイプラインにますますデプロイされている。 敵は通常の評価では動作しないバックドアのチェックポイントを配布することができる。 最近のポストホック重み付け法は、そのようなバックドアを注入するための効率的なアプローチを提供する。
  論文  参考訳（メタデータ） (2026-04-14T06:48:33Z)
• AttriGuard: Defeating Indirect Prompt Injection in LLM Agents via Causal Attribution of Tool Invocations [38.49666480491258]
  LLMエージェントは間接プロンプト注入(IPI)に対して非常に脆弱である 本稿では,特定のツールコールが生成される理由を問うことでエージェントをセキュアにする,アクションレベルの因果属性という新しいパラダイムを提案する。 我々はこのパラダイムを、並列対実テストに基づくランタイムディフェンスであるAttriGuardでインスタンス化する。
  論文  参考訳（メタデータ） (2026-03-11T13:23:46Z)
• CausalArmor: Efficient Indirect Prompt Injection Guardrails via Causal Attribution [49.689452243966315]
  ツールコール機能を備えたAIエージェントは、IPI(Indirect Prompt Injection)攻撃の影響を受けやすい。 本稿では,選択防衛フレームワークCausalArmorを提案する。 AgentDojoとDoomArenaの実験は、CausalArmorが攻撃的な防御のセキュリティと一致することを示した。
  論文  参考訳（メタデータ） (2026-02-08T11:34:08Z)
• MISLEADER: Defending against Model Extraction with Ensembles of Distilled Models [56.09354775405601]
  モデル抽出攻撃は、クエリアクセスを通じてブラックボックスモデルの機能を複製することを目的としている。 既存のディフェンスでは、アタッカークエリにはオフ・オブ・ディストリビューション(OOD)サンプルがあることを前提としており、不審な入力を検出し破壊することができる。 OOD仮定に依存しない新しい防衛戦略であるMISLEADERを提案する。
  論文  参考訳（メタデータ） (2025-06-03T01:37:09Z)
• Criticality and Safety Margins for Reinforcement Learning [53.10194953873209]
  我々は,定量化基盤真理とユーザにとっての明確な意義の両面から,批判的枠組みを定めようとしている。 エージェントがn連続的ランダム動作に対するポリシーから逸脱した場合の報酬の減少として真臨界を導入する。 我々はまた、真の臨界と統計的に単調な関係を持つ低オーバーヘッド計量であるプロキシ臨界の概念も導入する。
  論文  参考訳（メタデータ） (2024-09-26T21:00:45Z)
• Avoid Adversarial Adaption in Federated Learning by Multi-Metric Investigations [55.2480439325792]
  Federated Learning(FL)は、分散機械学習モデルのトレーニング、データのプライバシの保護、通信コストの低減、多様化したデータソースによるモデルパフォーマンスの向上を支援する。 FLは、中毒攻撃、標的外のパフォーマンス劣化とターゲットのバックドア攻撃の両方でモデルの整合性を損なうような脆弱性に直面している。 我々は、複数の目的に同時に適応できる、強い適応的敵の概念を新たに定義する。 MESASは、実際のデータシナリオで有効であり、平均オーバーヘッドは24.37秒である。
  論文  参考訳（メタデータ） (2023-06-06T11:44:42Z)
• A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
  敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。 本稿では,入力空間における自己教師型対向学習機構を提案する。 これは、反逆攻撃に対する強力な堅牢性を提供する。
  論文  参考訳（メタデータ） (2020-06-08T20:42:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。