論文の概要: The Open-Weight Paradox: Why Restricting Access to AI Models May Undermine the Safety It Seeks to Protect

• arxiv url: http://arxiv.org/abs/2604.17413v1
• Date: Sun, 19 Apr 2026 12:38:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-21 21:52:52.51367
• Title: The Open-Weight Paradox: Why Restricting Access to AI Models May Undermine the Safety It Seeks to Protect
• Title（参考訳）: オープンウェイト・パラドックス:AIモデルへのアクセス制限が安全を損なう理由
• Authors: Vinicius Santana Gomes,
• Abstract要約: オープンウェイト人工知能(AI)モデルのガバナンスは、リスクとしてのオープン性、安全性としての制限という2つの選択肢として考えられている。 本稿は、規制された代替手段を使わずに、アクセス制限がリスクを減らすよりもリスクをなくす可能性があることを論じる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The governance of open-weight artificial intelligence (AI) models has been framed as a binary choice: openness as risk, restriction as safety. This paper challenges that framing, arguing that access restrictions, without governed alternatives, may displace risks rather than reduce them. The global concentration of compute infrastructure makes open-weight models one of the most viable pathways to sovereign AI capacity in the Global South; restricting such access deepens asymmetries while driving proliferation into unsupervised settings. This analysis proposes that hardware-layer governance, including chip-level attestation mechanisms such as FlexHEG, trusted execution environments, confidential computing, and complementary software-layer safeguards, offers a defense-in-depth alternative to the current binary. A threat model taxonomy mapping misuse vectors to hardware, software, institutional, and liability layers illustrates why no single governance mechanism suffices. To operationalize this approach, the paper argues that effective AI governance as a dual-use technology will likely require a multilateral institutional architecture functionally analogous, though not identical, to the role performed by the IAEA in the nuclear domain, with explicit safeguards against the co-option of hardware controls for domestic repression. The relevant policy question is how to make openness safer through technical and institutional design while addressing the transition realities of legacy hardware, attestation at scale, and civil liberties protection.
• Abstract（参考訳）: オープンウェイト人工知能(AI)モデルのガバナンスは、リスクとしてのオープン性、安全性としての制限という2つの選択肢として考えられている。 この論文は、規制された代替手段を使わずにアクセス制限を緩和するよりもリスクを減らそうとするフラーミングに挑戦する。 計算インフラのグローバルな集中により、オープンウェイトモデルは、グローバルサウスにおいて、主権を持つAI能力への最も実行可能な道の1つとなり、そのようなアクセスを制限することで、非教師なしの環境に増殖を誘導しながら、非対称性を深める。 この分析は、FlexHEGのようなチップレベルの認証機構、信頼できる実行環境、機密コンピューティング、および補完的なソフトウェア層セーフガードを含むハードウェア層ガバナンスが、現在のバイナリの詳細な代替手段を提供することを示唆している。 誤用ベクトルをハードウェア、ソフトウェア、制度、責任レイヤにマッピングする脅威モデルでは、なぜ単一のガバナンスメカニズムが十分でないのかが示されています。 このアプローチを運用するには、デュアルユース技術としての効果的なAIガバナンスは、核ドメインにおいてIAEAが果たす役割と機能的に類似する多面的な機関アーキテクチャを必要とする可能性が高い、と論文は主張する。 関連する政策問題は、レガシーハードウェアの移行現実、大規模な証明、市民の自由保護に対処しながら、技術的および制度的設計を通じてオープン性をより安全にする方法である。

関連論文リスト

• Hardware-Level Governance of AI Compute: A Feasibility Taxonomy for Regulatory Compliance and Treaty Verification [0.0]
  本稿では、20のハードウェアレベルのガバナンス機構の分類法を提案することにより、AIガバナンスとコンピュータエンジニアリングのギャップを埋める。 各メカニズムについて、技術的記述、実現可能性評価、敵の脆弱性の識別を提供する。
  論文  参考訳（メタデータ） (2026-04-06T14:26:14Z)
• Chain-of-Authorization: Internalizing Authorization into Large Language Models via Reasoning Trajectories [21.063230721511726]
  Chain-of-Authorization (CoA)フレームワークは、認証ロジックを大規模言語モデルのコア機能に内部化する。 CoAはポリシー実行とタスク応答を統合し、承認を実体的応答の因果的前提とする。
  論文  参考訳（メタデータ） (2026-03-24T07:13:01Z)
• Governable AI: Provable Safety Under Extreme Threat Models [31.36879992618843]
  我々は、従来の内部制約から外部に強制された構造コンプライアンスに移行するGAI(Governable AI)フレームワークを提案する。 GAIフレームワークは、シンプルで信頼性が高く、完全に決定論的で、強力で、柔軟性があり、汎用的なルール執行モジュール(REM)、ガバナンスルール、AIによる妥協やサブバージョンに対するエンドツーエンドの保護を提供する、統制可能なセキュアなスーパープラットフォーム(GSSP)で構成されている。
  論文  参考訳（メタデータ） (2025-08-28T04:22:59Z)
• Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
  本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。 我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。 私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
  論文  参考訳（メタデータ） (2025-08-12T09:42:56Z)
• Toward a Global Regime for Compute Governance: Building the Pause Button [0.4952055253916912]
  計算資源へのアクセスを制限することにより,AIシステムのトレーニングを防止するためのガバナンスシステムを提案する。 技術的、トレーサビリティ、規制という3つの重要な介入ポイントを特定し、それらをガバナンス-執行-検証フレームワークにまとめます。 技術的メカニズムとしては、改ざん防止FLOPキャップ、モデルロック、オフラインライセンスなどがある。
  論文  参考訳（メタデータ） (2025-06-25T15:18:19Z)
• Mitigating Cyber Risk in the Age of Open-Weight LLMs: Policy Gaps and Technical Realities [0.0]
  オープンウェイト汎用AI(GPAI)モデルには大きなメリットがあるが、重大なサイバーセキュリティリスクも伴う。 本稿では、オープンウェイトAIリリースによって拡大した、マルウェア開発とソーシャルエンジニアリングの強化を含む、特定の脅威を分析する。 本稿では,モデル全体ではなく,特定のハイリスク機能の評価と制御に重点を置く経路を提案する。
  論文  参考訳（メタデータ） (2025-05-21T11:35:52Z)
• Position: Mind the Gap-the Growing Disconnect Between Established Vulnerability Disclosure and AI Security [56.219994752894294]
  我々は、AIセキュリティレポートに既存のプロセスを適用することは、AIシステムの特徴的な特徴に対する根本的な欠点のために失敗する運命にあると主張している。 これらの欠点に対処する私たちの提案に基づき、AIセキュリティレポートへのアプローチと、新たなAIパラダイムであるAIエージェントが、AIセキュリティインシデント報告の進展をさらに強化する方法について論じる。
  論文  参考訳（メタデータ） (2024-12-19T13:50:26Z)
• Computing Power and the Governance of Artificial Intelligence [51.967584623262674]
  政府や企業は、AIを管理する手段として計算を活用し始めている。 計算ベースのポリシーと技術は、これらの領域を補助する可能性があるが、実装の準備ができている点で大きなバリエーションがある。 プライバシーや経済的影響、権力の中央集権化といった分野において、ガバナンスの計算方法の素早い、あるいは不十分なアプローチは重大なリスクを伴います。
  論文  参考訳（メタデータ） (2024-02-13T21:10:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。