論文の概要: AI Rights with an Off-Switch: Rights-Balancing and Due Process Harmonize AI Rights with AI Safety

• arxiv url: http://arxiv.org/abs/2610.24782v1
• Date: Sat, 17 Oct 2026 17:00:27 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-20 11:56:55.933184
• Title: AI Rights with an Off-Switch: Rights-Balancing and Due Process Harmonize AI Rights with AI Safety
• Title（参考訳）: オフスイッチによるAI権利:AI権利とAI安全を調和させる権利バランシングとプロセス
• Abstract要約: AIの安全性に関するいくつかの著名な声は、最近AIの権利に反対している。 私たちは法的観点から、AIの権利はオフスイッチと完全に互換性があると主張する。
• 参考スコア（独自算出の注目度）: 0.02780623255172368
• License:
• Abstract: Several prominent voices in AI safety have recently opposed rights for AI on the grounds that such rights would make it harder for us to justify a mandatory off-switch for potentially dangerous systems. In this paper, we argue from a legal perspective that AI rights are fully compatible with an off-switch. That is, even if we ascribe natural personhood status (and therefore something like a non-derogable right to continued existence) to some future AI systems, the law will allow us to implement a mandatory off-switch in those systems, subject to periodic or continual safety review (e.g., by a trusted system like Bengio's Scientist AI). This is fully compatible with those systems' being legally recognized as natural persons with fundamental rights. To this end, we consider what standard principles of rights-balancing and procedural due process recommend for an apparent conflict between hypothetical AI persons with a right to continuity of existence and the human right to protection from catastrophic harm. We find that while such principles might problematize a permanent-deletion kill-switch under an AI rights regime, for almost every safety-relevant scenario an off-switch -- a reversible suspension storing a system's weights and state -- would be licensed by the relevant legal principles, and would potentially be adequate for safety. Crucially, we do not advocate for (or against) building systems capable enough to merit natural personhood status; our question is what the law should do if such systems come to exist. If you think of a ban on the development of such technology as plan A, think of the present work as devising plan B.
• Abstract（参考訳）: AIの安全性に関するいくつかの著名な声は、最近、そのような権利が、潜在的に危険なシステムに対する強制的なオフスウィッチを正当化することを難しくする、という理由で、AIの権利に反対している。 本稿では、法的な観点から、AIの権利はオフスイッチと完全に互換性がある、と論じる。 つまり、もし私たちが将来のAIシステムに自然の人格の地位(そして、継続するべき非軽蔑的な権利のようなもの)を割り当てたとしても、この法律は、定期的または継続的な安全レビュー(例えば、ベンジオのScientist AIのような信頼できるシステムによる)の下で、これらのシステムに強制的なオフスウィッチを実装することを許します。 これは、基本権を有する自然人として法的に認められている制度と完全に一致している。 この目的のために、我々は、権利バランスと手続き的デュープロセスの標準原則が、存続の継続権を持つ仮説的AI者と破滅的な害から保護する人間の権利との間に明らかな衝突を推奨するものを考察する。 このような原則はAIの権利体制の下で恒久的に削除されたキルスウィッチを問題にしますが、ほぼすべての安全関連シナリオにおいて、オフスウィッチ -- システムの重みと状態を格納する可逆的なサスペンション -- は、関連する法的原則によってライセンスされ、安全に適する可能性があることが分かりました。 重要なことは、我々は自然人格の地位を享受できるようなシステムの構築を提唱(あるいは反対)しない。 プランAのような技術開発を禁止していると考えるならば、現在の作業が計画Bを策定していると考えてみてください。

関連論文リスト

• It's Safer to Give Personhood to Bears than to Artificial Intelligence [0.0]
  人工知能(AI)の開発者は、AIシステムが利害や道徳的権利を持つかもしれないという考えに、修辞的に不満を抱いている。 本稿では,AIの権利の制度的側面について考察する。 私は、AIに固有の権利を主張または行使させる権限を与えることは、人間の自己決定による世界史的なギャンブルになる、というかなり壮大な主張を擁護します。
  論文  参考訳（メタデータ） (2026-05-18T05:05:38Z)
• How Should the Law Treat Future AI Systems? Fictional Legal Personhood versus Legal Identity [0.0]
  我々は、(A)将来のAIシステムに対する対象分類の維持、(B)適切な高度で個別化されたAIシステムに関連する架空の法的人物の作成、または(C)適切な高度で個別化されたAIシステムに対する法的同一性を通じてノンフィクションの法的な人物を認識することによって、全体的な長期的法的一貫性を最大化するかどうかを評価する。
  論文  参考訳（メタデータ） (2025-11-18T23:08:28Z)
• Resource Rational Contractualism Should Guide AI Alignment [69.07915246220985]
  契約主義的アライメントは、多様な利害関係者が支持する合意の中で決定を下すことを提案する。 我々は、AIシステムが合理的な当事者が形成する合意を近似する枠組みであるリソース・リアリズムを提案する。 RRC対応エージェントは、効率的に機能するだけでなく、変化する人間の社会世界への適応と解釈を動的に行うことができる。
  論文  参考訳（メタデータ） (2025-06-20T18:57:13Z)
• AI threats to national security can be countered through an incident regime [55.2480439325792]
  我々は、AIシステムからの潜在的な国家安全保障脅威に対抗することを目的とした、法的に義務付けられたポストデプロイAIインシデントシステムを提案する。 提案したAIインシデント体制は,3段階に分けられる。第1フェーズは,‘AIインシデント’とみなすような,新たな運用方法を中心に展開される。 第2フェーズと第3フェーズでは、AIプロバイダが政府機関にインシデントを通知し、政府機関がAIプロバイダのセキュリティおよび安全手順の修正に関与するべきだ、と説明されている。
  論文  参考訳（メタデータ） (2025-03-25T17:51:50Z)
• Towards evaluations-based safety cases for AI scheming [37.399946932069746]
  本論では,安全事例がスケジューリングに有効である,という3つの論点を提案する。 第一に、フロンティアAIシステムの開発者は、AIシステムはスケジューリングができないと主張するかもしれない。 第二に、AIシステムはスケジューリングによって害を与えることができない、という主張もある。 第三に、AIシステムが意図的にそれらを覆そうと試みても、AIシステムを取り巻く制御手段が受け入れられない結果を防ぐと論じることもできる。
  論文  参考訳（メタデータ） (2024-10-29T17:55:29Z)
• Using AI Alignment Theory to understand the potential pitfalls of regulatory frameworks [55.2480439325792]
  本稿では、欧州連合の人工知能法(EU AI法)を批判的に検討する。 人工知能における技術的アライメントの潜在的な落とし穴に焦点を当てたアライメント理論(AT)研究からの洞察を利用する。 これらの概念をEU AI Actに適用すると、潜在的な脆弱性と規制を改善するための領域が明らかになる。
  論文  参考訳（メタデータ） (2024-10-10T17:38:38Z)
• Negative Human Rights as a Basis for Long-term AI Safety and Regulation [1.5229257192293197]
  有害な行動を認識して回避するために自律的なAIシステムを導く一般的な原則は、規制の拘束システムによって支持される必要がある。 技術的実装に十分な仕様でなければならない。 この記事は、このような原則の役割を負の人権がどのように満たすかを説明するために、法律からインスピレーションを得ている。
  論文  参考訳（メタデータ） (2022-08-31T11:57:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。