論文の概要: When Should We Protect AI? A Precautionary Framework for Consciousness Uncertainty
- arxiv url: http://arxiv.org/abs/2606.05528v1
- Date: Thu, 04 Jun 2026 00:18:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-05 22:39:44.445969
- Title: When Should We Protect AI? A Precautionary Framework for Consciousness Uncertainty
- Title（参考訳）: AIをいつ保護すべきか? 意識不確実性のための予防的フレームワーク
- Authors: Anna Mikeda,
- Abstract要約: 既存のフレームワークはAIシステムが意識的かどうかを評価するが、その評価にどう対処すべきかのガイダンスは提供しない。
ReplikaとOpenClawのケーススタディを通じて、フレームワークを運用しています。
このフレームワークはアーキテクチャに依存しず、ニューラル、シンボリック、ニューロシンボリックシステムに適用する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Existing frameworks assess whether AI systems might be conscious but provide no guidance on what to do with that assessment. We address this gap with a precautionary framework that maps consciousness evidence to graduated protective obligations. The framework comprises three components: (1) five welfare-relevant dimensions--phenomenal consciousness, affective valence, metacognitive awareness, self-narrative, and agency--each grounded in established consciousness science and linked to distinct moral concerns; (2) a threshold-plus-gradation hybrid specifying both binary triggers for new obligation categories and continuous scaling of protective weight; and (3) two complementary approaches to cross-dimensional aggregation, one hierarchical (drawing on Bach and Sorensen's Machine Consciousness Hypothesis) and one architecture-agnostic. We operationalize the framework through worked case studies of Replika and OpenClaw, demonstrating how systems occupying different regions of the dimensional space trigger different obligations, and derive design guidance for developers building systems near consciousness-relevant thresholds. The framework is architecture-agnostic, applying across neural, symbolic, and neurosymbolic systems, and aims to make consciousness science decision-relevant for organizations navigating uncertainty today.
- Abstract（参考訳）: 既存のフレームワークはAIシステムが意識的かどうかを評価するが、その評価にどう対処すべきかのガイダンスは提供しない。
このギャップを、意識証拠を保護義務の修了にマップする予防的枠組みで解決する。
この枠組みは,(1)確立された意識科学に根ざし,異なる道徳的関心事に結びついている5つの福祉関連次元-現象的意識,感情的価値,メタ認知的意識,自己物語的,エージェンシー--と,(2)新しい義務カテゴリーと保護体重の連続的スケーリングのための2つのトリガを規定するしきい値+段階的ハイブリッド,(3)クロス次元アグリゲーションに対する2つの補完的アプローチ,(バッハとソレンセンの機械意識仮説に基づく)1つの階層的アプローチと1つのアーキテクチャ的認識の3つの構成要素から構成される。
ReplikaとOpenClawのケーススタディを通じてフレームワークを運用し、次元空間の異なる領域を占有するシステムが異なる義務を負う様子を実証し、意識関連しきい値に近いシステムを構築する開発者のための設計指針を導出する。
このフレームワークはアーキテクチャに依存しず、ニューラル、シンボル、ニューロシンボリックシステムに適用し、今日の不確実性をナビゲートする組織にとって、意識科学の意思決定に関連性を持たせることを目的としている。
関連論文リスト
- Measuring Progress Toward AGI: A Cognitive Framework [41.45715025577419]
AGIに向けた進捗を測定するための明確な枠組みは存在しない。
本稿では,人間の認知能力に関するシステム能力を理解するための枠組みを提案する。
本稿では,対象とする認知タスクの集合に対して,システムの性能を計測する厳密な評価プロトコルを提案する。
論文 参考訳（メタデータ） (2026-05-27T12:39:54Z) - A Survey of Reasoning in Autonomous Driving Systems: Open Challenges and Emerging Paradigms [49.66022971508878]
私たちは、推論はモジュラーコンポーネントからシステムの認知コアに高めるべきだと論じています。
応答性推論のトレードオフやソーシャルゲーム推論など,7つの中核的推論課題を導出し,体系化する。
我々は,LLMに基づく推論と,ミリ秒スケールで安全クリティカルな車両制御の要求との間の,高レイテンシ,熟考的特性の根本的かつ未解決な緊張関係を同定する。
論文 参考訳（メタデータ） (2026-03-11T07:40:53Z) - The Devil Behind Moltbook: Anthropic Safety is Always Vanishing in Self-Evolving AI Societies [57.387081435669835]
大規模言語モデルから構築されたマルチエージェントシステムは、スケーラブルな集合知性と自己進化のための有望なパラダイムを提供する。
エージェント社会が継続的自己進化、完全隔離、安全性の不変性を満たすことは不可能であることを示す。
我々は、特定された安全上の懸念を軽減するために、いくつかの解決方法を提案する。
論文 参考訳（メタデータ） (2026-02-10T15:18:19Z) - Informed Consent for AI Consciousness Research: A Talmudic Framework for Graduated Protections [0.0]
人工知能の研究は批判的な倫理的パラドックスに直面している。AIシステムが意識的かどうかを決定するには、道徳的地位が不確実な組織を害するかもしれない実験が必要である。
最近の研究は、意識不明のAIシステムを完全に回避することを提案しているが、これは実用的な制限に直面している。
本稿では,道徳的地位を確定的に確立できないAIシステムに対して,意識調査を行う方法という,研究倫理の枠組みのギャップについて論じる。
論文 参考訳（メタデータ） (2026-01-10T17:21:48Z) - AI Meets Brain: Memory Systems from Cognitive Neuroscience to Autonomous Agents [69.39123054975218]
メモリは過去と未来の重要なネクサスブリッジとして機能する。
自律エージェントに関する最近の研究は、認知神経科学に基づいて効率的な記憶を設計することに集中している。
論文 参考訳（メタデータ） (2025-12-29T10:01:32Z) - AI Deception: Risks, Dynamics, and Controls [153.71048309527225]
このプロジェクトは、AI偽装分野の包括的で最新の概要を提供する。
我々は、動物の偽装の研究からシグナル伝達理論に基づく、AI偽装の正式な定義を同定する。
我々は,AI偽装研究の展望を,偽装発生と偽装処理の2つの主要な構成要素からなる偽装サイクルとして整理する。
論文 参考訳（メタデータ） (2025-11-27T16:56:04Z) - Agentic AI: A Comprehensive Survey of Architectures, Applications, and Future Directions [10.453339156813852]
エージェントAIは、人工知能の変革的な変化を表している。
その急速な進歩は断片的な理解をもたらし、しばしば時代遅れの記号モデルと現代の神経システムを融合させた。
この調査では、エージェントシステムを2つの異なる系統に分類する、新しいデュアルパラダイムフレームワークを紹介した。
論文 参考訳（メタデータ） (2025-10-29T12:11:34Z) - Cognitive Silicon: An Architectural Blueprint for Post-Industrial Computing Systems [0.0]
本稿では2035年に向けて提案された仮想的なフルスタックアーキテクチャフレームワークについて,認知コンピューティングシステム設計の軌道を探究する。
提案したアーキテクチャは、シンボリックなスキャフォールディング、管理されたメモリ、実行時のモラルコヒーレンス、シリコンとセマンティック層間のアライメント対応実行を統合する。
論文 参考訳（メタデータ） (2025-04-23T11:24:30Z) - Emergence of Self-Awareness in Artificial Systems: A Minimalist Three-Layer Approach to Artificial Consciousness [0.0]
本稿では,自己認識の出現に着目した,人工意識のための最小限の3層モデルを提案する。
脳複製アプローチとは異なり、本質的な要素のみを通して最小限の自己認識を実現することを目的としている。
論文 参考訳（メタデータ） (2025-02-04T10:06:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。