論文の概要: How to Navigate Uncertainty About AI Consciousness

• arxiv url: http://arxiv.org/abs/2608.19215v1
• Date: Mon, 06 Jul 2026 10:37:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.268435
• Title: How to Navigate Uncertainty About AI Consciousness
• Title（参考訳）: AI意識の不確実性をナビゲートする方法
• Abstract要約: 潜在的にセンシティブなAIをどのように扱うべきかは不明だ。 一方、我々は無感を前提にできるが、道徳的地位にふさわしい団体にひどい危害を加えるリスクがある。 一方、センシティンスを仮定し、その代わりに、一貫性のないマシンでリソースを浪費するリスクを負う可能性がある。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Given deep uncertainty about the possibility of artificial consciousness, it is unclear how we should treat potentially sentient AI. On the one hand, we could assume insentience but risk doing terrible harms to entities that deserve moral standing. On the other hand, we could assume sentience and instead risk wasting resources on insentient machines. The intractability of questions around AI consciousness mean that this dilemma is hard to escape. I suggest a way out of that shifts from intractable questions of AI consciousness to tractable questions of AI valence. Specifically, we can assess whether an AI has states that would constitute valenced experiences if it were conscious. I show how this is sufficient to ground a responsible approach to the development of potentially conscious AI.
• Abstract（参考訳）: 人工意識の可能性について深い不確実性を考えると、潜在的に知覚的なAIをどのように扱うべきかは明らかではない。 一方、我々は無感を前提にできるが、道徳的地位にふさわしい団体にひどい危害を加えるリスクがある。 一方、センシティンスを仮定し、その代わりに、一貫性のないマシン上でリソースを浪費するリスクを負う可能性がある。 AI意識に関する質問の難しさは、このジレンマを逃れるのが難しいことを意味する。 私は、AI意識の難解な質問から、AI原子価の難解な質問へのシフトから抜け出す方法を提案します。 具体的には、AIが意識のある場合、有能な体験を構成することを述べられているかどうかを評価することができる。 これは、潜在的に意識的なAIの開発に責任あるアプローチを構築するのに十分であることを示す。

関連論文リスト

• AI Consciousness and Existential Risk [8.264344308830797]
  AIでは、存在リスクは、人間性を根絶する能力と目的の両方を持つ人工システムによって引き起こされる仮説上の脅威を意味する。 AI意識と生存リスクという2つの質問は、前者が後者に関係しているかのように、時に混同される。 この見解は、意識と知性の共通した混同に由来すると説明します。 しかし、いずれの方向にも、意識が生存リスクに影響を与えるような偶然のシナリオがある。
  論文  参考訳（メタデータ） (2025-11-24T13:48:02Z)
• Bridging Minds and Machines: Toward an Integration of AI and Cognitive Science [48.38628297686686]
  認知科学は人工知能(AI)、哲学、心理学、神経科学、言語学、文化などの分野を深く形成している。 AIの多くのブレークスルーは、そのルーツを認知理論にさかのぼる一方で、AI自体が認知研究を進めるのに欠かせないツールになっている。 我々は、認知科学におけるAIの未来は、性能の向上だけでなく、人間の心の理解を深めるシステムの構築にも関係していると主張している。
  論文  参考訳（メタデータ） (2025-08-28T11:26:17Z)
• The Societal Response to Potentially Sentient AI [0.0]
  現在、AIの知覚に関する公的な懐疑論は高いままである。 AIシステムが進歩し、人間のようなインタラクションに熟練するにつれて、公衆の態度はシフトする可能性がある。 重要な疑問は、AIの知覚に関する公的な信念が専門家の意見から分かれるかどうかである。
  論文  参考訳（メタデータ） (2025-02-01T10:22:04Z)
• Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
  我々は人間の知恵について知られているものを調べ、そのAIのビジョンをスケッチする。 AIシステムは特にメタ認知に苦しむ。 スマートAIのベンチマーク、トレーニング、実装について論じる。
  論文  参考訳（メタデータ） (2024-11-04T18:10:10Z)
• AI Consciousness and Public Perceptions: Four Futures [0.0]
  我々は、未来の人間社会が高度なAIシステムを意識していると広く信じているかどうかを調査する。 私たちは、AIの苦悩、人間の非エンパワーメント、地政学的な不安定、そして人間の絶望の4つの大きなリスクを特定します。 この論文は、意識的なAIを意図的に創出することを目的とした研究を避けるための主要な推奨事項で締めくくっている。
  論文  参考訳（メタデータ） (2024-08-08T22:01:57Z)
• On the consistent reasoning paradox of intelligence and optimal trust in AI: The power of 'I don't know' [79.69412622010249]
  一貫性推論(Consistent reasoning)は、人間の知性の中心にある、同等のタスクを扱う能力である。 CRPは、一貫性のある推論は誤認を意味する、と論じている。
  論文  参考訳（メタデータ） (2024-08-05T10:06:53Z)
• Is artificial consciousness achievable? Lessons from the human brain [0.0]
  進化の観点から,人工意識の発達に関する問題を分析する。 我々は、人間の脳の進化と、その意識との関係を参照モデルとして捉えている。 我々は,AIの認知処理における共通点と,人間の意識経験との違いを明確にすることを提案する。
  論文  参考訳（メタデータ） (2024-04-18T12:59:44Z)
• Seamful XAI: Operationalizing Seamful Design in Explainable AI [59.89011292395202]
  AIシステムのミスは必然的であり、技術的制限と社会技術的ギャップの両方から生じる。 本稿では, 社会工学的・インフラ的ミスマッチを明らかにすることにより, シームレスな設計がAIの説明可能性を高めることを提案する。 43人のAI実践者と実際のエンドユーザでこのプロセスを探求します。
  論文  参考訳（メタデータ） (2022-11-12T21:54:05Z)
• Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
  Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。 これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
  論文  参考訳（メタデータ） (2022-01-26T18:53:09Z)
• Trustworthy AI: A Computational Perspective [54.80482955088197]
  我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。 各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
  論文  参考訳（メタデータ） (2021-07-12T14:21:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。