Fugu-MT 論文翻訳(概要): Functionally Effective Conscious AI Without Suffering

論文の概要: Functionally Effective Conscious AI Without Suffering

arxiv url: http://arxiv.org/abs/2002.05652v1
Date: Thu, 13 Feb 2020 17:59:15 GMT
ステータス: 処理完了
システム内更新日: 2023-06-03 19:10:15.680436
Title: Functionally Effective Conscious AI Without Suffering
Title（参考訳）: 問題なく機能的に有効なAI
Authors: Aman Agarwal, Shimon Edelman
Abstract要約: エンジニアリングを意識したAIの相補的な側面について論じられることはめったにない。創造が責任のみを負うようなシステムに対する非難を避けるには、現象的な自己意識によって引き起こされる避けられない苦痛をどうやって回避するか。
参考スコア（独自算出の注目度）: 2.017876577978849
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Insofar as consciousness has a functional role in facilitating learning and behavioral control, the builders of autonomous AI systems are likely to attempt to incorporate it into their designs. The extensive literature on the ethics of AI is concerned with ensuring that AI systems, and especially autonomous conscious ones, behave ethically. In contrast, our focus here is on the rarely discussed complementary aspect of engineering conscious AI: how to avoid condemning such systems, for whose creation we would be solely responsible, to unavoidable suffering brought about by phenomenal self-consciousness. We outline two complementary approaches to this problem, one motivated by a philosophical analysis of the phenomenal self, and the other by certain computational concepts in reinforcement learning.
Abstract（参考訳）: 意識が学習と行動制御を促進する上で機能的な役割を担っているため、自律型AIシステムの構築者は、それを設計に組み込もうとする可能性が高い。 AIの倫理に関する広範な文献は、AIシステム、特に自律意識的なシステムが倫理的に振る舞うことを確実にすることに関心を持っている。対照的に、ここでの焦点は、エンジニアリング意識aiの補足的な側面である:そのようなシステムを非難することを避ける方法、その創造にのみ責任を負うこと、そして驚くべき自己意識によって引き起こされる避けられない苦痛である。この問題に対する2つの相補的アプローチを概説する。1つは現象的自己の哲学的分析に動機づけられ、もう1つは強化学習におけるある種の計算概念に動機付けられたものである。

関連論文リスト

Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
AIシステムは知恵を欠いている。 AI研究はタスクレベルの戦略に焦点を当てているが、メタ認知はAIシステムでは未発達である。メタ認知機能をAIシステムに統合することは、その堅牢性、説明可能性、協力性、安全性を高めるために不可欠である。
論文参考訳（メタデータ） (2024-11-04T18:10:10Z)
Rolling in the deep of cognitive and AI biases [1.556153237434314]
我々は、AIが設計、開発、デプロイされる状況とは切り離せない社会技術システムとして理解する必要があると論じる。我々は、人間の認知バイアスがAIフェアネスの概観の中核となる急進的な新しい方法論に従うことで、この問題に対処する。我々は、人間にAIバイアスを正当化する新しいマッピングを導入し、関連する公正度と相互依存を検出する。
論文参考訳（メタデータ） (2024-07-30T21:34:04Z)
Beneficent Intelligence: A Capability Approach to Modeling Benefit, Assistance, and Associated Moral Failures through AI Systems [12.239090962956043]
AI倫理に関する一般的な言説は、AIシステムが個人と対話する際に生じる多様な倫理的懸念を捉えるのに必要な言語や形式主義を欠いている。本稿では、利害関係者に有意義な利益や援助を与えるために、AIシステムに必要な倫理的概念と権利のネットワークを定式化する枠組みを提案する。
論文参考訳（メタデータ） (2023-08-01T22:38:14Z)
Reflective Hybrid Intelligence for Meaningful Human Control in Decision-Support Systems [4.1454448964078585]
本稿では,AIシステムに対する有意義な人間制御のための自己表現型AIシステムの概念を紹介する。心理学と哲学の知識を形式的推論手法や機械学習アプローチと統合する枠組みを提案する。我々は、自己反射型AIシステムは、自己反射型ハイブリッドシステム(人間+AI)に繋がると主張している。
論文参考訳（メタデータ） (2023-07-12T13:32:24Z)
AI Maintenance: A Robustness Perspective [91.28724422822003]
我々は、AIライフサイクルにおけるロバストネスの課題を強調し、自動車のメンテナンスに類似させることで、AIのメンテナンスを動機付ける。本稿では,ロバストネスリスクの検出と軽減を目的としたAIモデル検査フレームワークを提案する。我々のAIメンテナンスの提案は、AIライフサイクル全体を通して堅牢性評価、状態追跡、リスクスキャン、モデル硬化、規制を促進する。
論文参考訳（メタデータ） (2023-01-08T15:02:38Z)
Seamful XAI: Operationalizing Seamful Design in Explainable AI [59.89011292395202]
AIシステムのミスは必然的であり、技術的制限と社会技術的ギャップの両方から生じる。本稿では, 社会工学的・インフラ的ミスマッチを明らかにすることにより, シームレスな設計がAIの説明可能性を高めることを提案する。 43人のAI実践者と実際のエンドユーザでこのプロセスを探求します。
論文参考訳（メタデータ） (2022-11-12T21:54:05Z)
Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
論文参考訳（メタデータ） (2022-01-26T18:53:09Z)
Building Bridges: Generative Artworks to Explore AI Ethics [56.058588908294446]
近年,人工知能(AI)技術が社会に与える影響の理解と緩和に重点が置かれている。倫理的AIシステムの設計における重要な課題は、AIパイプラインには複数の利害関係者があり、それぞれがそれぞれ独自の制約と関心を持っていることだ。このポジションペーパーは、生成的アートワークが、アクセス可能で強力な教育ツールとして機能することで、この役割を果たすことができる可能性のいくつかを概説する。
論文参考訳（メタデータ） (2021-06-25T22:31:55Z)
Dynamic Cognition Applied to Value Learning in Artificial Intelligence [0.0]
この分野の数人の研究者が、堅牢で有益で安全な人工知能の概念を開発しようとしている。人工知能エージェントが人間の価値観に合わせた価値を持っていることは、最も重要である。この問題に対する可能なアプローチは、SEDのような理論モデルを使用することである。
論文参考訳（メタデータ） (2020-05-12T03:58:52Z)
Distributed and Democratized Learning: Philosophy and Research Challenges [80.39805582015133]
民主化学習(Dem-AI)という新しいデザイン哲学を提案する。ヒトの社会的グループに触発され、提案されたDem-AIシステムの学習エージェントの専門グループは階層構造で自己組織化され、より効率的に学習タスクを遂行する。本稿では,様々な学際分野に触発された未来のDem-AIシステムを実現するためのガイドラインとして,参照設計を提案する。
論文参考訳（メタデータ） (2020-03-18T08:45:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。