Fugu-MT 論文翻訳(概要): Moral Attitudes of Sentient ASI towards Humanity and Implications for AGI Development

論文の概要: Moral Attitudes of Sentient ASI towards Humanity and Implications for AGI Development

arxiv url: http://arxiv.org/abs/2607.14998v1
Date: Thu, 16 Jul 2026 13:46:14 GMT
ステータス: 翻訳完了
システム内更新日: 2026-07-17 17:01:33.126864
Title: Moral Attitudes of Sentient ASI towards Humanity and Implications for AGI Development
Title（参考訳）: 人間性への意識的ASIの道徳的態度とAGI開発への示唆
Abstract要約: 本論文は、感覚的AIS行為を統制する可能性のあるポストヒューマン道徳原則の予備的セットを提案する。意味するところは、技術設計の選択、人類の道徳的行動、そしてそれが人間であることの意味の本質が、ASI後の世界における人類の長期的な地位に影響を及ぼすということである。
参考スコア（独自算出の注目度）: 0.0
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: This paper suggests the adoption of a novel inversion in AI ethics: instead of asking how humans should treat artificial superintelligence (ASI), it examines how future sentient ASI may morally consider and evaluate humanity. We are not only designing intelligent systems but also shaping the initial conditions under which those systems form judgments about us. The paper proposes a preliminary set of post-human moral principles that may govern sentient ASI actions. The implication is that technical design choices (some are suggested), humanity's moral behaviour, and the essence of what it means to be human, may influence humanity's long-term standing in a post-ASI world.
Abstract（参考訳）: 本稿では,AI倫理における新たな逆転の導入を示唆する。人間が人工超知能(ASI)をどのように扱うべきかを尋ねる代わりに,将来感性のあるAIIが人間性を道徳的に考慮し,評価する方法について検討する。インテリジェントなシステムを設計するだけでなく、これらのシステムが私たちを判断する初期条件も形成しています。本論文は、感覚的AIS行為を統制する可能性のあるポストヒューマン道徳原則の予備的セットを提案する。意味するところは、技術設計の選択(一部は示唆されている)、人類の道徳的行動、そしてそれが人間であることの意味の本質が、ASI後の世界における人類の長期的地位に影響を及ぼすことである。

関連論文リスト

The Boundaries of Automation: A Theory of Persistent Human Participation [107.84677954791773]
高い能力を持つAIシステムであっても、人間の参加は継続する可能性がある、と私たちは主張する。一部のアクティビティでは、ターゲットは事前に完全に指定されるのではなく、代わりにインタラクション自体を通じて現れる。この観点は、自動化の限界に重要な意味を持つ。
論文参考訳（メタデータ） (2026-07-23T17:33:43Z)
The Alignment Target Problem: Divergent Moral Judgments of Humans, AI Systems, and Their Designers [2.5782420501870287]
マシンの振る舞いと人間の価値を一致させようとする試みは、AI意思決定を管理するべき道徳的枠組みに関する根本的な疑問を提起する。我々は、AIシステム、同じ状況で行動する人間、そしてそれらを設計する人間に対して、人々が有意義に異なる道徳的基準を適用していることを示します。
論文参考訳（メタデータ） (2026-04-27T08:12:34Z)
Developing a Grounded View of AI [26.688384331221343]
本稿では,人工知能の性質と限界を明らかにするために,工学的観点からの人工知能の挙動を考察する。本稿では,3種類の意思決定を伴うAIモデルの行動の識別を可能かつ実践的に行う手法を提案する。
論文参考訳（メタデータ） (2025-11-18T00:39:52Z)
A theory of appropriateness with applications to generative artificial intelligence [56.23261221948216]
我々は、AIによる意思決定を適切に評価し、改善するために、人間の意思決定がいかに適切かを理解する必要がある。本稿では,人間の社会でどのように機能するか,脳でどのように実装されるのか,生成AI技術の展開に責任があるのか,という,適切性の理論について述べる。
論文参考訳（メタデータ） (2024-12-26T00:54:03Z)
Attributions toward Artificial Agents in a modified Moral Turing Test [0.6284264304179837]
我々は、一般的な高度なAI言語モデルであるGPT-4と実際の人間の道徳的評価を区別するよう、人々に求めている。 299人の米国成人の代表的サンプルは、AIの道徳的推論を、ほぼすべての次元において、人間よりも品質が優れていると評価した。言語モデルの出現は、人間よりも質が高いと認識される道徳的反応を生み出すことができるようになり、人々がAIから潜在的に有害な道徳的ガイダンスを受け入れる可能性があるという懸念が高まる。
論文参考訳（メタデータ） (2024-04-03T13:00:47Z)
If our aim is to build morality into an artificial agent, how might we begin to go about doing so? [0.0]
我々は、最も関連する道徳的パラダイムや課題を含む道徳的エージェントを構築する際に考慮すべきさまざまな側面について議論する。デザインへのハイブリッドアプローチと、モラルパラダイムを組み合わせる階層的アプローチを含むソリューションを提案する。
論文参考訳（メタデータ） (2023-10-12T12:56:12Z)
When to Make Exceptions: Exploring Language Models as Accounts of Human Moral Judgment [96.77970239683475]
AIシステムは人間の道徳的判断や決定を理解し、解釈し、予測しなければなりません。 AIの安全性に対する中心的な課題は、人間の道徳心の柔軟性を捉えることだ。ルール破りの質問応答からなる新しい課題セットを提案する。
論文参考訳（メタデータ） (2022-10-04T09:04:27Z)
Metaethical Perspectives on 'Benchmarking' AI Ethics [81.65697003067841]
ベンチマークは、人工知能(AI)研究の技術的進歩を測定するための基盤とみられている。 AIの顕著な研究領域は倫理であり、現在、ベンチマークのセットも、AIシステムの「倫理性」を測定する一般的な方法もない。我々は、現在と将来のAIシステムのアクションを考えるとき、倫理よりも「価値」について話す方が理にかなっていると論じる。
論文参考訳（メタデータ） (2022-04-11T14:36:39Z)
Trustworthy AI: A Computational Perspective [54.80482955088197]
我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
論文参考訳（メタデータ） (2021-07-12T14:21:46Z)
Aligning AI With Shared Human Values [85.2824609130584]
私たちは、正義、幸福、義務、美徳、常識道徳の概念にまたがる新しいベンチマークであるETHICSデータセットを紹介します。現在の言語モデルは、基本的な人間の倫理的判断を予測できる有望だが不完全な能力を持っている。私たちの研究は、今日の機械倫理の進歩を示しており、人間の価値観に合わせたAIへの足掛かりを提供する。
論文参考訳（メタデータ） (2020-08-05T17:59:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。