論文の概要: The Possibility of Artificial Intelligence Becoming a Subject and the Alignment Problem
- arxiv url: http://arxiv.org/abs/2604.14990v1
- Date: Thu, 16 Apr 2026 13:19:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-17 21:29:31.916035
- Title: The Possibility of Artificial Intelligence Becoming a Subject and the Alignment Problem
- Title（参考訳）: 人工知能の課題とアライメント問題の可能性
- Authors: Till Mossakowski, Helena Esther Grass,
- Abstract要約: 人工知能(Artificial General Intelligence, AGI)は、個人的、それゆえに道徳的な地位を持つ潜在的な課題として議論されている。
チューリングの「児童機械」の類推に基づいて、我々はAIの自律的な育児の可能性のビジョンを開発している。
発展する可能性のある課題を一方的に、そして他方で人間の能力に完全に自信を持って、潜在的なAGIにアプローチすべきである。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Artificial General Intelligence (AGI) is increasingly being discussed not only as a tool, but also as a potential subject with personal and therefore moral status. In our opinion, the currently dominant alignment strategies, which focus on human control and containment of AI, therefore fall short. Building on Turing's analogy of "child machines", we are developing a vision of the possibility of autonomy-supporting parenting of AI, in which human control over a developing AGI is gradually reduced, allowing AI to become an independent, autonomous subject. Rather than viewing AGI, as is currently prevalent, as a dangerous creature that needs to be locked up and controlled, we should approach potential AGI with respect for a possible developing subject on the one hand, and with full confidence in our human capabilities on the other. Such a perspective opens up the possibility of cooperative coexistence and co-evolution between humans and AGIs. The relationship between humans and AGIs will thus have to be newly determined, which will change our self-image as humans. It will be crucial that humans not only claim control over potential AGIs, but also engage with AGIs through surprise, creativity, and other specifically human qualities, thereby offering them motivating incentives for cooperation.
- Abstract（参考訳）: 人工知能(Artificial General Intelligence, AGI)は、ツールとしてだけでなく、個人的かつ道徳的な地位を持つ潜在的な主題として、ますます議論されている。
私たちの意見では、現在支配的なアライメント戦略は、人間のコントロールとAIの封じ込めに重点を置いています。
チューリングの「児童機械」の類推に基づいて、我々はAIの自律的支援による育児の可能性についてのビジョンを構築している。
AGIは、現在普及しているように、ロックアップとコントロールが必要な危険な生物として見なすのではなく、AGIの潜在的な発展課題に対してアプローチし、他方では人間の能力に完全に自信を持って取り組むべきです。
このような視点は、人間とAIGの協調的共存と共進化の可能性を開く。
そのため、人間とAIGの関係は新たに決定され、人間としての自己像が変わる。
人間は、潜在的なAGIのコントロールを主張するだけでなく、驚き、創造性、その他の人間の品質を通じてAIGと関わり、協力のための動機付けを提供することが重要である。
関連論文リスト
- Neurodivergent Influenceability as a Contingent Solution to the AI Alignment Problem [1.3905735045377272]
AIアライメント問題は、人工知能(AI)システムが人間の価値観に従って行動することを保証することに重点を置いている。
狭義のAIからAI(Artificial General Intelligence, AGI)やスーパーインテリジェンス(Superintelligence, 超知能)への進化に伴い、制御に対する恐怖と現実的なリスクがエスカレートした。
ここでは、避けられないAIのミスアライメントを受け入れることが、競合するエージェントの動的なエコシステムを育むための緊急戦略であるかどうかを検討する。
論文 参考訳（メタデータ） (2025-05-05T11:33:18Z) - Aligning Generalisation Between Humans and Machines [74.120848518198]
AI技術は、科学的発見と意思決定において人間を支援することができるが、民主主義と個人を妨害することもある。
AIの責任ある使用と人間-AIチームへの参加は、AIアライメントの必要性をますます示している。
これらの相互作用の重要かつしばしば見落とされがちな側面は、人間と機械が一般化する異なる方法である。
論文 参考訳（メタデータ） (2024-11-23T18:36:07Z) - "I Am the One and Only, Your Cyber BFF": Understanding the Impact of GenAI Requires Understanding the Impact of Anthropomorphic AI [55.99010491370177]
我々は、人為的AIの社会的影響をマッピングしない限り、生成AIの社会的影響を徹底的にマッピングすることはできないと論じる。
人為的AIシステムは、人間のように知覚されるアウトプットを生成する傾向が強まっている。
論文 参考訳（メタデータ） (2024-10-11T04:57:41Z) - Problem Solving Through Human-AI Preference-Based Cooperation [74.39233146428492]
我々は,人間-AI共同構築フレームワークであるHAICo2を提案する。
我々は、HAICo2の形式化に向けて第一歩を踏み出し、それが直面する困難なオープンリサーチ問題について議論する。
論文 参考訳（メタデータ） (2024-08-14T11:06:57Z) - Explainable Human-AI Interaction: A Planning Perspective [32.477369282996385]
AIシステムは、ループ内の人間に説明可能である必要がある。
我々は、AIエージェントがメンタルモデルを使用して人間の期待に沿うか、あるいは説明的コミュニケーションを通じて期待を変更する方法について論じる。
本書の主な焦点は、協調的なシナリオであるが、同じ精神モデルが難読化や偽造にどのように使用できるかを指摘したい。
論文 参考訳（メタデータ） (2024-05-19T22:22:21Z) - Intent-aligned AI systems deplete human agency: the need for agency
foundations research in AI safety [2.3572498744567127]
人間の意図の一致は、安全なAIシステムには不十分である、と我々は主張する。
我々は、人類の長期的機関の保存がより堅牢な標準であると論じている。
論文 参考訳（メタデータ） (2023-05-30T17:14:01Z) - Trustworthy AI: A Computational Perspective [54.80482955088197]
我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。
各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
論文 参考訳（メタデータ） (2021-07-12T14:21:46Z) - Building Bridges: Generative Artworks to Explore AI Ethics [56.058588908294446]
近年,人工知能(AI)技術が社会に与える影響の理解と緩和に重点が置かれている。
倫理的AIシステムの設計における重要な課題は、AIパイプラインには複数の利害関係者があり、それぞれがそれぞれ独自の制約と関心を持っていることだ。
このポジションペーパーは、生成的アートワークが、アクセス可能で強力な教育ツールとして機能することで、この役割を果たすことができる可能性のいくつかを概説する。
論文 参考訳（メタデータ） (2021-06-25T22:31:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。