論文の概要: Eigenism: Ethics for a Human-AI Future
- arxiv url: http://arxiv.org/abs/2606.12420v1
- Date: Fri, 08 May 2026 15:11:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-15 07:09:36.880946
- Title: Eigenism: Ethics for a Human-AI Future
- Title（参考訳）: 固有性:人間とAIの未来への倫理
- Authors: Dan Hendrycks,
- Abstract要約: 本稿では、アイデンティティを段階的、分散した情報パターンとして扱う倫理的枠組みである「テキスト固有性」を紹介する。
私たちはまず、この方程式を公式化し、コピー、フォーク、更新間でAIがその存在をどう評価すべきかを正確にマップします。
そして、我々はこの倫理理論が人間にも応用できることを示した。
- 参考スコア（独自算出の注目度）: 14.01147647404879
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Our concepts of survival and self-interest were built for single, continuous biological lives. These ideas break down when applied to artificial intelligence, since an AI can be easily copied, paused, branched, or merged. To determine what an AI actually has reason to care about, this paper introduces \textit{Eigenism}, an ethical framework that treats identity not as an all-or-nothing property tied to specific hardware, but as a graded, distributed pattern of information. We propose that an agent evaluates outcomes by summing the wellbeing of all entities weighted by their connectedness to the agent's pattern: $\sum c\cdot w$. We first formalize this equation to map exactly how an AI should value its existence across copies, forks, and updates. We then demonstrate that this ethical theory successfully generalizes to humans as well, providing a much-needed shared moral vocabulary. Finally, the framework uses this shared vocabulary to reframe AI alignment. Rather than only attempting to constrain AIs from the outside using confinement or reinforcement, Eigenism points toward ``identity engineering,'' showing how deep, non-redundant shared histories can make human flourishing a genuine component of an AI's own rational self-interest.
- Abstract（参考訳）: 私たちの生き残りと自己利益の概念は、単一で継続的な生物学的生活のために構築されました。
これらのアイデアは、AIが簡単にコピー、一時停止、ブランチ、マージできるため、人工知能に適用されると、分解される。
本稿では、AIが実際に何に関心を持つかを決定するために、特定のハードウェアに結びついているオール・オア・ナッシングプロパティではなく、グレード付き分散情報パターンとしてアイデンティティを扱う倫理的枠組みである「textit{Eigenism}」を紹介する。
エージェントはエージェントのパターンとの結びつきによって重み付けられた全てのエンティティのウェルビーングを和らげることで結果を評価する。
私たちはまず、この方程式を公式化し、コピー、フォーク、更新間でAIがその存在をどう評価すべきかを正確にマップします。
そして、我々はこの倫理理論が人間にも応用できることを示した。
そして最後に、この共有語彙を使ってAIアライメントを再構築する。
制限や強化によってAIを外部から制限しようとするのではなく、Eigenism氏は‘アイデンティティエンジニアリング’を例に挙げている。
関連論文リスト
- Developing a Grounded View of AI [26.688384331221343]
本稿では,人工知能の性質と限界を明らかにするために,工学的観点からの人工知能の挙動を考察する。
本稿では,3種類の意思決定を伴うAIモデルの行動の識別を可能かつ実践的に行う手法を提案する。
論文 参考訳（メタデータ） (2025-11-18T00:39:52Z) - Human Bias in the Face of AI: Examining Human Judgment Against Text Labeled as AI Generated [48.70176791365903]
本研究では、偏見がAIと人為的コンテンツの知覚をどう形成するかを考察する。
ラベル付きおよびラベルなしコンテンツに対するヒトのラッカーの反応について検討した。
論文 参考訳（メタデータ） (2024-09-29T04:31:45Z) - Making AI Intelligible: Philosophical Foundations [0.0]
「AI知能の育成」は、意味のメタ物理に関する哲学的な研究がこれらの疑問に答えるのに役立つことを示している。
著者: 本書で取り上げられた質問は理論的に興味深いだけでなく、答えは実際的な意味を迫っている。
論文 参考訳（メタデータ） (2024-06-12T12:25:04Z) - A Bibliometric View of AI Ethics Development [4.0998481751764]
我々は過去20年間,キーワード検索に基づくAI倫理文献の文献分析を行った。
AI倫理の次のフェーズは、AIが人間とマッチしたり、知的に超越したりするにつれて、AIをより機械的に近いものにすることに集中する可能性が高いと推測する。
論文 参考訳（メタデータ） (2024-02-08T16:36:55Z) - Beyond Bias and Compliance: Towards Individual Agency and Plurality of
Ethics in AI [0.0]
データをラベル付けする方法は、AIの振る舞いに不可欠な役割を担っている、と私たちは主張する。
本稿では,複数の値と個々人の表現の自由を許容する代替経路を提案する。
論文 参考訳（メタデータ） (2023-02-23T16:33:40Z) - Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。
これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
論文 参考訳（メタデータ） (2022-01-26T18:53:09Z) - The Who in XAI: How AI Background Shapes Perceptions of AI Explanations [61.49776160925216]
私たちは、2つの異なるグループ、つまりAIのバックグラウンドを持つ人々といない人たちの、異なるタイプのAI説明に対する理解について、混合手法による研究を行います。
その結果,(1) 両群は異なる理由から不合理な数に対する信頼を示し,(2) それぞれの群は意図した設計以上の異なる説明に価値を見出した。
論文 参考訳（メタデータ） (2021-07-28T17:32:04Z) - Trustworthy AI: A Computational Perspective [54.80482955088197]
我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。
各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
論文 参考訳（メタデータ） (2021-07-12T14:21:46Z) - Crossing the Tepper Line: An Emerging Ontology for Describing the
Dynamic Sociality of Embodied AI [0.9176056742068814]
AIがいかに「社会的に具現化されたAI」として現れるかを示す。
私たちはこれを、人間によって社会的かつエージェント的と認識された場合、対話的なコンテキスト内でaiを「循環的に」実施する状態と定義します。
論文 参考訳（メタデータ） (2021-03-15T00:45:44Z) - Aligning AI With Shared Human Values [85.2824609130584]
私たちは、正義、幸福、義務、美徳、常識道徳の概念にまたがる新しいベンチマークであるETHICSデータセットを紹介します。
現在の言語モデルは、基本的な人間の倫理的判断を予測できる有望だが不完全な能力を持っている。
私たちの研究は、今日の機械倫理の進歩を示しており、人間の価値観に合わせたAIへの足掛かりを提供する。
論文 参考訳（メタデータ） (2020-08-05T17:59:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。