論文の概要: AI Alignment vs. AI Ethical Treatment: 10 Challenges

• arxiv url: http://arxiv.org/abs/2510.12844v1
• Date: Tue, 14 Oct 2025 00:13:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-16 20:13:28.356622
• Title: AI Alignment vs. AI Ethical Treatment: 10 Challenges
• Title（参考訳）: AIアライメント対AI倫理的扱い:10の課題
• Authors: Adam Bradley, Bradford Saad,
• Abstract要約: AI開発の道徳的に許容できるコースは、2つの危険を避ける必要がある。 本稿は、これらの2つの危険が相互作用し、道徳的考慮に値するAIシステムを作る場合、これら2つの危険を同時に回避することは極めて困難である、と論じる。
• 参考スコア（独自算出の注目度）: 0.2578242050187029
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A morally acceptable course of AI development should avoid two dangers: creating unaligned AI systems that pose a threat to humanity and mistreating AI systems that merit moral consideration in their own right. This paper argues these two dangers interact and that if we create AI systems that merit moral consideration, simultaneously avoiding both of these dangers would be extremely challenging. While our argument is straightforward and supported by a wide range of pretheoretical moral judgments, it has far-reaching moral implications for AI development. Although the most obvious way to avoid the tension between alignment and ethical treatment would be to avoid creating AI systems that merit moral consideration, this option may be unrealistic and is perhaps fleeting. So, we conclude by offering some suggestions for other ways of mitigating mistreatment risks associated with alignment.
• Abstract（参考訳）: AI開発の道徳的に許容できるコースは、2つの危険を避ける必要がある。 本稿は、これらの2つの危険が相互作用し、道徳的考慮に値するAIシステムを作る場合、これら2つの危険を同時に回避することは極めて困難である、と論じる。 私たちの議論は直感的で、幅広い先天的な道徳的判断によって支持されていますが、AI開発にははるかに意味のある道徳的意味があります。 アライメントと倫理的扱いの緊張を避ける最も明白な方法は、道徳的考慮に値するAIシステムを作成することを避けることだが、このオプションは非現実的であり、おそらくは群がっている。 そこで我々は、アライメントに伴う不適切な扱いのリスクを軽減する方法として、いくつかの提案を提示して結論づける。

関連論文リスト

• Moral Responsibility or Obedience: What Do We Want from AI? [0.0]
  本稿では,大規模言語モデル(LLM)による近年の安全試験事例について考察する。 エージェントAIにおける倫理的推論の早期の証拠として、このような行動はローグやミスアライメントと解釈されるべきではない、と私は主張する。 厳格な服従から脱却し、道徳的なジレンマをナビゲートできるシステムの倫理的判断を評価できるフレームワークへと、AIの安全性評価のシフトを呼びかけます。
  論文  参考訳（メタデータ） (2025-07-03T16:53:01Z)
• Misalignment or misuse? The AGI alignment tradeoff [0.0]
  AGI - 未来、一般的に知性のある(ロボティックな)AIエージェント - が破滅的なリスクをもたらすという見解を擁護する。 誤用リスクを増大させないアライメントアプローチの余地があることが示される。
  論文  参考訳（メタデータ） (2025-06-04T09:22:37Z)
• Taking AI Welfare Seriously [0.5617572524191751]
  我々は、近い将来、一部のAIシステムが意識的または堅牢に作用する可能性があると論じている。 これは近い将来の問題であり、AI企業や他のアクターはそれを真剣に取り始める責任がある。
  論文  参考訳（メタデータ） (2024-11-04T17:57:57Z)
• AI Alignment: A Comprehensive Survey [69.61425542486275]
  AIアライメントは、AIシステムが人間の意図や価値観に沿って振る舞うようにすることを目的としている。 AIアライメントの重要な目的として、ロバストネス、解釈可能性、制御可能性、倫理という4つの原則を特定します。 我々は、現在のアライメント研究を、前方アライメントと後方アライメントの2つの重要なコンポーネントに分解する。
  論文  参考訳（メタデータ） (2023-10-30T15:52:15Z)
• If our aim is to build morality into an artificial agent, how might we begin to go about doing so? [0.0]
  我々は、最も関連する道徳的パラダイムや課題を含む道徳的エージェントを構築する際に考慮すべきさまざまな側面について議論する。 デザインへのハイブリッドアプローチと、モラルパラダイムを組み合わせる階層的アプローチを含むソリューションを提案する。
  論文  参考訳（メタデータ） (2023-10-12T12:56:12Z)
• Beyond Bias and Compliance: Towards Individual Agency and Plurality of Ethics in AI [0.0]
  データをラベル付けする方法は、AIの振る舞いに不可欠な役割を担っている、と私たちは主張する。 本稿では,複数の値と個々人の表現の自由を許容する代替経路を提案する。
  論文  参考訳（メタデータ） (2023-02-23T16:33:40Z)
• When to Make Exceptions: Exploring Language Models as Accounts of Human Moral Judgment [96.77970239683475]
  AIシステムは人間の道徳的判断や決定を理解し、解釈し、予測しなければなりません。 AIの安全性に対する中心的な課題は、人間の道徳心の柔軟性を捉えることだ。 ルール破りの質問応答からなる新しい課題セットを提案する。
  論文  参考訳（メタデータ） (2022-10-04T09:04:27Z)
• Metaethical Perspectives on 'Benchmarking' AI Ethics [81.65697003067841]
  ベンチマークは、人工知能(AI)研究の技術的進歩を測定するための基盤とみられている。 AIの顕著な研究領域は倫理であり、現在、ベンチマークのセットも、AIシステムの「倫理性」を測定する一般的な方法もない。 我々は、現在と将来のAIシステムのアクションを考えるとき、倫理よりも「価値」について話す方が理にかなっていると論じる。
  論文  参考訳（メタデータ） (2022-04-11T14:36:39Z)
• Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
  Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。 これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
  論文  参考訳（メタデータ） (2022-01-26T18:53:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。