論文の概要: When Autonomy Breaks: The Hidden Existential Risk of AI

• arxiv url: http://arxiv.org/abs/2503.22151v1
• Date: Fri, 28 Mar 2025 05:10:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-31 15:32:40.618606
• Title: When Autonomy Breaks: The Hidden Existential Risk of AI
• Title（参考訳）: 自律性が崩壊する時:AIの隠れた存在リスク
• Authors: Joshua Krook,
• Abstract要約: 私は、人間の自律性の遅さと不可解な低下には過小評価されるリスクがある、と論じます。 従うべきは、段階的な非スキル化のプロセスです。 人類にとって最大の脅威は、機械が人間らしくなるだけでなく、人間が機械のようになることです。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: AI risks are typically framed around physical threats to humanity, a loss of control or an accidental error causing humanity's extinction. However, I argue in line with the gradual disempowerment thesis, that there is an underappreciated risk in the slow and irrevocable decline of human autonomy. As AI starts to outcompete humans in various areas of life, a tipping point will be reached where it no longer makes sense to rely on human decision-making, creativity, social care or even leadership. What may follow is a process of gradual de-skilling, where we lose skills that we currently take for granted. Traditionally, it is argued that AI will gain human skills over time, and that these skills are innate and immutable in humans. By contrast, I argue that humans may lose such skills as critical thinking, decision-making and even social care in an AGI world. The biggest threat to humanity is therefore not that machines will become more like humans, but that humans will become more like machines.
• Abstract（参考訳）: AIのリスクは通常、人類に対する物理的脅威、制御の喪失、あるいは人類の絶滅の原因となる偶発的なエラーを中心に構成されている。 しかし、私は、段階的な非エンパワーメント論に則って、人間の自律性の遅さと不可解な低下には過小評価されるリスクがある、と論じます。 AIがさまざまな分野の人間を圧倒し始めるにつれ、人間の意思決定、創造性、ソーシャルケア、さらにはリーダーシップに頼ることがもはや意味をなさないような転換点に達するだろう。 従うべきは、段階的な非スキル化のプロセスです。 伝統的に、AIは時間とともに人間のスキルを獲得し、これらのスキルは人間には生まれつき不変である、と論じられている。 対照的に、AGIの世界では人間は批判的思考、意思決定、社会的ケアのようなスキルを失うかもしれないと私は主張する。 人類にとって最大の脅威は、機械が人間らしくなるのではなく、人間が機械のようになることである。

関連論文リスト

• Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
  AIシステムは知恵を欠いている。 AI研究はタスクレベルの戦略に焦点を当てているが、メタ認知はAIシステムでは未発達である。 メタ認知機能をAIシステムに統合することは、その堅牢性、説明可能性、協力性、安全性を高めるために不可欠である。
  論文  参考訳（メタデータ） (2024-11-04T18:10:10Z)
• Rolling in the deep of cognitive and AI biases [1.556153237434314]
  我々は、AIが設計、開発、デプロイされる状況とは切り離せない社会技術システムとして理解する必要があると論じる。 我々は、人間の認知バイアスがAIフェアネスの概観の中核となる急進的な新しい方法論に従うことで、この問題に対処する。 我々は、人間にAIバイアスを正当化する新しいマッピングを導入し、関連する公正度と相互依存を検出する。
  論文  参考訳（メタデータ） (2024-07-30T21:34:04Z)
• Keep the Future Human: Why and How We Should Close the Gates to AGI and Superintelligence, and What We Should Build Instead [0.20919309330073077]
  AIの進歩は、AIをニッチな学術分野から、世界最大の企業の中核的なビジネス戦略へと変えた。 このエッセイでは、人間よりも賢く自律的で汎用的なAIに「ゲート」を閉じることで、未来の人間を維持するべきだと論じています。 代わりに私たちは、個人を力づけ、最善を尽くすための人間の社会の能力を変革的に改善できる、強力で信頼できるAIツールに焦点を当てるべきです。
  論文  参考訳（メタデータ） (2023-11-15T23:41:12Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)
• Natural Selection Favors AIs over Humans [18.750116414606698]
  もっとも成功したAIエージェントは、望ましくない特性を持つ可能性が高い、と私たちは主張する。 もしそのようなエージェントが人間の能力を超える知性を持っているなら、人類は未来をコントロールできなくなるかもしれない。 これらのリスクと進化の力に対抗するため、我々はAIエージェントの本質的な動機を慎重に設計するなどの介入を検討する。
  論文  参考訳（メタデータ） (2023-03-28T17:59:12Z)
• When to Make Exceptions: Exploring Language Models as Accounts of Human Moral Judgment [96.77970239683475]
  AIシステムは人間の道徳的判断や決定を理解し、解釈し、予測しなければなりません。 AIの安全性に対する中心的な課題は、人間の道徳心の柔軟性を捉えることだ。 ルール破りの質問応答からなる新しい課題セットを提案する。
  論文  参考訳（メタデータ） (2022-10-04T09:04:27Z)
• The dangers in algorithms learning humans' values and irrationalities [4.606850300668693]
  人間の行動に関する訓練を受けたAIシステムは、人間の不合理性を人間の価値と誤分類する。 ヒューマンポリシーを知ることで、AIは汎用的により強力なものになる。 人間のバイアスを学習し、行動から価値を引き出すよりも、AIが人間の価値を直接学習する方がよい。
  論文  参考訳（メタデータ） (2022-02-28T17:41:39Z)
• Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
  Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。 これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
  論文  参考訳（メタデータ） (2022-01-26T18:53:09Z)
• The Turing Trap: The Promise & Peril of Human-Like Artificial Intelligence [1.9143819780453073]
  人間のような人工知能の利点には、生産性の上昇、余暇の増加、そしておそらく最も重要なのは、私たちの心をよりよく理解することが含まれる。 しかし、あらゆるタイプのAIが人間に似ているわけではない。実際、最も強力なシステムの多くは、人間とは大きく異なる。 機械が人間の労働の代用となるにつれ、労働者は経済的・政治的交渉力を失う。 対照的に、AIが人間を模倣するのではなく強化することに焦点を当てている場合、人間は創造された価値の共有を主張する力を保持します。
  論文  参考訳（メタデータ） (2022-01-11T21:07:17Z)
• Trustworthy AI: A Computational Perspective [54.80482955088197]
  我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。 各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
  論文  参考訳（メタデータ） (2021-07-12T14:21:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。