論文の概要: Why do we need social singularity? A mechanism-based critique of gradual scenarios in AI existential-risk discourse
- arxiv url: http://arxiv.org/abs/2608.03904v1
- Date: Tue, 04 Aug 2026 16:30:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-06 07:04:20.7339
- Title: Why do we need social singularity? A mechanism-based critique of gradual scenarios in AI existential-risk discourse
- Title（参考訳）: なぜ社会的特異性が必要なのか?AI存在リスク談話における段階的シナリオのメカニズムに基づく批判
- Abstract要約: 本稿では,近年の段階的かつ累積的なAI存在リスクシナリオを批判する。
実質的な貢献にもかかわらず、それらは社会学的に不十分なままである、と論じている。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper critiques recent gradual and cumulative AI existential-risk scenarios, arguing that, despite their substantive contributions, they remain insufficiently sociologically specified. In particular, these scenarios lack a reflexive perspective, retain a largely technologically deterministic structure, and underestimate the role of collective agency and other social processes. As a result, they also discount the possibility of major social conflict accompanying AI diffusion, which limits their overall plausibility. The paper further identifies a set of social mechanisms likely to become significant before or during AI deployment, including interpretive and performative dynamics, mobilisation and countermobilisation, path dependence and lock-in, cross-regime divergence and multi-speed diffusion, and social-psychological mechanisms such as attachment and reactance. It argues that these mechanisms will interact recursively with AI diffusion and reshape future trajectories, which may subsequently branch, reverse, or undergo discontinuous shifts, thereby expanding the space of plausible AI futures. On this basis, the paper also proposes a novel analytic distinction between technological singularity and social singularity. Whereas the former refers to a putative technological threshold in AI development, the latter denotes a social discontinuity produced by the anticipated approach of that threshold. The central implication is that the most consequential disruptions may emerge not only from advanced AI itself, but also from the social dynamics provoked by the expectation of its arrival.
- Abstract（参考訳）: 本稿では、最近の段階的かつ累積的なAI存在リスクシナリオを批判し、それらの実体的貢献にもかかわらず、それらは社会学的に不十分なままであると主張した。
特に、これらのシナリオは反射的な視点を欠き、ほとんど技術的に決定論的構造を維持し、集合体やその他の社会的プロセスの役割を過小評価している。
結果として、AI拡散に伴う主要な社会的対立の可能性も縮小され、それによって全体の可否が制限される。
本稿では,AI導入前後の社会的メカニズムとして,解釈的および行動的ダイナミクス,動員と反動,経路依存とロックイン,相互レジムのばらつきと多速拡散,アタッチメントやリアクションなどの社会心理学的メカニズムなど,AI導入の前後で重要なものとなる可能性が指摘されている。
これらのメカニズムはAI拡散と再帰的に相互作用し、その後の分岐、逆転、あるいは不連続なシフトを経る未来の軌道を形作る。
そこで本研究では,技術的特異点と社会的特異点を区別した新たな分析手法を提案する。
前者はAI開発における技術的しきい値を指すが、後者は、そのしきい値の予想されるアプローチによって生じる社会的不連続を表す。
中心的な意味は、最も頻繁な破壊は、先進的なAIそのものだけでなく、その到来の期待によって引き起こされる社会的ダイナミクスからも生じる可能性があるということである。
関連論文リスト
- The Boundaries of Automation: A Theory of Persistent Human Participation [107.84677954791773]
高い能力を持つAIシステムであっても、人間の参加は継続する可能性がある、と私たちは主張する。
一部のアクティビティでは、ターゲットは事前に完全に指定されるのではなく、代わりにインタラクション自体を通じて現れる。
この観点は、自動化の限界に重要な意味を持つ。
論文 参考訳（メタデータ） (2026-07-23T17:33:43Z) - AI Value Alignment for Evolving Social Norms [8.71949046003755]
社会物理学に根ざしたフレキシブルで数学的モデリングの枠組みを導入し,AIの頻繁な利用を前提として,人類の社会規範の進化に関するマクロレベルの疑問に答えることを目的とした。
非適応的なアライメントの定式化で顕著な、バリューロックインとノルマティブモードの崩壊のリスクを強調した。
論文 参考訳（メタデータ） (2026-07-20T21:02:39Z) - From AGI to ASI [65.04985565452489]
人間のレベルの人工知能の構築は、遠方の憶測から、大規模なAI組織の多くにとって、具体的な次の10年ターゲットへと移行してきた。
報告では、AI自体が、マシンインテリジェンスの継続とともに、AGI後の世界でどのように発展し続けるのかを調査している。
論文 参考訳（メタデータ） (2026-06-10T21:14:10Z) - Stochastic, Dynamic, Fluid Autonomy in Agentic AI: Implications for Authorship, Inventorship, and Liability [0.2209921757303168]
エージェントAIシステムは、暗黙の学習を通じて戦略を適応し、自律的に目標を追求する。
人間と機械の貢献は、相互に絡み合った創造的なプロセスに不可避的に絡まってしまう。
法律と政策の枠組みは、人間と機械の貢献を機能的に同等に扱う必要があるかもしれないと我々は主張する。
論文 参考訳（メタデータ） (2025-04-05T04:44:59Z) - AI Automatons: AI Systems Intended to Imitate Humans [54.19152688545896]
人々の行動、仕事、能力、類似性、または人間性を模倣するように設計されたAIシステムが増加している。
このようなAIシステムの研究、設計、展開、可用性は、幅広い法的、倫理的、その他の社会的影響に対する懸念を喚起している。
論文 参考訳（メタデータ） (2025-03-04T03:55:38Z) - Emergence of human-like polarization among large language model agents [79.96817421756668]
我々は、何千もの大規模言語モデルエージェントを含むネットワーク化されたシステムをシミュレートし、それらの社会的相互作用を発見し、人間のような偏極をもたらす。
人間とLLMエージェントの類似性は、社会的分極を増幅する能力に関する懸念を提起するだけでなく、分極を緩和するためのもっともらしい戦略を識別するための貴重なテストベッドとして機能する可能性も持っている。
論文 参考訳（メタデータ） (2025-01-09T11:45:05Z) - AI and Social Theory [0.0]
我々は、人工知能(AI)が意味するものを定義することから始まる、AI駆動型社会理論のプログラムをスケッチする。
そして、AIベースのモデルがデジタルデータの可用性を増大させ、予測力に基づいて異なる社会的理論の有効性をテストするためのモデルを構築します。
論文 参考訳（メタデータ） (2024-07-07T12:26:16Z) - Emergent Explainability: Adding a causal chain to neural network
inference [0.0]
本稿では,創発的コミュニケーション(EmCom)による説明可能な人工知能(xAI)の強化のための理論的枠組みを提案する。
我々は、EmComのAIシステムへの新たな統合を探求し、入力と出力の間の従来の連想関係から、より微妙で因果的解釈へのパラダイムシフトを提供する。
本稿は、このアプローチの理論的基盤、潜在的に広い応用、そして、責任と透明なAIシステムに対するニーズの増大と整合性について論じる。
論文 参考訳（メタデータ） (2024-01-29T02:28:39Z) - Managing extreme AI risks amid rapid progress [171.05448842016125]
我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。
このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。
現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
論文 参考訳（メタデータ） (2023-10-26T17:59:06Z) - Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。
偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。
問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
論文 参考訳（メタデータ） (2023-04-16T11:22:59Z) - Conservative AI and social inequality: Conceptualizing alternatives to
bias through social theory [0.0]
社会的な問題は、これらのシステムが人間の生活に与える影響を考えると、もはやAIと機械学習の範囲外にはならない。
保守主義(Conservatism)とは、現状を再現し、強化する支配的な傾向のことであり、急進的なアプローチは、制度的な不平等を乱すために働く。
これは、不平等を永続する構造化された方法を分析するために偏見のあるデータを超えた、AI奨学金の増大組織との関わりを必要とする。
論文 参考訳（メタデータ） (2020-07-16T21:52:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。