論文の概要: Autonomous Intelligent Systems: From Illusion of Control to Inescapable
Delusion
- arxiv url: http://arxiv.org/abs/2403.01292v1
- Date: Sat, 2 Mar 2024 19:19:06 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-05 14:31:07.834233
- Title: Autonomous Intelligent Systems: From Illusion of Control to Inescapable
Delusion
- Title(参考訳): 自律型知的システム--制御錯覚から不可避な想いへ
- Authors: St\'ephane Grumbach, Giorgio Resta, Riccardo Torlone
- Abstract要約: 自律的なシステムを制御する態度が、法体系、プロプライエタリな権利、社会的責任の古典的な柱に根ざしていることを示す。
制御の錯覚が政府や規制当局を導くのに対して、自律的なシステムは我々を逃れられない妄想へと駆り立てているかもしれないことを、私たちは示しています。
- 参考スコア(独自算出の注目度): 0.3222802562733786
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Autonomous systems, including generative AI, have been adopted faster than
previous digital innovations. Their impact on society might as well be more
profound, with a radical restructuring of the economy of knowledge and dramatic
consequences for social and institutional balances. Different attitudes to
control these systems have emerged rooted in the classical pillars of legal
systems, proprietary rights, and social responsibility. We show how an illusion
of control might be guiding governments and regulators, while autonomous
systems might be driving us to inescapable delusion.
- Abstract(参考訳): 生成AIを含む自律システムは、以前のデジタルイノベーションよりも速く採用されている。
社会に対する彼らの影響は、知識経済の急激な再構築と社会的・制度的バランスの劇的な結果により、より深いものとなるかもしれない。
これらの制度を制御するための異なる態度は、古典的な法体系、プロプライエタリな権利、社会的責任に根ざしている。
制御の錯覚が政府や規制当局を導くのに対して、自律的なシステムは我々を逃れられない妄想に追い込んでいるかもしれない。
関連論文リスト
- Managing AI Risks in an Era of Rapid Progress [147.61764296776164]
我々は、大規模社会被害と悪用、および自律型AIシステムに対する人間の制御の不可逆的喪失について検討する。
迅速かつ継続的なAIの進歩を踏まえ、我々はAI研究開発とガバナンスの緊急優先事項を提案する。
論文 参考訳(メタデータ) (2023-10-26T17:59:06Z) - AI Deception: A Survey of Examples, Risks, and Potential Solutions [20.84424818447696]
本稿は、現在のAIシステムが人間を騙す方法を学んだことを論じる。
我々は虚偽を、真理以外の結果の追求において、虚偽の信念を体系的に誘導するものとして定義する。
論文 参考訳(メタデータ) (2023-08-28T17:59:35Z) - Reflective Hybrid Intelligence for Meaningful Human Control in
Decision-Support Systems [4.1454448964078585]
本稿では,AIシステムに対する有意義な人間制御のための自己表現型AIシステムの概念を紹介する。
心理学と哲学の知識を形式的推論手法や機械学習アプローチと統合する枠組みを提案する。
我々は、自己反射型AIシステムは、自己反射型ハイブリッドシステム(人間+AI)に繋がると主張している。
論文 参考訳(メタデータ) (2023-07-12T13:32:24Z) - Social AI and the Challenges of the Human-AI Ecosystem [60.26761762025781]
社会AIにおける主要なオープンな質問について論じ、技術的および科学的課題を概説する。
我々は,複雑システム,ネットワーク科学,AIの交差点にソーシャルAIの基礎を構築することを提案する。
論文 参考訳(メタデータ) (2023-06-23T18:10:54Z) - Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。
偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。
問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
論文 参考訳(メタデータ) (2023-04-16T11:22:59Z) - Both eyes open: Vigilant Incentives help Regulatory Markets improve AI
Safety [69.59465535312815]
Regulatory Markets for AIは、適応性を考慮して設計された提案である。
政府はAI企業が達成すべき結果に基づく目標を設定する必要がある。
我々は、規制市場がこの目標を達成するのを阻止するインセンティブについて、非常に簡単に対応できることを警告する。
論文 参考訳(メタデータ) (2023-03-06T14:42:05Z) - Examining the Differential Risk from High-level Artificial Intelligence
and the Question of Control [0.0]
将来のAI能力の範囲と範囲は、依然として重要な不確実性である。
AIの不透明な意思決定プロセスの統合と監視の程度には懸念がある。
本研究では、AIリスクをモデル化し、代替先分析のためのテンプレートを提供する階層的な複雑なシステムフレームワークを提案する。
論文 参考訳(メタデータ) (2022-11-06T15:46:02Z) - Multiscale Governance [0.0]
ヒトデミクスは、異なるシステムを結ぶ経路のために伝播する。
システムの脆弱性や堅牢性は、この複雑なシステムのネットワークがどのように管理されているかによって異なります。
論文 参考訳(メタデータ) (2021-04-06T19:23:44Z) - Distributed and Democratized Learning: Philosophy and Research
Challenges [80.39805582015133]
民主化学習(Dem-AI)という新しいデザイン哲学を提案する。
ヒトの社会的グループに触発され、提案されたDem-AIシステムの学習エージェントの専門グループは階層構造で自己組織化され、より効率的に学習タスクを遂行する。
本稿では,様々な学際分野に触発された未来のDem-AIシステムを実現するためのガイドラインとして,参照設計を提案する。
論文 参考訳(メタデータ) (2020-03-18T08:45:10Z) - Hacia los Comit\'es de \'Etica en Inteligencia Artificial [68.8204255655161]
以下のルールを監督できるルールと専門組織を作成することが最優先である。
この研究は、大学において、人工知能に特化した倫理委員会や委員会を創設することを提案する。
論文 参考訳(メタデータ) (2020-02-11T23:48:31Z) - Towards a Framework for Certification of Reliable Autonomous Systems [3.3861948721202233]
計算システムは、人間の監督や制御なしに独自の決定を下したり、独自の行動を取ることができる場合、自律的である。
例えば、無人航空システムを民間空域で自律的に使用するために、どうやって認定できるのか?
ここでは、自律システムの信頼性の高い動作を提供するために、何が必要なのかを分析する。
我々は、研究者、技術者、規制当局への挑戦を含む規制ガイドラインの策定に向けたロードマップを提案する。
論文 参考訳(メタデータ) (2020-01-24T18:18:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。