Fugu-MT 論文翻訳(概要): Artificial General Intelligence, Existential Risk, and Human Risk Perception

論文の概要: Artificial General Intelligence, Existential Risk, and Human Risk Perception

arxiv url: http://arxiv.org/abs/2311.08698v1
Date: Wed, 15 Nov 2023 04:57:16 GMT
ステータス: 処理完了
システム内更新日: 2023-11-16 17:29:13.394362
Title: Artificial General Intelligence, Existential Risk, and Human Risk Perception
Title（参考訳）: 人為的一般知性・存在リスク・人的リスク知覚
Authors: David R. Mandel
Abstract要約: 人工知能(AGI)はまだ存在していないが、今後20年以内に人間レベルの知能に到達することが計画されている。 AGIは、AGIの目標が人間の目標と一致し続けることを確実にするための信頼性の高い方法がないため、人間に現実的なリスクをもたらす。世界大災害やAGIによる絶滅のリスクは、他の既存のリスクよりも大きい。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by-nc-nd/4.0/
Abstract: Artificial general intelligence (AGI) does not yet exist, but given the pace of technological development in artificial intelligence, it is projected to reach human-level intelligence within roughly the next two decades. After that, many experts expect it to far surpass human intelligence and to do so rapidly. The prospect of superintelligent AGI poses an existential risk to humans because there is no reliable method for ensuring that AGI goals stay aligned with human goals. Drawing on publicly available forecaster and opinion data, the author examines how experts and non-experts perceive risk from AGI. The findings indicate that the perceived risk of a world catastrophe or extinction from AGI is greater than for other existential risks. The increase in perceived risk over the last year is also steeper for AGI than for other existential threats (e.g., nuclear war or human-caused climate change). That AGI is a pressing existential risk is something on which experts and non-experts agree, but the basis for such agreement currently remains obscure.
Abstract（参考訳）: agi(artificial general intelligence)はまだ存在していないが、人工知能の技術的発展のペースを考えると、およそ20年以内に人間レベルの知性に到達すると予測されている。その後、多くの専門家が、人間の知能をはるかに超え、迅速に行うと期待している。超知能AGIの展望は、AGIの目標が人間の目標と一致し続けることを確実にするための信頼性の高い方法がないため、人間に現実的なリスクをもたらす。専門家や非専門家がAGIのリスクをどう認識するかを、公開可能な予測データと世論データに基づいて検討する。この結果は、AGIによる世界大災害や絶滅のリスクが、他の既存のリスクよりも大きいことを示唆している。昨年における認識されるリスクの増加は、他の既存の脅威(例えば、核戦争や人為的な気候変動)よりもAGIにとって急激である。 AGIは、専門家や非専門家が同意する存在リスクであるが、そのような合意の根拠はいまだ不明である。

関連論文リスト

Risks and Opportunities of Open-Source Generative AI [64.86989162783648]
Generative AI(Gen AI)の応用は、科学や医学、教育など、さまざまな分野に革命をもたらすことが期待されている。こうした地震の変化の可能性は、この技術の潜在的なリスクについて活発に議論を巻き起こし、より厳格な規制を要求した。この規制は、オープンソースの生成AIの誕生する分野を危険にさらす可能性がある。
論文参考訳（メタデータ） (2024-05-14T13:37:36Z)
AI-Powered Autonomous Weapons Risk Geopolitical Instability and Threaten AI Research [6.96356867602455]
自律兵器システム(AWS)開発における機械学習の最近の採用は、地政学的な安定性とAI研究におけるアイデアの自由交換に深刻なリスクをもたらす、と我々は主張する。 MLはすでに、多くの戦場で、人間の兵士のためのAWSの代替を可能にしている。さらに、AWSの軍事的価値は、AIによる軍備競争の投機と、AI研究に対する国家安全保障上の制限の誤った適用を提起する。
論文参考訳（メタデータ） (2024-05-03T05:19:45Z)
Near to Mid-term Risks and Opportunities of Open-Source Generative AI [94.06233419171016]
Generative AIの応用は、科学や医学、教育など、さまざまな分野に革命をもたらすことが期待されている。こうした地震の影響の可能性は、潜在的なリスクに関する活発な議論を引き起こし、より厳格な規制を要求した。この規制は、オープンソースのジェネレーティブAIの誕生する分野を危険にさらしている可能性が高い。
論文参考訳（メタデータ） (2024-04-25T21:14:24Z)
Control Risk for Potential Misuse of Artificial Intelligence in Science [85.91232985405554]
我々は、科学におけるAI誤用の危険性の認識を高めることを目的としている。化学科学における誤用の実例を取り上げる。我々は、科学におけるAIモデルの誤用リスクを制御するSciGuardというシステムを提案する。
論文参考訳（メタデータ） (2023-12-11T18:50:57Z)
Managing extreme AI risks amid rapid progress [171.05448842016125]
我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
論文参考訳（メタデータ） (2023-10-26T17:59:06Z)
An Overview of Catastrophic AI Risks [38.84933208563934]
本稿では,破滅的なAIリスクの主な要因について概説し,その要因を4つのカテゴリに分類する。個人やグループが意図的にAIを使用して危害を及ぼす悪用; 競争環境がアクターに安全でないAIを配置させたり、AIに制御を強制するAIレース。組織的リスクは人的要因と複雑なシステムが破滅的な事故の可能性を高めることを示しています不正なAIは、人間よりもはるかにインテリジェントなエージェントを制御することの難しさを説明する。
論文参考訳（メタデータ） (2023-06-21T03:35:06Z)
Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
論文参考訳（メタデータ） (2023-04-16T11:22:59Z)
Current and Near-Term AI as a Potential Existential Risk Factor [5.1806669555925975]
我々は、現在および短期的な人工知能技術が、現実的なリスクに寄与する可能性があるという考えを問題視する。我々は、すでに文書化されているAIの効果が、実在するリスク要因として機能する、という仮説を提案する。私たちの主な貢献は、潜在的なAIリスク要因とそれら間の因果関係の展示です。
論文参考訳（メタデータ） (2022-09-21T18:56:14Z)
How Do AI Timelines Affect Existential Risk? [0.0]
超知能AI(ASI)作成の遅れは、AIアライメント問題に人類が取り組む時間を増やすことによって、全体の生存リスクを減少させる可能性がある。 ASIは、ほとんどのリスクを減らすことができるため、ASIの作成の遅れは、他の既存のリスクを増大させる可能性がある。戦争やハードウェアのオーバーハングといった他の要因は、AIのリスクを増大させ、認知の強化はAIのリスクを減少させる可能性がある。
論文参考訳（メタデータ） (2022-08-30T15:49:11Z)
On the Unimportance of Superintelligence [0.0]
スーパーインテリジェンスのリスクを軽減するため、資源配分の優先順位を分析します。第1部は、外部に接続されていない超知能が脅威を及ぼさないことを観察する。第2部では、バイオテクノロジーが周辺システムに高いリスクを負うことを提案する。
論文参考訳（メタデータ） (2021-08-30T01:23:25Z)
Trustworthy AI: A Computational Perspective [54.80482955088197]
我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
論文参考訳（メタデータ） (2021-07-12T14:21:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。