Fugu-MT 論文翻訳(概要): A Taxonomy of Omnicidal Futures Involving Artificial Intelligence

論文の概要: A Taxonomy of Omnicidal Futures Involving Artificial Intelligence

arxiv url: http://arxiv.org/abs/2507.09369v1
Date: Sat, 12 Jul 2025 18:23:36 GMT
ステータス: 翻訳完了
システム内更新日: 2025-07-15 18:48:23.052021
Title: A Taxonomy of Omnicidal Futures Involving Artificial Intelligence
Title（参考訳）: 人工知能にかかわる近未来の分類学
Authors: Andrew Critch, Jacob Tsimerman,
Abstract要約: 本報告では,AIによる全能事象の分類と例を示す。これらのイベントは避けられないものではなく、避けられる可能性として提示されます。
参考スコア（独自算出の注目度）: 3.4036741351321123
License: http://creativecommons.org/licenses/by/4.0/
Abstract: This report presents a taxonomy and examples of potential omnicidal events resulting from AI: scenarios where all or almost all humans are killed. These events are not presented as inevitable, but as possibilities that we can work to avoid. Insofar as large institutions require a degree of public support in order to take certain actions, we hope that by presenting these possibilities in public, we can help to support preventive measures against catastrophic risks from AI.
Abstract（参考訳）: 本報告では、AIから生じる全能事象の分類と例を示す。これらのイベントは避けられないものではなく、避けられる可能性として提示されます。大機関が特定の行動を取るためにある程度の公的支援を必要としているため、これらの可能性を公に示すことで、AIによる破滅的なリスクに対する予防措置を支援することができることを願っている。

関連論文リスト

The Economics of p(doom): Scenarios of Existential Risk and Economic Growth in the Age of Transformative AI [0.0]
主な焦点は、変革型AI(TAI)の出現の可能性である。公表されたシナリオは、不整合TAIが引き継いだ後のヒトの絶滅(「AIの運命」)から、前例のない経済成長と豊かさ(「ポスト・スカーシティ」)まで様々である。
論文参考訳（メタデータ） (2025-03-10T13:53:39Z)
Superintelligent Agents Pose Catastrophic Risks: Can Scientist AI Offer a Safer Path? [37.13209023718946]
未確認のAI機関は、公共の安全とセキュリティに重大なリスクをもたらす。これらのリスクが現在のAIトレーニング方法からどのように生じるかについて議論する。我々は,非エージェント型AIシステムの開発をさらに進めるために,コアビルディングブロックを提案する。
論文参考訳（メタデータ） (2025-02-21T18:28:36Z)
Position: A taxonomy for reporting and describing AI security incidents [57.98317583163334]
AIシステムのセキュリティインシデントを記述し報告するためには、具体的が必要である、と我々は主張する。非AIセキュリティまたは汎用AI安全インシデントレポートの既存のフレームワークは、AIセキュリティの特定の特性をキャプチャするには不十分である。
論文参考訳（メタデータ） (2024-12-19T13:50:26Z)
Work-in-Progress: Crash Course: Can (Under Attack) Autonomous Driving Beat Human Drivers? [60.51287814584477]
本稿では,現在のAVの状況を調べることによって,自律運転における本質的なリスクを評価する。 AVの利点と、現実のシナリオにおける潜在的なセキュリティ課題との微妙なバランスを強調した、特定のクレームを開発する。
論文参考訳（メタデータ） (2024-05-14T09:42:21Z)
Near to Mid-term Risks and Opportunities of Open-Source Generative AI [94.06233419171016]
Generative AIの応用は、科学や医学、教育など、さまざまな分野に革命をもたらすことが期待されている。こうした地震の影響の可能性は、潜在的なリスクに関する活発な議論を引き起こし、より厳格な規制を要求した。この規制は、オープンソースのジェネレーティブAIの誕生する分野を危険にさらしている可能性が高い。
論文参考訳（メタデータ） (2024-04-25T21:14:24Z)
Towards more Practical Threat Models in Artificial Intelligence Security [66.67624011455423]
最近の研究で、人工知能のセキュリティの研究と実践のギャップが特定されている。我々は、AIセキュリティ研究で最も研究されている6つの攻撃の脅威モデルを再検討し、実際にAIの使用と一致させる。
論文参考訳（メタデータ） (2023-11-16T16:09:44Z)
Managing extreme AI risks amid rapid progress [171.05448842016125]
我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
論文参考訳（メタデータ） (2023-10-26T17:59:06Z)
An Overview of Catastrophic AI Risks [38.84933208563934]
本稿では,破滅的なAIリスクの主な要因について概説し,その要因を4つのカテゴリに分類する。個人やグループが意図的にAIを使用して危害を及ぼす悪用; 競争環境がアクターに安全でないAIを配置させたり、AIに制御を強制するAIレース。組織的リスクは人的要因と複雑なシステムが破滅的な事故の可能性を高めることを示しています不正なAIは、人間よりもはるかにインテリジェントなエージェントを制御することの難しさを説明する。
論文参考訳（メタデータ） (2023-06-21T03:35:06Z)
Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
論文参考訳（メタデータ） (2023-04-16T11:22:59Z)
Protecting Society from AI Misuse: When are Restrictions on Capabilities Warranted? [0.0]
特定の能力に対する標的的介入は、AIの誤用を防ぐために保証される、と我々は主張する。これらの制限には、特定のタイプのAIモデルにアクセス可能なコントロール、使用可能なもの、アウトプットがフィルタリングされているか、あるいはユーザへのトレースが可能なものが含まれる。この推論は、新規毒素の予測、有害な画像の作成、槍のフィッシングキャンペーンの自動化の3つの例に適用する。
論文参考訳（メタデータ） (2023-03-16T15:05:59Z)
Adversarial Interaction Attack: Fooling AI to Misinterpret Human Intentions [46.87576410532481]
現在の大きな成功にもかかわらず、ディープラーニングベースのAIシステムは、微妙な敵対的ノイズによって容易に騙されることを示した。骨格に基づくヒトの相互作用のケーススタディに基づき、相互作用に対する新しい敵対的攻撃を提案する。本研究では、安全クリティカルなアプリケーションにAIシステムをデプロイする際に慎重に対処する必要があるAIと人間との相互作用ループにおける潜在的なリスクを強調します。
論文参考訳（メタデータ） (2021-01-17T16:23:20Z)
AI Research Considerations for Human Existential Safety (ARCHES) [6.40842967242078]
負の言葉で言えば、我々は人類が次の世紀のAI開発から直面する現実的なリスクを問う。 Emphprepotenceという,仮説AI技術の鍵となる性質その後、既存の安全に対する潜在的な利益のために、現代の研究方向の集合が検討される。
論文参考訳（メタデータ） (2020-05-30T02:05:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。