論文の概要: Prioritization of Risks from Artificial Intelligence: A Delphi Study of 272 International Experts

• arxiv url: http://arxiv.org/abs/2606.04490v1
• Date: Wed, 03 Jun 2026 06:14:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-04 20:44:18.582077
• Title: Prioritization of Risks from Artificial Intelligence: A Delphi Study of 272 International Experts
• Title（参考訳）: 人工知能によるリスクの優先順位付け:272人の国際専門家のデルフィ研究
• Authors: Alexander K. Saeri, Jess Graham, Michael Noetel, Peter Slattery, Dennis Ah-king, Edla Aittokallio, Ibitola Akindehin, Abbas Al Mahdi, Elie Alhajjar, Rafael Andersson Lipcsey, Gary Ang, Catherine M. Azam, Amos Azaria, Rishal Balkissoon, Isabel Barberá, Claudio Bareato, Jonathan Barry, Michael Basehart, Andrew M. Bean, Danny Belitz, Samantha Augusta Bennett, Kayla Blomquist, Damian Borstel, Ben Bucknall, Tomas Bueno Momcilovic, Aurelie Bugeau, Nicholas Caputo, Stephen Casper, Gulam Chagani, Ze Shen Chin, Jiyeon Cho, Jay Chooi, Joel N. Christoph, Dmytro Chumachenko, Kieran Conboy, Elizabeth M. Daly, Tom David, Paul de Font-Reaulx, Antonio De Santis, Fabrizio Degni, Christopher W. DiCarlo, Yawen Duan, Janet Egan, Ian W. Eisenberg, Sherif M. Elsafty, Adam Ennamli, Mark Esposito, Nicola Fabiano, Gallo Fall, Neil R. Fernandes, Pip Foweraker, Chiara Gallese, Sandra Galletti, Andrew Gamino-Cheong, Rokas Gipiškis, Gwyn Glasser, Delaram Golpayegani, Jeff Grayson, Hans Gundlach, Josiah Hagen, Alexander Hagenah, Amelia S. Haines, The Anh Han, Yixiong Hao, Kasii Harris, Tianxing He, Koen Holtman, Giorgos Iacovides, Kenneth L. Ingham, Krystal Jackson, Adam Jones, Himanshu Joshi, Brian Judge, Arturs Kanepajs, Shreya Kapoor, Win Myat Nwe Khine, Aidan Kierans, Aleksandra Korolova, Markus Krebsz, Nicholas Kruus, Joe Kwon, Valeria Lazzaroli, Ray X. Lee, Evelina Leivada, Stephan Lewandowsky, Michael B. Li, Xiaojian Li, Geunsik Lim, Henrique Lisakowski, Fabio Lonardoni, Todd C. Lowe, Jackson G. Lu, Alexander Lyzhov, Nada Madkour, Parv Mahajan, David Manheim, Kareem Mathias, Claudio Mayrink Verdun, Sean McGregor, Scott McLean, Matthew J. McMahon, Minas Megalokonomos, Nicolas Moës, Fernando Mourao, Yaroslav Mukhin, Malcolm Murray, Simon Mylius, Neeraj Nagpal, Koichi Nakada, Anna Neumann, Jessica Newman, Kwan Yee Ng, Minh N. Nguyen, Quynh Phuong Nguyen, Seán S. Ó hÉigeartaigh, Daria Onitiu, Kelly Onu, Oscar Oviedo-Trespalacios, Ugur Ozer, Chanwoo Park, M. Alejandra Parra-Orlandoni, Patricia Paskov, Anna M. Pastwa, Burak Piskin, Jacob Pratt, Claudiu A. Predincea, Marjana Prifti Skenduli, Kenneth Priore, Mukunda Madhab Pujari, Zhenting Qi, Preethi Raghunathan, Robi Rahman, Deepika Raman, Max Reddel, Jyoti Ruparel, Emma B. Ruttkamp-Bloem, Tiffany Saade, Greg Sadler, Said Saillant, Paul M. Salmon, Ayrton San Joaquin, Lama Saouma, Maziya Sarangpurwala, Supheakmungkol Sarin, Daniel S. Schiff, Anna D. Schilling, Chris Schmitz, Reva Schwartz, Abeer Sharma, Tianhao Shen, Kehan Sheng, Maury D. Shenk, Eli Sherman, Chandler Smith, Julie M. Smith, Estevenson Solano, Oliver Sourbut, Madhulika Srikumar, Ryan Stendall, Jakob Stenseke, Michael Stern, Joshua Sternfeld, Nikko Stevens, Ilia Sucholutsky, Yuanyuan Sun, Mariami Tkeshelashvili, Cristian Trout, Brian Tse, Nikolaos Tsinganos, Michelle Vaccaro, Anthony R. Valiaveedu, Ramakrishnan Veeramony, Jeremy Verdo, Pulkit Verma, Andrea Luigi Vitali, Jinge Wang, JR Washebek, Yonah Welker, George F. Westerman, James Williams, Tristan Williams, Rongwu Xu, Mick Yang, Xuemeng Yang, Sander Zeijlemaker, Jingyu Zhang, Marta Ziosi, Neil Thompson,
• Abstract要約: 2025年末に272人の国際AI専門家を対象に行われた3ラウンドのDelphi研究の結果を報告する。 専門家は、リスクと重大さ、セクターとアクターの脆弱性、アクターの責任、全体的な懸念について、24のAIリスクを評価した。
• 参考スコア（独自算出の注目度）: 115.34779081791287
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Artificial intelligence poses many risks, ranging from familiar present-day harms to unprecedented and potentially catastrophic ones. Effective risk management requires prioritization: we must understand which risks are most severe, who is most vulnerable, and who is most responsible for addressing them. We report results from a three-round Delphi study conducted late 2025 with 272 international AI experts. Experts rated 24 AI risks on harm probability and severity, sector and actor vulnerability, actor responsibility, and overall concern. Experts estimated the five most severe harms in the next 5 years were likely to come from dangerous capabilities, competitive dynamics, weapons & cyberattacks (including CBRNE), power centralization, and false information. In a business-as-usual scenario, experts judged 18 of 24 risks as having a more than 10% probability of catastrophic outcomes (e.g., more than 1 million deaths or more than USD 100B in financial loss) in the next 5 years (2025-2030). In a scenario where pragmatic mitigations are implemented, experts still judged five risks as having a more than 10% probability of catastrophic outcomes: dangerous capabilities, weapons & cyberattacks, environmental harm, inequality & unemployment, and power centralization. All 24 risks were judged as being more than 5% likely to cause catastrophic outcomes. AI users and the general public were judged the most vulnerable to these risks, but experts assigned the highest responsibility for addressing them to general-purpose AI developers and governance actors (including governments, regulators, and standards bodies). Across most risks, experts identified information, finance, and national security as the most vulnerable sectors. These findings can guide AI risk prioritization and clarify expert expectations about who should bear responsibility for mitigation.
• Abstract（参考訳）: 人工知能は、現在のよく知られた害から、前例のない破滅的な危険まで、多くのリスクを生んでいる。 効果的なリスク管理には優先順位付けが必要です。どのリスクが最も深刻か、誰が最も脆弱か、それに対処する最も責任があるかを理解する必要があります。 2025年末に272人の国際AI専門家を対象に行われた3ラウンドのDelphi研究の結果を報告する。 専門家は、リスクと重大さ、セクターとアクターの脆弱性、アクターの責任、全体的な懸念について、24のAIリスクを評価した。 専門家らは、今後5年間で最も深刻な被害は、危険な能力、競争力、武器とサイバー攻撃(CBRNEを含む)、電力集中、偽情報による可能性があると見積もっている。 ビジネス・アズ・ユース・シナリオでは、専門家は今後5年間(2025年-2030年)に、24件のリスクのうち18件が破滅的な結果(例えば、100万人以上の死者または100億ドル以上の損失)の確率が10%を超えると判断した。 実用的緩和が実施されるシナリオでは、専門家は5つのリスクを、危険な能力、武器とサイバー攻撃、環境被害、不平等と失業、電力集中化という破滅的な結果の確率が10%以上あると評価している。 24件のリスクはすべて、壊滅的な結果をもたらす確率が5%以上と判断された。 AIユーザと一般大衆は、これらのリスクに対して最も脆弱であると判断されたが、専門家は、それらを対処するための最高責任を、汎用AI開発者やガバナンスアクター(政府、規制機関、標準機関を含む)に割り当てた。 ほとんどのリスクの中で、専門家は情報、金融、国家安全保障を最も脆弱な分野として特定した。 これらの発見は、AIリスクの優先順位付けをガイドし、緩和の責任を誰が負うべきかに関する専門家の期待を明確にする。

関連論文リスト

• "We are not Future-ready": Understanding AI Privacy Risks and Existing Mitigation Strategies from the Perspective of AI Developers in Europe [56.1653658714305]
  ヨーロッパを拠点とする25人のAI開発者を対象にインタビューを行い、ユーザ、開発者、ビジネスに最もリスクをもたらすと彼らが信じているプライバシの脅威を理解しました。 プライバシリスクの相対的なランク付けに関して、AI開発者の間ではほとんど合意が得られていないことが分かっています。 AI開発者はこれらのリスクに対処するために提案された緩和戦略を認識しているが、彼らは最小限の現実的採用を報告した。
  論文  参考訳（メタデータ） (2025-10-01T13:51:33Z)
• Are Companies Taking AI Risks Seriously? A Systematic Analysis of Companies' AI Risk Disclosures in SEC 10-K forms [9.295655764985318]
  規制当局は、企業がAI関連のリスクを特定し、報告し、緩和する方法において、より透明性を求めている。 米国では、証券取引委員会(SEC)が、AI関連リスクのより正確な開示を投資家に提供するよう繰り返し警告した。 EUでは、AI法やデジタルサービス法のような新しい法律が、AIリスクレポートと緩和に関する新たなルールを導入している。 本研究は、SEC10-K申請書におけるAIリスク開示に関する大規模な体系的分析である。
  論文  参考訳（メタデータ） (2025-08-26T10:19:29Z)
• Intolerable Risk Threshold Recommendations for Artificial Intelligence [0.2383122657918106]
  フロンティアAIモデルは、公共の安全、人権、経済の安定、社会的価値に深刻なリスクをもたらす可能性がある。 リスクは、意図的に敵の誤用、システム障害、意図しないカスケード効果、複数のモデルにまたがる同時障害から生じる可能性がある。 16のグローバルAI産業組織がFrontier AI Safety Commitmentsに署名し、27の国とEUは、これらのしきい値を定義する意図を宣言した。
  論文  参考訳（メタデータ） (2025-03-04T12:30:37Z)
• Fully Autonomous AI Agents Should Not be Developed [50.61667544399082]
  本稿では,完全自律型AIエージェントを開発すべきではないと主張している。 この立場を支持するために、我々は、従来の科学文献と現在の製品マーケティングから、異なるAIエージェントレベルを規定するために構築する。 分析の結果,システムの自律性によって人へのリスクが増大することが明らかとなった。
  論文  参考訳（メタデータ） (2025-02-04T19:00:06Z)
• Perception Gaps in Risk, Benefit, and Value Between Experts and Public Challenge Socially Accepted AI [0.0]
  本研究は,一般のAI専門家がAIの能力と影響をどう認識するかを検討する。 シナリオは、持続可能性、医療、仕事のパフォーマンス、社会的不平等、芸術、戦争といった領域にまたがる。 専門家は、常に高い確率を予測し、リスクを知覚し、より多くの利益を報告し、非専門家よりもAIに対する肯定的な感情を表現する。
  論文  参考訳（メタデータ） (2024-12-02T12:51:45Z)
• Risks of AI Scientists: Prioritizing Safeguarding Over Autonomy [65.77763092833348]
  この視点は、AI科学者の脆弱性を調べ、その誤用に関連する潜在的なリスクに光を当てる。 我々は、ユーザ意図、特定の科学的領域、およびそれらが外部環境に与える影響を考慮に入れている。 本稿では,人間規制,エージェントアライメント,環境フィードバックの理解を含む三段階的枠組みを提案する。
  論文  参考訳（メタデータ） (2024-02-06T18:54:07Z)
• An Overview of Catastrophic AI Risks [38.84933208563934]
  本稿では,破滅的なAIリスクの主な要因について概説し,その要因を4つのカテゴリに分類する。 個人やグループが意図的にAIを使用して危害を及ぼす悪用; 競争環境がアクターに安全でないAIを配置させたり、AIに制御を強制するAIレース。 組織的リスクは 人的要因と複雑なシステムが 破滅的な事故の 可能性を高めることを示しています 不正なAIは、人間よりもはるかにインテリジェントなエージェントを制御することの難しさを説明する。
  論文  参考訳（メタデータ） (2023-06-21T03:35:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。