論文の概要: US-China perspectives on extreme AI risks and global governance

• arxiv url: http://arxiv.org/abs/2407.16903v1
• Date: Sun, 23 Jun 2024 17:31:27 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-28 18:19:29.693259
• Title: US-China perspectives on extreme AI risks and global governance
• Title（参考訳）: 極度のAIリスクとグローバルガバナンスに関する米中関係の見解
• Authors: Akash Wasil, Tim Durgin,
• Abstract要約: 私たちは、先進的な人工知能による安全とセキュリティの脅威を各国の専門家がどのように表現するかをよりよく理解しようとしました。 我々は、AI(Artificial General Intelligence, AGI)のような高度な人工知能の形式に着目した分析を行った。 両国の専門家は、AGIからのリスク、諜報機関の爆発によるリスク、そして人間のコントロールから逃れるAIシステムからのリスクについて懸念を表明した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The United States and China will play an important role in navigating safety and security challenges relating to advanced artificial intelligence. We sought to better understand how experts in each country describe safety and security threats from advanced artificial intelligence, extreme risks from AI, and the potential for international cooperation. Specifically, we compiled publicly-available statements from major technical and policy leaders in both the United States and China. We focused our analysis on advanced forms of artificial intelligence, such as artificial general intelligence (AGI), that may have the most significant impacts on national and global security. Experts in both countries expressed concern about risks from AGI, risks from intelligence explosions, and risks from AI systems that escape human control. Both countries have also launched early efforts designed to promote international cooperation around safety standards and risk management practices. Notably, our findings only reflect information from publicly available sources. Nonetheless, our findings can inform policymakers and researchers about the state of AI discourse in the US and China. We hope such work can contribute to policy discussions around advanced AI, its global security threats, and potential international dialogues or agreements to mitigate such threats.
• Abstract（参考訳）: 米国と中国は、高度な人工知能に関する安全とセキュリティの課題をナビゲートする上で重要な役割を果たす。 私たちは、先進的な人工知能による安全とセキュリティの脅威、AIからの極端なリスク、そして国際協力の可能性について、各国の専門家がどのように説明しているかをよりよく理解しようとしました。 具体的には、米国と中国の主要技術・政策指導者の公開声明をまとめました。 我々は、AI(Artificial General Intelligence, AGI)のような先進的な人工知能に焦点をあてた。 両国の専門家は、AGIからのリスク、諜報機関の爆発によるリスク、そして人間のコントロールから逃れるAIシステムからのリスクについて懸念を表明した。 両国は、安全基準やリスクマネジメントプラクティスに関する国際協力を促進するために、早期の取り組みも開始している。 特に、我々の発見は一般に公開されている情報源の情報のみを反映している。 それでも私たちの発見は、米国と中国のAI談話の状況について、政策立案者や研究者に知らせることができます。 こうした取り組みが、先進的なAI、そのグローバルなセキュリティ脅威、そしてそのような脅威を軽減するための潜在的な国際対話や合意に関する政策議論に貢献できることを願っている。

関連論文リスト

• Standardization Trends on Safety and Trustworthiness Technology for Advanced AI [0.0]
  大規模言語モデルと基礎モデルに基づく最近のAI技術は、人工知能に近づいたり、超えたりしている。 これらの進歩は、高度なAIの安全性と信頼性に関する懸念を引き起こしている。 AIの安全性と信頼性を確保するため、国際的に合意された標準を開発するための努力が実施されている。
  論文  参考訳（メタデータ） (2024-10-29T15:50:24Z)
• Safetywashing: Do AI Safety Benchmarks Actually Measure Safety Progress? [59.96471873997733]
  我々は、より有意義な安全指標を開発するための実証的な基盤を提案し、機械学習研究の文脈でAIの安全性を定義する。 我々は、AI安全研究のためのより厳格なフレームワークを提供し、安全性評価の科学を前進させ、測定可能な進歩への道筋を明らかにすることを目指している。
  論文  参考訳（メタデータ） (2024-07-31T17:59:24Z)
• Implications for Governance in Public Perceptions of Societal-scale AI Risks [0.29022435221103454]
  投票者は、AIのリスクは専門家よりも可能性が高く影響も大きいと認識し、AI開発を遅くすることを主張する。 政策介入は、社会規模リスクの全てのクラスにまたがる緩和努力をより慎重にバランスを取ろうとすれば、集団の懸念を和らげるのがよい。
  論文  参考訳（メタデータ） (2024-06-10T11:52:25Z)
• Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems [88.80306881112313]
  我々は、AI安全性に対する一連のアプローチを紹介し、定義する。 これらのアプローチの中核的な特徴は、高保証の定量的安全性保証を備えたAIシステムを作ることである。 これら3つのコアコンポーネントをそれぞれ作成するためのアプローチを概説し、主な技術的課題を説明し、それらに対する潜在的なソリューションをいくつか提案します。
  論文  参考訳（メタデータ） (2024-05-10T17:38:32Z)
• Near to Mid-term Risks and Opportunities of Open-Source Generative AI [94.06233419171016]
  Generative AIの応用は、科学や医学、教育など、さまざまな分野に革命をもたらすことが期待されている。 こうした地震の影響の可能性は、潜在的なリスクに関する活発な議論を引き起こし、より厳格な規制を要求した。 この規制は、オープンソースのジェネレーティブAIの誕生する分野を危険にさらしている可能性が高い。
  論文  参考訳（メタデータ） (2024-04-25T21:14:24Z)
• Control Risk for Potential Misuse of Artificial Intelligence in Science [85.91232985405554]
  我々は、科学におけるAI誤用の危険性の認識を高めることを目的としている。 化学科学における誤用の実例を取り上げる。 我々は、科学におけるAIモデルの誤用リスクを制御するSciGuardというシステムを提案する。
  論文  参考訳（メタデータ） (2023-12-11T18:50:57Z)
• Can apparent bystanders distinctively shape an outcome? Global south countries and global catastrophic risk-focused governance of artificial intelligence [0.0]
  私たちは、インドやシンガポールのようなグローバルな南欧諸国が、AIの破滅的なリスクに焦点を絞った世界的ガバナンスにおいて、かなり重要かもしれないと論じています。 我々はまた、グローバルな南欧諸国が、世界的な破滅的なリスクに焦点を当てたAIガバナンスを設計、強化、運用する上で、肯定的な役割を果たすいくつかの方法を提案する。
  論文  参考訳（メタデータ） (2023-12-07T18:54:16Z)
• Taking control: Policies to address extinction risks from AI [0.0]
  AI企業からの自発的なコミットメントは不適切で不十分な反応である、と私たちは主張する。 先進的なAIの脅威に有意義に対処する3つの政策提案について述べる。
  論文  参考訳（メタデータ） (2023-10-31T15:53:14Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• International Institutions for Advanced AI [47.449762587672986]
  国際機関は、高度なAIシステムが人類に利益をもたらすための重要な役割を担っているかもしれない。 本稿では,これらの課題に対処するために,国際レベルで実施可能な一連のガバナンス機能について述べる。 これらの機能を4つの組織モデルに分類し、内部のシナジーを示し、既存の組織で先例を持つ。
  論文  参考訳（メタデータ） (2023-07-10T16:55:55Z)
• An Overview of Catastrophic AI Risks [38.84933208563934]
  本稿では,破滅的なAIリスクの主な要因について概説し,その要因を4つのカテゴリに分類する。 個人やグループが意図的にAIを使用して危害を及ぼす悪用; 競争環境がアクターに安全でないAIを配置させたり、AIに制御を強制するAIレース。 組織的リスクは 人的要因と複雑なシステムが 破滅的な事故の 可能性を高めることを示しています 不正なAIは、人間よりもはるかにインテリジェントなエージェントを制御することの難しさを説明する。
  論文  参考訳（メタデータ） (2023-06-21T03:35:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。