論文の概要: Securing the Future of GenAI: Policy and Technology

• arxiv url: http://arxiv.org/abs/2407.12999v1
• Date: Tue, 21 May 2024 20:30:01 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-22 08:18:00.846299
• Title: Securing the Future of GenAI: Policy and Technology
• Title（参考訳）: GenAIの今後 : 政策と技術
• Authors: Mihai Christodorescu, Ryan Craven, Soheil Feizi, Neil Gong, Mia Hoffmann, Somesh Jha, Zhengyuan Jiang, Mehrdad Saberi Kamarposhti, John Mitchell, Jessica Newman, Emelia Probasco, Yanjun Qi, Khawaja Shams, Matthew Turek,
• Abstract要約: 政府はGenAIを規制し、イノベーションと安全性のバランスをとるという課題に、世界中で不満を抱いている。 Google、ウィスコンシン大学、マディソン大学、スタンフォード大学が共同で行ったワークショップは、GenAIのポリシーとテクノロジーのギャップを埋めることを目的としていた。 本稿では,技術進歩を妨げることなく,どのように規制を設計できるか,といった問題に対処するワークショップの議論を要約する。
• 参考スコア（独自算出の注目度）: 50.586585729683776
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The rise of Generative AI (GenAI) brings about transformative potential across sectors, but its dual-use nature also amplifies risks. Governments globally are grappling with the challenge of regulating GenAI, balancing innovation against safety. China, the United States (US), and the European Union (EU) are at the forefront with initiatives like the Management of Algorithmic Recommendations, the Executive Order, and the AI Act, respectively. However, the rapid evolution of GenAI capabilities often outpaces the development of comprehensive safety measures, creating a gap between regulatory needs and technical advancements. A workshop co-organized by Google, University of Wisconsin, Madison (UW-Madison), and Stanford University aimed to bridge this gap between GenAI policy and technology. The diverse stakeholders of the GenAI space -- from the public and governments to academia and industry -- make any safety measures under consideration more complex, as both technical feasibility and regulatory guidance must be realized. This paper summarizes the discussions during the workshop which addressed questions, such as: How regulation can be designed without hindering technological progress? How technology can evolve to meet regulatory standards? The interplay between legislation and technology is a very vast topic, and we don't claim that this paper is a comprehensive treatment on this topic. This paper is meant to capture findings based on the workshop, and hopefully, can guide discussion on this topic.
• Abstract（参考訳）: ジェネレーティブAI(GenAI)の台頭は、セクター全体の変革の可能性をもたらすが、そのデュアルユースな性質はリスクを増幅する。 政府はGenAIを規制し、イノベーションと安全性のバランスをとるという課題に、世界中で不満を抱いている。 中国、米国、欧州連合(EU)はそれぞれ、アルゴリズム勧告の管理、執行命令、AI法などのイニシアチブで最前線にいる。 しかし、GenAI能力の急速な進化は、しばしば包括的な安全対策の開発を上回り、規制ニーズと技術進歩のギャップを生じさせる。 Google、ウィスコンシン大学、マディソン大学(UW-Madison)、スタンフォード大学が共同で行ったワークショップは、GenAIのポリシーとテクノロジーのギャップを埋めることを目的としていた。 GenAIの分野の多様な利害関係者(政府や政府、学術、産業など)は、技術的実現可能性と規制指針の両方を実現する必要があるため、いかなる安全対策もより複雑にしている。 本稿では,技術進歩を妨げることなく,どのように規制を設計できるか,といった問題に対処するワークショップの議論を要約する。 規制基準を満たすために、テクノロジーはどのように進化するか? 法律と技術の間の相互作用は、非常に大きなトピックであり、この論文は、このトピックを包括的に扱うものではない、と主張する。 本論文は,ワークショップに基づく調査結果の収集を目的としており,この話題に関する議論をガイドできることを願っている。

関連論文リスト

• Using AI Alignment Theory to understand the potential pitfalls of regulatory frameworks [55.2480439325792]
  本稿では、欧州連合の人工知能法(EU AI法)を批判的に検討する。 人工知能における技術的アライメントの潜在的な落とし穴に焦点を当てたアライメント理論(AT)研究からの洞察を利用する。 これらの概念をEU AI Actに適用すると、潜在的な脆弱性と規制を改善するための領域が明らかになる。
  論文  参考訳（メタデータ） (2024-10-10T17:38:38Z)
• Governance of Generative Artificial Intelligence for Companies [1.4003044924094596]
  我々は企業内でGenAIガバナンスのためのフレームワークを開発する。 このフレームワークは、ビジネスチャンスを利用するのに適したスコープ、目的、ガバナンスメカニズムを概説します。
  論文  参考訳（メタデータ） (2024-02-05T14:20:19Z)
• Deepfakes, Misinformation, and Disinformation in the Era of Frontier AI, Generative AI, and Large AI Models [7.835719708227145]
  ディープフェイクとm/disinformationの拡散は、世界中の情報エコシステムの整合性に対する恐ろしい脅威として現れている。 我々は,大規模モデル(LM-based GenAI)をベースとした生成AIの仕組みを強調した。 我々は、高度な検出アルゴリズム、クロスプラットフォームのコラボレーション、ポリシー駆動のイニシアチブを組み合わせた統合フレームワークを導入する。
  論文  参考訳（メタデータ） (2023-11-29T06:47:58Z)
• Report of the 1st Workshop on Generative AI and Law [78.62063815165968]
  本報告では、生成AIと法に関する第1回ワークショップ(GenLaw)の開催状況について述べる。 コンピュータサイエンスと法学の実践者や学者の学際的なグループが集まり、ジェネレーティブAI法がもたらす技術的、教義的、政策上の課題について議論した。
  論文  参考訳（メタデータ） (2023-11-11T04:13:37Z)
• Regulation and NLP (RegNLP): Taming Large Language Models [51.41095330188972]
  我々は,NLP研究が規制研究や隣接分野に近接することのメリットを論じる。 我々は、規制とNLPに関する新しい多分野研究空間の開発を提唱する。
  論文  参考訳（メタデータ） (2023-10-09T09:22:40Z)
• AI Regulation in Europe: From the AI Act to Future Regulatory Challenges [3.0821115746307663]
  両哲学の要素を組み合わせるハイブリッドな規制戦略を論じている。 本稿は、AI法を、AIがもたらす多面的課題に対処するための、先駆的な立法努力として検討する。 同社は、高性能で潜在的にオープンソースなAIシステムへのアクセスを規制するプロトコルを作成するための即時アクションを提唱している。
  論文  参考訳（メタデータ） (2023-10-06T07:52:56Z)
• Identifying and Mitigating the Security Risks of Generative AI [179.2384121957896]
  本稿では,GenAIによる双対ジレンマに関するGoogleのワークショップの成果を報告する。 GenAIはまた、攻撃者が新しい攻撃を生成し、既存の攻撃のベロシティと有効性を高めるためにも使用できる。 この話題について,コミュニティの短期的,長期的目標について論じる。
  論文  参考訳（メタデータ） (2023-08-28T18:51:09Z)
• Fairness in Agreement With European Values: An Interdisciplinary Perspective on AI Regulation [61.77881142275982]
  この学際的立場の論文は、AIにおける公平性と差別に関する様々な懸念を考察し、AI規制がそれらにどう対処するかについて議論する。 私たちはまず、法律、(AI)産業、社会技術、そして(道徳)哲学のレンズを通して、AIと公正性に注目し、様々な視点を提示します。 我々は、AI公正性の懸念の観点から、AI法の取り組みを成功に導くために、AIレギュレーションが果たす役割を特定し、提案する。
  論文  参考訳（メタデータ） (2022-06-08T12:32:08Z)
• Voluntary safety commitments provide an escape from over-regulation in AI development [8.131948859165432]
  この研究は、ピアまたは機関による制裁による自発的なコミットメントが、社会的に有益な結果をもたらすことを初めて明らかにしている。 結果は、倫理的で責任あるAI技術開発プロセスを保証することを目的としたガバナンスと規制ポリシーの設計に直接関係しています。
  論文  参考訳（メタデータ） (2021-04-08T12:54:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。