論文の概要: The Generative AI Ethics Playbook
- arxiv url: http://arxiv.org/abs/2501.10383v1
- Date: Tue, 17 Dec 2024 22:47:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-02 07:18:52.243965
- Title: The Generative AI Ethics Playbook
- Title（参考訳）: ジェネレーティブAI倫理プレイブック
- Authors: Jessie J. Smith, Wesley Hanwen Deng, William H. Smith, Maarten Sap, Nicole DeCario, Jesse Dodge,
- Abstract要約: Generative AI Ethics Playbookは、マシンラーニングシステムのリスクを特定し緩和するためのガイダンスを提供する。
このプレイブックは、研究と倫理的考察の両方における現在のベストプラクティスに基づいて、AI/ML実践者の包括的なリソースとして機能することを目的としています。
- 参考スコア（独自算出の注目度）: 25.61087208802131
- License:
- Abstract: The Generative AI Ethics Playbook provides guidance for identifying and mitigating risks of machine learning systems across various domains, including natural language processing, computer vision, and generative AI. This playbook aims to assist practitioners in diagnosing potential harms that may arise during the design, development, and deployment of datasets and models. It offers concrete strategies and resources for mitigating these risks, to help minimize negative impacts on users and society. Drawing on current best practices in both research and ethical considerations, this playbook aims to serve as a comprehensive resource for AI/ML practitioners. The intended audience of this playbook includes machine learning researchers, engineers, and practitioners who are involved in the creation and implementation of generative and multimodal models (e.g., text-to-text, image-to-image, text-to-image, text-to-video). Specifically, we provide transparency/documentation checklists, topics of interest, common questions, examples of harms through case studies, and resources and strategies to mitigate harms throughout the Generative AI lifecycle. This playbook was made collaboratively over the course of 16 months through extensive literature review of over 100 resources and peer-reviewed articles, as well as through an initial group brainstorming session with 18 interdisciplinary AI ethics experts from industry and academia, and with additional feedback from 8 experts (5 of whom were in the initial brainstorming session). We note that while this playbook provides examples, discussion, and harm mitigation strategies, research in this area is ongoing. Our playbook aims to be a practically useful survey, taking a high-level view rather than aiming for covering the entire existing body of research.
- Abstract（参考訳）: Generative AI Ethics Playbookは、自然言語処理、コンピュータビジョン、生成AIなど、さまざまな領域にわたる機械学習システムのリスクを特定し緩和するためのガイダンスを提供する。
このプレイブックは、データセットやモデルの設計、開発、デプロイ中に発生する潜在的な害の診断を支援することを目的としている。
リスク軽減のための具体的な戦略とリソースを提供し、ユーザや社会に対するネガティブな影響を最小限に抑える。
このプレイブックは、研究と倫理的考察の両方における現在のベストプラクティスに基づいて、AI/ML実践者の包括的なリソースとして機能することを目的としています。
このプレイブックの読者には、生成モデルとマルチモーダルモデル(例えば、テキスト・トゥ・テキスト、画像・画像、テキスト・トゥ・イメージ、テキスト・トゥ・ビデオ)の作成と実装に関与している機械学習研究者、エンジニア、実践者が含まれる。
具体的には、透明性/ドキュメントチェックリスト、関心事のトピック、一般的な質問、ケーススタディによる害の例、ジェネレーティブAIライフサイクル全体の害を緩和するためのリソースと戦略を提供する。
このプレイブックは、100以上のリソースとピアレビューされた記事の広範な文献レビューと、業界とアカデミックの18の学際的AI倫理専門家による最初のグループブレインストーミングセッションを通じて、16ヶ月にわたって共同で作成された。
このプレイブックは、例、議論、害の軽減戦略を提供するが、この分野の研究は進行中である。
当社のプレイブックは,既存の研究機関全体を網羅することではなく,ハイレベルな視点で調査することを目的としている。
関連論文リスト
- A Comprehensive Review of Adversarial Attacks on Machine Learning [0.5104264623877593]
本研究は、AIモデルとMLモデルに対する敵攻撃の包括的概要を提供し、様々な攻撃タイプ、テクニック、潜在的な害を探索する。
実用的な洞察を得るためには、自動運転車のような現実世界のユースケースに対する攻撃をシミュレートするために、Adversarial Robustness Toolbox(ART)ライブラリを使用します。
論文 参考訳（メタデータ） (2024-12-16T02:27:54Z) - Machine Unlearning Doesn't Do What You Think: Lessons for Generative AI Policy, Research, and Practice [186.055899073629]
非学習はしばしば、生成AIモデルからターゲット情報の影響を取り除くソリューションとして呼び出される。
未学習はまた、モデルが出力中にターゲットとなるタイプの情報を生成するのを防ぐ方法として提案されている。
これら2つの目標 - モデルからの情報の標的的除去と、モデル出力からの情報のターゲット的抑制 - は、様々な技術的および現実的な課題を表す。
論文 参考訳（メタデータ） (2024-12-09T20:18:43Z) - Challenges and Responses in the Practice of Large Language Models [0.9463895540925061]
本稿は、現在注目されているAI分野に焦点を当て、あらゆる人生の歩みから広範囲で深い疑問を注意深く要約する。
業界動向、学術研究、技術革新、ビジネス応用など、さまざまな分野をカバーしている。
コンピュータパワーインフラストラクチャ、ソフトウェアアーキテクチャ、データリソース、アプリケーションシナリオ、脳科学の5つの中核的な側面から、これらの質問を体系的かつ慎重に分類し、整理する。
論文 参考訳（メタデータ） (2024-08-18T09:15:11Z) - Generative Artificial Intelligence: A Systematic Review and Applications [7.729155237285151]
本稿では、ジェネレーティブAIにおける最近の進歩と技術に関する体系的なレビューと分析について述べる。
生成AIがこれまで行った大きな影響は、大きな言語モデルの開発による言語生成である。
論文は、責任あるAIの原則と、これらの生成モデルの持続可能性と成長に必要な倫理的考察から締めくくられる。
論文 参考訳（メタデータ） (2024-05-17T18:03:59Z) - Mapping the Ethics of Generative AI: A Comprehensive Scoping Review [0.0]
我々は、特に大きな言語モデルやテキスト・ツー・イメージモデルを含む、生成的人工知能の倫理に関するスコーピングレビューを行う。
本分析では,19のトピック領域において,378の規範的問題を分類し,文献の有病率に応じて分類する。
この研究は、公正性、安全、有害なコンテンツ、幻覚、プライバシー、相互作用リスク、セキュリティ、アライメント、社会的影響などに関する倫理的な議論を、学者、実践者、あるいは政策立案者に包括的な概要を提供する。
論文 参考訳（メタデータ） (2024-02-13T09:38:17Z) - Identifying and Mitigating the Security Risks of Generative AI [179.2384121957896]
本稿では,GenAIによる双対ジレンマに関するGoogleのワークショップの成果を報告する。
GenAIはまた、攻撃者が新しい攻撃を生成し、既存の攻撃のベロシティと有効性を高めるためにも使用できる。
この話題について,コミュニティの短期的,長期的目標について論じる。
論文 参考訳（メタデータ） (2023-08-28T18:51:09Z) - The Role of AI in Drug Discovery: Challenges, Opportunities, and
Strategies [97.5153823429076]
この分野でのAIのメリット、課題、欠点についてレビューする。
データ拡張、説明可能なAIの使用、従来の実験手法とAIの統合についても論じている。
論文 参考訳（メタデータ） (2022-12-08T23:23:39Z) - Stakeholder Participation in AI: Beyond "Add Diverse Stakeholders and
Stir" [76.44130385507894]
本稿では、既存の文献の参加と現在の実践の実証分析を通じて、AI設計における「参加的転換」を掘り下げることを目的としている。
本稿では,本論文の文献合成と実証研究に基づいて,AI設計への参加的アプローチを解析するための概念的枠組みを提案する。
論文 参考訳（メタデータ） (2021-11-01T17:57:04Z) - Threat of Adversarial Attacks on Deep Learning in Computer Vision:
Survey II [86.51135909513047]
ディープラーニングは、予測を操作できる敵攻撃に対して脆弱である。
本稿では,ディープラーニングに対する敵対的攻撃におけるコンピュータビジョンコミュニティの貢献を概観する。
この領域では、非専門家に技術的な用語の定義を提供する。
論文 参考訳（メタデータ） (2021-08-01T08:54:47Z) - Building Bridges: Generative Artworks to Explore AI Ethics [56.058588908294446]
近年,人工知能(AI)技術が社会に与える影響の理解と緩和に重点が置かれている。
倫理的AIシステムの設計における重要な課題は、AIパイプラインには複数の利害関係者があり、それぞれがそれぞれ独自の制約と関心を持っていることだ。
このポジションペーパーは、生成的アートワークが、アクセス可能で強力な教育ツールとして機能することで、この役割を果たすことができる可能性のいくつかを概説する。
論文 参考訳（メタデータ） (2021-06-25T22:31:55Z) - Nose to Glass: Looking In to Get Beyond [0.0]
責任ある人工知能を強化するというバナーの下で研究が増えている。
研究の目的は、アルゴリズムシステムの展開によって引き起こされる害に対処し、緩和し、最終的には軽減することである。
しかし、そのようなツールの実装は依然として少ない。
論文 参考訳（メタデータ） (2020-11-26T06:51:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。