論文の概要: Ethics and Governance of Artificial Intelligence: Evidence from a Survey
of Machine Learning Researchers
- arxiv url: http://arxiv.org/abs/2105.02117v1
- Date: Wed, 5 May 2021 15:23:12 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-01 13:17:42.563489
- Title: Ethics and Governance of Artificial Intelligence: Evidence from a Survey
of Machine Learning Researchers
- Title（参考訳）: 人工知能の倫理とガバナンス--機械学習研究者の調査結果から
- Authors: Baobao Zhang, Markus Anderljung, Lauren Kahn, Noemi Dreksler, Michael
C. Horowitz, Allan Dafoe
- Abstract要約: 機械学習(ML)と人工知能(AI)の研究者は、AIの倫理とガバナンスにおいて重要な役割を果たす。
トップクラスのAI/MLカンファレンスで公開した人々の調査を行った。
AI/MLの研究者たちは、国際組織や科学組織に対して高いレベルの信頼を置いている。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Machine learning (ML) and artificial intelligence (AI) researchers play an
important role in the ethics and governance of AI, including taking action
against what they perceive to be unethical uses of AI (Belfield, 2020; Van
Noorden, 2020). Nevertheless, this influential group's attitudes are not well
understood, which undermines our ability to discern consensuses or
disagreements between AI/ML researchers. To examine these researchers' views,
we conducted a survey of those who published in the top AI/ML conferences (N =
524). We compare these results with those from a 2016 survey of AI/ML
researchers (Grace, Salvatier, Dafoe, Zhang, & Evans, 2018) and a 2018 survey
of the US public (Zhang & Dafoe, 2020). We find that AI/ML researchers place
high levels of trust in international organizations and scientific
organizations to shape the development and use of AI in the public interest;
moderate trust in most Western tech companies; and low trust in national
militaries, Chinese tech companies, and Facebook. While the respondents were
overwhelmingly opposed to AI/ML researchers working on lethal autonomous
weapons, they are less opposed to researchers working on other military
applications of AI, particularly logistics algorithms. A strong majority of
respondents think that AI safety research should be prioritized and that ML
institutions should conduct pre-publication review to assess potential harms.
Being closer to the technology itself, AI/ML re-searchers are well placed to
highlight new risks and develop technical solutions, so this novel attempt to
measure their attitudes has broad relevance. The findings should help to
improve how researchers, private sector executives, and policymakers think
about regulations, governance frameworks, guiding principles, and national and
international governance strategies for AI.
- Abstract（参考訳）: 機械学習(ml)と人工知能(ai)の研究者は、aiの非倫理的利用と認識されるものに対して行動を起こすことを含む、aiの倫理とガバナンスにおいて重要な役割を果たす(belfield, 2020; van noorden, 2020)。
それでも、この影響力のあるグループの態度はよく理解されておらず、AI/ML研究者間の合意や意見の相違を識別する能力を損なう。
これらの研究者の見解を検討するため、トップAI/MLカンファレンス(N = 524)に掲載した研究者を対象に調査を行った。
これらの結果は、2016年のAI/ML研究者の調査(Grace, Salvatier, Dafoe, Zhang, & Evans, 2018)と2018年の米国一般調査(Zhang & Dafoe, 2020)と比較する。
ai/ml研究者は、国際組織や科学組織に対して高いレベルの信頼を置き、公共の利益におけるaiの開発と利用を形作ること、西洋のほとんどのハイテク企業に対する中道的な信頼、国家の軍事組織や中国のハイテク企業、facebookに対する信頼が低いことが分かりました。
回答者は、致命的な自律兵器に取り組んでいるAI/ML研究者に対して圧倒的に反対だったが、AI、特に物流アルゴリズムの他の軍事的応用に取り組んでいる研究者には反対していない。
回答者の大多数は、AI安全研究は優先されるべきであり、ML機関は潜在的な害を評価するために事前公開レビューを行うべきだと考えている。
テクノロジーそのものに近づき、AI/MLの再調査者は、新しいリスクを強調し、技術的なソリューションを開発するためによく配置されている。
この発見は、研究者、民間セクターの幹部、政策立案者が規制、ガバナンスの枠組み、原則の指導、aiのための国内および国際的なガバナンス戦略をどう考えるかを改善するのに役立つだろう。
関連論文リスト
- Using AI Alignment Theory to understand the potential pitfalls of regulatory frameworks [55.2480439325792]
本稿では、欧州連合の人工知能法(EU AI法)を批判的に検討する。
人工知能における技術的アライメントの潜在的な落とし穴に焦点を当てたアライメント理論(AT)研究からの洞察を利用する。
これらの概念をEU AI Actに適用すると、潜在的な脆弱性と規制を改善するための領域が明らかになる。
論文 参考訳（メタデータ） (2024-10-10T17:38:38Z) - The Narrow Depth and Breadth of Corporate Responsible AI Research [3.364518262921329]
私たちは、AI企業の大多数が、この重要なAIのサブフィールドにおいて、限られた、あるいは全く関与していないことを示している。
主要なAI企業は、従来のAI研究に比べて、責任あるAI研究のアウトプットが著しく低い。
当社の結果は、業界が責任あるAI研究を公然と行う必要性を浮き彫りにしたものだ。
論文 参考訳（メタデータ） (2024-05-20T17:26:43Z) - Now, Later, and Lasting: Ten Priorities for AI Research, Policy, and Practice [63.20307830884542]
今後数十年は、産業革命に匹敵する人類の転換点になるかもしれない。
10年前に立ち上げられたこのプロジェクトは、複数の専門分野の専門家による永続的な研究にコミットしている。
AI技術の短期的および長期的影響の両方に対処する、アクションのための10のレコメンデーションを提供します。
論文 参考訳（メタデータ） (2024-04-06T22:18:31Z) - Particip-AI: A Democratic Surveying Framework for Anticipating Future AI Use Cases, Harms and Benefits [54.648819983899614]
汎用AIは、一般大衆がAIを使用してそのパワーを利用するための障壁を下げたようだ。
本稿では,AI利用事例とその影響を推測し,評価するためのフレームワークであるPartICIP-AIを紹介する。
論文 参考訳（メタデータ） (2024-03-21T19:12:37Z) - Investigating Responsible AI for Scientific Research: An Empirical Study [4.597781832707524]
このような機関におけるResponsible AI(RAI)の推進は、AI設計と開発に倫理的配慮を統合することの重要性の高まりを強調している。
本稿では,AI設計・開発に内在する倫理的リスクに対する意識と準備性を評価することを目的とする。
その結果、倫理的、責任的、包括的AIに関する知識ギャップが明らかとなり、利用可能なAI倫理フレームワークに対する認識が制限された。
論文 参考訳（メタデータ） (2023-12-15T06:40:27Z) - Metaethical Perspectives on 'Benchmarking' AI Ethics [81.65697003067841]
ベンチマークは、人工知能(AI)研究の技術的進歩を測定するための基盤とみられている。
AIの顕著な研究領域は倫理であり、現在、ベンチマークのセットも、AIシステムの「倫理性」を測定する一般的な方法もない。
我々は、現在と将来のAIシステムのアクションを考えるとき、倫理よりも「価値」について話す方が理にかなっていると論じる。
論文 参考訳（メタデータ） (2022-04-11T14:36:39Z) - An Ethical Framework for Guiding the Development of Affectively-Aware
Artificial Intelligence [0.0]
本稿では、感情認識型AIの倫理的結果(道徳的・倫理的結果)を評価するためのガイドラインを提案する。
我々は,AI開発者による倫理的責任を分離し,そのようなAIをデプロイするエンティティをビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビビ
最終的には研究者、開発者、オペレーター、規制当局、法執行機関への勧告で終わります。
論文 参考訳（メタデータ） (2021-07-29T03:57:53Z) - Trustworthy AI: A Computational Perspective [54.80482955088197]
我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。
各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
論文 参考訳（メタデータ） (2021-07-12T14:21:46Z) - Building Bridges: Generative Artworks to Explore AI Ethics [56.058588908294446]
近年,人工知能(AI)技術が社会に与える影響の理解と緩和に重点が置かれている。
倫理的AIシステムの設計における重要な課題は、AIパイプラインには複数の利害関係者があり、それぞれがそれぞれ独自の制約と関心を持っていることだ。
このポジションペーパーは、生成的アートワークが、アクセス可能で強力な教育ツールとして機能することで、この役割を果たすことができる可能性のいくつかを概説する。
論文 参考訳（メタデータ） (2021-06-25T22:31:55Z) - The State of AI Ethics Report (October 2020) [30.265104923077185]
State of AI Ethicsは、2020年7月以来、AI倫理の分野で最も重要な発展を捉えている。
このレポートは、機械学習の専門家から人権活動家や政策立案者まで、あらゆる人が、この分野の絶え間なく変化する発展を素早く理解し理解することを目指している。
State of AI Ethicsには、大学、研究機関、コンサルティング会社、政府からの世界レベルのAI倫理の専門家によって書かれた排他的コンテンツが含まれている。
論文 参考訳（メタデータ） (2020-11-05T12:36:16Z) - U.S. Public Opinion on the Governance of Artificial Intelligence [0.0]
既存の研究では、新興技術の規制を形成する上で、公共の機関に対する信頼が大きな役割を果たすことが示されている。
我々は、13のAIガバナンス課題に対するアメリカ人の認識と、AIを責任を持って開発・管理するための政府、企業、およびマルチステークホルダー機関への信頼について検討した。
論文 参考訳（メタデータ） (2019-12-30T07:38:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。