論文の概要: The ethical ambiguity of AI data enrichment: Measuring gaps in research
ethics norms and practices
- arxiv url: http://arxiv.org/abs/2306.01800v1
- Date: Thu, 1 Jun 2023 16:12:55 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-07 00:09:16.408888
- Title: The ethical ambiguity of AI data enrichment: Measuring gaps in research
ethics norms and practices
- Title（参考訳）: AIデータ豊かさの倫理的曖昧性:研究倫理規範と実践のギャップを測る
- Authors: Will Hawkins and Brent Mittelstadt
- Abstract要約: この研究は、AI研究とデータ豊か化のために、同等な研究倫理要件と規範がどのように開発されたか、そしてどの程度まで調査する。
主要なAI会場は、人間のデータ収集のためのプロトコルを確立し始めているが、これらは矛盾なく著者が追従している。
- 参考スコア（独自算出の注目度）: 2.28438857884398
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The technical progression of artificial intelligence (AI) research has been
built on breakthroughs in fields such as computer science, statistics, and
mathematics. However, in the past decade AI researchers have increasingly
looked to the social sciences, turning to human interactions to solve the
challenges of model development. Paying crowdsourcing workers to generate or
curate data, or data enrichment, has become indispensable for many areas of AI
research, from natural language processing to reinforcement learning from human
feedback (RLHF). Other fields that routinely interact with crowdsourcing
workers, such as Psychology, have developed common governance requirements and
norms to ensure research is undertaken ethically. This study explores how, and
to what extent, comparable research ethics requirements and norms have
developed for AI research and data enrichment. We focus on the approach taken
by two leading conferences: ICLR and NeurIPS, and journal publisher Springer.
In a longitudinal study of accepted papers, and via a comparison with
Psychology and CHI papers, this work finds that leading AI venues have begun to
establish protocols for human data collection, but these are are inconsistently
followed by authors. Whilst Psychology papers engaging with crowdsourcing
workers frequently disclose ethics reviews, payment data, demographic data and
other information, similar disclosures are far less common in leading AI venues
despite similar guidance. The work concludes with hypotheses to explain these
gaps in research ethics practices and considerations for its implications.
- Abstract（参考訳）: 人工知能(AI)研究の技術的進歩は、コンピュータ科学、統計学、数学などの分野におけるブレークスルーの上に構築されている。
しかし、この10年間でAI研究者は、モデル開発における課題を解決するために、人間のインタラクションに目を向けるようになった。
クラウドソーシング労働者にデータの生成やキュレート、あるいはデータ豊か化を納めることは、自然言語処理から人間からのフィードバック(RLHF)からの強化学習まで、AI研究の多くの分野において不可欠である。
心理学のようなクラウドソーシング労働者と日常的に交流する他の分野は、倫理的に研究が行われることを保証するための共通のガバナンス要件と規範を生み出している。
本研究は、ai研究とデータエンリッチメントのために、同等の研究倫理要件と規範がいかにして開発されたかを調査している。
我々は、ICLRとNeurIPSの2つの主要なカンファレンスと、雑誌発行者のSpringerのアプローチに焦点を当てています。
受理された論文の縦断的研究と、心理学やCHIの論文との比較により、主要なAI施設が人間のデータ収集のプロトコルを確立し始めていることが分かるが、これらは矛盾するものである。
クラウドソーシング(クラウドソーシング)に関わる心理学論文は、倫理レビューや支払いデータ、人口統計データなどの情報を頻繁に開示するが、同様のガイダンスにもかかわらず、主要なAI会場では同様の開示が一般的ではない。
この研究は、研究倫理の実践におけるこれらのギャップとその影響についての考察を説明する仮説で締めくくられている。
関連論文リスト
- AI Research is not Magic, it has to be Reproducible and Responsible: Challenges in the AI field from the Perspective of its PhD Students [1.1922075410173798]
欧州13カ国から28名のAI博士候補を調査した。
課題は、データセット、モデル、実験などのAIリソースの発見可能性と品質だ。
責任と再現可能なAI研究プラクティスをすぐに採用する必要がある。
論文 参考訳（メタデータ） (2024-08-13T12:19:02Z) - Generative AI in Writing Research Papers: A New Type of Algorithmic Bias
and Uncertainty in Scholarly Work [0.38850145898707145]
大規模言語モデル(LLM)と生成AIツールは、バイアスを特定し、対処する上での課題を提示している。
生成型AIツールは、不正な一般化、幻覚、レッド・チーム・プロンプトのような敵攻撃を目標とする可能性がある。
研究原稿の執筆過程に生成AIを組み込むことで,新しいタイプの文脈依存型アルゴリズムバイアスがもたらされることがわかった。
論文 参考訳（メタデータ） (2023-12-04T04:05:04Z) - Can AI Serve as a Substitute for Human Subjects in Software Engineering
Research? [24.39463126056733]
本稿では,人工知能(AI)の能力を活用したソフトウェア工学研究における定性データ収集手法を提案する。
定性的データの代替源としてAI生成合成テキストの可能性を探る。
観察研究とユーザ評価における人間の行動のエミュレートを目的とした新しい基礎モデルの開発について論じる。
論文 参考訳（メタデータ） (2023-11-18T14:05:52Z) - Human participants in AI research: Ethics and transparency in practice [0.9608936085613567]
人工知能(AI)と機械学習(ML)の進歩には、人間の参加者を巻き込んだ研究が欠かせない。
しかし、AIと参加型研究者は、AIとMLの人間の参加者による倫理研究のガイドラインを欠いている。
本稿は,これらの課題に対処し,技術研究者を実践的な知識で位置づけることを目的とする。
論文 参考訳（メタデータ） (2023-11-02T14:12:21Z) - Human-AI Coevolution [48.74579595505374]
Coevolution AIは、人間とAIアルゴリズムが相互に連続的に影響を及ぼすプロセスである。
本稿では,AIと複雑性科学の交点における新たな研究分野の基盤として,Coevolution AIを紹介した。
論文 参考訳（メタデータ） (2023-06-23T18:10:54Z) - Artificial intelligence adoption in the physical sciences, natural
sciences, life sciences, social sciences and the arts and humanities: A
bibliometric analysis of research publications from 1960-2021 [73.06361680847708]
1960年には333の研究分野の14%がAIに関連していたが、1972年には全研究分野の半分以上、1986年には80%以上、現在では98%以上まで増加した。
1960年には、333の研究分野の14%がAI(コンピュータ科学の多くの分野)に関連していたが、1972年までに全研究分野の半分以上、1986年には80%以上、現在では98%以上まで増加した。
我々は、現在の急上昇の状況が異なっており、学際的AI応用が持続する可能性が高いと結論付けている。
論文 参考訳（メタデータ） (2023-06-15T14:08:07Z) - Human-Centered Responsible Artificial Intelligence: Current & Future
Trends [76.94037394832931]
近年、CHIコミュニティは人間中心のレスポンシブル人工知能の研究において著しい成長を遂げている。
この研究はすべて、人権と倫理に根ざしたまま、人類に利益をもたらすAIを開発し、AIの潜在的な害を減らすことを目的としている。
本研究グループでは,これらのトピックに関心のある学術・産業の研究者を集結させ,現在の研究動向と今後の研究動向を地図化することを目的とする。
論文 参考訳（メタデータ） (2023-02-16T08:59:42Z) - Human-Centric Multimodal Machine Learning: Recent Advances and Testbed
on AI-based Recruitment [66.91538273487379]
人間中心のアプローチでAIアプリケーションを開発する必要性には、ある程度のコンセンサスがある。
i)ユーティリティと社会的善、(ii)プライバシとデータ所有、(iii)透明性と説明責任、(iv)AIによる意思決定プロセスの公正性。
異種情報ソースに基づく現在のマルチモーダルアルゴリズムは、データ中の機密要素や内部バイアスによってどのように影響を受けるかを検討する。
論文 参考訳（メタデータ） (2023-02-13T16:44:44Z) - The Role of AI in Drug Discovery: Challenges, Opportunities, and
Strategies [97.5153823429076]
この分野でのAIのメリット、課題、欠点についてレビューする。
データ拡張、説明可能なAIの使用、従来の実験手法とAIの統合についても論じている。
論文 参考訳（メタデータ） (2022-12-08T23:23:39Z) - Metaethical Perspectives on 'Benchmarking' AI Ethics [81.65697003067841]
ベンチマークは、人工知能(AI)研究の技術的進歩を測定するための基盤とみられている。
AIの顕著な研究領域は倫理であり、現在、ベンチマークのセットも、AIシステムの「倫理性」を測定する一般的な方法もない。
我々は、現在と将来のAIシステムのアクションを考えるとき、倫理よりも「価値」について話す方が理にかなっていると論じる。
論文 参考訳（メタデータ） (2022-04-11T14:36:39Z) - A narrowing of AI research? [0.0]
学術と民間におけるAI研究のテーマ的多様性の進化について研究する。
我々は、AI研究における民間企業の影響力を、彼らが受け取った引用と他の機関とのコラボレーションを通じて測定する。
論文 参考訳（メタデータ） (2020-09-22T08:23:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。