論文の概要: Developing and Evaluating a Design Method for Positive Artificial
Intelligence
- arxiv url: http://arxiv.org/abs/2402.01499v2
- Date: Mon, 4 Mar 2024 12:52:13 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-07 00:40:30.671409
- Title: Developing and Evaluating a Design Method for Positive Artificial
Intelligence
- Title（参考訳）: 正の人工知能の設計法の開発と評価
- Authors: Willem van der Maden, Derek Lomas, Paul Hekkert
- Abstract要約: AI for Good"の開発は、複雑な人間の価値とシステムの整合性に関する課題を提起する。
本稿では,このギャップに対処するPositive AI設計手法を提示し,評価する。
この方法は、幸福な願望を具体的な実践に翻訳する人間中心のプロセスを提供する。
- 参考スコア（独自算出の注目度）: 0.6138671548064356
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As artificial intelligence (AI) continues advancing, ensuring positive
societal impacts becomes critical, especially as AI systems become increasingly
ubiquitous in various aspects of life. However, developing "AI for good" poses
substantial challenges around aligning systems with complex human values.
Presently, we lack mature methods for addressing these challenges. This article
presents and evaluates the Positive AI design method aimed at addressing this
gap. The method provides a human-centered process to translate wellbeing
aspirations into concrete practices. First, we explain the method's four key
steps: contextualizing, operationalizing, optimizing, and implementing
wellbeing supported by continuous measurement for feedback cycles. We then
present a multiple case study where novice designers applied the method,
revealing strengths and weaknesses related to efficacy and usability. Next, an
expert evaluation study assessed the quality of the resulting concepts, rating
them moderately high for feasibility, desirability, and plausibility of
achieving intended wellbeing benefits. Together, these studies provide
preliminary validation of the method's ability to improve AI design, while
surfacing areas needing refinement like developing support for complex steps.
Proposed adaptations such as examples and evaluation heuristics could address
weaknesses. Further research should examine sustained application over multiple
projects. This human-centered approach shows promise for realizing the vision
of 'AI for Wellbeing' that does not just avoid harm, but actively benefits
humanity.
- Abstract（参考訳）: ai(artificial intelligence, 人工知能)が進歩を続けるにつれ、ポジティブな社会的影響の確保が重要になる。
しかし、「善のためのAI」の開発は、複雑な人間の価値とシステムの整合性に重大な課題をもたらす。
現在、これらの課題に取り組むための成熟した方法が欠けている。
本稿では,このギャップに対処するPositive AI設計手法を提示し,評価する。
この方法は、幸福な願望を具体的な実践に翻訳する人間中心のプロセスを提供する。
まず,フィードバックサイクルの連続計測によって支援されるウェルビーイングのコンテキスト化,運用,最適化,実装という4つのステップについて説明する。
次に,初心者設計者がこの手法を適用し,有効性とユーザビリティに関連する強みと弱みを明らかにする複数のケーススタディを行った。
次に、専門家評価研究は、得られた概念の質を評価し、それを適度に高く評価し、実現可能性、望ましさ、そして、意図した幸福の利益を達成するための妥当性を評価した。
これらの研究は、AI設計を改善する方法の能力の予備的検証を提供するとともに、複雑なステップのサポートの開発のような改善が必要な領域を提示する。
例や評価ヒューリスティックのような提案された適応は弱点に対処できる。
さらなる研究は、複数のプロジェクトに対する持続的な適用を検討するべきである。
この人間中心のアプローチは、害を避けるだけでなく、積極的に人類に利益をもたらす「幸福のためのAI」のビジョンを実現することを約束している。
関連論文リスト
- To Err Is AI! Debugging as an Intervention to Facilitate Appropriate Reliance on AI Systems [11.690126756498223]
最適な人間とAIのコラボレーションのためのビジョンは、人間のAIシステムへの「適切な依存」を必要とする。
実際には、アウト・オブ・ディストリビューションデータにおける機械学習モデルの性能格差は、データセット固有のパフォーマンスフィードバックを信頼できないものにしている。
論文 参考訳（メタデータ） (2024-09-22T09:43:27Z) - Evaluating Human-AI Collaboration: A Review and Methodological Framework [4.41358655687435]
人間-AIコラボレーション(Human-AI Collaboration、HAIC)として知られる個人との作業環境における人工知能(AI)の利用が不可欠である。
HAICの有効性を評価することは、関連するコンポーネントの複雑な相互作用のため、依然として困難である。
本稿では,既存のHAIC評価手法を詳細に分析し,これらのシステムをより効果的に評価するための新しいパラダイムを開発する。
論文 参考訳（メタデータ） (2024-07-09T12:52:22Z) - Evaluating General-Purpose AI with Psychometrics [43.85432514910491]
本稿では,大規模言語モデルなどの汎用AIシステムの包括的かつ正確な評価の必要性について論じる。
現在の評価手法は、主に特定のタスクのベンチマークに基づいており、これらの汎用AIシステムを適切に評価するには不十分である。
これらの課題に対処するため,タスク指向評価から構成指向評価への移行を提案する。
論文 参考訳（メタデータ） (2023-10-25T05:38:38Z) - Exploration with Principles for Diverse AI Supervision [88.61687950039662]
次世代の予測を用いた大規模トランスフォーマーのトレーニングは、AIの画期的な進歩を生み出した。
この生成AIアプローチは印象的な結果をもたらしたが、人間の監督に大きく依存している。
この人間の監視への強い依存は、AIイノベーションの進歩に重大なハードルをもたらす。
本稿では,高品質なトレーニングデータを自律的に生成することを目的とした,探索型AI(EAI)という新しいパラダイムを提案する。
論文 参考訳（メタデータ） (2023-10-13T07:03:39Z) - Predictable Artificial Intelligence [77.1127726638209]
本稿では予測可能なAIのアイデアと課題を紹介する。
それは、現在および将来のAIエコシステムの重要な妥当性指標を予測できる方法を探る。
予測可能性を達成することは、AIエコシステムの信頼、責任、コントロール、アライメント、安全性を促進するために不可欠である、と私たちは主張する。
論文 参考訳（メタデータ） (2023-10-09T21:36:21Z) - From Static Benchmarks to Adaptive Testing: Psychometrics in AI Evaluation [60.14902811624433]
本稿では,静的評価手法から適応テストへのパラダイムシフトについて論じる。
これには、ベンチマークで各テスト項目の特性と価値を推定し、リアルタイムでアイテムを動的に調整することが含まれる。
我々は、AI評価にサイコメトリックを採用する現在のアプローチ、アドバンテージ、そして根底にある理由を分析します。
論文 参考訳（メタデータ） (2023-06-18T09:54:33Z) - Methodological reflections for AI alignment research using human
feedback [0.0]
AIアライメントは、AI技術が人間の関心や価値観、機能と安全で倫理的な方法で一致しているかどうかを調査することを目的としている。
LLMは、予測が難しい方法で学習し、適応する能力があるため、意図しない行動を示す可能性がある。
論文 参考訳（メタデータ） (2022-12-22T14:27:33Z) - The Role of AI in Drug Discovery: Challenges, Opportunities, and
Strategies [97.5153823429076]
この分野でのAIのメリット、課題、欠点についてレビューする。
データ拡張、説明可能なAIの使用、従来の実験手法とAIの統合についても論じている。
論文 参考訳（メタデータ） (2022-12-08T23:23:39Z) - A.I. Robustness: a Human-Centered Perspective on Technological
Challenges and Opportunities [8.17368686298331]
人工知能(AI)システムのロバスト性はいまだ解明されておらず、大規模な採用を妨げる重要な問題となっている。
本稿では,基本的・応用的両面から文献を整理・記述する3つの概念を紹介する。
我々は、人間が提供できる必要な知識を考慮して、AIの堅牢性を評価し、向上する上で、人間の中心的な役割を強調します。
論文 参考訳（メタデータ） (2022-10-17T10:00:51Z) - An interdisciplinary conceptual study of Artificial Intelligence (AI)
for helping benefit-risk assessment practices: Towards a comprehensive
qualification matrix of AI programs and devices (pre-print 2020) [55.41644538483948]
本稿では,インテリジェンスの概念に対処するさまざまな分野の既存の概念を包括的に分析する。
目的は、AIシステムを評価するための共有概念や相違点を特定することである。
論文 参考訳（メタデータ） (2021-05-07T12:01:31Z) - Towards Understanding the Adversarial Vulnerability of Skeleton-based
Action Recognition [133.35968094967626]
骨格に基づく行動認識は、動的状況への強い適応性から注目を集めている。
ディープラーニング技術の助けを借りて、かなり進歩し、現在、良識のある環境で約90%の精度を達成している。
異なる対角的環境下での骨格に基づく行動認識の脆弱性に関する研究はいまだ研究されていない。
論文 参考訳（メタデータ） (2020-05-14T17:12:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。