論文の概要: STREAM: Social data and knowledge collective intelligence platform for TRaining Ethical AI Models

• arxiv url: http://arxiv.org/abs/2310.05563v1
• Date: Mon, 9 Oct 2023 09:40:11 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-12 06:27:09.330857
• Title: STREAM: Social data and knowledge collective intelligence platform for TRaining Ethical AI Models
• Title（参考訳）: STREAM:TRaining Ethical AI Modelsのためのソーシャルデータと知識集団インテリジェンスプラットフォーム
• Authors: Yuwei Wang, Enmeng Lu, Zizhe Ruan, Yao Liang, Yi Zeng
• Abstract要約: TRaining Ethical AI Models (STREAM)は、AIモデルを人間の道徳的価値と整合させるための総合的なインテリジェンスプラットフォームである。 ストリーミングは、AIモデルの促進を支援する倫理データセットとナレッジベースを提供する。
• 参考スコア（独自算出の注目度）: 10.356779168071313
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper presents Social data and knowledge collective intelligence platform for TRaining Ethical AI Models (STREAM) to address the challenge of aligning AI models with human moral values, and to provide ethics datasets and knowledge bases to help promote AI models "follow good advice as naturally as a stream follows its course". By creating a comprehensive and representative platform that accurately mirrors the moral judgments of diverse groups including humans and AIs, we hope to effectively portray cultural and group variations, and capture the dynamic evolution of moral judgments over time, which in turn will facilitate the Establishment, Evaluation, Embedding, Embodiment, Ensemble, and Evolvement (6Es) of the moral capabilities of AI models. Currently, STREAM has already furnished a comprehensive collection of ethical scenarios, and amassed substantial moral judgment data annotated by volunteers and various popular Large Language Models (LLMs), collectively portraying the moral preferences and performances of both humans and AIs across a range of moral contexts. This paper will outline the current structure and construction of STREAM, explore its potential applications, and discuss its future prospects.
• Abstract（参考訳）: 本稿では、TRaining Ethical AI Models(STREAM)のためのソーシャルデータおよび知識集団インテリジェンスプラットフォームを提案し、AIモデルを人間の道徳的価値と整合させることの課題に対処し、AIモデルを促進するための倫理データセットと知識ベースを提供する。 人間やAIを含む多様なグループの道徳的判断を正確に反映した、包括的で代表的なプラットフォームを作ることによって、文化的・集団的な多様性を効果的に表現し、時間とともに道徳的判断の動的進化を捉え、それによってAIモデルの道徳的能力の確立、評価、埋め込み、体格化、進化(6Es)を促進することを望んでいます。 現在、STREAMは倫理的シナリオの包括的な収集を行い、ボランティアや様々な人気のある言語モデル(LLM)によって注釈付けされた実質的な道徳的判断データを収集し、様々な道徳的文脈における人間とAIの道徳的嗜好とパフォーマンスを総合的に表現している。 本稿では,STREAMの現在の構造と構築について概説し,その可能性を探り,今後の展望について述べる。

関連論文リスト

• Modelling Human Values for AI Reasoning [2.320648715016106]
  我々は,その明示的な計算表現のために,人間の値の形式モデルを詳述する。 我々は、このモデルが、価値に対するAIベースの推論の基礎となる装置をいかに提供できるかを示す。 我々は、AIにおける人間の価値を統合し、学際的に研究するためのロードマップを提案する。
  論文  参考訳（メタデータ） (2024-02-09T12:08:49Z)
• Unpacking the Ethical Value Alignment in Big Models [46.560886177083084]
  本稿では,ビッグモデルに関連するリスクと課題の概要,既存のAI倫理ガイドラインを調査し,これらのモデルの限界から生じる倫理的影響について考察する。 本稿では,大規模モデルの倫理的価値を整合させる新しい概念パラダイムを導入し,アライメント基準,評価,方法に関する有望な研究方向性について議論する。
  論文  参考訳（メタデータ） (2023-10-26T16:45:40Z)
• AI-Generated Images as Data Source: The Dawn of Synthetic Era [61.879821573066216]
  生成AIは、現実世界の写真によく似た合成画像を作成する可能性を解き放った。 本稿では、これらのAI生成画像を新しいデータソースとして活用するという革新的な概念を探求する。 実際のデータとは対照的に、AI生成データには、未整合のアブリダンスやスケーラビリティなど、大きなメリットがある。
  論文  参考訳（メタデータ） (2023-10-03T06:55:19Z)
• Rethinking Machine Ethics -- Can LLMs Perform Moral Reasoning through the Lens of Moral Theories? [78.3738172874685]
  倫理的AIシステムの開発には倫理的判断が不可欠である。 一般的なアプローチは主にボトムアップ方式で実装されており、モラルに関するクラウドソースの意見に基づいて、大量の注釈付きデータを使用してモデルをトレーニングする。 本研究は、学際的な研究から確立された道徳理論を用いて道徳的推論を行うために、言語モデル(LM)を操る柔軟なトップダウンフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-08-29T15:57:32Z)
• Modeling Moral Choices in Social Dilemmas with Multi-Agent Reinforcement Learning [4.2050490361120465]
  ボトムアップ学習アプローチは、AIエージェントの倫理的行動の研究と開発にもっと適しているかもしれない。 本稿では,道徳理論に基づく報酬を内在的に動機づけたRLエージェントによる選択の体系的分析を行う。 我々は、異なる種類の道徳が協力、欠陥、搾取の出現に与える影響を分析する。
  論文  参考訳（メタデータ） (2023-01-20T09:36:42Z)
• Metaethical Perspectives on 'Benchmarking' AI Ethics [81.65697003067841]
  ベンチマークは、人工知能(AI)研究の技術的進歩を測定するための基盤とみられている。 AIの顕著な研究領域は倫理であり、現在、ベンチマークのセットも、AIシステムの「倫理性」を測定する一般的な方法もない。 我々は、現在と将来のAIシステムのアクションを考えるとき、倫理よりも「価値」について話す方が理にかなっていると論じる。
  論文  参考訳（メタデータ） (2022-04-11T14:36:39Z)
• Building Bridges: Generative Artworks to Explore AI Ethics [56.058588908294446]
  近年,人工知能(AI)技術が社会に与える影響の理解と緩和に重点が置かれている。 倫理的AIシステムの設計における重要な課題は、AIパイプラインには複数の利害関係者があり、それぞれがそれぞれ独自の制約と関心を持っていることだ。 このポジションペーパーは、生成的アートワークが、アクセス可能で強力な教育ツールとして機能することで、この役割を果たすことができる可能性のいくつかを概説する。
  論文  参考訳（メタデータ） (2021-06-25T22:31:55Z)
• Aligning AI With Shared Human Values [85.2824609130584]
  私たちは、正義、幸福、義務、美徳、常識道徳の概念にまたがる新しいベンチマークであるETHICSデータセットを紹介します。 現在の言語モデルは、基本的な人間の倫理的判断を予測できる有望だが不完全な能力を持っている。 私たちの研究は、今日の機械倫理の進歩を示しており、人間の価値観に合わせたAIへの足掛かりを提供する。
  論文  参考訳（メタデータ） (2020-08-05T17:59:16Z)
• Ethics in the digital era [0.0]
  倫理は、文明の起源から人類にとっての古代の物質であり、倫理は最も関係の深い人間の関心や決定的な文化と関係している。 人工知能とデータによって実現されているデジタル革命は、これらの技術の社会的応用に倫理的に悪質な問題をもたらしている。
  論文  参考訳（メタデータ） (2020-03-14T01:32:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。