論文の概要: EALM: Introducing Multidimensional Ethical Alignment in Conversational Information Retrieval

• arxiv url: http://arxiv.org/abs/2310.00970v1
• Date: Mon, 2 Oct 2023 08:22:34 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-04 22:52:51.228112
• Title: EALM: Introducing Multidimensional Ethical Alignment in Conversational Information Retrieval
• Title（参考訳）: EALM:会話情報検索における多次元倫理アライメントの導入
• Authors: Yiyao Yu, Junjie Wang, Yuxiang Zhang, Lin Zhang, Yujiu Yang, Tetsuya Sakai
• Abstract要約: 我々は、倫理的アライメントを、効率的なデータスクリーニングのための初期倫理的判断段階と統合するワークフローを導入する。 本稿では,ETHICSベンチマークから適応したQA-ETHICSデータセットについて述べる。 さらに,二項および多ラベルの倫理的判断タスクにおいて,最高の性能を実現する新しい手法を提案する。
• 参考スコア（独自算出の注目度）: 43.72331337131317
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Artificial intelligence (AI) technologies should adhere to human norms to better serve our society and avoid disseminating harmful or misleading information, particularly in Conversational Information Retrieval (CIR). Previous work, including approaches and datasets, has not always been successful or sufficiently robust in taking human norms into consideration. To this end, we introduce a workflow that integrates ethical alignment, with an initial ethical judgment stage for efficient data screening. To address the need for ethical judgment in CIR, we present the QA-ETHICS dataset, adapted from the ETHICS benchmark, which serves as an evaluation tool by unifying scenarios and label meanings. However, each scenario only considers one ethical concept. Therefore, we introduce the MP-ETHICS dataset to evaluate a scenario under multiple ethical concepts, such as justice and Deontology. In addition, we suggest a new approach that achieves top performance in both binary and multi-label ethical judgment tasks. Our research provides a practical method for introducing ethical alignment into the CIR workflow. The data and code are available at https://github.com/wanng-ide/ealm .
• Abstract（参考訳）: 人工知能(AI)技術は、社会により良いサービスを提供し、有害または誤解を招く情報、特に会話情報検索(CIR)において拡散を避けるために、人間の規範に従うべきである。 アプローチやデータセットを含む以前の仕事は、常に人間の規範を考慮に入れるのに成功し、十分に堅牢であるとは限らない。 この目的のために,効率的なデータスクリーニングのための最初の倫理的判断段階と,倫理的アライメントを統合するワークフローを紹介する。 CIRにおける倫理的判断の必要性に対処するため,シナリオとラベルの意味を統一した評価ツールであるETHICSベンチマークを応用したQA-ETHICSデータセットを提案する。 しかし、それぞれのシナリオは1つの倫理的概念しか考慮していない。 そこで我々は,MP-ETHICSデータセットを導入して,正義やデオントロジーといった複数の倫理的概念の下でシナリオを評価する。 さらに,バイナリとマルチラベルの倫理判断タスクにおいて,トップパフォーマンスを達成するための新たなアプローチを提案する。 本研究は,CIRワークフローに倫理的アライメントを導入するための実践的手法を提供する。 データとコードはhttps://github.com/wanng-ide/ealmで入手できる。

関連論文リスト

• Eagle: Ethical Dataset Given from Real Interactions [74.7319697510621]
  社会的バイアス、毒性、不道徳な問題を示すChatGPTとユーザ間の実際のインタラクションから抽出されたデータセットを作成します。 我々の実験では、イーグルは、そのような倫理的課題の評価と緩和のために提案された既存のデータセットでカバーされていない相補的な側面を捉えている。
  論文  参考訳（メタデータ） (2024-02-22T03:46:02Z)
• Unpacking the Ethical Value Alignment in Big Models [46.560886177083084]
  本稿では,ビッグモデルに関連するリスクと課題の概要,既存のAI倫理ガイドラインを調査し,これらのモデルの限界から生じる倫理的影響について考察する。 本稿では,大規模モデルの倫理的価値を整合させる新しい概念パラダイムを導入し,アライメント基準,評価,方法に関する有望な研究方向性について議論する。
  論文  参考訳（メタデータ） (2023-10-26T16:45:40Z)
• Applying Standards to Advance Upstream & Downstream Ethics in Large Language Models [0.0]
  本稿では,AIが生成するコンテンツの保護をAI所有者がいかに開発できるかを考察する。 他のコンテンツ制作業界では、行動規範や倫理基準が確立されている。
  論文  参考訳（メタデータ） (2023-06-06T08:47:42Z)
• Metaethical Perspectives on 'Benchmarking' AI Ethics [81.65697003067841]
  ベンチマークは、人工知能(AI)研究の技術的進歩を測定するための基盤とみられている。 AIの顕著な研究領域は倫理であり、現在、ベンチマークのセットも、AIシステムの「倫理性」を測定する一般的な方法もない。 我々は、現在と将来のAIシステムのアクションを考えるとき、倫理よりも「価値」について話す方が理にかなっていると論じる。
  論文  参考訳（メタデータ） (2022-04-11T14:36:39Z)
• Achieving a Data-driven Risk Assessment Methodology for Ethical AI [3.523208537466128]
  我々は,AIを用いた組織が直面する倫理的・社会的リスクの実践的定義の基盤として,多分野の研究アプローチが重要であることを示す。 本稿では,DRESS-eAIという新たなリスク評価手法を提案する。
  論文  参考訳（メタデータ） (2021-11-29T12:55:33Z)
• Ethics Sheets for AI Tasks [25.289525325790414]
  私は、個々のモデルやデータセットのレベルだけでなく、AIタスクのレベルにおいても倫理的考慮事項について考えることにしました。 このような取り組みの新たな形態として、AIタスクのための倫理表(Ethics Sheets for AI Tasks)を紹介します。
  論文  参考訳（メタデータ） (2021-07-02T16:45:40Z)
• An Ethical Highlighter for People-Centric Dataset Creation [62.886916477131486]
  本稿では,既存のデータセットの倫理的評価を導くための分析フレームワークを提案する。 我々の研究は、先行研究のレビューと分析によって知らされ、そのような倫理的課題が生じる場所を強調します。
  論文  参考訳（メタデータ） (2020-11-27T07:18:44Z)
• Implementing AI Ethics in Practice: An Empirical Evaluation of the RESOLVEDD Strategy [6.7298812735467095]
  我々は,ビジネス倫理学の分野であるRESOLVEDD戦略から,倫理システム開発の文脈において,既存の手法を実証的に評価する。 私たちの重要な発見の1つは、倫理的手法の使用が参加者に強制されたとしても、その利用はプロジェクトにおける倫理的配慮を促進したことである。
  論文  参考訳（メタデータ） (2020-04-21T17:58:53Z)
• On the Morality of Artificial Intelligence [154.69452301122175]
  本稿では,機械学習の研究・展開に関する概念的かつ実践的な原則とガイドラインを提案する。 我々は,より倫理的で道徳的なMLの実践を追求するために,実践者が採る具体的な行動を主張している。
  論文  参考訳（メタデータ） (2019-12-26T23:06:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。