Fugu-MT 論文翻訳(概要): Contextualized moral inference

論文の概要: Contextualized moral inference

arxiv url: http://arxiv.org/abs/2008.10762v1
Date: Tue, 25 Aug 2020 00:34:28 GMT
ステータス: 処理完了
システム内更新日: 2022-10-25 03:44:00.944434
Title: Contextualized moral inference
Title（参考訳）: 文脈化された道徳的推論
Authors: Jing Yi Xie, Graeme Hirst, Yang Xu
Abstract要約: 本稿では,道徳的ヴィグネットの直感的な判断をテキストベースで予測する手法を提案する。文脈化された表現は、代替表現よりもかなり有利であることを示す。
参考スコア（独自算出の注目度）: 12.574316678945195
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Developing moral awareness in intelligent systems has shifted from a topic of philosophical inquiry to a critical and practical issue in artificial intelligence over the past decades. However, automated inference of everyday moral situations remains an under-explored problem. We present a text-based approach that predicts people's intuitive judgment of moral vignettes. Our methodology builds on recent work in contextualized language models and textual inference of moral sentiment. We show that a contextualized representation offers a substantial advantage over alternative representations based on word embeddings and emotion sentiment in inferring human moral judgment, evaluated and reflected in three independent datasets from moral psychology. We discuss the promise and limitations of our approach toward automated textual moral reasoning.
Abstract（参考訳）: 知的システムにおける道徳意識の発達は、過去数十年間、哲学的調査の話題から、人工知能における批判的かつ実用的な問題へとシフトしてきた。しかし、日常的な道徳的状況の自動推論は未解決の問題である。モラルヴィグネットに対する人々の直感的判断を予測するテキストベースアプローチを提案する。我々の方法論は、コンテキスト化された言語モデルと道徳的感情のテキスト推論における最近の研究に基づいている。文脈化表現は、人間のモラル判断を推測する上で、単語埋め込みや感情感情に基づく代替表現よりも大きなアドバンテージを示し、モラル心理学の3つの独立したデータセットで評価され、反映される。我々は,テキストの自動的モラル推論へのアプローチの約束と限界について論じる。

関連論文リスト

Decoding moral judgement from text: a pilot study [0.0]
道徳的判断は、認知的・感情的な次元に関わる複雑な人間の反応である。受動的脳-コンピュータインタフェースを用いたテキスト刺激による道徳的判断復号の実現可能性について検討する。
論文参考訳（メタデータ） (2024-05-28T20:31:59Z)
Rethinking Machine Ethics -- Can LLMs Perform Moral Reasoning through the Lens of Moral Theories? [78.3738172874685]
倫理的AIシステムの開発には倫理的判断が不可欠である。一般的なアプローチは主にボトムアップ方式で実装されており、モラルに関するクラウドソースの意見に基づいて、大量の注釈付きデータを使用してモデルをトレーニングする。本研究は、学際的な研究から確立された道徳理論を用いて道徳的推論を行うために、言語モデル(LM)を操る柔軟なトップダウンフレームワークを提案する。
論文参考訳（メタデータ） (2023-08-29T15:57:32Z)
MoralDial: A Framework to Train and Evaluate Moral Dialogue Systems via Moral Discussions [71.25236662907056]
ユーザの価値観に合わせた道徳的対話システムは、会話のエンゲージメントとユーザ接続を高めることができる。道徳的対話システムを訓練・評価するための枠組みであるMoralDialを提案する。
論文参考訳（メタデータ） (2022-12-21T02:21:37Z)
ClarifyDelphi: Reinforced Clarification Questions with Defeasibility Rewards for Social and Moral Situations [81.70195684646681]
本稿では,ClarifyDelphiという対話型システムについて紹介する。我々は、潜在的な答えが道徳的判断の多様化に繋がる質問が最も有益であると仮定する。私たちの研究は究極的には、道徳的認知の柔軟性を研究してきた認知科学の研究にインスピレーションを受けています。
論文参考訳（メタデータ） (2022-12-20T16:33:09Z)
When to Make Exceptions: Exploring Language Models as Accounts of Human Moral Judgment [96.77970239683475]
AIシステムは人間の道徳的判断や決定を理解し、解釈し、予測しなければなりません。 AIの安全性に対する中心的な課題は、人間の道徳心の柔軟性を捉えることだ。ルール破りの質問応答からなる新しい課題セットを提案する。
論文参考訳（メタデータ） (2022-10-04T09:04:27Z)
A Corpus for Understanding and Generating Moral Stories [84.62366141696901]
機械のこれらの能力を評価するために,2つの理解タスクと2つの世代タスクを提案する。我々は、中国語と英語で書かれた道徳的物語の新しいデータセットであるSTORALを提示する。
論文参考訳（メタデータ） (2022-04-20T13:12:36Z)
The Moral Integrity Corpus: A Benchmark for Ethical Dialogue Systems [36.90292508433193]
道徳的判断は普遍的ではないので、道徳的偏見を緩和することは困難である。 Moral Integrity Corpusは38kの即応対の道徳的仮定を捉えている。我々は、現在のニューラルネットワークモデルが、これまで見つからなかったインタラクションを合理的に記述する新しいRoTを自動生成できることを示します。
論文参考訳（メタデータ） (2022-04-06T18:10:53Z)
A Word on Machine Ethics: A Response to Jiang et al. (2021) [36.955224006838584]
本稿では,最近提案されたDelphiモデルの単一事例研究に焦点をあて,モラル判断を自動化するためのプロジェクト提案手法の批判を提供する。我々は、現在および近未来の技術の活用に焦点をあてて、機械倫理がいかに有効に進むかについて議論した。
論文参考訳（メタデータ） (2021-11-07T19:31:51Z)
Identifying Morality Frames in Political Tweets using Relational Learning [27.047907641503762]
道徳的感情はその目標によって動機付けられ、個人または集団的実体に対応することができる。異なる主体に向けられた道徳的態度を組織化するための表現枠組みである道徳的枠組みを導入する。本研究では,関係学習モデルを提案し,実体や道徳的基礎に対する道徳的態度を共同で予測する。
論文参考訳（メタデータ） (2021-09-09T19:48:57Z)
Aligning AI With Shared Human Values [85.2824609130584]
私たちは、正義、幸福、義務、美徳、常識道徳の概念にまたがる新しいベンチマークであるETHICSデータセットを紹介します。現在の言語モデルは、基本的な人間の倫理的判断を予測できる有望だが不完全な能力を持っている。私たちの研究は、今日の機械倫理の進歩を示しており、人間の価値観に合わせたAIへの足掛かりを提供する。
論文参考訳（メタデータ） (2020-08-05T17:59:16Z)
Text-based inference of moral sentiment change [11.188112005462536]
本研究では、縦型コーパスを用いて、一般大衆の道徳的感情変化を調査するためのテキストベースの枠組みを提案する。ダイアクロニックな単語の埋め込みから学んだ道徳的バイアスを探索することで方法論を構築します。我々の研究は、社会における道徳的感情の変化を特徴づけるために自然言語処理を適用する機会を提供する。
論文参考訳（メタデータ） (2020-01-20T18:52:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。