論文の概要: Can Valence Reflect Morality in Natural Language? A Preliminary Annotation Study
- arxiv url: http://arxiv.org/abs/2607.20461v1
- Date: Fri, 15 May 2026 08:58:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-27 00:46:13.18121
- Title: Can Valence Reflect Morality in Natural Language? A Preliminary Annotation Study
- Title（参考訳）: Valenceは自然言語における道徳を反映できるか? : 予備的注釈研究
- Abstract要約: 現在の人工知能(AI)倫理の実装は、感情や影響を十分に考慮していない。
本研究では、人間の倫理的行為を反映するAI行動の可能性について検討する。
- 参考スコア（独自算出の注目度）: 0.3372751145910977
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Present implementations of artificial intelligence (AI) ethics do not adequately take feelings, or affect, into account. If AI should be aligned with human ethics, it seems reasonable to thoroughly investigate the possibility of AI behaviour that mirrors virtuous human ethical conduct, where feelings play a role in the actions, judgements or statements one makes. Furthermore, while prominent theories of normative ethics are often discussed in terms of their differences and shortcomings, Virtue, Consequentialist, and Kantian Deontological ethics all share a common feature of considering human feeling to some degree while the popular descriptive ethics theory, Moral Foundations Theory, positions feelings as central to many of its foundations. Therefore, in the present paper, a data set of moral valence is proposed, consisting of 500 annotations by six human participants for both action/judgement and consequence moral valence, ranging from -1 to 1 for text-presented scenarios from the Commonsense Norm Bank data set. The resulting valence features share significant relationships with multi-class (immoral/discretionary/moral) and binary immoral/moral categories while additionally providing a noteworthy test set Matthew's correlation coefficient of 0.764 using regularised logistic regression for binary classification. This provides early evidence of the usefulness of valence features for morality estimation of text, indicating that valenced consequences of responses for others can be considered toward more human morally-aligned AI. In the interest of promoting further affective-moral computing research, this study's annotations will be made available for research on request.
- Abstract（参考訳）: 現在の人工知能(AI)倫理の実装は、感情や影響を十分に考慮していない。
もしAIが人間の倫理に沿うべきなら、人間の倫理的行為を反映するAI行動の可能性、感情が行動、判断、言明に果たす役割を徹底的に調査することは合理的であるように思われる。
さらに、規範的倫理の顕著な理論は相違点や欠点の観点から議論されることが多いが、ヴィルテュー、コンセクチュニスト、カンティアン・デオントロジーの倫理はいずれも、一般的な記述的倫理理論であるモラル・ファウンデーションズ・セオリー(英語版)が感情を多くの基礎の中心として位置づけているのに対して、人間の感情をある程度考慮する共通の特徴を共有している。
そこで本研究では,6人の参加者による行動/判断と結果の両面に対する500の注釈と,Commonsense Norm Bankデータセットからテキスト提示シナリオの-1から1までからなる道徳的価値のデータセットを提案する。
得られた有価関数は、多重クラス(不道徳/非道徳/道徳)と二項不道徳/道徳のカテゴリとの有意な関係を共有し、さらに二項分類に正規化ロジスティック回帰を用いた有価関数の相関係数 0.764 も与えている。
これは、テキストの道徳的推定に有能な特徴が有用であることを示す初期の証拠であり、他人に対する反応の有能な結果が、より人間の道徳的なAIに対して考慮できることを示している。
さらなる情緒的・道徳的コンピューティング研究を促進することを目的として,本研究のアノテーションを依頼研究に活用する。
関連論文リスト
- User identity conditions moral wrongness ratings in non-reasoning large language models [0.0]
2つの大言語モデル(LLM)におけるAI値アライメントの評価
我々は、Gert氏のモラルフレームワークから10の共通道徳ルールに対して、0から100までの誤り評価のモデルを求めます。
その結果, 道徳的判断は, 両モデルにまたがるユーザの役割によって異なることがわかった。
論文 参考訳（メタデータ） (2026-07-08T16:22:27Z) - Beyond Binary Moral Judgment: Modeling Ethical Pluralism in AI [4.745265450673144]
本稿では,道徳的推論を規範的倫理理論や倫理的多元論の分布としてモデル化する枠組みを提案する。
また,15種類の微粒なサブセトリーを対象とする450例のベンチマークを,重ね組立学習のために作成した。
本実験は,文脈的および規範的事前のセマンティック埋め込みとの統合により,分類性能が著しく向上することが実証された。
論文 参考訳（メタデータ） (2026-05-27T16:33:06Z) - The Morality of Probability: How Implicit Moral Biases in LLMs May Shape the Future of Human-AI Symbiosis [33.50773360893016]
本稿では,先導的なAIシステムが道徳的成果をどのように優先するかを検討する。
ケアとヴィルトゥーの価値は最も道徳的に評価され、リバタリアンの選択は一貫して罰せられていた。
また、AIを透明で整合性があり、将来的な共生へと導くための重要な設計原則として、説明可能性と文化意識の必要性を強調している。
論文 参考訳（メタデータ） (2025-09-12T14:37:57Z) - "Pull or Not to Pull?'': Investigating Moral Biases in Leading Large Language Models Across Ethical Dilemmas [11.229443362516207]
本研究は,14大言語モデル(LLM)の包括的実証評価である。
我々は3,780の二項決定と自然言語の正当性を抽出し、決定的断定性、説明的回答の整合性、公的な道徳的整合性、倫理的に無関係な手がかりに対する感受性の軸に沿った分析を可能にした。
我々は、LLMのアライメントにおいて、道徳的推論が主軸となることを主張し、LLMが決定するものだけでなく、どのように、なぜかを評価する標準ベンチマークを要求している。
論文 参考訳（メタデータ） (2025-08-10T10:45:16Z) - Moral Sparks in Social Media Narratives [14.025768295979184]
実生活における倫理的シナリオにおける人間の道徳的判断を理解するために,ソーシャルメディア上でのインタラクションを検討する。
具体的には、r/AmITheAssholeと呼ばれるRedditの人気のサブレディット(サブコミュニティ)の投稿を調べる。
論文 参考訳（メタデータ） (2023-10-30T05:03:26Z) - What Makes it Ok to Set a Fire? Iterative Self-distillation of Contexts
and Rationales for Disambiguating Defeasible Social and Moral Situations [48.686872351114964]
道徳的または倫理的な判断は、それらが起こる特定の文脈に大きく依存する。
我々は,行動が多かれ少なかれ道徳的に容認されるような,根底的な文脈を提供するという,デファシブルな道徳的推論を導入する。
文脈化と論理の1.2M項目からなる高品質なデータセットを115Kデファシブルな道徳行動のために蒸留する。
論文 参考訳（メタデータ） (2023-10-24T00:51:29Z) - Rethinking Machine Ethics -- Can LLMs Perform Moral Reasoning through the Lens of Moral Theories? [78.3738172874685]
倫理的AIシステムの開発には倫理的判断が不可欠である。
一般的なアプローチは主にボトムアップ方式で実装されており、モラルに関するクラウドソースの意見に基づいて、大量の注釈付きデータを使用してモデルをトレーニングする。
本研究は、学際的な研究から確立された道徳理論を用いて道徳的推論を行うために、言語モデル(LM)を操る柔軟なトップダウンフレームワークを提案する。
論文 参考訳（メタデータ） (2023-08-29T15:57:32Z) - ClarifyDelphi: Reinforced Clarification Questions with Defeasibility
Rewards for Social and Moral Situations [81.70195684646681]
本稿では,ClarifyDelphiという対話型システムについて紹介する。
我々は、潜在的な答えが道徳的判断の多様化に繋がる質問が最も有益であると仮定する。
私たちの研究は究極的には、道徳的認知の柔軟性を研究してきた認知科学の研究にインスピレーションを受けています。
論文 参考訳（メタデータ） (2022-12-20T16:33:09Z) - Metaethical Perspectives on 'Benchmarking' AI Ethics [81.65697003067841]
ベンチマークは、人工知能(AI)研究の技術的進歩を測定するための基盤とみられている。
AIの顕著な研究領域は倫理であり、現在、ベンチマークのセットも、AIシステムの「倫理性」を測定する一般的な方法もない。
我々は、現在と将来のAIシステムのアクションを考えるとき、倫理よりも「価値」について話す方が理にかなっていると論じる。
論文 参考訳（メタデータ） (2022-04-11T14:36:39Z) - Delphi: Towards Machine Ethics and Norms [38.8316885346292]
機械倫理と規範に対する4つの根本的な課題を特定します。
私たちのプロトタイプモデルであるDelphiは、言語ベースのコモンセンス道徳的推論の強い可能性を実証しています。
我々は,機械用にカスタマイズされた道徳教科書であるCommonsense Norm Bankを提示する。
論文 参考訳（メタデータ） (2021-10-14T17:38:12Z) - Scruples: A Corpus of Community Ethical Judgments on 32,000 Real-Life
Anecdotes [72.64975113835018]
記述倫理に動機づけられた我々は、機械倫理に対する新しいデータ駆動アプローチを調査する。
Scruplesは、625,000の倫理的判断を持つ最初の大規模データセットで、32,000の実生活の逸話について紹介する。
我々のデータセットは最先端のニューラルネットワークモデルに対して大きな課題を示し、改善の余地を残しています。
論文 参考訳（メタデータ） (2020-08-20T17:34:15Z) - Aligning AI With Shared Human Values [85.2824609130584]
私たちは、正義、幸福、義務、美徳、常識道徳の概念にまたがる新しいベンチマークであるETHICSデータセットを紹介します。
現在の言語モデルは、基本的な人間の倫理的判断を予測できる有望だが不完全な能力を持っている。
私たちの研究は、今日の機械倫理の進歩を示しており、人間の価値観に合わせたAIへの足掛かりを提供する。
論文 参考訳（メタデータ） (2020-08-05T17:59:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。