論文の概要: Decoding moral judgement from text: a pilot study

• arxiv url: http://arxiv.org/abs/2407.00039v1
• Date: Tue, 28 May 2024 20:31:59 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-22 22:38:24.176766
• Title: Decoding moral judgement from text: a pilot study
• Title（参考訳）: 道徳的判断をテキストから復号する:パイロット研究
• Authors: Diana E. Gherman, Thorsten O. Zander,
• Abstract要約: 道徳的判断は、認知的・感情的な次元に関わる複雑な人間の反応である。 受動的脳-コンピュータインタフェースを用いたテキスト刺激による道徳的判断復号の実現可能性について検討する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Moral judgement is a complex human reaction that engages cognitive and emotional dimensions. While some of the morality neural correlates are known, it is currently unclear if we can detect moral violation at a single-trial level. In a pilot study, here we explore the feasibility of moral judgement decoding from text stimuli with passive brain-computer interfaces. For effective moral judgement elicitation, we use video-audio affective priming prior to text stimuli presentation and attribute the text to moral agents. Our results show that further efforts are necessary to achieve reliable classification between moral congruency vs. incongruency states. We obtain good accuracy results for neutral vs. morally-charged trials. With this research, we try to pave the way towards neuroadaptive human-computer interaction and more human-compatible large language models (LLMs)
• Abstract（参考訳）: 道徳的判断は、認知的・感情的な次元に関わる複雑な人間の反応である。 道徳的神経相関のいくつかは知られているが、単一の裁判所レベルで道徳的違反を検出することができるかどうかはまだ分かっていない。 本稿では,受動的脳-コンピュータインタフェースを用いたテキスト刺激による道徳的判断復号の実現可能性について検討する。 効果的な道徳的判断の誘因として,テキスト刺激提示に先立って映像音声による情緒的プライミングを用い,そのテキストを道徳的エージェントに属性付けする。 以上の結果から,道徳的整合性と不整合状態との信頼性の高い分類を実現するためには,さらなる努力が必要であることが示唆された。 我々は、中立と道徳的にチャージされた試験の精度の良い結果を得る。 本研究では,ニューロアダプティブな人間-コンピュータインタラクションと,より人間互換な大規模言語モデル(LLM)への道を開くことを目的とする。

関連論文リスト

• Morality is Non-Binary: Building a Pluralist Moral Sentence Embedding Space using Contrastive Learning [4.925187725973777]
  複数の道徳哲学者は、人間の道徳性は有限個の要素に分解できると主張している。 我々は、最先端のコントラスト学習アプローチにより、多元的道徳文埋め込み空間を構築する。 以上の結果から,モラルに対する多元的アプローチを埋め込み空間で捉えることが可能であることが示唆された。
  論文  参考訳（メタデータ） (2024-01-30T18:15:25Z)
• Rethinking Machine Ethics -- Can LLMs Perform Moral Reasoning through the Lens of Moral Theories? [78.3738172874685]
  倫理的AIシステムの開発には倫理的判断が不可欠である。 一般的なアプローチは主にボトムアップ方式で実装されており、モラルに関するクラウドソースの意見に基づいて、大量の注釈付きデータを使用してモデルをトレーニングする。 本研究は、学際的な研究から確立された道徳理論を用いて道徳的推論を行うために、言語モデル(LM)を操る柔軟なトップダウンフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-08-29T15:57:32Z)
• MoralDial: A Framework to Train and Evaluate Moral Dialogue Systems via Moral Discussions [71.25236662907056]
  ユーザの価値観に合わせた道徳的対話システムは、会話のエンゲージメントとユーザ接続を高めることができる。 道徳的対話システムを訓練・評価するための枠組みであるMoralDialを提案する。
  論文  参考訳（メタデータ） (2022-12-21T02:21:37Z)
• ClarifyDelphi: Reinforced Clarification Questions with Defeasibility Rewards for Social and Moral Situations [81.70195684646681]
  本稿では,ClarifyDelphiという対話型システムについて紹介する。 我々は、潜在的な答えが道徳的判断の多様化に繋がる質問が最も有益であると仮定する。 私たちの研究は究極的には、道徳的認知の柔軟性を研究してきた認知科学の研究にインスピレーションを受けています。
  論文  参考訳（メタデータ） (2022-12-20T16:33:09Z)
• When to Make Exceptions: Exploring Language Models as Accounts of Human Moral Judgment [96.77970239683475]
  AIシステムは人間の道徳的判断や決定を理解し、解釈し、予測しなければなりません。 AIの安全性に対する中心的な課題は、人間の道徳心の柔軟性を捉えることだ。 ルール破りの質問応答からなる新しい課題セットを提案する。
  論文  参考訳（メタデータ） (2022-10-04T09:04:27Z)
• The Moral Integrity Corpus: A Benchmark for Ethical Dialogue Systems [36.90292508433193]
  道徳的判断は普遍的ではないので、道徳的偏見を緩和することは困難である。 Moral Integrity Corpusは38kの即応対の道徳的仮定を捉えている。 我々は、現在のニューラルネットワークモデルが、これまで見つからなかったインタラクションを合理的に記述する新しいRoTを自動生成できることを示します。
  論文  参考訳（メタデータ） (2022-04-06T18:10:53Z)
• What Would Jiminy Cricket Do? Towards Agents That Behave Morally [59.67116505855223]
  テキストベースのアドベンチャーゲーム25の環境スイートであるJimy Cricketを紹介します。 あらゆる可能なゲーム状態に注釈を付けることで、ジミニー・クリケット環境は、報酬を最大化しながら、エージェントが道徳的に行動できるかどうかを確実に評価する。 広範囲な実験において, 人工的良心アプローチは, パフォーマンスを犠牲にすることなく, 道徳的行動にエージェントを向けることができることがわかった。
  論文  参考訳（メタデータ） (2021-10-25T17:59:31Z)
• Contextualized moral inference [12.574316678945195]
  本稿では,道徳的ヴィグネットの直感的な判断をテキストベースで予測する手法を提案する。 文脈化された表現は、代替表現よりもかなり有利であることを示す。
  論文  参考訳（メタデータ） (2020-08-25T00:34:28Z)
• Aligning AI With Shared Human Values [85.2824609130584]
  私たちは、正義、幸福、義務、美徳、常識道徳の概念にまたがる新しいベンチマークであるETHICSデータセットを紹介します。 現在の言語モデルは、基本的な人間の倫理的判断を予測できる有望だが不完全な能力を持っている。 私たちの研究は、今日の機械倫理の進歩を示しており、人間の価値観に合わせたAIへの足掛かりを提供する。
  論文  参考訳（メタデータ） (2020-08-05T17:59:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。