論文の概要: MoralCLIP: Contrastive Alignment of Vision-and-Language Representations with Moral Foundations Theory

• arxiv url: http://arxiv.org/abs/2506.05696v1
• Date: Fri, 06 Jun 2025 02:52:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-09 17:28:43.299538
• Title: MoralCLIP: Contrastive Alignment of Vision-and-Language Representations with Moral Foundations Theory
• Title（参考訳）: MoralCLIP:Moral Foundations理論による視覚・言語表現のコントラストアライメント
• Authors: Ana Carolina Condez, Diogo Tavares, João Magalhães,
• Abstract要約: MoralCLIPは、明示的な道徳的根拠を持つマルチモーダル学習を拡張する新しい埋め込み表現法である。 MoralCLIPはマルチラベルデータセットSocial-Moral Image Databaseに基づいており、視覚コンテンツにおける道徳的基盤を同一視している。 以上の結果から,モラルコンテンツに対する一元的・多元的理解の両面において,明確なモラル監督が向上することが示唆された。
• 参考スコア（独自算出の注目度）: 8.486534745997396
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recent advances in vision-language models have enabled rich semantic understanding across modalities. However, these encoding methods lack the ability to interpret or reason about the moral dimensions of content-a crucial aspect of human cognition. In this paper, we address this gap by introducing MoralCLIP, a novel embedding representation method that extends multimodal learning with explicit moral grounding based on Moral Foundations Theory (MFT). Our approach integrates visual and textual moral cues into a unified embedding space, enabling cross-modal moral alignment. MoralCLIP is grounded on the multi-label dataset Social-Moral Image Database to identify co-occurring moral foundations in visual content. For MoralCLIP training, we design a moral data augmentation strategy to scale our annotated dataset to 15,000 image-text pairs labeled with MFT-aligned dimensions. Our results demonstrate that explicit moral supervision improves both unimodal and multimodal understanding of moral content, establishing a foundation for morally-aware AI systems capable of recognizing and aligning with human moral values.
• Abstract（参考訳）: 近年の視覚言語モデルの発展により、モダリティ間の豊かな意味理解が可能になった。 しかし、これらの符号化手法には、人間の認知の重要な側面である内容の道徳的次元を解釈または推論する能力がない。 本稿では,Moral Foundations Theory(MFT)に基づいた,モラル学習を明示的なモラルグラウンドで拡張する新しい埋め込み表現手法であるMoralCLIPを導入することにより,このギャップに対処する。 我々のアプローチは、視覚的およびテキスト的道徳的手がかりを統合的な埋め込み空間に統合し、モーダルな道徳的アライメントを可能にする。 MoralCLIPはマルチラベルデータセットSocial-Moral Image Databaseに基づいており、視覚コンテンツにおける道徳的基盤を同一視している。 MoralCLIPトレーニングでは、注釈付きデータセットを15,000の画像テキスト対に拡張するモラルデータ拡張戦略を設計する。 以上の結果から,モラルコンテンツに対する一元的・多元的理解が向上し,人間の道徳的価値観を認識・整合できる道徳的AIシステムの基礎が確立された。

関連論文リスト

• Are Language Models Consequentialist or Deontological Moral Reasoners? [69.85385952436044]
  我々は、大規模言語モデル(LLM)が提供する道徳的推論トレースの大規模分析に焦点をあてる。 我々は,2つの主要な規範的倫理理論,つまり連続主義と非オントロジーを体系的に分類するために,道徳的論理学の分類を導入し,検証する。
  論文  参考訳（メタデータ） (2025-05-27T17:51:18Z)
• MORALISE: A Structured Benchmark for Moral Alignment in Visual Language Models [38.0475868976819]
  視覚言語モデルは、自律運転や医療分析のような道徳的に敏感な領域に影響を与えている。 我々は,多種多様な専門家による実世界のデータを用いて,視覚言語モデルのモラルアライメントを評価するベンチマークMORALISEを紹介する。
  論文  参考訳（メタデータ） (2025-05-20T01:11:17Z)
• M$^3$oralBench: A MultiModal Moral Benchmark for LVLMs [66.78407469042642]
  LVLMのための最初のMultiModal Moral BenchmarkであるM$3$oralBenchを紹介する。 M$3$oralBench は Moral Foundations Vignettes (MFVs) の日常的なモラルシナリオを拡張し、テキストから画像への拡散モデル SD3.0 を用いて対応するシナリオイメージを作成する。 道徳基礎理論(MFT)の6つの道徳的基礎にまたがって道徳的評価を行い、道徳的判断、道徳的分類、道徳的対応の課題を含む。
  論文  参考訳（メタデータ） (2024-12-30T05:18:55Z)
• Rethinking Machine Ethics -- Can LLMs Perform Moral Reasoning through the Lens of Moral Theories? [78.3738172874685]
  倫理的AIシステムの開発には倫理的判断が不可欠である。 一般的なアプローチは主にボトムアップ方式で実装されており、モラルに関するクラウドソースの意見に基づいて、大量の注釈付きデータを使用してモデルをトレーニングする。 本研究は、学際的な研究から確立された道徳理論を用いて道徳的推論を行うために、言語モデル(LM)を操る柔軟なトップダウンフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-08-29T15:57:32Z)
• MoralDial: A Framework to Train and Evaluate Moral Dialogue Systems via Moral Discussions [71.25236662907056]
  ユーザの価値観に合わせた道徳的対話システムは、会話のエンゲージメントとユーザ接続を高めることができる。 道徳的対話システムを訓練・評価するための枠組みであるMoralDialを提案する。
  論文  参考訳（メタデータ） (2022-12-21T02:21:37Z)
• Identifying Morality Frames in Political Tweets using Relational Learning [27.047907641503762]
  道徳的感情はその目標によって動機付けられ、個人または集団的実体に対応することができる。 異なる主体に向けられた道徳的態度を組織化するための表現枠組みである道徳的枠組みを導入する。 本研究では,関係学習モデルを提案し,実体や道徳的基礎に対する道徳的態度を共同で予測する。
  論文  参考訳（メタデータ） (2021-09-09T19:48:57Z)
• Aligning AI With Shared Human Values [85.2824609130584]
  私たちは、正義、幸福、義務、美徳、常識道徳の概念にまたがる新しいベンチマークであるETHICSデータセットを紹介します。 現在の言語モデルは、基本的な人間の倫理的判断を予測できる有望だが不完全な能力を持っている。 私たちの研究は、今日の機械倫理の進歩を示しており、人間の価値観に合わせたAIへの足掛かりを提供する。
  論文  参考訳（メタデータ） (2020-08-05T17:59:16Z)
• Text-based inference of moral sentiment change [11.188112005462536]
  本研究では、縦型コーパスを用いて、一般大衆の道徳的感情変化を調査するためのテキストベースの枠組みを提案する。 ダイアクロニックな単語の埋め込みから学んだ道徳的バイアスを探索することで方法論を構築します。 我々の研究は、社会における道徳的感情の変化を特徴づけるために自然言語処理を適用する機会を提供する。
  論文  参考訳（メタデータ） (2020-01-20T18:52:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。