Fugu-MT 論文翻訳(概要): Morality is Contextual: Learning Interpretable Moral Contexts from Human Data with Probabilistic Clustering and Large Language Models

論文の概要: Morality is Contextual: Learning Interpretable Moral Contexts from Human Data with Probabilistic Clustering and Large Language Models

arxiv url: http://arxiv.org/abs/2512.21439v1
Date: Wed, 24 Dec 2025 22:16:04 GMT
ステータス: 情報取得中
システム内更新日: 2025-12-29 11:53:29.834608
Title: Morality is Contextual: Learning Interpretable Moral Contexts from Human Data with Probabilistic Clustering and Large Language Models
Title（参考訳）: 道徳は文脈である:確率的クラスタリングと大規模言語モデルを用いた人間のデータから解釈可能な道徳的文脈を学習する
Authors: Geoffroy Morlat, Marceau Nahon, Augustin Chartouny, Raja Chatila, Ismael T. Freire, Mehdi Khamassi,
Abstract要約: COMETH (Contextual Organization of Moral Evaluation from Textual Human inputs) は、確率論的文脈学習者とLLMに基づく意味論的抽象化と人間の道徳的評価を統合したフレームワークである。我々は、6つのコアアクションにまたがる300のシナリオを経験的に基礎づけたデータセットをキュレートし、N=101の参加者から3つの判断を収集する。前処理パイプラインは、LLMフィルタとMiniLMをK-meansで埋め込んだアクションを標準化し、堅牢で再現可能なコアアクションクラスタを生成する。一般化モジュールは、予測を一般化し、説明するために、簡潔で非評価のバイナリコンテキスト特徴を抽出し、透明な可能性で特徴重みを学習する。
参考スコア（独自算出の注目度）: 0.6003448250024276
License:
Abstract: Moral actions are judged not only by their outcomes but by the context in which they occur. We present COMETH (Contextual Organization of Moral Evaluation from Textual Human inputs), a framework that integrates a probabilistic context learner with LLM-based semantic abstraction and human moral evaluations to model how context shapes the acceptability of ambiguous actions. We curate an empirically grounded dataset of 300 scenarios across six core actions (violating Do not kill, Do not deceive, and Do not break the law) and collect ternary judgments (Blame/Neutral/Support) from N=101 participants. A preprocessing pipeline standardizes actions via an LLM filter and MiniLM embeddings with K-means, producing robust, reproducible core-action clusters. COMETH then learns action-specific moral contexts by clustering scenarios online from human judgment distributions using principled divergence criteria. To generalize and explain predictions, a Generalization module extracts concise, non-evaluative binary contextual features and learns feature weights in a transparent likelihood-based model. Empirically, COMETH roughly doubles alignment with majority human judgments relative to end-to-end LLM prompting (approx. 60% vs. approx. 30% on average), while revealing which contextual features drive its predictions. The contributions are: (i) an empirically grounded moral-context dataset, (ii) a reproducible pipeline combining human judgments with model-based context learning and LLM semantics, and (iii) an interpretable alternative to end-to-end LLMs for context-sensitive moral prediction and explanation.
Abstract（参考訳）: 道徳的行動は、結果だけでなく、それらが起こる状況によって判断される。 COMETH (Contextual Organization of Moral Evaluation from Textual Human inputs) は、確率論的文脈学習者とLLMに基づく意味論的抽象化と人間の道徳的評価を統合し、文脈があいまいな行動の受容性をどのように形成するかをモデル化するフレームワークである。 N=101の参加者から3つの判断(Blame/Neutral/Support)を収集する。前処理パイプラインは、LLMフィルタとMiniLMをK-meansで埋め込んだアクションを標準化し、堅牢で再現可能なコアアクションクラスタを生成する。次にCOMETHは、原則的分岐基準を用いて、人間の判断分布からオンラインのシナリオをクラスタリングすることで、行動固有の道徳的文脈を学習する。一般化モジュールは、予測を一般化し、説明するために、簡潔で非評価のバイナリコンテキスト特徴を抽出し、透過的可能性に基づくモデルで特徴重みを学習する。実証的には、COMETHは、エンド・ツー・エンドのLSMのプロンプト(平均で約60%、平均で約30%)に対して、ほとんどの人間の判断とほぼ一致し、どの文脈的特徴が予測を駆動するかを明らかにしている。コントリビューションは以下の通り。 (i)経験的に基づいた道徳的文脈データセット二人間の判断とモデルに基づく文脈学習とLLM意味論を組み合わせた再現可能なパイプライン三文脈に敏感な道徳的予測及び説明のためのエンドツーエンドLLMの解釈可能な代替手段。

論文の概要: Morality is Contextual: Learning Interpretable Moral Contexts from Human Data with Probabilistic Clustering and Large Language Models

関連論文リスト