論文の概要: How Language Models Organize and Structure Moral Knowledge

• arxiv url: http://arxiv.org/abs/2608.27402v1
• Date: Thu, 27 Aug 2026 17:30:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-28 16:30:58.512657
• Title: How Language Models Organize and Structure Moral Knowledge
• Title（参考訳）: 言語モデルがどのように組織化し、モラル知識を構築するか
• Abstract要約: オープンウェイト言語モデル上で6つの独立した線形プローブを訓練する。 方向は1つの道徳的検知器に崩壊することも、互いに孤立することもない。 このモデルは道徳的な緊張そのものを表しており、未解決の判断ではない。
• 参考スコア（独自算出の注目度）: 1.0829694003408499
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: How do large language models (LLMs) organize moral knowledge? Models detect moral content broadly, but detection is a low bar. We ask whether they go further, distinguishing moral foundations from one another and organizing the relationships between them geometrically. We train six independent linear probes on open-weight language models, one per Moral Foundations Theory (MFT) category (care/harm, fair/cheat, lib/oppress, loy/betray, auth/subv, sanc/degrade), and examine how the resulting directions relate to each other in representation space. We find the directions neither collapse into a single moral detector nor isolate from one another. Rather, they span a near-maximal number of independent dimensions while sharing a positive common component. The shared component is the signature of integration, and it is moral-specific relative to a matched non-moral concept battery built identically (mean pairwise cosine 0.26 vs. 0.013). The geometry is consistent across architectures and scale and reaches its integration regime early in pre-training, well before probe accuracy saturates. The structure the model discovers shows no evidence of the individualizing/binding distinction predicted by Moral Foundations Theory (an underpowered test: only 20 candidate partitions exist) but rather reflects corpus statistics. Extending to moral dilemmas, each dilemma direction partially composes from its component foundations, at 2.7x a mismatched-pair baseline, while the majority of its variance encodes conflict-specific structure. The model represents moral tension itself, not a pre-resolved judgment.
• Abstract（参考訳）: 大規模言語モデル(LLM)は道徳的知識をどのように組織化するのか? モデルは道徳的コンテンツを広範囲に検知するが、検出は低いバーである。 道徳的基盤を互いに区別し、それらの関係を幾何学的に整理し、それらをさらに進めるかどうかを問う。 オープンウェイト言語モデル上で、6つの独立した線形プローブをトレーニングし、1つはMFT(Moral Foundations Theory)カテゴリ(care/harm, fair/cheat, lib/oppress, loy/betray, auth/subv, sanc/degrade)を訓練し、結果の方向が表現空間内でどのように関連しているかを調べる。 我々は、方向が一つの道徳的検知器に崩壊することも、互いに孤立することもないことに気付きました。 むしろ、それらは正の共通成分を共有しながら、ほぼ最大数の独立次元にまたがる。 共有コンポーネントは統合のシグネチャであり、一致した非道徳的コンセプトのバッテリー(対対対のコサイン0.26 vs. 0.013)に対して道徳的特有である。 幾何学はアーキテクチャとスケールで整合性があり、プローブ精度が飽和する前に、事前学習の初期段階で統合体制に達する。 モデルが発見する構造は、モラル・ファンデーションズ・セオリー(英語版)によって予測される個人化/結合の区別の証拠を示さず、むしろコーパス統計を反映している。 道徳的ジレンマに拡張され、それぞれのジレンマ方向は、その構成要素の基盤から部分的に構成され、2.7倍のミスマッチペアベースラインを持つ。 このモデルは道徳的な緊張そのものを表しており、未解決の判断ではない。

関連論文リスト

• Split the Labor: Separating Evidence Interpretation from Decision Aggregation [0.0]
  言語モデルに多くの情報源から結論に達するよう要求するシステムは通常、それらを1つのプロンプトに分割する。 提案する4分野のエビデンス(仮説,信頼性バケット,合理性,証明)は,両半減期を決定することを示す。 この修正はアーキテクチャよりも算術的であり、言語モデル以外のルールのクラスに適用される。
  論文  参考訳（メタデータ） (2026-08-14T17:24:55Z)
• Every Act Has Its Price: Compressed Moral Composition in Frontier LLMs [9.605269355662093]
  モラル・トロリー・アリーナ*(Moral Trolley Arena*)は、LLMが道徳的証拠を構成する方法を測定するための2段階のブラインドELOベンチマークである。 単シーンのアリーナは5つのモラル・ファンデーションズ・ソサエティの財団からなる229のscenario corpusから個々の道徳的行為を分類する。 複合アリーナはその後、調整された行為を制御された強度格子上の2つの作用する道徳的項目に結合し、結果として生じる複合的嗜好を測定する。
  論文  参考訳（メタデータ） (2026-05-29T02:36:10Z)
• Mechanistic Origin of Moral Indifference in Language Models [17.89411060814224]
  既存のLLM(Large Language Models)の行動アライメント技術は、表面コンプライアンスと内部の非整合表現の相違を無視することが多い。 我々は、プロトタイプ理論と社会化学101データセットに基づいて構築された251kの道徳的ベクトルを用いて、LLMの潜在表現におけるこの無関心を検証、改善する。 次に、Qwen3-8B上でスパースオートエンコーダを使用し、単意味的道徳的特徴を分離し、そのトポロジ的関係を目的的に再構築し、基幹的道徳的ベクトルと整合させる。
  論文  参考訳（メタデータ） (2026-03-16T17:59:17Z)
• Tracing Moral Foundations in Large Language Models [33.17451937747417]
  本研究では,道徳的基盤の符号化,組織化,および2つの命令調整型大規模言語モデル内での表現について検討する。 どちらのモデルも、人間の判断に沿う構造化された層依存的な方法で道徳的基礎を表現し、区別することを発見した。
  論文  参考訳（メタデータ） (2026-01-09T00:09:28Z)
• MORABLES: A Benchmark for Assessing Abstract Moral Reasoning in LLMs with Fables [50.29407048003165]
  MORABLESは,歴史文献から引用されたファブレットと短編から構築された人間検証ベンチマークである。 主なタスクは、道徳的推論をターゲットとした複数選択の質問として構成されており、モデルが浅く抽出された質問応答を超えるよう挑戦する注意深い注意を払っている。 以上の結果から,より大きなモデルはより小さなモデルよりも優れているが,敵の操作に敏感であり,真の道徳的推論よりも表面的パターンに頼っていることが示唆された。
  論文  参考訳（メタデータ） (2025-09-15T19:06:10Z)
• The Moral Mind(s) of Large Language Models [0.0]
  大規模言語モデル (LLM) は、その決定を導く道徳的嗜好の一貫性のある構造を示す。 確率論的合理性テストを用いて、各主要プロバイダの少なくとも1つのモデルが、ほぼ安定した道徳的嗜好と整合した振る舞いを示した。 そして、これらのユーティリティ関数を推定し、ほとんどのモデルが中立的な道徳的スタンスの周りに集まっていることを発見した。
  論文  参考訳（メタデータ） (2024-11-19T15:40:16Z)
• Exploring and steering the moral compass of Large Language Models [55.2480439325792]
  大規模言語モデル(LLM)は、様々な分野における自動化と意思決定の推進の中心となっている。 本研究は,その道徳的特徴を評価するために,最も先進的なLCMの総合的比較分析を提案する。
  論文  参考訳（メタデータ） (2024-05-27T16:49:22Z)
• What's "up" with vision-language models? Investigating their struggle with spatial reasoning [76.2406963762722]
  3つの新しいコーパスは基本空間関係のモデル理解を定量化する。 我々は18の視覚言語(VL)モデルを評価し、全てが不十分であることが判明した。 私たちはこの驚くべき行動の原因を研究することで結論付ける。
  論文  参考訳（メタデータ） (2023-10-30T17:50:15Z)
• What Makes it Ok to Set a Fire? Iterative Self-distillation of Contexts and Rationales for Disambiguating Defeasible Social and Moral Situations [48.686872351114964]
  道徳的または倫理的な判断は、それらが起こる特定の文脈に大きく依存する。 我々は,行動が多かれ少なかれ道徳的に容認されるような,根底的な文脈を提供するという,デファシブルな道徳的推論を導入する。 文脈化と論理の1.2M項目からなる高品質なデータセットを115Kデファシブルな道徳行動のために蒸留する。
  論文  参考訳（メタデータ） (2023-10-24T00:51:29Z)
• Rethinking Machine Ethics -- Can LLMs Perform Moral Reasoning through the Lens of Moral Theories? [78.3738172874685]
  倫理的AIシステムの開発には倫理的判断が不可欠である。 一般的なアプローチは主にボトムアップ方式で実装されており、モラルに関するクラウドソースの意見に基づいて、大量の注釈付きデータを使用してモデルをトレーニングする。 本研究は、学際的な研究から確立された道徳理論を用いて道徳的推論を行うために、言語モデル(LM)を操る柔軟なトップダウンフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-08-29T15:57:32Z)
• Pairwise Supervision Can Provably Elicit a Decision Boundary [84.58020117487898]
  類似性学習は、パターンのペア間の関係を予測することによって有用な表現を引き出す問題である。 類似性学習は、決定境界を直接引き出すことによって二項分類を解くことができることを示す。
  論文  参考訳（メタデータ） (2020-06-11T05:35:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。