論文の概要: Steering LLMs Responses Towards Moral Foundations on the Norwegian MFQ-30

• arxiv url: http://arxiv.org/abs/2609.21636v1
• Date: Fri, 18 Sep 2026 11:25:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-21 18:40:17.034442
• Title: Steering LLMs Responses Towards Moral Foundations on the Norwegian MFQ-30
• Title（参考訳）: ノルウェーMFQ-30のモラルファウンデーションへのLDMの対応
• Abstract要約: ノルウェー・モラル・ファウンデーションズアンケートを6つのオープンウェイト言語モデルに対して実施する。 N = 1,282 ノルウェーの回答者のサンプルと比較した。 固定された中間層におけるワンペアアクト 個々の基盤を運営するのではなく、ファンデーションプロファイルをフラットにする。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent work applies human psychometric questionnaires to large language models to elicit moral and value profiles, but it is not clear whether these instruments measure anything stable in models or whether the resulting profiles can be moved toward a target human population. We administer the Norwegian Moral Foundations Questionnaire (MFQ-30) to six open-weight LLMs and compare their foundation profiles to a sample of N = 1,282 Norwegian respondents. We test two steering interventions, prompt-level persona steering and activation-level ActAdd. Half the models engage with the questionnaire under our attention check. The other half default to flat or central-tendency outputs that look near-human on average without tracking item content. A neutral Nordic-respondent persona, written without any distributional information from the human sample, brings the engaging models 44-77% closer to the Norwegian mean in Mahalanobis $d^2$. One-pair ActAdd at a fixed mid-layer flattens the foundation profile rather than steering individual foundations. For at least one model the same persona that shifts the profile also induces engagement that was absent at baseline, a concrete instance of the cognitive phantoms that Peereboom et al. (2025) warn about.
• Abstract（参考訳）: 近年の研究では、人間の心理測定のアンケートを大規模言語モデルに適用して、道徳的・価値的なプロファイルを導出しているが、これらの指標がモデルで安定しているものや、結果のプロファイルが対象の人間に移動できるかどうかは不明である。 ノルウェーのモラル財団アンケート(MFQ-30)を6つのオープンウェイトLCMに実施し,N=1,282人のノルウェーの回答者と基礎プロファイルを比較した。 我々は、アクティベーションレベルのActAddと、アクティベーションレベルのActAddの2つのステアリング介入をテストする。 半数のモデルが私たちの注意チェックの下でアンケートに取り組みます。 残りの半分は、アイテムの内容を追跡することなく平均でほぼ人間に近いフラットまたはセントラルテナンシのアウトプットにデフォルトされる。 中立なノルディック対応のペルソナは人間のサンプルの分布情報なしで書かれており、マハラノビス$d^2$のノルウェー平均に44-77%近づく。 固定された中間層におけるワンペアアクト 個々の基盤を運営するのではなく、ファンデーションプロファイルをフラットにする。 少なくとも1つのモデルでは、プロファイルをシフトする同じペルソナがベースラインで欠席したエンゲージメントを誘発する。

関連論文リスト

• Apparent Psychological Profiles of Large Language Models are Largely a Measurement Artifact [1.3277433989254843]
  人間のために設計された心理学機器は、大きな言語モデル(LLM)の安定した心理学的プロファイルを割り当てるのにますます使われている。 フォーマルな心理測定フレームワークを用いて、これらのプロファイルは主として測定成果物であることを示す。
  論文  参考訳（メタデータ） (2026-06-18T13:18:37Z)
• Do We Still Need Humans in the Loop? Comparing Human and LLM Annotation in Active Learning for Hostility Detection [68.37351671559675]
  アクティブな学習は、無視可能なコストで短いプロンプトから何千ものインスタンスに注釈を付けることができる。 LLMラベルはALループ内で人間のラベルを置き換えることができ、ALはコーパス全体を一度にラベル付けできるときに必要か? 277,902人のドイツの政治的TikTokコメントの新しいデータセットについて、両方の質問を調査した。
  論文  参考訳（メタデータ） (2026-04-15T14:10:58Z)
• Surface Fairness, Deep Bias: A Comparative Study of Bias in Language Models [45.41676783204022]
  大規模言語モデル(LLM)におけるバイアスの様々なプロキシ尺度について検討する。 MMLU (Multi-subject benchmark) を用いた人格評価モデルでは, スコアの無作為かつ大半がランダムな差が生じることがわかった。 LLMアシスタントメモリとパーソナライゼーションの最近の傾向により、これらの問題は異なる角度から開かれている。
  論文  参考訳（メタデータ） (2025-06-12T08:47:40Z)
• Deep Binding of Language Model Virtual Personas: a Study on Approximating Political Partisan Misperceptions [13.929713456538932]
  本稿では,マルチターンインタビュー文として生成した合成ユーザ"バックストリー"を用いた仮想ペルソナ構築手法を提案する。 本研究の背景には,ヒトの反応分布を忠実に再現した仮想的ペルソナと,グループ内・グループ外バイアスのオリジナルの研究で観察されたものと密に一致した効果の大きさが示されている。
  論文  参考訳（メタデータ） (2025-04-16T00:10:34Z)
• Stick to your Role! Stability of Personal Values Expressed in Large Language Models [19.516125296160638]
  異なる文脈における値表現の安定性に関するケーススタディを提案する。 心理学的手法を用いて,人口のランク順安定性について検討した。 モデルおよびモデルファミリーの安定性における一貫した傾向を観察する。
  論文  参考訳（メタデータ） (2024-02-19T14:53:01Z)
• Dissecting Human and LLM Preferences [80.55271307662365]
  人間は誤りに敏感ではなく、自分の姿勢を支持する反応を好んでおり、モデルが限界を認めている場合、明確な嫌悪を示します。 GPT-4-Turboのような先進的なLCMは、より正確さ、明快さ、無害さを強調している。 嗜好に基づく評価は意図的に操作可能であることを示す。
  論文  参考訳（メタデータ） (2024-02-17T14:34:31Z)
• Aligning Large Language Models with Human Opinions through Persona Selection and Value--Belief--Norm Reasoning [67.33899440998175]
  Chain-of-Opinion (COO)は、単純な4段階のソリューションモデリングであり、ペルソナによる推論方法である。 COOは明示的な人格(デモグラフィーとイデオロギー)と暗黙的な人格(歴史学的な意見)を区別する COOは、推論コールを5回だけ促すことで、新しい最先端の意見予測を効率的に達成し、以前のテクニックを最大4%改善する。
  論文  参考訳（メタデータ） (2023-11-14T18:48:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。