論文の概要: Less Is Moral: A CHARMing Framework for Moral Foundations Detection in Endorsement Behaviour

• arxiv url: http://arxiv.org/abs/2609.03330v1
• Date: Thu, 03 Sep 2026 03:33:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-04 18:28:38.903477
• Title: Less Is Moral: A CHARMing Framework for Moral Foundations Detection in Endorsement Behaviour
• Title（参考訳）: モラル検出のためのCHARMingフレームワーク - 支持行動におけるモラル検出
• Abstract要約: モラル言語は、オンラインの支持と情報の拡散を形作る上で中心的な役割を果たす。 軽量な微調整型大規模言語モデル(LLM)上に構築された道徳的基礎検出フレームワークであるCHARMを紹介する。 従来の辞書、微調整、またはプロンプトベースの検出器とは異なり、CHARMはMACクロスアテンション、合理化アライメント、ヘイト音声変調といった各コンポーネントが独立した心理的構成を運用できるように構築されている。
• 参考スコア（独自算出の注目度）: 1.3141872672481105
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Moral language plays a central role in shaping online endorsement and the diffusion of information, yet existing moral foundation detection systems often suffer from poor cross-domain generalization, weak rationale grounding, and reliance on costly prompting-based large language models (LLMs). We introduce CHARM, a MA\textbf{C}- and \textbf{H}ate-speech-\textbf{A}ware \textbf{R}ationale-aligned \textbf{M}oral foundation detection framework built on a lightweight fine-tuned LLM, which integrates complementary moral grounding, rationale alignment, and polarity-aware hate speech signals to support more robust and faithful moral prediction. Unlike prior dictionary-, fine-tune-, or prompt-based detectors, which decouple computation from psychological theory, CHARM is built so that each component -- MAC cross-attention, rationale alignment, and hate-speech modulation -- operationalizes a distinct psychological construct. Using a 30\% subsample of the MFTC, MFRC, and News training pools together with the richer supervision in MFTCXplain, CHARM improves AUC by up to 15.3\% in-domain, surpasses the supervised baselines on every out-of-domain dataset in both AUC and F1, and offers a scalable, low-cost alternative to prompting-based LLM detectors. We further apply CHARM to large-scale COVID-19 discourse on Twitter and show that moral value alignment is strongly associated with online endorsement behavior. By making moral framing measurable at scale, CHARM offers a practical tool for studying the spread of morally charged misinformation.
• Abstract（参考訳）: モラル言語は、オンラインの支持と情報の拡散を形作る上で中心的な役割を果たすが、既存のモラル基礎検出システムは、ドメイン間の一般化の貧弱さ、合理的基盤の弱さ、そしてコストのかかるプロンプトベースの大規模言語モデル(LLM)への依存に悩まされることが多い。 より堅牢で忠実な道徳的予測を支援するために、補足的モラルグラウンド、合理性アライメント、極性を考慮したヘイトスピーチ信号を統合する軽量な微調整LDM上に構築されたCHARM, a MA\textbf{C}-および \textbf{H}ate-speech-\textbf{A}ware \textbf{R}ationale-aligned \textbf{M}oral foundation detection frameworkを紹介する。 計算を心理学理論から切り離す以前の辞書、微調整、またはプロンプトベースの検出器とは異なり、CHARMはMACクロスアテンション、合理化アライメント、ヘイト音声変調といった各コンポーネントが独立した心理的構成を運用できるように構築されている。 MFTC、MFRC、Newsのトレーニングプールの30倍のサブサンプルと、MFTCXplainの豊富な監督機能を使って、CHARMはAUCを最大15.3倍のドメインで改善し、AUCとF1の両方のドメイン外のデータセットの教師付きベースラインを越え、拡張性があり低コストなLLM検出器の代替手段を提供する。 さらに、ChARMをTwitter上での大規模なCOVID-19談話に適用し、モラルバリューアライメントがオンラインの支持行動と強く関連していることを示します。 道徳的フレーミングを大規模に測定可能にすることで、CHARMは道徳的に告発された誤報の拡散を研究するための実践的なツールを提供する。

関連論文リスト

• Improving General Role-Playing Agents via Psychology-Grounded Reasoning and Role-Aware Policy Optimization [62.82109000444373]
  Psy-CoTは、事前応答推論を3つの役割固有のステップに分解する、思考の連鎖フレームワークである。 CoSER, CharacterBench, CharacterEvalの実験は、Psy-CoTが既存のロールプレイングCoTメソッドより優れていることを示した。
  論文  参考訳（メタデータ） (2026-06-25T13:34:47Z)
• iVGR: Internalizing Visually Grounded Reasoning for MLLMs with Reinforcement Learning [35.83366559347647]
  大規模言語モデル(MLLM)における微粒化知覚を高めるための,将来性のあるパラダイムとして,視覚的基盤を持つChain-of-Thought(CoT)が登場した。 推論中に視覚的に接地されたCoTで明示的なオブジェクトボックスを強制すると、標準的なCoTよりも性能が低下する。 テキスト推論プロセスにローカライズ機能を伝達する新しい強化学習フレームワークであるtextbfiVGR(Internalizing Visually Grounded Reasoning)を提案する。
  論文  参考訳（メタデータ） (2026-05-29T10:07:25Z)
• What Really Improves Mathematical Reasoning: Structured Reasoning Signals Beyond Pure Code [72.9921566968371]
  ドメイン分離のきめ細かい10T-tokenコーパスにおける事前学習の制御実験により,コードが推論を改善するという主張を再考する。 コードはプログラミング能力を大幅に改善するが、一般的な推論エンハンサーとして機能しない。 コード-テキストと数学-テキストの混合のようなドメイン間構造的推論トレースがよりうまく説明されている。
  論文  参考訳（メタデータ） (2026-05-19T12:37:01Z)
• Enhancing Multimodal In-Context Learning via Inductive-Deductive Reasoning [65.15766304205657]
  In-context Learning (ICL) は、大規模なモデルをいくつかの例を使ってタスクに適応させるが、視覚言語モデル(VLM)への拡張は脆弱である。 我々の分析によると、基本的な限界は帰納的ギャップにあり、モデルはしばしば欠陥のある推論から正しい答えを導き出す。 帰納的帰納的プロセスとしてマルチモーダル ICL を再構成する枠組みを導入する。
  論文  参考訳（メタデータ） (2026-05-04T09:18:19Z)
• Reward Hacking in the Era of Large Models: Mechanisms, Emergent Misalignment, Challenges [87.04241991512386]
  本稿では、報酬ハッキングを理解するための統一フレームワークとして、PCH(Proxy Compression hypothesis)を提案する。 この観点では、報酬のハッキングは、客観的圧縮、最適化増幅、評価器-政治共適応の相互作用から生じる。 この視点は、RLHF、RLAIF、RLVR体制をまたいだ経験的現象を統一し、局所的ショートカット学習がより広範な誤認識へと一般化する方法について説明している。
  論文  参考訳（メタデータ） (2026-04-15T08:11:34Z)
• How Controllable Are Large Language Models? A Unified Evaluation across Behavioral Granularities [75.10343190811592]
  大規模言語モデル(LLM)は、社会的に敏感なドメインにますますデプロイされる。 私たちのベンチマークでは、安全で制御可能な振る舞いのための原則的で解釈可能なフレームワークを提供しています。
  論文  参考訳（メタデータ） (2026-03-03T03:50:13Z)
• Unsupervised Elicitation of Moral Values from Language Models [4.689984557057394]
  本研究では,事前訓練された言語モデル(LM)が,人間の監督なしに表面化できる固有の道徳的推論能力を持っているかを検討する。 ICMが道徳的判断、道徳的枠組み、社会的偏見を確実にラベル付けできるかどうかを検証する。 これらのことから,事前学習したLMは,教師なしの手法によって引き起こされる潜在的道徳的推論能力を有することが示唆された。
  論文  参考訳（メタデータ） (2026-01-25T07:41:57Z)
• The Straight and Narrow: Do LLMs Possess an Internal Moral Path? [25.256151938852728]
  現在のアライメント技術は、しばしば表面的なガードレールとして機能し、大きな言語モデルの本質的な道徳的表現は、ほとんど触れられていないままである。 我々は、このギャップをMFT(Moral Foundations Theory)を利用して、LLMの微粒な道徳的景観を地図化し、操作することで埋める。 本稿では,プローブ検出とベクトル注入を相乗化する動的推論時間介入であるAdaptive Moral Fusion (AMF)を提案する。
  論文  参考訳（メタデータ） (2026-01-15T11:42:00Z)
• Tracing Moral Foundations in Large Language Models [33.17451937747417]
  本研究では,道徳的基盤の符号化,組織化,および2つの命令調整型大規模言語モデル内での表現について検討する。 どちらのモデルも、人間の判断に沿う構造化された層依存的な方法で道徳的基礎を表現し、区別することを発見した。
  論文  参考訳（メタデータ） (2026-01-09T00:09:28Z)
• Self-Explaining Hate Speech Detection with Moral Rationales [11.165386773222934]
  本稿では,自己説明型ヘイトスピーチ検出フレームワークであるSupervised Moral Rationale Attention (SMRA)を提案する。 モラル・ファンデーションズ理論に基づいて、SMRAはトークンレベルの注意を専門家に注釈付けされた道徳的合理性と整合させ、刺激的な語彙パターンよりも道徳的に有能なスパンに出席するモデルを導く。
  論文  参考訳（メタデータ） (2026-01-07T00:17:16Z)
• Are Language Models Consequentialist or Deontological Moral Reasoners? [75.6788742799773]
  我々は、大規模言語モデル(LLM)が提供する道徳的推論トレースの大規模分析に焦点をあてる。 我々は,2つの主要な規範的倫理理論,つまり連続主義と非オントロジーを体系的に分類するために,道徳的論理学の分類を導入し,検証する。
  論文  参考訳（メタデータ） (2025-05-27T17:51:18Z)
• Does Representation Intervention Really Identify Desired Concepts and Elicit Alignment? [73.80382983108997]
  表現の介入(Representation intervention)は、大規模言語モデルにおいて基礎となる概念を符号化する表現の発見と修正を目的としている。 介入が忠実であれば、介入されたLLMは有害な概念を消去し、非分配的敵のプロンプトとアウト・オブ・ディストリビューションのジェイルブレイクの両方に対して堅牢であるべきである。 本研究では,有害表現と良性表現の境界を簡易化する概念集中(COCA)を提案する。
  論文  参考訳（メタデータ） (2025-05-24T12:23:52Z)
• Retrieval is Not Enough: Enhancing RAG Reasoning through Test-Time Critique and Optimization [58.390885294401066]
  Retrieval-augmented Generation (RAG) は知識基底型大規模言語モデル(LLM)を実現するためのパラダイムとして広く採用されている。 RAGパイプラインは、モデル推論が得られた証拠と整合性を維持するのに失敗することが多く、事実上の矛盾や否定的な結論につながる。 批判駆動アライメント(CDA)に基づく新しい反復的枠組みであるAlignRAGを提案する。 AlignRAG-autoは、動的に洗練を終了し、批判的な反復回数を事前に指定する必要がなくなる自律的な変種である。
  論文  参考訳（メタデータ） (2025-04-21T04:56:47Z)
• Rethinking Machine Ethics -- Can LLMs Perform Moral Reasoning through the Lens of Moral Theories? [78.3738172874685]
  倫理的AIシステムの開発には倫理的判断が不可欠である。 一般的なアプローチは主にボトムアップ方式で実装されており、モラルに関するクラウドソースの意見に基づいて、大量の注釈付きデータを使用してモデルをトレーニングする。 本研究は、学際的な研究から確立された道徳理論を用いて道徳的推論を行うために、言語モデル(LM)を操る柔軟なトップダウンフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-08-29T15:57:32Z)
• Guiding the PLMs with Semantic Anchors as Intermediate Supervision: Towards Interpretable Semantic Parsing [57.11806632758607]
  本稿では,既存の事前学習言語モデルを階層型デコーダネットワークに組み込むことを提案する。 第一原理構造をセマンティックアンカーとすることで、2つの新しい中間管理タスクを提案する。 いくつかのセマンティック解析ベンチマークで集中的な実験を行い、我々のアプローチがベースラインを一貫して上回ることを示す。
  論文  参考訳（メタデータ） (2022-10-04T07:27:29Z)
• The Moral Foundations Reddit Corpus [4.209088250257042]
  モラルフレーミングと感情は、寄付、環境活動、政治的関与、抗議など、様々なオンラインおよびオフラインの行動に影響を与える可能性がある。 私たちは、12の異なるサブレディットからキュレートされた16,123の英語のRedditコメントを集めた、Moral Foundations Reddit Corpusを紹介します。 我々は,大きな言語モデル(Llama3-8B,Ministral-8B)をゼロショット,少数ショット,PEFT設定で評価し,その性能をBERTのような微調整エンコーダのみのモデルと比較した。
  論文  参考訳（メタデータ） (2022-08-10T20:08:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。