Fugu-MT 論文翻訳(概要): CRISP: Cultural Reward Modeling for Implicit Situated Propriety

論文の概要: CRISP: Cultural Reward Modeling for Implicit Situated Propriety

arxiv url: http://arxiv.org/abs/2609.34345v2
Date: Sat, 03 Oct 2026 17:37:04 GMT
ステータス: 情報取得中
システム内更新日: 2026-10-06 21:07:01.392091
Title: CRISP: Cultural Reward Modeling for Implicit Situated Propriety
Title（参考訳）: CRISP: 意図しない価格設定のための文化的リワードモデリング
Abstract要約: オープンエンドの社会シナリオにおける文化的適切性に応じて報酬を割り当てる文化的な報酬モデルであるCRISP-RMを紹介する。政策最適化の過程では,Norm Grounding Supervision(NGS)を導入し,関連する文化規範に対する政策の感受性を高めるガイダンスを提供する。 Best-of-(N) 実験は、CRISP-RM が強い一般報酬モデルより一貫して優れていることを示している。
参考スコア（独自算出の注目度）: 15.795043919626245
License:
Abstract: As large language models (LLMs) are increasingly deployed across countries and regions, the ability to recognize and respond appropriately to diverse cultural contexts becomes increasingly important. However, existing research has largely focused on cultural knowledge or tasks with predefined response spaces, while open-ended culturally situated behavior remains comparatively underexplored. In this work, we introduce CRISP-RM, a culturally situated reward model that assigns rewards according to cultural appropriateness in open-ended social scenarios. During policy optimization, we further introduce Norm Grounding Supervision (NGS), providing guidance that enhances the policy's sensitivity to relevant cultural norms. To construct culturally situated data, we employ a collaborative multi-agent framework that instantiates implicit cultural norms into diverse social scenarios and further curate NormCompass as a dedicated testbed. We conduct comprehensive experiments to evaluate the effectiveness of CRISP-RM in both reward modeling and policy optimization. Best-of-\(N\) experiments show that CRISP-RM consistently outperforms strong general reward models. During GRPO policy optimization, CRISP-RM generally improves culturally situated behavior, while incorporating NGS yields further gains. Further analyses demonstrate the advantages of CRISP-RM in distinguishing culturally appropriate behavior beyond superficial fluency and politeness, while NGS provides complementary gains during policy optimization by improving norm grounding.
Abstract（参考訳）: 大規模言語モデル(LLM)が国や地域にまたがって展開されるにつれて、多様な文化的文脈に適切な認識と対応能力がますます重要になる。しかし、既存の研究は、文化的知識や、事前に定義された応答空間を持つタスクに重点を置いている。本研究では,オープンエンドの社会シナリオにおける文化的適切性に応じて報酬を割り当てる文化的な報酬モデルであるCRISP-RMを紹介する。政策最適化の過程では,Norm Grounding Supervision(NGS)を導入し,関連する文化規範に対する政策の感受性を高めるガイダンスを提供する。文化的に位置付けられたデータを構築するには、暗黙の文化的規範を多様な社会的シナリオにインスタンス化し、さらにNormCompassを専用のテストベッドとしてキュレートする、協調的なマルチエージェントフレームワークを用いる。我々は、報酬モデルと政策最適化の両方においてCRISP-RMの有効性を評価するための総合的な実験を行う。 Best-of-\(N\)実験は、CRISP-RMが強い一般報酬モデルより一貫して優れていることを示している。 GRPOポリシー最適化において、CRISP-RMは一般的に文化的に位置する振る舞いを改善し、NGSを組み込むことでさらに利益を得る。さらに、CRISP-RMの利点として、表面の流動性や丁寧さを超えて文化的に適切な振る舞いを区別できることが示される一方、NGSはノルムグラウンドの改善による政策最適化において補完的な利得を提供する。

関連論文リスト

Whose Norms? Disentangling Cultural and Personal Alignment in Large Language Models [66.34115263472931]
大規模言語モデルは、文化的規範と個人の嗜好のバランスを必要とする社会的意思決定の状況にますます使われてきている。 PACT(Personal-Preference and Cultural-Norm Trade-off framework)を導入し,モデルが文化的規範に従うか,あるいは個人の嗜好を許容するかを評価する。 PACTに関する5つの国による研究は、人間の文化のフォローは主にシナリオ国によって行われており、参加者が自身の文化的文脈を判断する際の合意は最低であることを示している。
論文参考訳（メタデータ） (2026-06-05T22:20:30Z)
CultureForest: Understanding and Evaluating Cultural Norm Grounded Reasoning in LLMs [59.09971492475217]
TextitCultural Norm Grounded ReasoningのベンチマークであるCultureForestを紹介する。 CultureForestは8つのドメインで5,378のサンプルと53の国/リージョンで構成されている。大規模な実験では、トップ層モデルでさえ、オープンな設定で大幅に劣化していることが明らかになった。
論文参考訳（メタデータ） (2026-06-01T08:25:12Z)
Prompt Programming for Cultural Bias and Alignment of Large Language Models [0.0]
大型言語モデル(LLM)は、しばしば標的の人口と不一致した文化的偏見を示す。以前の研究は、調査対象の文化的アライメントフレームワークを導入し、文化固有のプロンプトは、誤調整を減らすことができることを示した。本稿では,オープンウェイトLLMにおける社会科学調査に基づく予測と距離の指標を再現することにより,その枠組みを再現する。本稿では,DSPyを用いたプロンプトプログラミングをモジュール型で最適化可能なプログラムとして導入する。
論文参考訳（メタデータ） (2026-03-17T17:34:40Z)
Evaluating and Improving Cultural Awareness of Reward Models for LLM Alignment [38.24188183584244]
リワードモデル(RM)は、大きな言語モデルと多様な文化の整合に不可欠である。既存のRM評価は、文化的に関連するデータセットが不足しているため、文化的意識を評価するには不十分である。文化意識リワードモデリングベンチマーク (CARB) を提案する。
論文参考訳（メタデータ） (2025-09-26T02:56:06Z)
Multimodal Cultural Safety: Evaluation Frameworks and Alignment Strategies [58.88053690412802]
大規模視覚言語モデル(LVLM)は、観光アシスタントのようなグローバルに分散したアプリケーションにますます導入されている。 CROSSは、LVLMの文化的安全性推論能力を評価するために設計されたベンチマークである。実験モデルと推論モデルを含む21種類のLVLMを評価した。
論文参考訳（メタデータ） (2025-05-20T23:20:38Z)
CAReDiO: Cultural Alignment of LLM via Representativeness and Distinctiveness Guided Data Optimization [50.90288681622152]
大規模言語モデル(LLM)は、より深く様々な地域における人間の生活に統合される。既存のアプローチは、文化固有のコーパスを微調整することで、文化的に整合したLCMを開発する。本稿では,新しい文化データ構築フレームワークであるCAReDiOを紹介する。
論文参考訳（メタデータ） (2025-04-09T13:40:13Z)
Cultural Learning-Based Culture Adaptation of Language Models [70.1063219524999]
大きな言語モデル(LLM)をさまざまな文化的価値に適用することは難しい課題です。文化的学習に基づくLLMと文化的価値との整合性を高めるための新しい枠組みであるCLCAについて述べる。
論文参考訳（メタデータ） (2025-04-03T18:16:26Z)
ValuesRAG: Enhancing Cultural Alignment Through Retrieval-Augmented Contextual Learning [1.1343849658875087]
ValuesRAGは、テキスト生成中に文化的および人口統計学的知識を動的に統合する新しいフレームワークである。本研究では,6つの地域データセットを用いてValuesRAGを評価し,ベースラインを一貫して上回ることを示す。本研究は,グローバルLLM能力と局所文化的価値のギャップを埋める動的検索手法の可能性を明らかにするものである。
論文参考訳（メタデータ） (2025-01-02T03:26:13Z)
Measuring Commonality in Recommendation of Cultural Content: Recommender Systems to Enhance Cultural Citizenship [67.5613995938273]
そこで本稿では,文化内容の特定のカテゴリにおいて,特定のユーザ集団に親しみのあるレコメンデーションの度合いを反映した新しい尺度として,共通性を導入する。以上の結果から,共通性は既存の指標と相補的なシステム行動の特性を捉え,利用者の文化的市民性を高めることを目的としたリコメンデータシステムにおける代替的非個人化介入の必要性が示唆された。
論文参考訳（メタデータ） (2022-08-02T19:14:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。