Fugu-MT 論文翻訳(概要): Quantifying the Salience of Geo-Cultural Values for Pluralistic Safety Alignment

論文の概要: Quantifying the Salience of Geo-Cultural Values for Pluralistic Safety Alignment

arxiv url: http://arxiv.org/abs/2606.00369v1
Date: Fri, 29 May 2026 21:21:39 GMT
ステータス: 翻訳完了
システム内更新日: 2026-06-02 21:34:28.364562
Title: Quantifying the Salience of Geo-Cultural Values for Pluralistic Safety Alignment
Title（参考訳）: 多元的安全アライメントのためのジオカルチャー値の正当性の定量化
Abstract要約: 安全評価データセットのラタープールは、地理的にほぼ均質であり、地理的・文化的差異を捉えていない。地理的文化的・人口的相関関係を共同で分析する統一的な方法論を欠いている者も少なくない。本研究は,より文化的に多元的安全性評価を動機とし,それを支援するための実践的テイクアウトを提供する。
参考スコア（独自算出の注目度）: 8.180786800568125
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Safe global deployment of AI models requires alignment with human values that vary across cultures. Yet rater pools in safety evaluation datasets remain largely geographically homogeneous, failing to capture geo-cultural differences. Further, it remains unclear whether such differences persist after controlling for demographics such as age, gender, and ethnicity. Through a meta-analysis of safety datasets, we find that most do not report geo-cultural information, and those that do lack a unified methodology to jointly analyze geo-cultural and demographic correlates. Using the Inglehart-Welzel dimensions of cross-cultural variation, we demonstrate via multilevel modeling that cultural zone membership explains variance in safety ratings beyond standard demographics (p<0.05 across 6 datasets). Moreover, our analysis indicates that roughly 10% of items in the datasets we examined are culturally sensitive: likely to be misclassified as safe without adequate cultural representation. We evaluate LLMs as both rater surrogates and triage tools, finding that current LLMs do not reliably stand in for raters, though they can help prioritize culturally sensitive items for human annotation. Our findings motivate more culturally pluralistic safety evaluation and offer practical takeaways to support it.
Abstract（参考訳）: AIモデルの安全なグローバル展開には、文化によって異なる人間の価値との整合性が必要です。しかし、安全評価データセットのレーダプールは、地理的にほぼ均質であり、地理的・文化的差異を捉えられなかった。さらに、年齢、性別、民族などの人口動態をコントロールした後も、そのような違いが継続するかどうかも不明である。安全データセットのメタ分析により、ほとんどの人は地理的文化的情報を報告せず、地理的文化的・人口的相関関係を共同で分析するための統一的な方法論を欠いていることが判明した。異文化間変異のイングルハート・ヴェルツェル次元を用いて、文化ゾーンのメンバーシップが標準人口層(6つのデータセットでp<0.05)を超えて安全性評価のばらつきを説明することを多段階モデリングを用いて実証した。さらに, 分析の結果, データセットの約10%は文化的にセンシティブなものであり, 文化的な表現を伴わずに安全と誤分類される可能性が示唆された。我々はLDMをレーダサロゲートとトリアージツールの両方として評価し、現在のLSMはレーダには確実に立ち入らないが、文化的に敏感な項目を人間のアノテーションに優先順位付けするのに役立ちます。本研究は,より文化的に多元的安全性評価を動機とし,それを支援するための実践的テイクアウトを提供する。

関連論文リスト

CultureForest: Understanding and Evaluating Cultural Norm Grounded Reasoning in LLMs [59.09971492475217]
TextitCultural Norm Grounded ReasoningのベンチマークであるCultureForestを紹介する。 CultureForestは8つのドメインで5,378のサンプルと53の国/リージョンで構成されている。大規模な実験では、トップ層モデルでさえ、オープンな設定で大幅に劣化していることが明らかになった。
論文参考訳（メタデータ） (2026-06-01T08:25:12Z)
Cultural Authenticity: Comparing LLM Cultural Representations to Native Human Expectations [7.285754268528876]
我々は,大規模言語モデル世代と局所的な期待値との整合性を評価するための,人間中心のフレームワークを提案する。ヒト由来の文化遺産とモデル由来の文化表現との整合性について検討した結果,西洋中心のキャリブレーションが明らかとなった。
論文参考訳（メタデータ） (2026-04-03T22:39:15Z)
AdaCultureSafe: Adaptive Cultural Safety Grounded by Cultural Knowledge in Large Language Models [21.813307226132128]
既存の研究は、文化の安全と文化の知識を別々に検討し、前者が後者に根ざすべきことを無視している。我々は文化的安全性と知識を共同でモデル化することを提案する。この問題に対処するために、権威ある文化的知識記述のキュレーション、LLM自動クエリ生成、重い手動検証を統合した新しいフレームワークを提案する。
論文参考訳（メタデータ） (2026-03-09T11:44:37Z)
I Am Aligned, But With Whom? MENA Values Benchmark for Evaluating Cultural Alignment and Multilingual Bias in LLMs [5.060243371992739]
大規模言語モデル(LLM)の文化的アライメントと多言語バイアスを評価するための新しいベンチマークであるMENAValuesを紹介する。大規模で権威ある人的調査から、我々は16カ国の人口レベルの応答分布を持つMENAの社会文化的景観を捉えた構造化データセットをキュレートした。分析の結果,同じ質問が言語に基づいて大きく異なる反応をもたらす「クロス・Lingual Value Shifts」,その理由の説明を促す「Reasoning-induced Degradation」,モデルがセンシティブな質問を拒否する「Logit Leakage」,内部確率が強く隠蔽される「Logit Leakage」の3つの重要な現象が明らかになった。
論文参考訳（メタデータ） (2025-10-15T05:10:57Z)
Cross-Cultural Transfer of Commonsense Reasoning in LLMs: Evidence from the Arab World [68.19795061447044]
本稿では,アラブ世界におけるコモンセンス推論の異文化間移動について検討する。アラブ13カ国を対象とした文化基盤のコモンセンス推論データセットを用いて,軽量アライメント手法の評価を行った。以上の結果から,他国の文化特有例は12例に過ぎず,他国の文化特有例を平均10%向上させることができた。
論文参考訳（メタデータ） (2025-09-23T17:24:14Z)
CAIRe: Cultural Attribution of Images by Retrieval-Augmented Evaluation [61.130639734982395]
本稿では,画像の文化的関連度を評価する新しい評価指標であるCAIReを紹介する。本フレームワークは,イメージ内の実体と概念を知識ベースに基盤として,実情報を用いて各文化ラベルに対して独立した評価を行う。
論文参考訳（メタデータ） (2025-06-10T17:16:23Z)
From Surveys to Narratives: Rethinking Cultural Value Adaptation in LLMs [62.9861554207279]
LLM(Large Language Models)における文化的価値の適応は大きな課題である。これまでの作業は主に、World Values Survey (WVS)データを使用して、LLMをさまざまな文化的価値と整合させる。我々は,文化価値適応のためのWVSベースのトレーニングについて検討し,調査データのみに頼って文化規範を実践し,事実知識に干渉することを発見した。
論文参考訳（メタデータ） (2025-05-22T09:00:01Z)
Multimodal Cultural Safety: Evaluation Frameworks and Alignment Strategies [58.88053690412802]
大規模視覚言語モデル(LVLM)は、観光アシスタントのようなグローバルに分散したアプリケーションにますます導入されている。 CROSSは、LVLMの文化的安全性推論能力を評価するために設計されたベンチマークである。実験モデルと推論モデルを含む21種類のLVLMを評価した。
論文参考訳（メタデータ） (2025-05-20T23:20:38Z)
Randomness, Not Representation: The Unreliability of Evaluating Cultural Alignment in LLMs [7.802103248428407]
我々は,現在の調査に基づく評価手法の背景にある3つの仮定を特定し,検証する。提示形式間の不安定性,評価された文化次元と保持された文化的次元間の不整合性,即時操舵時の不整合性などについて検討した。
論文参考訳（メタデータ） (2025-03-11T17:59:53Z)
SafeWorld: Geo-Diverse Safety Alignment [107.84182558480859]
大規模言語モデル(LLM)を評価するために特別に設計された新しいベンチマークであるSafeWorldを紹介する。 SafeWorldには2,342のユーザクエリが含まれており、それぞれ50か国と493のリージョン/ラストから、高品質で人間認証された文化規範と法的ポリシーを基礎としている。トレーニングされたSafeWorldLMは、GPT-4oを含む競合モデルの3つの評価次元を大きなマージンで上回ります。
論文参考訳（メタデータ） (2024-12-09T13:31:46Z)
D3CODE: Disentangling Disagreements in Data across Cultures on Offensiveness Detection and Evaluation [5.9053106775634685]
4k以上のアノテーションをアノテータのプールにアノテートした4.5K以上の文で、攻撃的言語のための並列アノテーションの大規模なクロスカルチャーデータセットを紹介した。このデータセットには、ケア、平等、比例、権威、忠誠、純粋性の6つの道徳的基礎に沿って収集されたアノテーターの道徳的価値が含まれている。分析の結果,アノテータの知覚は個々の道徳的価値観によって形成されていることが明らかとなった。
論文参考訳（メタデータ） (2024-04-16T19:12:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。