論文の概要: Whispers of Many Shores: Cultural Alignment through Collaborative Cultural Expertise
- arxiv url: http://arxiv.org/abs/2506.00242v1
- Date: Fri, 30 May 2025 21:16:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-04 21:47:32.574271
- Title: Whispers of Many Shores: Cultural Alignment through Collaborative Cultural Expertise
- Title(参考訳): 多くの海岸のwhisper:協力的文化専門家による文化的アライメント
- Authors: Shuai Feng, Wei-Chuang Chan, Srishti Chouhan, Junior Francisco Garcia Ayala, Srujananjali Medicherla, Kyle Clark, Mingwei Shi,
- Abstract要約: 現在の大きな言語モデル(LLM)は、様々な文化的文脈に必要とされる曖昧な理解を欠いていることが多い。
我々は,効率的かつモジュール化された文化的アライメントを実現するための,新しいソフトプロンプト微調整フレームワークを導入する。
- 参考スコア(独自算出の注目度): 0.4711628883579317
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The integration of large language models (LLMs) into global applications necessitates effective cultural alignment for meaningful and culturally-sensitive interactions. Current LLMs often lack the nuanced understanding required for diverse cultural contexts, and adapting them typically involves costly full fine-tuning. To address this, we introduce a novel soft prompt fine-tuning framework that enables efficient and modular cultural alignment. Our method utilizes vectorized prompt tuning to dynamically route queries to a committee of culturally specialized 'expert' LLM configurations, created by optimizing soft prompt embeddings without altering the base model's parameters. Extensive experiments demonstrate that our framework significantly enhances cultural sensitivity and adaptability, improving alignment scores from 0.208 to 0.820, offering a robust solution for culturally-aware LLM deployment. This research paves the way for subsequent investigations into enhanced cultural coverage and dynamic expert adaptation, crucial for realizing autonomous AI with deeply nuanced understanding in a globally interconnected world.
- Abstract(参考訳): 大規模言語モデル(LLM)のグローバルアプリケーションへの統合は、有意義で文化的に敏感な相互作用のために効果的な文化的アライメントを必要とする。
現在のLLMは、様々な文化的文脈に必要な微妙な理解を欠いていることが多く、それらを適用するのは通常、コストのかかる完全な微調整を伴う。
これを解決するために,我々は,効率的かつモジュール化された文化的アライメントを実現するソフトプロンプト微調整フレームワークを導入する。
提案手法は, 基本モデルのパラメータを変更することなく, ソフトプロンプト埋め込みを最適化して作成した, 文化的に専門化されたLLM構成委員会に動的にクエリをルーティングするベクトル化プロンプトチューニングを利用する。
大規模な実験により,我々のフレームワークは文化的感受性と適応性を著しく向上し,アライメントスコアを0.208から0.820に改善し,文化的LLM展開のための堅牢なソリューションを提供することが示された。
この研究は、グローバルに相互接続された世界において深いニュアンスを持つ自律型AIの実現に不可欠である、文化的カバレッジの強化と動的専門家適応に関するその後の調査の道を開くものである。
関連論文リスト
- From Word to World: Evaluate and Mitigate Culture Bias via Word Association Test [48.623761108859085]
我々は,人中心語関連テスト(WAT)を拡張し,異文化間認知による大規模言語モデルのアライメントを評価する。
文化選好を緩和するために,カルチャー対応のステアリング機構を統合する革新的なアプローチであるCultureSteerを提案する。
論文 参考訳(メタデータ) (2025-05-24T07:05:10Z) - CAReDiO: Cultural Alignment of LLM via Representativeness and Distinctiveness Guided Data Optimization [50.90288681622152]
大規模言語モデル(LLM)は、より深く様々な地域における人間の生活に統合される。
既存のアプローチは、文化固有のコーパスを微調整することで、文化的に整合したLCMを開発する。
本稿では,新しい文化データ構築フレームワークであるCAReDiOを紹介する。
論文 参考訳(メタデータ) (2025-04-09T13:40:13Z) - Cultural Learning-Based Culture Adaptation of Language Models [70.1063219524999]
大きな言語モデル(LLM)をさまざまな文化的価値に適用することは難しい課題です。
文化的学習に基づくLLMと文化的価値との整合性を高めるための新しい枠組みであるCLCAについて述べる。
論文 参考訳(メタデータ) (2025-04-03T18:16:26Z) - Navigating the Cultural Kaleidoscope: A Hitchhiker's Guide to Sensitivity in Large Language Models [4.771099208181585]
LLMはますますグローバルなアプリケーションにデプロイされ、さまざまなバックグラウンドを持つユーザが尊敬され、理解されることが保証される。
文化的な害は、これらのモデルが特定の文化的規範と一致しないときに起こり、文化的な価値観の誤った表現や違反をもたらす。
潜在的な文化的不感を露呈するシナリオを通じて、異なる文化的文脈におけるモデルアウトプットを評価するために作成された文化的調和テストデータセットと、多様なアノテータからのフィードバックに基づいた微調整による文化的感受性の回復を目的とした、文化的に整合した選好データセットである。
論文 参考訳(メタデータ) (2024-10-15T18:13:10Z) - CulturalTeaming: AI-Assisted Interactive Red-Teaming for Challenging LLMs' (Lack of) Multicultural Knowledge [69.82940934994333]
我々は、人間とAIのコラボレーションを活用して、挑戦的な評価データセットを構築するインタラクティブなレッドチームシステムであるCulturalTeamingを紹介する。
我々の研究は、CulturalTeamingの様々なAI支援モードが、文化的な質問の作成においてアノテータを支援することを明らかにした。
CULTURALBENCH-V0.1は、ユーザのリピートの試みにより、コンパクトだが高品質な評価データセットである。
論文 参考訳(メタデータ) (2024-04-10T00:25:09Z) - Benchmarking Machine Translation with Cultural Awareness [50.183458829028226]
文化関連コンテンツの翻訳は、効果的な異文化間コミュニケーションに不可欠である。
多くの文化特化項目(CSI)は言語間の翻訳を欠いていることが多い。
この難しさは機械翻訳システムの文化的意識の分析を妨げる。
論文 参考訳(メタデータ) (2023-05-23T17:56:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。