論文の概要: Cross-Lingual Transfer of Cultural Knowledge: An Asymmetric Phenomenon
- arxiv url: http://arxiv.org/abs/2506.01675v1
- Date: Mon, 02 Jun 2025 13:45:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-05 04:22:50.755064
- Title: Cross-Lingual Transfer of Cultural Knowledge: An Asymmetric Phenomenon
- Title(参考訳): 文化知識の言語間移動--非対称現象
- Authors: Chen Zhang, Zhiyuan Liao, Yansong Feng,
- Abstract要約: 大規模言語モデル(LLM)の言語適応における言語間の文化的知識伝達について検討する。
低リソース言語は主に知識を制限された逆流を持つ英語に伝達するのに対し、英語と他の高リソース言語間の双方向の文化的伝達を観察する。
この非対称な現象を説明するために、我々は、事前学習データ転送においてより頻繁に現れる文化知識という周波数ベースの仮説を提案する。
- 参考スコア(独自算出の注目度): 31.04530022789729
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Despite substantial research efforts evaluating how well large language models~(LLMs) handle global cultural diversity, the mechanisms behind their cultural knowledge acquisition, particularly in multilingual settings, remain unclear. We study this question by investigating how cultural knowledge transfers across languages during language adaptation of LLMs. We introduce an interpretable framework for studying this transfer, ensuring training data transparency and controlling transfer effects. Through a study of four non-Anglophonic cultures, we observe bidirectional cultural transfer between English and other high-resource languages, while low-resource languages primarily transfer knowledge to English with limited reverse flow. To explain this asymmetric phenomenon, we propose a frequency-based hypothesis: cultural knowledge appearing more frequently in the pretraining data transfers more easily, which is supported by empirical analysis of the training corpora.
- Abstract(参考訳): 大規模な言語モデル(LLM)がグローバルな文化的多様性をどのように扱えるかを評価する大規模な研究努力にもかかわらず、その文化的知識獲得のメカニズムは、特に多言語環境では不明確である。
本研究では,LLMの言語適応における言語間の文化的知識の伝達について検討する。
我々は、この伝達を研究するための解釈可能なフレームワークを導入し、トレーニングデータの透明性を確保し、転送効果を制御する。
アングロフォニックでない4つの文化の研究を通して、英語と他の高リソース言語間の双方向の文化的伝達を観察する一方、低リソース言語は主に、限られた逆流を持つ英語に知識を伝達する。
この非対称な現象を説明するために,事前学習データ転送においてより頻繁に現れる文化知識を周波数に基づく仮説を提案する。
関連論文リスト
- LLMs Are Globally Multilingual Yet Locally Monolingual: Exploring Knowledge Transfer via Language and Thought Theory [3.7752830020595787]
我々は、言語と思考理論による非英語から英語への移動を探求する。
本稿では,入力言語,内的認知プロセス,知識の関係を解析するL2T(Language-to-Thought)プロンプト戦略を提案する。
論文 参考訳(メタデータ) (2025-05-30T09:47:25Z) - Exploring Cross-lingual Latent Transplantation: Mutual Opportunities and Open Challenges [48.96952594416528]
現在の大規模言語モデル(LLM)は多言語能力と文化的適応性に不均衡を示すことが多い。
XTransplantフレームワークは、言語間で潜在的なアクティベーションを移植することで、英語と非英語のリソースの相補的な長所を利用することができる。
論文 参考訳(メタデータ) (2024-12-17T09:05:30Z) - Investigating Cultural Alignment of Large Language Models [10.738300803676655]
LLM(Large Language Models)は,異なる文化で採用されている多様な知識を真にカプセル化していることを示す。
社会学的調査をシミュレートし、実際の調査参加者のモデル応答を参考として、文化的アライメントの定量化を行う。
本稿では,人類学的推論を活用し,文化的アライメントを高める新しい手法である人類学的プロンプティングを紹介する。
論文 参考訳(メタデータ) (2024-02-20T18:47:28Z) - Benchmarking Machine Translation with Cultural Awareness [50.183458829028226]
文化関連コンテンツの翻訳は、効果的な異文化間コミュニケーションに不可欠である。
多くの文化特化項目(CSI)は言語間の翻訳を欠いていることが多い。
この難しさは機械翻訳システムの文化的意識の分析を妨げる。
論文 参考訳(メタデータ) (2023-05-23T17:56:33Z) - Cross-Cultural Transfer Learning for Chinese Offensive Language
Detection [9.341003339029221]
本研究では,異なる文化背景からの攻撃的言語検出データを用いた転帰学習の効果を検討することを目的とする。
また, 言語モデルの伝達性に悪影響を及ぼす要因として, 文化特有のバイアスがあることがわかった。
しかし,数ショットの学習シナリオでは,限られた資源を用いた非英語攻撃型言語検出が期待できる可能性を示した。
論文 参考訳(メタデータ) (2023-03-31T09:50:07Z) - Translation Artifacts in Cross-lingual Transfer Learning [51.66536640084888]
機械翻訳は、既存の言語間モデルに顕著な影響を与える微妙なアーティファクトを導入することができることを示す。
自然言語の推論では、前提と仮説を独立に翻訳することで、それらの間の語彙的重複を減らすことができる。
また、XNLIでは、それぞれ4.3点と2.8点の翻訳とゼロショットのアプローチを改善している。
論文 参考訳(メタデータ) (2020-04-09T17:54:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。