論文の概要: Cultural Awareness is Represented but Not Decoded: Tracing Mythological Knowledge across 18 Open-Source LLMs
- arxiv url: http://arxiv.org/abs/2608.02486v1
- Date: Mon, 03 Aug 2026 16:53:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:25.71423
- Title: Cultural Awareness is Represented but Not Decoded: Tracing Mythological Knowledge across 18 Open-Source LLMs
- Title(参考訳): 文化認識は表現されるが復号化されない:18のオープンソースLCMにおける神話的知識の追跡
- Abstract要約: 線形プローブ,ロジットレンズ,アクティベーションパッチ,出力抽出機能を備えた8つのアーキテクチャファミリのオープンソースLLMを18個実装する。
残留するストリームは、名前のストリングベースラインのかなり上にある文化をきれいに区別するが、デコーダは文化的に固有のトークンを支配的な取引のトークンに分解する。
提案手法は,言語条件付き読み出しにおける文内関係と文内関係の相関テスト,および全18モデルに対する文内関係の予測を行う。
- 参考スコア(独自算出の注目度): 0.1682277069379282
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Open-source LLMs reliably name Zeus, Jupiter, and Thor, but recover their counterparts in less-represented traditions like Finnish, Slavic, Egyptian, or Chinese mythology far less consistently. We ask where inside the model this cultural default is produced. On a parallel cross-cultural substrate of Thompson-motif entities, we instrument 18 open-source LLMs from 8 architecture families with linear probing, logit lens, activation patching, and output extraction. The residual stream cleanly distinguishes cultures, well above a name-string baseline, yet the decoder collapses culturally-specific tokens onto dominant-tradition ones. The failure is at readout, not at representation. Asking the same question in the target culture's native language versus English produces failures that cluster within language but decouple across language: the decoder is gated on prompt language. We release a per-entity (probe, output) decomposition framework, a citation-anchored cross-cultural ground truth, a within- versus cross-mode correlation test for language-conditioned readout, and per-entity predictions for all 18 models.
- Abstract(参考訳): オープンソースのLSMはZeus、Jupiter、Thorを確実に名付けているが、フィンランド、スラヴ、エジプト、中国の神話など、あまり表現されていない伝統でその名前を復元している。
私たちは、この文化的デフォルトが生成されるモデルの中でどこにあるか尋ねます。
並列なThompson-motifエンティティ上に,線形プローブ,ロジットレンズ,アクティベーションパッチ,出力抽出を備えた8つのアーキテクチャファミリから18個のオープンソースLCMを実装した。
残留するストリームは、名前のストリングベースラインのかなり上にある文化をきれいに区別するが、デコーダは文化的に固有のトークンを支配的な取引のトークンに分解する。
障害は読み出し時に発生し、表現されていない。
対象とする文化のネイティブ言語と英語で同じ質問をすると、言語内でクラスタ化されるが、言語間で分離される失敗が発生する:デコーダはプロンプト言語でゲートされる。
提案手法は,言語条件付き読み出しにおける文内関係と文内関係の相関テスト,および全18モデルに対する文内関係の予測を行う。
関連論文リスト
- Beyond Surface Cues: Disentangling Sociocultural Signals in Multilingual LLMs [28.912535376913436]
この研究は、英語、フランス語、中国語の12の多言語LLMから89,253のアウトプットを分析した。
ダイレクト・アイデンティティ・キューの削除は、英語と中国語でのアイデンティティ・ラベルの予測を減少させるが、フランス語でははるかに小さな効果を持つ。
ソース言語を識別する能力は、翻訳後およびマスキング後に大幅に低下する。
論文 参考訳(メタデータ) (2026-08-24T09:32:16Z) - MameLoshnLM: Yiddish Language Model and Evaluation Benchmark [62.936233688546984]
We present MameLoshnLM, a first open-source 8B- parameter language model built for Yiddish。
イディッシュ語のリッチテキストの伝統にもかかわらず、そのデジタル的存在と信頼性の高い評価資源の不足は、イディッシュ語のモデリングの進歩を妨げている。
この結果は,Yiddish NLPの基礎と,歴史的にリッチだがデジタルに表現されていない言語における言語モデル開発のための実践的テンプレートの両方を提供する。
論文 参考訳(メタデータ) (2026-08-06T10:24:08Z) - Moral Semantics Survive Machine Translation: Cross-Lingual Evidence from Moral Foundations Corpora [0.6091702876917279]
道徳的言語は微妙で文化的に変化しており、言語間で忠実に翻訳することは困難である。
直訳は、言語間機械学習によって得られる微妙な道徳的手がかりを十分に保っていることを示す。
我々はポーランド語をスラヴ語の代表として示し、関連する言語への一般化を期待する。
論文 参考訳(メタデータ) (2026-05-21T16:02:15Z) - Metaphors We Compute By: A Computational Audit of Cultural Translation vs. Thinking in LLMs [15.854854496840074]
大規模言語モデル(LLM)は、多くの言語で理解し、応答できるため、多言語として記述されることが多い。
本稿では,創造的な文章作成作業における文化的傾きの予備的な計算監査について述べる。
論文 参考訳(メタデータ) (2026-04-06T15:00:05Z) - Mitigating Cross-Lingual Cultural Inconsistencies in LLMs via Consensus-Driven Preference Optimisation [58.01855677487771]
本研究では,多言語大言語モデル (MLLM) が,プロンプトの言語変化に伴う不整合性を示すことを示す。
コンセンサス駆動型アライメントフレームワークであるC-3POを提案する。
C-3POは、非整合モデルよりも0.10ポイントの$_S$を絶対的に増加させ、強力なプロンプトと表現のステアリングベースラインを上回る。
論文 参考訳(メタデータ) (2026-04-02T14:04:06Z) - Omnilingual SONAR: Cross-Lingual and Cross-Modal Sentence Embeddings Bridging Massively Multilingual Text and Speech [61.759910921200834]
言語間の文エンコーダは通常、数百の言語をカバーしている。
我々はOmniSONARを紹介した。OmniSONARは全言語、言語横断、言語横断の文埋め込みモデルである。
論文 参考訳(メタデータ) (2026-03-17T14:47:35Z) - LLMs as Cultural Archives: Cultural Commonsense Knowledge Graph Extraction [57.23766971626989]
大規模言語モデル(LLM)は、多様なWebスケールデータから学んだ豊富な文化的知識を符号化する。
文化常識知識グラフ(CCKG)構築のための反復的,即時的枠組みを提案する。
対象文化が英語ではない場合でも、文化知識グラフは英語でよりよく認識されている。
論文 参考訳(メタデータ) (2026-01-25T20:05:04Z) - Do Large Language Models Truly Understand Cross-cultural Differences? [53.481048019144644]
我々は,大規模言語モデルの異文化間理解と推論を評価するシナリオベースのベンチマークを開発した。
文化理論を基礎として、異文化の能力を9次元に分類する。
データセットは連続的な拡張をサポートし、実験は他の言語への転送可能性を確認する。
論文 参考訳(メタデータ) (2025-12-08T01:21:58Z) - NileChat: Towards Linguistically Diverse and Culturally Aware LLMs for Local Communities [28.926075586175173]
LLM(Large Language Models)の言語能力を低リソース言語に拡張することは、重要な研究分野である。
現在の研究方向は、英語コーパスの翻訳によって生成された合成データに依存している。
本研究は,特定のコミュニティに適した,合成および検索に基づく事前学習データを作成する手法を提案する。
論文 参考訳(メタデータ) (2025-05-23T21:18:40Z) - Idiosyncrasies in Large Language Models [54.26923012617675]
大規模言語モデル(LLM)における慣用句の公開と研究
LLM生成テキストへの微調整テキスト埋め込みモデルにより,優れた分類精度が得られることがわかった。
我々はLLMを審査員として利用し、各モデルの慣用句の詳細かつオープンな記述を生成する。
論文 参考訳(メタデータ) (2025-02-17T18:59:02Z) - On The Origin of Cultural Biases in Language Models: From Pre-training Data to Linguistic Phenomena [10.263201685476492]
本稿では,言語モデル(LM)におけるエンティティ関連文化バイアスの起源を明らかにすることを目的とする。
アラビア文化や西洋文化に関連する58,086のエンティティと367の自然文脈をマスキングしたエンティティのアラビア・英語の並列ベンチマークであるCAMeL-2を紹介する。
CAMeL-2を用いた評価では、アラビア語と比較して英語で試験すると、LMによる文化間のパフォーマンスギャップが減少することがわかった。
論文 参考訳(メタデータ) (2025-01-08T18:15:47Z) - Unsupervised Transfer Learning in Multilingual Neural Machine
Translation with Cross-Lingual Word Embeddings [72.69253034282035]
我々は、言語独立多言語文表現を活用し、新しい言語に容易に一般化する。
複数のロマンス言語を含むベースシステムを用いてポルトガル語から盲目的に復号し、ポルトガル語では36.4 BLEU、ロシア語では12.8 BLEUのスコアを得た。
非反復的逆翻訳によるより実用的な適応アプローチを探求し、高品質の翻訳を生産するモデルの能力を活用します。
論文 参考訳(メタデータ) (2021-03-11T14:22:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。