論文の概要: Concept Direction Reliability Across Languages with Different Tokenizer Fertility

• arxiv url: http://arxiv.org/abs/2609.36194v1
• Date: Mon, 28 Sep 2026 19:57:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 04:28:51.324738
• Title: Concept Direction Reliability Across Languages with Different Tokenizer Fertility
• Title（参考訳）: tokenizer Fertility の異なる言語にまたがる概念指向性
• Abstract要約: 原文と翻訳文の両方を用いて,英語,ハウサ語,ヨルバ語の分割半一致を計測した。 英語では0.737から0.870、ハウサでは0.589から0.762、ヨルバでは0.101から0.399である。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Extracted sentiment directions can vary across samples even when downstream sentiment classification remains accurate. To evaluate direction reproducibility, we measure split-half agreement in English, Hausa, and Yoruba representations across four language models using both native and translated texts. We identify layers selected for agreement using ten topics and evaluate direction agreement across separate groups of fifteen topics. Using the final token, split-half agreement ranges from 0.737 to 0.870 for English, 0.589 to 0.762 for Hausa, and 0.101 to 0.399 for Yoruba, maintaining this language rank order across all 77 complete model comparisons. Classifiers trained on these same layers consistently predict sentiment above chance, demonstrating that predictive accuracy does not imply directional consistency. Furthermore, averaging token representations yields less consistent agreement, and high agreement can partially reflect sentence length. Ultimately, our findings highlight the need to measure vector direction reproducibility independently of classification performance, though they do not establish that tokenizer fertility which is the average number of tokens per whitespace separated word causes cross-lingual differences.
• Abstract（参考訳）: 抽出された感情方向は、下流の感情分類が正確である場合でも、サンプルによって異なる可能性がある。 方向再現性を評価するために、英語、ハウサ語、およびヨルバ語の4つの言語モデルにおける分割半一致をネイティブテキストと翻訳テキストの両方を用いて測定する。 提案手法は,10のトピックから選択したレイヤを識別し,15のトピックの別々のグループ間での方向性合意を評価する。 最終的なトークンを使用すると、英語で0.737から0.870、ハウサで0.589から0.762、ヨルバで0.101から0.399まで、77の完全モデル比較でこの言語階位を維持している。 これらの同じ層でトレーニングされた分類器は、常にチャンス以上の感情を予測し、予測精度が方向性の整合性を示唆しないことを示す。 さらに、平均的なトークン表現は一貫性の低い一致となり、高い一致は文の長さを部分的に反映することができる。 最終的に、分類性能とは無関係にベクトル方向再現性を測定することの必要性を強調したが、白空間分離語当たりの平均トークン数であるトークン化剤の施肥が、言語間差を引き起こすことを証明していない。

関連論文リスト

• GYROval: A Robust Benchmark for Cultural Value Orientation in Large Language Models [70.36032466145112]
  GYROvalは、大きな言語モデルにおける文化的価値の向きを測定するためのベンチマークである。 また、20モデルのうち11モデルが同じ項目の対訳と第2のサンプリング温度を施した。
  論文  参考訳（メタデータ） (2026-09-16T09:38:38Z)
• Structure, Association, and Decision Value: Representation-Based Difficulty Estimation for Adaptive Inference in African-Language NLI [0.0]
  我々は15のアフリカ諸言語にまたがる自然言語の推論について検討した。 AfriXNLIはXNLIに由来するため、英語、フランス語、スワヒリの構成はXNLIで訓練されたモデルのクリーンな評価には役立たない。 我々の中心的な方法論的発見は、表現統計学は、ある計算的利益の概念に対して統計的に有意であり、他方とは無関係であるということである。
  論文  参考訳（メタデータ） (2026-08-19T15:03:51Z)
• IndicQE-APE: A Benchmark for Quality Estimation and Automatic Post-Editing for Indic Languages [77.88427845181154]
  我々はWMT 2020-2024の共有タスクの系統を、英語のリソースを拡張してインディクシーに集約する:9つの方向対に対して126,754ドルのインスタンス。 セグメントレベルのQEでは,LSMが6つ,COMETが3つ,APEでは3つのシステムをベンチマークした。
  論文  参考訳（メタデータ） (2026-08-17T09:50:52Z)
• Interpretable Cross-Lingual Alignment in Small Language Models: Probing Cultural and Pragmatic Reasoning in Japanese-English Bilingual LLMs [0.0]
  表面流速から4つの現象を分離する最小ペアのベンチマークであるJ-PragEval-v0を紹介する。 線形プローブと教師による対数確率評価を組み合わせて、TinySwallow-1.5B内のどのコントラストがライブであるかを問う。
  論文  参考訳（メタデータ） (2026-08-14T21:04:21Z)
• CLARA: Clarification of Language Ambiguity through Result Analysis for Natural-Language Cancer Genomics Queries [4.351890561620454]
  我々は,質問を型付き科学クエリ仕様として表現するフレームワークであるCLARAを提案する。 CLARAは8つのTCGA PanCancer Atlasコホートと30遺伝子パネルの変異頻度コントラストを評価した。 CLARAは120個の単語を別々に生成し、手動で言語ストレステストを行い、60個の結果に敏感なコントラストと60個の安定コントラストのうち13個の不必要に明確化した。
  論文  参考訳（メタデータ） (2026-08-03T23:08:27Z)
• Bag of Dims: Training-Free Mechanistic Interpretability via Dimension-Level Sign Patterns [0.0]
  我々は、すでにトレーニング不要でアーキテクチャ全般的な機能ベースを提供しているトランスフォーマー隠蔽状態の標準基底を示す。 このBag of Dimsフレームワークを、言語にまたがる7つのモデルで検証する。
  論文  参考訳（メタデータ） (2026-06-10T19:34:31Z)
• Benchmarking Speech-to-Speech Translation Models [55.00303727199927]
  音声音声翻訳(S2ST)は急速に進歩しているが、オフライン評価には統一されたプロトコルが欠けている。 8次元にわたる46のメトリクスを統合するベンチマークフレームワークを導入する。 FLEURSとCVSSから1,248のモデル言語構成でデプロイする。
  論文  参考訳（メタデータ） (2026-06-02T07:01:33Z)
• Measuring Faithfulness Depends on How You Measure: Classifier Sensitivity in LLM Chain-of-Thought Evaluation [0.0]
  連鎖忠実性に関する最近の研究は、単一集合数について報告している。 本論文は、忠実性はモデルの客観的かつ測定可能な性質ではないことを示す。
  論文  参考訳（メタデータ） (2026-03-20T17:48:43Z)
• Narrowing the Gap between Zero- and Few-shot Machine Translation by Matching Styles [53.92189950211852]
  大規模言語モデルは、文脈内学習を用いたゼロショットと少数ショットの例を用いて、機械翻訳に一般化する能力を示した。 本稿では,このギャップに寄与する要因について検討し,対象コーパスの書字スタイルを一致させることで,このギャップをほとんど(約70%)閉鎖できることを示す。
  論文  参考訳（メタデータ） (2023-11-04T03:18:45Z)
• Retrieval-based Disentangled Representation Learning with Natural Language Supervision [61.75109410513864]
  本稿では,VDR(Vocabulary Disentangled Retrieval)を提案する。 提案手法では,両エンコーダモデルを用いて語彙空間におけるデータと自然言語の両方を表現する。
  論文  参考訳（メタデータ） (2022-12-15T10:20:42Z)
• OneAligner: Zero-shot Cross-lingual Transfer with One Rich-Resource Language Pair for Low-Resource Sentence Retrieval [91.76575626229824]
  文検索タスク用に特別に設計されたアライメントモデルであるOneAlignerを提案する。 大規模並列多言語コーパス(OPUS-100)の全ての言語ペアで訓練すると、このモデルは最先端の結果が得られる。 実験結果から,文アライメントタスクの性能はモノリンガルおよび並列データサイズに大きく依存することがわかった。
  論文  参考訳（メタデータ） (2022-05-17T19:52:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。