論文の概要: Phonological Knowledge of Chinese Characters in Language Models
- arxiv url: http://arxiv.org/abs/2611.05803v1
- Date: Wed, 04 Nov 2026 01:22:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 03:25:57.915932
- Title: Phonological Knowledge of Chinese Characters in Language Models
- Title(参考訳): 言語モデルにおける漢字の音韻論的知識
- Abstract要約: 言語モデル(LM)は中国語の音韻論的知識をどの程度持っているか?
我々はPinyinBench, ホモフォン, 音韻的特徴(初期, 最終, 音調), ポリフォニック文字をカバーするベンチマークを紹介する。
本研究では,行動評価,レイヤワイド・プローブリング,アクティベーション・ステアリングの3つの相補的アプローチを用いて,テキストのみとマルチモーダルなLMについて検討する。
- 参考スコア(独自算出の注目度): 1.8653582147274046
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: How much phonological knowledge do language models (LMs) possess about Chinese characters, and how is this knowledge represented and used? We introduce PinyinBench, a controlled benchmark covering homophones, phonological features (initials, finals, and tones), and polyphonic characters. We investigate 17 text-only and multimodal LMs through three complementary approaches: behavioral evaluation, layer-wise probing, and activation steering. Behaviorally, models demonstrate substantial knowledge of initials and finals, with a frontier model (DS-v4-flash) scoring 90%+ in homophone judgment, when two characters share no phonological features. However, its accuracy drops sharply to 72% when two characters differ only in lexical tone. Probing reveals that tone is highly decodable from embeddings and improves modestly across layers, whereas segmental information starts less decodable and improves substantially with depth. Activation steering shows that segmental representations can systematically influence generation, while tone exhibits much weaker effects. Furthermore, audio-bearing training improves phonological decodability, including tone, without corresponding improvements in steering effectiveness. Together, these findings reveal distinct representational and functional profiles for segmental and tonal information, with tonal information much harder to access and manipulate, demonstrating the necessity for combined evaluation, probing, and causal intervention for understanding linguistic knowledge in LMs.
- Abstract(参考訳): 言語モデル(LM)は中国語についてどの程度の音韻論的知識を持っているのか。
我々はPinyinBenchについて紹介する。PinyinBenchは、ホモフォン、音韻的特徴(初期、最終、音調)、ポリフォニック文字をカバーする制御ベンチマークである。
本研究では,行動評価,レイヤワイド・プローブリング,アクティベーション・ステアリングの3つの相補的アプローチを用いて,テキストのみとマルチモーダルなLMについて検討する。
行動学的には、2文字が音韻的特徴を共有しない場合、フロンティアモデル(DS-v4-フラッシュ)が90%以上のスコアを得た。
しかし、2文字が語彙音だけ異なる場合、精度は72%に急落した。
Probingは、トーンが埋め込みから非常にデオード可能であり、層間を適度に改善していることを明らかにし、セグメンショナル情報はデオードが小さくなり、深さが大幅に改善される。
アクティベーションステアリング(英語版)は、セグメント表現が生成に体系的に影響を及ぼすことを示し、トーンはより弱い効果を示す。
さらに、聴取訓練は、聴取効率の向上を伴わずに、音色を含む音韻的聴取性を向上させる。
これらの結果から, 音節情報や音節情報に対する表現的・機能的プロファイルが明らかになり, 音節情報へのアクセスや操作がはるかに困難になり, 言語知識の理解のための総合的評価, 探索, 因果的介入の必要性が示された。
関連論文リスト
- Improving low-resource ASR using bilingual fine-tuning with language identification: a cross-linguistic evaluation [12.704618889220404]
本研究では,低音源言語におけるバイリンガル微調整が自動音声認識(ASR)に与える影響について検討する。
本手法は言語学的および地理的に異なる9つの言語対にまたがって評価する。
論文 参考訳(メタデータ) (2026-06-16T11:48:36Z) - How Tokenization Limits Phonological Knowledge Representation in Language Models and How to Improve Them [16.77683912171153]
サブワードベースのトークン化は局所的およびグローバルな音韻的特徴の符号化を系統的に弱めることを示す。
言語モデルに音韻的認識を注入する軽量なIPAに基づく微調整法を提案する。
論文 参考訳(メタデータ) (2026-04-18T18:40:56Z) - Towards Inclusive Communication: A Unified Framework for Generating Spoken Language from Sign, Lip, and Audio [52.859261069569165]
音声テキスト生成のための手話,唇の動き,音声の多様な組み合わせを扱える最初の統一フレームワークを提案する。
i)不均一な入力を効果的に処理できる統一されたモダリティ非依存アーキテクチャの設計、(ii)モダリティ間の過小評価された相乗効果の探索、特に手話理解における非手動的手がかりとしての唇運動の役割、(iii)個々のタスクに特化した最先端モデルと同等以上のパフォーマンスを達成すること、の3つの目的に焦点をあてる。
論文 参考訳(メタデータ) (2025-08-28T06:51:42Z) - Speech Discrete Tokens or Continuous Features? A Comparative Analysis for Spoken Language Understanding in SpeechLLMs [59.230858581944425]
音声処理には、離散トークンと連続的な特徴の2つの主要なアプローチが出現している。
自己教師付き学習(SSL)に基づく離散的かつ連続的な特徴を、同じ実験環境下で比較する。
その結果, 連続的な特徴は, 様々なタスクにおいて, 離散トークンよりも優れていた。
論文 参考訳(メタデータ) (2025-08-25T10:16:07Z) - What Can an Accent Identifier Learn? Probing Phonetic and Prosodic
Information in a Wav2vec2-based Accent Identification Model [30.88357561791563]
本研究は,自己監督学習モデルに符号化された音素・韻律情報の変化の理解と定量化に焦点を当てた。
その結果、AIDファインチューニングタスクは上位2層を操り、よりリッチな音素と韻律表現を学ぶことができた。
論文 参考訳(メタデータ) (2023-06-10T21:20:47Z) - Unify and Conquer: How Phonetic Feature Representation Affects Polyglot
Text-To-Speech (TTS) [3.57486761615991]
統一表現は、自然性とアクセントの両方に関して、より優れた言語間合成を達成する。
分離表現は、モデルキャパシティに影響を与える可能性がある統一表現よりも桁違いに多くのトークンを持つ傾向がある。
論文 参考訳(メタデータ) (2022-07-04T16:14:57Z) - Towards Language Modelling in the Speech Domain Using Sub-word
Linguistic Units [56.52704348773307]
音節や音素を含む言語単位に基づくLSTMに基づく新しい生成音声LMを提案する。
限られたデータセットでは、現代の生成モデルで要求されるものよりも桁違いに小さいので、我々のモデルはバブリング音声を近似する。
補助的なテキストLM,マルチタスク学習目標,補助的な調音特徴を用いた訓練の効果を示す。
論文 参考訳(メタデータ) (2021-10-31T22:48:30Z) - Wav-BERT: Cooperative Acoustic and Linguistic Representation Learning
for Low-Resource Speech Recognition [159.9312272042253]
Wav-BERTは、協調的な音響および言語表現学習法である。
我々は、事前訓練された音響モデル(wav2vec 2.0)と言語モデル(BERT)をエンドツーエンドのトレーニング可能なフレームワークに統合する。
論文 参考訳(メタデータ) (2021-09-19T16:39:22Z) - What BERT Based Language Models Learn in Spoken Transcripts: An
Empirical Study [6.696983725360809]
言語モデル(LM)は、音声言語理解(SLU)を含む様々なタスクでユビキタスに活用されている。
本研究では、SLUを話者(分散、一時停止、オーバートーク)、チャンネル(会話型、ターンタスク)、ASR(挿入、削除、置換)の3つの代表的な特性に分解することを提案する。
本稿では,BERT に基づく言語モデル (BERT, RoBERTa) を探索し,言語手がかりがない場合に多言語特性を理解する能力について検討する。
論文 参考訳(メタデータ) (2021-09-19T11:23:50Z) - Leveraging Pre-trained Language Model for Speech Sentiment Analysis [58.78839114092951]
本研究では、事前学習された言語モデルを用いて、文章の感情情報を学習し、音声の感情分析を行う。
本稿では,言語モデルを用いた擬似ラベルに基づく半教師付き訓練戦略を提案する。
論文 参考訳(メタデータ) (2021-06-11T20:15:21Z) - SPLAT: Speech-Language Joint Pre-Training for Spoken Language
Understanding [61.02342238771685]
音声理解には、入力音響信号を解析してその言語内容を理解し、予測するモデルが必要である。
大規模無注釈音声やテキストからリッチな表現を学習するために,様々な事前学習手法が提案されている。
音声と言語モジュールを協調的に事前学習するための,新しい半教師付き学習フレームワークであるSPLATを提案する。
論文 参考訳(メタデータ) (2020-10-05T19:29:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。