論文の概要: Multilingual Emotion Neurons in Large Audio-Language Models
- arxiv url: http://arxiv.org/abs/2608.08772v1
- Date: Sun, 09 Aug 2026 15:42:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-11 19:16:36.945121
- Title: Multilingual Emotion Neurons in Large Audio-Language Models
- Title(参考訳): 大規模音声言語モデルにおける多言語感情ニューロン
- Abstract要約: 感情は人間のコミュニケーションの中心であり、その表現は言語によって異なる。
大規模音声言語モデル(LALM)が言語固有の相関や言語に依存しない表現を通じて感情を符号化するかどうかは不明である。
本研究は,神経レベルでの解釈可能性に関する最初の研究である。
- 参考スコア(独自算出の注目度): 15.987865011030387
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Emotion is central to human communication, and its expression varies across languages. Large audio-language models (LALMs) achieve strong performance on multilingual speech tasks, yet it remains unclear whether they encode emotion through language-specific correlations or language-agnostic representations. We present the first neuron-level interpretability study of this question. We define Multilingual Emotion Neurons (MLENs) as functional units exhibiting stable emotional selectivity and aligned causal effects across languages, and introduce Consistency-Regularized Fusion (CR-Fusion) to identify them. Across four modern LALMs and 12 typologically diverse languages, emotion-sensitive neurons identified independently per language show minimal overlap, and additional monolingual identification data saturates quickly without isolating more transferable units, motivating identification from pooled cross-lingual evidence. Causal interventions demonstrate that MLENs identified by CR-Fusion provide more precise and transferable affective control than monolingual neuron sets in both zero-shot and low-resource settings. Leave-one-out ablations further reveal asymmetric transfer: individual identification languages, including low-resource ones, contribute non-redundant evidence, while several low-resource languages benefit most from the resulting cross-lingual transfer. Together, our findings provide the first causal, neuron-level account of how LALMs encode emotion across languages, and establish multilingual neuron identification as an effective mechanism for understanding cross-lingual affective behavior.
- Abstract(参考訳): 感情は人間のコミュニケーションの中心であり、その表現は言語によって異なる。
大規模音声言語モデル(LALM)は多言語音声タスクにおいて高い性能を発揮するが、それらが言語固有の相関や言語に依存しない表現を通じて感情を符号化するかどうかは不明である。
本研究は,神経レベルでの解釈可能性に関する最初の研究である。
我々は,多言語性情動ニューロン(MLEN)を,安定した感情選択性と言語間の因果関係を示す機能単位として定義し,それらを特定するために一貫性-規則化融合(CR-Fusion)を導入する。
4つの近代LALMと12のタイプ的多様言語にまたがって、言語ごとに独立して識別される感情感受性ニューロンは、最小の重複を示し、追加のモノリンガル識別データは、より多くの移動可能なユニットを分離することなく、迅速に飽和し、プールされた言語間証拠からの識別を動機付ける。
因果的介入は、CR-Fusionによって同定されたMLENが、ゼロショットと低リソースの両方の設定においてモノリンガルニューロンセットよりも正確で伝達可能な感情制御を提供することを示している。
低リソース言語を含む個々の識別言語は、非冗長な証拠を提供し、低リソース言語は、結果として生じる言語間移動から最も恩恵を受ける。
今回の研究は、LALMが言語間の感情をエンコードする方法について、初めて因果的、ニューロンレベルの説明を提供し、多言語間感情行動を理解するための効果的なメカニズムとして、多言語神経識別を確立した。
関連論文リスト
- Distribution-aware Language Neuron Identification in Multilingual Large Language Models [11.749671657167966]
既存の作業は、各ニューロンの言語学的確率のエントロピーを用いて言語特異性を測定する。
本稿では,言語ごとのアクティベーション分布のペア関係を利用した分布認識言語ニューロン選択法を提案する。
我々の識別子は、言語固有の因果効果をより効果的に分離し、ニューロン当たりの目標言語損傷を最大4.9$times(約4.9ドル)に高める。
論文 参考訳(メタデータ) (2026-09-10T02:12:52Z) - Computational Lesions in Multilingual Language Models Separate Shared and Language-specific Brain Alignment [43.72658186052991]
脳がさまざまな言語で言語をどのようにサポートしているかは、神経科学の基本的な問題であり、多言語人工知能にとって有用なテストである。
ここでは、制御可能なシステムとして6つの多言語大言語モデル(LLM)を使用し、対象とする計算障害を生成する。
自然主義的物語聴取100分間における機能的磁気共鳴画像(fMRI)の応答予測における無傷モデルと損傷モデルの比較を行った。
論文 参考訳(メタデータ) (2026-04-12T13:06:47Z) - Adapting Self-Supervised Speech Representations for Cross-lingual Dysarthria Detection in Parkinson's Disease [72.0406069194794]
音声表現は、しばしば言語に依存した構造を符号化する。
本稿では,ソース言語による自己教師型音声表現とターゲット言語分布とを一致させる表現レベル言語シフトを提案する。
チェコ語,ドイツ語,スペイン語におけるパーキンソン病音声データセットの経口DDK記録に対するアプローチについて検討した。
論文 参考訳(メタデータ) (2026-03-23T17:23:39Z) - CRANE: Causal Relevance Analysis of Language-Specific Neurons in Multilingual Large Language Models [0.021485350418225243]
言語能力がニューロンレベルでどのように組織されるかは、いまだに理解されていない。
機能的必要度の観点から言語特異性を再定義する関連性に基づく分析フレームワークであるCRANEを提案する。
論文 参考訳(メタデータ) (2026-01-08T07:21:13Z) - The Emergence of Abstract Thought in Large Language Models Beyond Any Language [95.50197866832772]
大規模言語モデル(LLM)は様々な言語で効果的に機能する。
予備的研究では、LLMの隠れた活性化は、英語以外のプロンプトに反応してもしばしば英語に類似している。
近年の結果は多言語のパフォーマンスが強く、他の言語での特定のタスクにおける英語のパフォーマンスを超えている。
論文 参考訳(メタデータ) (2025-06-11T16:00:54Z) - How does Alignment Enhance LLMs' Multilingual Capabilities? A Language Neurons Perspective [64.79894853375478]
本稿では,言語ニューロン(言語特異的ニューロンや言語関連ニューロンを含む)と言語非依存ニューロンを検出する,より微細なニューロン識別アルゴリズムを提案する。
異なる種類のニューロンの分布特性に基づいて、多言語推論のためのLCMの内部過程を4つの部分に分割する。
我々は、異なる種類のニューロンに焦点を合わせ、その前後のモデルを体系的に分析する。
論文 参考訳(メタデータ) (2025-05-27T17:59:52Z) - When Less Language is More: Language-Reasoning Disentanglement Makes LLMs Better Multilingual Reasoners [111.50503126693444]
言語固有のアブレーションは多言語推論性能を継続的に向上させることを示す。
トレーニング後のアブレーションと比較して、トレーニング不要のアブレーションは、計算オーバーヘッドを最小限に抑えながら、同等または優れた結果が得られる。
論文 参考訳(メタデータ) (2025-05-21T08:35:05Z) - Language-specific Neurons Do Not Facilitate Cross-Lingual Transfer [21.205821852762362]
言語固有のニューロンを識別する既存の技術は、低リソース言語の言語間タスク性能を向上させるために利用することができる。
このようなニューロン特異的な介入は、下流タスクにおいて言語横断的な改善をもたらすには不十分である。
論文 参考訳(メタデータ) (2025-03-21T18:08:11Z) - Sharing Matters: Analysing Neurons Across Languages and Tasks in LLMs [85.0284555835015]
大規模言語モデル(LLM)は自然言語処理(NLP)の分野に革命をもたらした。
多言語環境でのLLMの内部動作を探究する研究はほとんどない。
我々は、異なる言語にまたがる特定の入力に対する応答に基づいて、ニューロンを4つの異なるカテゴリに分類する。
論文 参考訳(メタデータ) (2024-06-13T16:04:11Z) - How do Large Language Models Handle Multilingualism? [81.15060972112563]
本研究では,大規模言語モデル(LLM)が多言語モデルをどのように扱うかを検討する。
LLMはまずクエリを理解し、タスク解決のために多言語入力を英語に変換する。
中間層では、英語を思考に用い、自己意識とフィードフォワード構造を持つ多言語知識を取り入れている。
論文 参考訳(メタデータ) (2024-02-29T02:55:26Z) - Language-Specific Neurons: The Key to Multilingual Capabilities in Large Language Models [117.20416338476856]
大規模言語モデル(LLM)は、特別にキュレートされた多言語並列コーパスで事前訓練されることなく、顕著な多言語機能を示す。
LLM内の言語特異的ニューロンを識別するための新しい検出手法である言語アクティベーション確率エントロピー(LAPE)を提案する。
以上の結果から,LLMが特定の言語を処理できる能力は,神経細胞のサブセットが少なすぎるためであることが示唆された。
論文 参考訳(メタデータ) (2024-02-26T09:36:05Z) - Cross-Lingual Ability of Multilingual Masked Language Models: A Study of
Language Structure [54.01613740115601]
本稿では,構成順序,構成,単語共起の3つの言語特性について検討する。
我々の主な結論は、構成順序と単語共起の寄与は限定的である一方、構成は言語間移動の成功にとってより重要であるということである。
論文 参考訳(メタデータ) (2022-03-16T07:09:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。