論文の概要: Cross-lingual Functional Vectors for Emotion Detection in Large Language Models
- arxiv url: http://arxiv.org/abs/2608.29613v1
- Date: Sun, 30 Aug 2026 07:08:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-01 18:31:31.02157
- Title: Cross-lingual Functional Vectors for Emotion Detection in Large Language Models
- Title(参考訳): 大規模言語モデルにおける感情検出のための言語間機能ベクトル
- Abstract要約: 関数ベクトル(FV)は、大規模言語モデルの振る舞いを制御するための有望なメカニズムとして登場した。
多言語多言語感情認識を用いたFVの言語間伝達性について検討する。
- 参考スコア(独自算出の注目度): 2.3567984677073945
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Function vectors (FVs) have recently emerged as a promising mechanism for steering the behavior of large language models (LLMs) by injecting task-specific latent direction representations derived from in-context demonstrations. While prior studies have shown that FVs can recover task behavior in structured in-context learning settings, their effectiveness on semantically complex tasks and their ability to generalize across languages remain underexplored. We investigate the cross-lingual transferability of FVs using multilingual multi-label emotion recognition as a challenging semantic classification benchmark. Specifically, we examine whether FVs extracted from a source language can steer task behavior in another language under both standard clean and perturbed zero-shot settings without providing demonstrations during inference. Across diverse cross-lingual settings, applying FVs substantially improves performance, suggesting that FVs capture language-agnostic, task-relevant signals rather than purely language-specific lexical patterns, and highlighting their potential as a lightweight and transferable mechanism for multilingual task adaptation. We observe that each LLM exhibits a relatively stable optimal range of attention heads for constructing effective FVs, and the pattern remains consistent across languages. In addition, FVs can partially replicate the task-steering effects of standard few-shot in-context learning while avoiding the computational overhead of processing multiple demonstrations, making them effective for large-scale practical applications. Our code is available at https://github.com/yingjie7/cross_lingual_fvs.
- Abstract(参考訳): 関数ベクトル (FVs) は, 大規模言語モデル (LLMs) の振る舞いを, コンテキスト内デモから派生したタスク固有の潜在方向表現を注入することによって, 操る上で有望なメカニズムとして最近登場した。
従来の研究では、FVは構造化された文脈内学習環境においてタスクの振る舞いを回復できることが示されているが、意味論的に複雑なタスクに対するその効果と言語をまたいで一般化する能力は未解明のままである。
本稿では,多言語多言語感情認識を用いたFVの言語間伝達性について検討する。
具体的には,ソース言語から抽出したFVが,標準的クリーンおよび摂動的ゼロショット設定の下で他の言語でのタスク動作を制御できるかどうかを,推論中に実演を行うことなく検討する。
FVは言語固有の語彙パターンではなく、言語に依存しないタスク関連信号をキャプチャし、多言語タスク適応のための軽量かつ伝達可能なメカニズムとしての可能性を強調している。
それぞれのLLMは、有効なFVを構築するための比較的安定したアテンションヘッドを示しており、そのパターンは言語間で一貫性が保たれている。
さらに、FVは、複数の実演処理の計算オーバーヘッドを回避しつつ、標準的な数発のインコンテキスト学習のタスクステアリング効果を部分的に再現することができ、大規模な実用的な応用に有効である。
私たちのコードはhttps://github.com/yingjie7/cross_lingual_fvs.comで利用可能です。
関連論文リスト
- UNICS: Multilingual Code Search via Unified Pseudocode and Contrastive Transfer Learning [20.215764918447643]
2段階のトレーニング戦略に基づいて構築された多言語コード検索のためのフレームワークであるUNICSを紹介する。
最初の段階では、UNICSは、擬似コードを統一表現として使用する、構築した新しいデータセットに基づいて事前訓練される。
第2段階では、この一般的な知識を特定の言語に適応させるマルチタスク変換学習戦略を採用している。
論文 参考訳(メタデータ) (2026-06-26T06:03:33Z) - Beyond English: Uncovering the Multilingual Gap in Vision-Language-Action Models [22.61843460495166]
Vision-Language-Actionモデルは最近、大規模マルチモーダルデータから汎用ロボットポリシーを学習する有望な能力を実証した。
既存のVLAシステムは、主に英語の命令で訓練され、評価され、他の言語での命令を理解し実行する能力は、ほとんど探索されていない。
本稿では,VLAモデルにおける多言語命令に対する最初の体系的研究について述べる。
論文 参考訳(メタデータ) (2026-06-14T10:04:08Z) - Exploring Language-Agnosticity in Function Vectors: A Case Study in Machine Translation [18.767272825748456]
関数ベクトル(FV)は、コンテキスト内学習中にモデルアクティベーションから抽出されたタスクのベクトル表現である。
FVが言語に依存しないかどうかを,機械翻訳を事例として検討した。
論文 参考訳(メタデータ) (2026-04-21T16:56:55Z) - Do What? Teaching Vision-Language-Action Models to Reject the Impossible [53.40183895299108]
VLA(Vision-Language-Action)モデルは、さまざまなロボットタスクにおいて強力なパフォーマンスを示している。
Instruct-Verify-and-Act(IVA)を提案する。
実験の結果,IVAはベースラインよりも97.56%の精度で虚偽の前提検出精度を向上させることがわかった。
論文 参考訳(メタデータ) (2025-08-22T10:54:33Z) - Language Surgery in Multilingual Large Language Models [39.66404344691661]
大規模言語モデル(LLM)はタスクや言語にまたがる顕著な一般化機能を示している。
本稿では, LLMにおける自然に出現する表現アライメント, 特に中層における表現アライメントについて検討する。
Inference-Time Language Control (ITLC) を提案する。
論文 参考訳(メタデータ) (2025-06-14T11:09:50Z) - Improving Multilingual Language Models by Aligning Representations through Steering [10.159957091670883]
本稿では,Large Language Models (LLM) が非英語トークンをどのように表現するかを検討する。
表現ステアリングを用いた軽量な介入手法を提案し、学習ベクトルを1つのモデル層における残差ストリームに追加し、多言語性能を向上させる。
論文 参考訳(メタデータ) (2025-05-19T00:14:43Z) - Breaking Language Barriers in Visual Language Models via Multilingual Textual Regularization [9.349707150988893]
本稿では,視覚的インストラクションチューニング中にテキストのみの多言語データを注入する連続多言語統合戦略を提案する。
本手法は,視覚能力の低下を伴わない言語間の言語忠実度を著しく向上させる。
論文 参考訳(メタデータ) (2025-03-28T16:26:52Z) - ShifCon: Enhancing Non-Dominant Language Capabilities with a Shift-based Multilingual Contrastive Framework [78.07201802874529]
ShifConはシフトベースの多言語コントラストフレームワークで、他の言語の内部のフォワードプロセスを支配的な言語に合わせる。
実験により、我々のShifConフレームワークは、非支配言語の性能を大幅に向上させることが示された。
論文 参考訳(メタデータ) (2024-10-25T10:28:59Z) - Lens: Rethinking Multilingual Enhancement for Large Language Models [70.85065197789639]
大規模言語モデル(LLM)における多言語機能向上のための新しいアプローチであるLensを提案する。
Lensは2つの部分空間で機能する: 言語に依存しない部分空間で、ターゲット言語と中心言語を一致させて強力な意味表現を継承する部分空間、言語固有の部分空間で、ターゲット言語と中心言語を分離して言語的特異性を保存する部分空間である。
レンズは、モデルの英語能力を維持しながら、多言語のパフォーマンスを著しく向上させ、既存の訓練後のアプローチと比べて計算コストの低い結果を得る。
論文 参考訳(メタデータ) (2024-10-06T08:51:30Z) - RC3: Regularized Contrastive Cross-lingual Cross-modal Pre-training [84.23022072347821]
本稿では,弱整列型ビオテキスト入力の表現近接を制約する正規化言語間ビオテキストコントラスト学習目標を提案する。
6言語にまたがる5つの下流マルチモーダルタスクの実験により,提案手法の有効性が示された。
論文 参考訳(メタデータ) (2023-05-13T14:41:05Z) - AM2iCo: Evaluating Word Meaning in Context across Low-ResourceLanguages
with Adversarial Examples [51.048234591165155]
本稿では, AM2iCo, Adversarial and Multilingual Meaning in Contextを提案する。
言語間文脈における単語の意味の同一性を理解するために、最先端(SotA)表現モデルを忠実に評価することを目的としている。
その結果、現在のSotAプリトレーニングエンコーダは人間のパフォーマンスにかなり遅れていることが明らかとなった。
論文 参考訳(メタデータ) (2021-04-17T20:23:45Z) - Evaluating Multilingual Text Encoders for Unsupervised Cross-Lingual
Retrieval [51.60862829942932]
本稿では,言語間文書・文検索タスクにおける最先端多言語エンコーダの適合性に着目した体系的実証研究を行う。
文レベルのCLIRでは、最先端のパフォーマンスが達成できることを実証する。
しかし、ピーク性能は、汎用の多言語テキストエンコーダをオフ・ザ・シェルフで使うのではなく、文の理解タスクにさらに特化したバリエーションに依存している。
論文 参考訳(メタデータ) (2021-01-21T00:15:38Z) - VECO: Variable and Flexible Cross-lingual Pre-training for Language
Understanding and Generation [77.82373082024934]
我々はTransformerエンコーダにクロスアテンションモジュールを挿入し、言語間の相互依存を明確に構築する。
独自の言語でコンテキストにのみ条件付けされたマスク付き単語の予測の退化を効果的に回避することができる。
提案した言語間モデルでは,XTREMEベンチマークのさまざまな言語間理解タスクに対して,最先端の新たな結果が提供される。
論文 参考訳(メタデータ) (2020-10-30T03:41:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。