論文の概要: "Not" is Not Lost in Translation: A Causal Analysis of Negation Representations in Multilingual LLMs
- arxiv url: http://arxiv.org/abs/2610.32281v1
- Date: Fri, 23 Oct 2026 07:38:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 01:38:06.422379
- Title: "Not" is Not Lost in Translation: A Causal Analysis of Negation Representations in Multilingual LLMs
- Title(参考訳): 翻訳において「ノー」は失われない:多言語LLMにおける否定表現の因果解析
- Abstract要約: 否定はすべての言語で起こるが、その表面的実現は著しく異なる。
これにもかかわらず、多言語大言語モデルは否定を強く翻訳する。
否定表現が因果的に制御可能であり、言語間で大きく共有されているという強い証拠が得られます。
- 参考スコア(独自算出の注目度): 21.193896969687106
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Negation occurs in every language, yet its surface realization differs drastically. Despite this, multilingual large language models (LLMs) translate negation robustly, raising the question of whether they share an underlying representation of negation across languages. We study this question in six open models across English, French, Vietnamese, and Chinese, using causal interventions on a synthetic contrastive dataset and a negation translation dataset derived from FLORES-200. Across models, we find strong evidence that negation representations are causally controllable and largely shared across languages. In particular, we show that a contrastive activation direction extracted from one language can induce or remove negation in the others, and directions extracted from different languages are substantially aligned. We further find that negation is represented in sparse features: a single sparse autoencoder (SAE) feature per model suffices to control polarity across languages, while responding selectively to negated inputs. Finally, both dense and sparse interventions generalize to four additional languages and FLORES-derived sentences. We release data and code to support future work: https://anonymous.4open.science/r/negation-translation/.
- Abstract(参考訳): 否定はすべての言語で起こるが、その表面的実現は著しく異なる。
これにもかかわらず、多言語大言語モデル(LLM)は否定を頑健に翻訳し、それらが言語間の否定の基本的な表現を共有しているかどうかという疑問を提起する。
本研究では、FLORES-200から派生した合成コントラストデータセットと否定翻訳データセットの因果的介入を用いて、英語、フランス語、ベトナム語、中国語の6つのオープンモデルでこの疑問を考察する。
モデル全体では、否定表現が因果的に制御可能であり、言語間で大きく共有されているという強い証拠が得られます。
特に,ある言語から抽出された対照的なアクティベーション方向が他言語の否定を誘発あるいは除去し,異なる言語から抽出した方向が実質的に一致していることを示す。
モデル毎の単一スパースオートエンコーダ(SAE)機能は、言語間の極性を制御するのに十分であり、負の入力に対して選択的に応答する。
最後に、密接な介入と疎開な介入は4つの追加言語とFLORES由来の文に一般化される。
将来の作業をサポートするために、データとコードをリリースします。
関連論文リスト
- Negation: A Pink Elephant in the Large Language Models' Room? [2.8078480738404]
否定は文の意味を決定する鍵であり、論理的推論には不可欠である。
その重要性にもかかわらず、否定は大きな言語モデル(LLM)に重大な課題をもたらす。
論文 参考訳(メタデータ) (2025-03-28T13:04:41Z) - Vision-Language Models Do Not Understand Negation [50.27667000027403]
NegBenchは18のタスクバリエーションと79ドルのサンプルに対する否定的理解を評価するために設計されたベンチマークである。
提案手法は, 否定的クエリに対するリコールが10%増加し, 否定的キャプションを用いた複数質問に対する精度が28%向上することを示す。
論文 参考訳(メタデータ) (2025-01-16T09:55:42Z) - Generating Diverse Negations from Affirmative Sentences [0.999726509256195]
否定は、動詞句、節、その他の表現において負の極性を符号化する現実世界の応用において重要である。
多様な否定型を生成することにより,否定データセットの欠如に対処する手法であるNegVerseを提案する。
我々は,構文構造に基づいて,否定が最も起こりやすい文の一部をマスキングするための新しい規則を提案する。
また, 否定の手がかりを同定し, 退化例を除去し, 多様な有意義な摂動を生じさせるフィルタリング機構を提案する。
論文 参考訳(メタデータ) (2024-10-30T21:25:02Z) - Revisiting subword tokenization: A case study on affixal negation in large language models [57.75279238091522]
現代英語大言語モデル(LLM)に対する接尾辞否定の影響を計測する。
我々は、異なるサブワードトークン化手法を用いてLLMを用いて実験を行う。
モデルは全体として、接尾辞の意味を確実に認識できることを示す。
論文 参考訳(メタデータ) (2024-04-03T03:14:27Z) - This is not a Dataset: A Large Negation Benchmark to Challenge Large
Language Models [4.017326849033009]
我々は,否定を理解する大規模言語モデルの最適部分性能の理由を明らかにする。
我々は,コモンセンス知識に関する40万前後の記述文を半自動生成する大規模データセットを提案する。
我々は,その一般化と推論能力を把握するために,ゼロショットアプローチで利用可能な最大オープンLCMを用いてデータセットを構築した。
論文 参考訳(メタデータ) (2023-10-24T15:38:21Z) - Language models are not naysayers: An analysis of language models on
negation benchmarks [58.32362243122714]
我々は,次世代自動回帰言語モデルによる否定処理能力の評価を行った。
LLMには,否定の存在に対する感受性,否定の語彙的意味を捉える能力の欠如,否定下での推論の失敗など,いくつかの制限があることが示されている。
論文 参考訳(メタデータ) (2023-06-14T01:16:37Z) - CONDAQA: A Contrastive Reading Comprehension Dataset for Reasoning about
Negation [21.56001677478673]
本稿では,段落における否定文の意味に関する推論を必要とする,最初の英語読解データセットを提案する。
CONDAQAは1,182組の質問応答ペアと200以上のユニークな否定的手がかりを備える。
CONDAQAの最高のパフォーマンスモデル(UnifiedQA-v2-3b)は、我々の一貫性基準で42%しか達成できません。
論文 参考訳(メタデータ) (2022-11-01T06:10:26Z) - Improving negation detection with negation-focused pre-training [58.32362243122714]
否定は共通の言語的特徴であり、多くの言語理解タスクにおいて不可欠である。
最近の研究で、最先端のNLPモデルは否定を含むサンプルで性能が低いことが示されている。
本稿では,データ拡張と否定マスキングを対象とする,否定に焦点をあてた新たな事前学習戦略を提案する。
論文 参考訳(メタデータ) (2022-05-09T02:41:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。