論文の概要: On the Similarity of Circuits across Languages: a Case Study on the Subject-verb Agreement Task

• arxiv url: http://arxiv.org/abs/2410.06496v1
• Date: Wed, 9 Oct 2024 02:49:56 GMT
• ステータス: 処理完了
• システム内更新日: 2024-11-01 05:18:55.559313
• Title: On the Similarity of Circuits across Languages: a Case Study on the Subject-verb Agreement Task
• Title（参考訳）: 言語横断回路の類似性について--主語と動詞の一致課題を事例として-
• Authors: Javier Ferrando, Marta R. Costa-jussà,
• Abstract要約: 本稿では,Gemma 2Bが実装した2言語間の主語/動詞合意課題を解決する回路について検討する。 どちらの回路も非常に一貫性があり、主に被写体番号の信号を最後の残留ストリームに書き込む特定の注意ヘッドによって駆動される。 我々は,この方向がモデル予測に因果的影響があることを示し,スペイン語の予測動詞を英語の方向と連動させることで効果的に反転させることを示した。
• 参考スコア（独自算出の注目度）: 11.97725093458812
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Several algorithms implemented by language models have recently been successfully reversed-engineered. However, these findings have been concentrated on specific tasks and models, leaving it unclear how universal circuits are across different settings. In this paper, we study the circuits implemented by Gemma 2B for solving the subject-verb agreement task across two different languages, English and Spanish. We discover that both circuits are highly consistent, being mainly driven by a particular attention head writing a `subject number' signal to the last residual stream, which is read by a small set of neurons in the final MLPs. Notably, this subject number signal is represented as a direction in the residual stream space, and is language-independent. We demonstrate that this direction has a causal effect on the model predictions, effectively flipping the Spanish predicted verb number by intervening with the direction found in English. Finally, we present evidence of similar behavior in other models within the Gemma 1 and Gemma 2 families.
• Abstract（参考訳）: 言語モデルによって実装されたいくつかのアルゴリズムは、最近リバースエンジニアリングに成功している。 しかし、これらの発見は特定のタスクやモデルに集中しており、普遍回路が異なる設定にわたってどのように存在するかは明らかでない。 本稿では,Gemma 2Bが実装した,英語とスペイン語の2言語間での主語/動詞合意課題を解決する回路について検討する。 いずれの回路も高度に一貫したものであり、主に最後のMLPの小さなニューロンによって読まれる最後の残差ストリームに「対象数」信号を書く特定の注意ヘッドによって駆動される。 特に、この被写体番号信号は残留ストリーム空間の方向として表現され、言語に依存しない。 我々は,この方向がモデル予測に因果的影響があることを実証し,スペイン語の予測動詞数を英語の方向と連動させることで効果的に反転させることを示した。 最後に、Gemma 1 および Gemma 2 ファミリー内の他のモデルでも同様の挙動を示す。

関連論文リスト

• Multilingual Contrastive Decoding via Language-Agnostic Layers Skipping [60.458273797431836]
  対照的なレイヤ(DoLa)によるデコーディングは、大規模言語モデルの生成品質を改善するために設計されている。 このアプローチは英語以外のタスクではうまくいきません。 モデルの前方通過における言語遷移に関する従来の解釈可能性の研究から着想を得て,改良されたコントラスト復号アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-07-15T15:14:01Z)
• Towards Interpretable Sequence Continuation: Analyzing Shared Circuits in Large Language Models [9.56229382432426]
  本研究の目的は、トランスフォーマーモデルをアルゴリズム機能を実装する人間可読表現にリバースエンジニアリングすることである。 GPT-2 SmallとLlama-2-7Bの両方のキーサブ回路を回路解釈可能性解析により同定する。 このサブ回路は、インターバル回路、スペイン語の数字と月数継続、自然言語の単語問題など、様々な数学的なプロンプトに影響を及ぼすことを示す。
  論文  参考訳（メタデータ） (2023-11-07T16:58:51Z)
• Unveiling Multilinguality in Transformer Models: Exploring Language Specificity in Feed-Forward Networks [12.7259425362286]
  多言語モデルがキー値記憶をどのように活用するかを検討する。 2つ以上の言語で訓練された自己回帰モデルに対して、すべてのニューロン(層全体)は全ての言語に等しく反応するのか? その結果,ネットワークの入力や出力に最も近い層は,中間層に比べて言語固有の振る舞いを示す傾向があることがわかった。
  論文  参考訳（メタデータ） (2023-10-24T06:45:00Z)
• Linguistically Motivated Sign Language Segmentation [51.06873383204105]
  個々の記号へのセグメンテーションとフレーズへのセグメンテーションという2種類のセグメンテーションを考える。 本手法は手話コーパスで観察される言語的手がかりによって動機付けられている。 私たちは、主要なIOタグ付けスキームをBIOタグに置き換えて、継続的な署名を可能にします。
  論文  参考訳（メタデータ） (2023-10-21T10:09:34Z)
• Circuit Component Reuse Across Tasks in Transformer Language Models [32.2976613483151]
  我々は、洞察がタスクをまたいで実際に一般化できる証拠を示す。 両タスクの根底にあるプロセスは機能的に非常によく似ており、回路内注目ヘッドの約78%が重なり合っていることを示す。 この結果から,大規模言語モデルの動作を,比較的少数の解釈可能なタスク一般のアルゴリズム構築ブロックや計算部品で説明できる可能性が示唆された。
  論文  参考訳（メタデータ） (2023-10-12T22:12:28Z)
• VECO 2.0: Cross-lingual Language Model Pre-training with Multi-granularity Contrastive Learning [56.47303426167584]
  複数粒度アライメントを持つコントラスト学習に基づく言語間事前学習モデルVECO2.0を提案する。 具体的には、シーケンス・ツー・シーケンスアライメントが誘導され、並列対の類似性を最大化し、非並列対を最小化する。 トークン・ツー・トークンのアライメントは、シソーラス辞書を介して発掘された同義トークンと、バイリンガルな例の他の未使用トークンとのギャップを埋めるために統合される。
  論文  参考訳（メタデータ） (2023-04-17T12:23:41Z)
• A Generative Language Model for Few-shot Aspect-Based Sentiment Analysis [90.24921443175514]
  我々は、アスペクト項、カテゴリを抽出し、対応する極性を予測するアスペクトベースの感情分析に焦点を当てる。 本稿では,一方向の注意を伴う生成言語モデルを用いて,抽出タスクと予測タスクをシーケンス生成タスクに再構成することを提案する。 提案手法は,従来の最先端(BERTをベースとした)の性能を,数ショットとフルショットの設定において,大きなマージンで上回ります。
  論文  参考訳（メタデータ） (2022-04-11T18:31:53Z)
• A Hierarchical Model for Spoken Language Recognition [29.948719321162883]
  音声言語認識(SLR)とは、音声サンプルに含まれる言語を決定するための自動処理である。 本稿では,2つのPLDAモデルを訓練し,その1つは高関係言語クラスタのスコアを生成し,もう1つは各クラスタに条件付きスコアを生成するという新しい階層的アプローチを提案する。 この階層的アプローチは、高度に関連性の高い言語を検出する非階層的アプローチよりも一貫して優れていることを示す。
  論文  参考訳（メタデータ） (2022-01-04T22:10:36Z)
• Explicit Alignment Objectives for Multilingual Bidirectional Encoders [111.65322283420805]
  本稿では,多言語エンコーダAMBER(Aligned Multilingual Bi-directional EncodeR)の学習方法を提案する。 AMBERは、異なる粒度で多言語表現を整列する2つの明示的なアライメント目標を使用して、追加の並列データに基づいて訓練される。 実験結果から、AMBERは、シーケンスタグ付けで1.1平均F1スコア、XLMR-大規模モデル上での検索で27.3平均精度を得ることがわかった。
  論文  参考訳（メタデータ） (2020-10-15T18:34:13Z)
• The Extraordinary Failure of Complement Coercion Crowdsourcing [50.599433903377374]
  クラウドソーシングは近年,言語アノテーションの収集を緩和し,スケールアップしている。 本研究の目的は,この現象の注釈付きデータを2つの既知のタスク – 明示的補完と自然言語推論 – に還元することで収集することである。 どちらの場合も、クラウドソーシングは合意のスコアが低かった。
  論文  参考訳（メタデータ） (2020-10-12T19:04:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。