論文の概要: Hopping Too Late: Exploring the Limitations of Large Language Models on Multi-Hop Queries

• arxiv url: http://arxiv.org/abs/2406.12775v2
• Date: Mon, 14 Oct 2024 09:55:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-15 15:03:05.474914
• Title: Hopping Too Late: Exploring the Limitations of Large Language Models on Multi-Hop Queries
• Title（参考訳）: ホッピングが遅すぎる - マルチホップクエリによる大規模言語モデルの限界を探る
• Authors: Eden Biran, Daniela Gottesman, Sohee Yang, Mor Geva, Amir Globerson,
• Abstract要約: 大規模言語モデル(LLM)が複雑な多段階問題をいかに解決するかを考察する。 潜在ステップが内部でどのように計算されるかを理解することは、全体的な計算を理解する上で鍵となる。 後層からの隠れ表現を以前の層にパッチバックする「バックパッチ」解析手法を提案する。
• 参考スコア（独自算出の注目度）: 39.438904598467154
• License:
• Abstract: Large language models (LLMs) can solve complex multi-step problems, but little is known about how these computations are implemented internally. Motivated by this, we study how LLMs answer multi-hop queries such as "The spouse of the performer of Imagine is". These queries require two information extraction steps: a latent one for resolving the first hop ("the performer of Imagine") into the bridge entity (John Lennon), and another for resolving the second hop ("the spouse of John Lennon") into the target entity (Yoko Ono). Understanding how the latent step is computed internally is key to understanding the overall computation. By carefully analyzing the internal computations of transformer-based LLMs, we discover that the bridge entity is resolved in the early layers of the model. Then, only after this resolution, the two-hop query is solved in the later layers. Because the second hop commences in later layers, there could be cases where these layers no longer encode the necessary knowledge for correctly predicting the answer. Motivated by this, we propose a novel "back-patching" analysis method whereby a hidden representation from a later layer is patched back to an earlier layer. We find that in up to 66% of previously incorrect cases there exists a back-patch that results in the correct generation of the answer, showing that the later layers indeed sometimes lack the needed functionality. Overall, our methods and findings open further opportunities for understanding and improving latent reasoning in transformer-based LLMs.
• Abstract（参考訳）: 大規模言語モデル(LLM)は複雑な多段階問題を解くことができるが、これらの計算を内部でどのように実装するかは分かっていない。 そこで本研究では,LLMがマルチホップクエリにどのように答えるのかを考察する。 これらのクエリには、第1ホップ("Imagine"のパフォーマー)をブリッジエンティティ("John Lennon")に、第2ホップ("John Lennon"の配偶者)をターゲットエンティティ("Yoko Ono")に解決する、という2つの情報抽出ステップが必要である。 潜在ステップが内部でどのように計算されるかを理解することは、全体的な計算を理解する上で重要である。 変換器をベースとしたLLMの内部計算を慎重に解析することにより,モデルの初期層においてブリッジ実体が解決されることが分かる。 そして、この解決後のみ、後続のレイヤで2つのホップクエリが解決される。 2番目のホップは後続のレイヤで始まるので、これらのレイヤが解を正しく予測するために必要な知識をコード化していない場合もあります。 そこで本研究では,後層からの隠れ表現を以前の層にパッチバックする「バックパッチ」解析手法を提案する。 以前誤ったケースの最大66%には、正しい回答を生成するバックパッチが存在しており、後続のレイヤが本当に必要な機能を欠いていることが示されています。 全体として,本手法と知見は,トランスフォーマーを用いたLCMにおける潜在推論の理解と改善のさらなる機会を開いている。

関連論文リスト

• GenSco: Can Question Decomposition based Passage Alignment improve Question Answering? [1.5776201492893507]
  ジェンスコ(GenSco)は,マルチホップ質問の予測分解に基づく経路選択手法である。 広範に確立された3つのマルチホップ質問応答データセットについて評価した。
  論文  参考訳（メタデータ） (2024-07-14T15:25:08Z)
• Generate-then-Ground in Retrieval-Augmented Generation for Multi-hop Question Answering [45.82437926569949]
  マルチホップ質問回答タスクは、大きな言語モデルにとって大きな課題となる。 マルチホップ問題の解法として,ジェネレーションセブングラウンド(GenGround)フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-06-21T06:26:38Z)
• Reasoning on Efficient Knowledge Paths:Knowledge Graph Guides Large Language Model for Domain Question Answering [18.94220625114711]
  大きな言語モデル(LLM)は驚くほどよく機能し、多くのタスクにおいて人間の専門家より優れています。 本稿では,LLMに基づいてKGから推論経路を選択するパイプラインを統合し,最適化する。 また,思考の連鎖(CoT)とページランクに基づく,シンプルで効果的なサブグラフ検索手法を提案する。
  論文  参考訳（メタデータ） (2024-04-16T08:28:16Z)
• Look Before You Leap: A Universal Emergent Decomposition of Retrieval Tasks in Language Models [58.57279229066477]
  本研究では,言語モデル(LM)が様々な状況下での検索タスクをどのように解決するかを検討する。 ORIONは6つのドメインにまたがる構造化された検索タスクの集合である。 LMは内部的にモジュール方式で検索タスクを分解する。
  論文  参考訳（メタデータ） (2023-12-13T18:36:43Z)
• Is Bigger and Deeper Always Better? Probing LLaMA Across Scales and Layers [73.28459749681879]
  本稿では,自然言語処理におけるオープンソースの基盤モデルであるLLaMAについて述べる。 LLaMAを生成出力で評価する代わりに、本質的な理解を探索するために複数の選択タスクを設計する。 設計された探索タスクに基づいて、いくつかの重要な発見と珍しい発見を公表する。
  論文  参考訳（メタデータ） (2023-12-07T14:50:41Z)
• Towards a Mechanistic Interpretation of Multi-Step Reasoning Capabilities of Language Models [107.07851578154242]
  言語モデル(LM)は強力な多段階推論能力を持つ。 LMが事前学習コーパスから記憶された回答を不正に処理するか,多段階推論機構を用いてタスクを実行するかは明らかでない。 メカニスティックプローブは,ほとんどの例において,モデルの注意から推論ツリーの情報を検出することができることを示す。
  論文  参考訳（メタデータ） (2023-10-23T01:47:29Z)
• LaGR-SEQ: Language-Guided Reinforcement Learning with Sample-Efficient Querying [71.86163159193327]
  大規模言語モデル(LLM)は、最近、テキストを介してコンテキスト対応の応答を提供するという、印象的な能力を実証した。 この能力は、パターン補完に関連するシーケンシャルな意思決定タスクにおいて、妥当なソリューションを予測するために使われる可能性がある。 第一強化学習(RL)エージェントによって部分的に完了したタスクに対する解を提案するために,LLMのこの予測能力を利用するLaGRを紹介した。
  論文  参考訳（メタデータ） (2023-08-21T02:07:35Z)
• Modeling Multi-hop Question Answering as Single Sequence Prediction [88.72621430714985]
  本稿では,単純な生成手法(PathFid)を提案する。 PathFidは、マルチホップ質問に対する回答を解決するための推論プロセスを明示的にモデル化する。 実験の結果,PathFidは2つのマルチホップQAデータセットに対して高い性能向上をもたらすことが示された。
  論文  参考訳（メタデータ） (2022-05-18T21:57:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。