論文の概要: Scalable Influence and Fact Tracing for Large Language Model Pretraining

• arxiv url: http://arxiv.org/abs/2410.17413v3
• Date: Sat, 21 Dec 2024 02:53:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-24 22:39:35.473867
• Title: Scalable Influence and Fact Tracing for Large Language Model Pretraining
• Title（参考訳）: 大規模言語モデル事前学習におけるスケーラブルな影響とFact Tracing
• Authors: Tyler A. Chang, Dheeraj Rajagopal, Tolga Bolukbasi, Lucas Dixon, Ian Tenney,
• Abstract要約: トレーニングデータ属性(TDA)メソッドは、特定のトレーニング例にモデル出力を振り返ることを目的としている。 我々は,既存の勾配法を改良し,大規模に効果的に機能させる。 我々は、インプロンプトセットとモデルアウトプットをWebベースの可視化ツールとともにリリースし、影響力のある例を探索します。
• 参考スコア（独自算出の注目度）: 14.598556308631018
• License:
• Abstract: Training data attribution (TDA) methods aim to attribute model outputs back to specific training examples, and the application of these methods to large language model (LLM) outputs could significantly advance model transparency and data curation. However, it has been challenging to date to apply these methods to the full scale of LLM pretraining. In this paper, we refine existing gradient-based methods to work effectively at scale, allowing us to retrieve influential examples for an 8B-parameter language model from a pretraining corpus of over 160B tokens with no need for subsampling or pre-filtering. Our method combines several techniques, including optimizer state correction, a task-specific Hessian approximation, and normalized encodings, which we find to be critical for performance at scale. In quantitative evaluations on a fact tracing task, our method performs best at identifying examples that influence model predictions, but classical, model-agnostic retrieval methods such as BM25 still perform better at finding passages which explicitly contain relevant facts. These results demonstrate a misalignment between factual *attribution* and causal *influence*. With increasing model size and training tokens, we find that influence more closely aligns with factual attribution. Finally, we examine different types of examples identified as influential by our method, finding that while many directly entail a particular fact, others support the same output by reinforcing priors on relation types, common entities, and names. We release our prompt set and model outputs, along with a web-based visualization tool to explore influential examples for factual predictions, commonsense reasoning, arithmetic, and open-ended generation for an 8B-parameter LLM.
• Abstract（参考訳）: 訓練データ属性(TDA)法は、特定の訓練例にモデル出力を帰属させることを目的としており、これらの手法を大規模言語モデル(LLM)出力に適用することで、モデルの透明性とデータキュレーションを大幅に向上させることができる。 しかし、これらの手法をLLM事前学習の全規模に適用することは、これまで困難であった。 本稿では,既存の勾配法を改良して大規模に効果的に動作させることにより,サブサンプリングや事前フィルタリングを必要とせずに,160B以上のトークンを事前学習したコーパスから8Bパラメータ言語モデルに対する影響力のある例を検索する。 提案手法は,オプティマイザ状態補正,タスク固有ヘッセン近似,正規化符号化など,大規模性能に重要な手法を組み合わせる。 ファクトトレースタスクの定量的評価では,モデル予測に影響を及ぼす例の特定に最善を尽くすが,BM25のような古典的モデルに依存しない検索手法では,関連する事実を明示的に含む経路の発見に長けている。 これらの結果は、事実*属性*と因果*影響*の相違を示している。 モデルサイズの増大とトレーニングトークンにより、影響は事実の帰属と密接に一致している。 最後に,本手法に影響を及ぼすと同定された異なる種類の事例について検討し,多くの事例が特定の事実を直接含んでいるが,他の事例は関係型,共通実体,名前に対する先行関係を補強することにより,同じ出力をサポートすることを見出した。 提案するプロンプトセットとモデル出力とWebベースの可視化ツールを併用して,実感予測,コモンセンス推論,算術,および8Bパラメータ LLM のオープンエンド生成に有効な実例を探索する。

関連論文リスト

• Influence Functions for Scalable Data Attribution in Diffusion Models [52.92223039302037]
  拡散モデルは、生成的モデリングに大きな進歩をもたらした。 しかし、彼らの普及はデータ属性と解釈可能性に関する課題を引き起こす。 本稿では,テキスト・インフルエンス・ファンクション・フレームワークを開発することにより,このような課題に対処することを目的とする。
  論文  参考訳（メタデータ） (2024-10-17T17:59:02Z)
• ZZU-NLP at SIGHAN-2024 dimABSA Task: Aspect-Based Sentiment Analysis with Coarse-to-Fine In-context Learning [0.36332383102551763]
  DimABSAタスクはレストランレビューに微妙な感情強度予測を必要とする。 そこで本稿では,DimABSAタスクに対するBaichuan2-7Bモデルに基づく大まかなインコンテクスト学習手法を提案する。
  論文  参考訳（メタデータ） (2024-07-22T02:54:46Z)
• The Mirrored Influence Hypothesis: Efficient Data Influence Estimation by Harnessing Forward Passes [30.30769701138665]
  我々は、訓練データとテストデータの間の相互影響を浮き彫りにして、ミラーレッド影響仮説を導入し、探求する。 具体的には、テスト予測に対するトレーニングデータの影響を評価することは、等価だが逆問題として再定義することができることを示唆している。 トレーニングポイント毎に前方パスとペアを組むことで,特定のテストサンプルの勾配を計算し,トレーニングデータの影響を推定する新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-02-14T03:43:05Z)
• Revisiting Demonstration Selection Strategies in In-Context Learning [66.11652803887284]
  大規模言語モデル(LLM)は、インコンテキスト学習(ICL)を用いて広範囲のタスクを実行するという印象的な能力を示している。 本研究ではまず,データとモデルの両方の側面から,この分散に寄与する要因を再検討し,実演の選択がデータとモデルに依存していることを確かめる。 本研究では,データとモデルに依存した実演選択手法である textbfTopK + ConE を提案する。
  論文  参考訳（メタデータ） (2024-01-22T16:25:27Z)
• Influence Scores at Scale for Efficient Language Data Sampling [3.072340427031969]
  影響スコア」は、データの重要なサブセットを特定するために使われる。 本稿では,言語分類タスクにおける影響スコアの適用性について検討する。
  論文  参考訳（メタデータ） (2023-11-27T20:19:22Z)
• An Additive Instance-Wise Approach to Multi-class Model Interpretation [53.87578024052922]
  解釈可能な機械学習は、ブラックボックスシステムの特定の予測を駆動する要因に関する洞察を提供する。 既存の手法は主に、局所的な加法的あるいはインスタンス的なアプローチに従う説明的入力特徴の選択に重点を置いている。 本研究は,両手法の長所を生かし,複数の対象クラスに対する局所的な説明を同時に学習するためのグローバルフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-07-07T06:50:27Z)
• Improving Pre-trained Language Model Fine-tuning with Noise Stability Regularization [94.4409074435894]
  本稿では,LNSR(Layerwise Noise Stability Regularization)という,新規かつ効果的な微調整フレームワークを提案する。 具体的には、標準ガウス雑音を注入し、微調整モデルの隠れ表現を正規化することを提案する。 提案手法は,L2-SP,Mixout,SMARTなど他の最先端アルゴリズムよりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-06-12T04:42:49Z)
• Tracing Knowledge in Language Models Back to the Training Data [39.02793789536856]
  言語モデルのアサーションをトレーニング例に遡り、これらの予測の証拠を提供する。 我々は、よく理解された情報検索指標を用いて、事実追跡に影響を及ぼす方法を評価する。
  論文  参考訳（メタデータ） (2022-05-23T17:34:16Z)
• Combining Feature and Instance Attribution to Detect Artifacts [62.63504976810927]
  トレーニングデータアーティファクトの識別を容易にする手法を提案する。 提案手法は,トレーニングデータのアーティファクトの発見に有効であることを示す。 我々は,これらの手法が実際にNLP研究者にとって有用かどうかを評価するために,小規模なユーザスタディを実施している。
  論文  参考訳（メタデータ） (2021-07-01T09:26:13Z)
• An Empirical Comparison of Instance Attribution Methods for NLP [62.63504976810927]
  本研究は,トレーニングサンプルの重要性に関して,異なるインスタンス属性が一致した度合いを評価する。 単純な検索メソッドは、グラデーションベースの方法によって識別されたものと異なるトレーニングインスタンスを生成する。
  論文  参考訳（メタデータ） (2021-04-09T01:03:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。