論文の概要: Gradient-Based Automated Iterative Recovery for Parameter-Efficient Tuning

• arxiv url: http://arxiv.org/abs/2302.06598v1
• Date: Mon, 13 Feb 2023 18:54:58 GMT
• ステータス: 処理完了
• システム内更新日: 2023-02-14 14:16:52.130008
• Title: Gradient-Based Automated Iterative Recovery for Parameter-Efficient Tuning
• Title（参考訳）: パラメータ効率調整のための勾配に基づく自動反復回復
• Authors: Maximilian Mozes, Tolga Bolukbasi, Ann Yuan, Frederick Liu, Nithum Thain, Lucas Dixon
• Abstract要約: 我々はTracInを用いてパラメータ効率チューニング(PET)設定におけるモデル性能を改善する。 モデル性能を改善するために,勾配に基づく説明可能性技術を用いた新しい手法を開発した。
• 参考スコア（独自算出の注目度）: 11.124310650599146
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Pretrained large language models (LLMs) are able to solve a wide variety of tasks through transfer learning. Various explainability methods have been developed to investigate their decision making process. TracIn (Pruthi et al., 2020) is one such gradient-based method which explains model inferences based on the influence of training examples. In this paper, we explore the use of TracIn to improve model performance in the parameter-efficient tuning (PET) setting. We develop conversational safety classifiers via the prompt-tuning PET method and show how the unique characteristics of the PET regime enable TracIn to identify the cause for certain misclassifications by LLMs. We develop a new methodology for using gradient-based explainability techniques to improve model performance, G-BAIR: gradient-based automated iterative recovery. We show that G-BAIR can recover LLM performance on benchmarks after manually corrupting training labels. This suggests that influence methods like TracIn can be used to automatically perform data cleaning, and introduces the potential for interactive debugging and relabeling for PET-based transfer learning methods.
• Abstract（参考訳）: 事前学習された大規模言語モデル(llm)は、転送学習を通じて幅広いタスクを解決できる。 意思決定過程を解明するための様々な説明可能性手法が開発されている。 TracIn (Pruthi et al., 2020) は、トレーニング例の影響に基づいてモデル推論を説明する勾配に基づく手法である。 本稿では,パラメータ効率調整(PET)設定におけるモデル性能向上のためのTracInの利用について検討する。 そこで本研究では,PET法を用いて対話型安全分類器を開発し,その特異な特徴がTracInのLCMによる誤分類の原因の特定に有効であることを示す。 本稿では,G-BAIRのモデル性能向上のための勾配に基づく説明可能性手法,G-BAIR:勾配に基づく自動反復回復手法を提案する。 G-BAIRは、手動でトレーニングラベルを破損させた後、ベンチマーク上でLLM性能を回復できることを示す。 これは、tracinのような影響メソッドが自動的にデータクリーニングを行うのに使えることを示唆し、petベースの転送学習メソッドのインタラクティブデバッグとrelabelingの可能性を紹介している。

関連論文リスト

• SAFE: Slow and Fast Parameter-Efficient Tuning for Continual Learning with Pre-Trained Models [26.484208658326857]
  継続的な学習は、過去の知識を忘れることに抵抗しながら、データストリームにおける新しい概念を漸進的に獲得することを目的としている。 強力な事前学習モデル(PTM)の台頭に伴い、インクリメンタル学習システムのトレーニングへの関心が高まっている。
  論文  参考訳（メタデータ） (2024-11-04T15:34:30Z)
• Semi-Supervised Class-Agnostic Motion Prediction with Pseudo Label Regeneration and BEVMix [59.55173022987071]
  クラス非依存動作予測のための半教師あり学習の可能性について検討する。 我々のフレームワークは一貫性に基づく自己学習パラダイムを採用しており、ラベルのないデータからモデルを学習することができる。 本手法は,弱さと完全教師付き手法に匹敵する性能を示す。
  論文  参考訳（メタデータ） (2023-12-13T09:32:50Z)
• From Quantity to Quality: Boosting LLM Performance with Self-Guided Data Selection for Instruction Tuning [52.257422715393574]
  本稿では,Large Language Models (LLMs) の自己誘導手法を導入し,オープンソースデータセットからサクラサンプルを自動識別し,選択する。 我々の重要な革新である命令追従困難度(IFD)メトリックは、モデルが期待する応答と本質的な生成能力の相違を識別するための重要な指標として現れます。
  論文  参考訳（メタデータ） (2023-08-23T09:45:29Z)
• Exploring the Impact of Model Scaling on Parameter-Efficient Tuning [100.61202305296275]
  大規模事前学習言語モデル(PLM)を効果的に駆動できるスケーリング効率チューニング(PET)法 小型PLMでは、PET法には通常顕著な性能差がある。 本稿では,Arbitrary PET (APET) 法という,より柔軟なPET法を提案する。
  論文  参考訳（メタデータ） (2023-06-04T10:10:54Z)
• Mitigating ML Model Decay in Continuous Integration with Data Drift Detection: An Empirical Study [7.394099294390271]
  本研究では,CI環境におけるTCP用MLモデルのリトレーニングポイントを自動的に検出するデータドリフト検出手法の性能について検討する。 我々はHellinger距離を用いて入力データの値と分布の変化を同定し、これらの変化をMLモデルの再学習点として利用した。 Hellinger distance-based methodの実験により,再学習点の検出と関連するコストの低減に効果と効率が示された。
  論文  参考訳（メタデータ） (2023-05-22T05:55:23Z)
• MACE: An Efficient Model-Agnostic Framework for Counterfactual Explanation [132.77005365032468]
  MACE(Model-Agnostic Counterfactual Explanation)の新たな枠組みを提案する。 MACE法では, 優れた反実例を見つけるための新しいRL法と, 近接性向上のための勾配のない降下法を提案する。 公開データセットの実験は、有効性、空間性、近接性を向上して検証する。
  論文  参考訳（メタデータ） (2022-05-31T04:57:06Z)
• Automated Essay Scoring Using Transformer Models [0.415623340386296]
  自動エッセイスコアリング(AES)におけるトランスフォーマーに基づくアプローチの検討 本稿では,BOWアプローチに基づくロジスティック回帰モデルと比較し,それらの差について考察する。 このようなモデルが、人間のレーダの精度を高めるのにどのように役立つかを示す。
  論文  参考訳（メタデータ） (2021-10-13T17:09:47Z)
• Transfer Learning without Knowing: Reprogramming Black-box Machine Learning Models with Scarce Data and Limited Resources [78.72922528736011]
  そこで我々は,ブラックボックス・アタベラル・リプログラミング (BAR) という新しい手法を提案する。 ゼロオーダー最適化とマルチラベルマッピング技術を用いて、BARは入力出力応答のみに基づいてブラックボックスMLモデルをプログラムする。 BARは最先端の手法より優れ、バニラ対逆プログラミング法に匹敵する性能を得る。
  論文  参考訳（メタデータ） (2020-07-17T01:52:34Z)
• Rectified Meta-Learning from Noisy Labels for Robust Image-based Plant Disease Diagnosis [64.82680813427054]
  植物病は食料安全保障と作物生産に対する主要な脅威の1つである。 1つの一般的なアプローチは、葉画像分類タスクとしてこの問題を変換し、強力な畳み込みニューラルネットワーク(CNN)によって対処できる。 本稿では,正規化メタ学習モジュールを共通CNNパラダイムに組み込んだ新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-03-17T09:51:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。