論文の概要: TeGit: Generating High-Quality Instruction-Tuning Data with Text-Grounded Task Design

• arxiv url: http://arxiv.org/abs/2309.05447v1
• Date: Mon, 11 Sep 2023 13:41:18 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-12 12:37:26.581662
• Title: TeGit: Generating High-Quality Instruction-Tuning Data with Text-Grounded Task Design
• Title（参考訳）: TeGit: テキスト中心タスク設計による高品質インストラクションチューニングデータの生成
• Authors: Yongrui Chen, Haiyun Jiang, Xinting Huang, Shuming Shi, Guilin Qi
• Abstract要約: 既存のデータ収集方法は、非現実的な手動ラベリングコストや、LLM生成のみに依存する幻覚によって制限される。 本稿では,人文テキストに基づいてタスクを自動設計する学習言語モデルを用いて,高品質な指導適応データを自動的に収集するスケーラブルな手法を提案する。
• 参考スコア（独自算出の注目度）: 44.946270606992776
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: High-quality instruction-tuning data is critical to improving LLM capabilities. Existing data collection methods are limited by unrealistic manual labeling costs or by the hallucination of relying solely on LLM generation. To address the problems, this paper presents a scalable method to automatically collect high-quality instructional adaptation data by training language models to automatically design tasks based on human-written texts. Intuitively, human-written text helps to help the model attenuate illusions during the generation of tasks. Unlike instruction back-translation-based methods that directly take the given text as a response, we require the model to generate the \textit{instruction}, \textit{input}, and \textit{output} simultaneously to filter the noise. The results of the automated and manual evaluation experiments demonstrate the quality of our dataset.
• Abstract（参考訳）: 高品質な命令チューニングデータはLLMの性能向上に不可欠である。 既存のデータ収集方法は、非現実的な手動ラベリングコストやllm生成のみに依存する幻覚によって制限される。 そこで本研究では,言語モデルを用いて高品質な指導適応データを自動的に収集し,人文テキストに基づくタスクの自動設計を行うスケーラブルな手法を提案する。 直感的には、人間の文章は、モデルがタスクの生成中に錯覚を弱めるのに役立つ。 与えられたテキストを直接応答として取る命令バックトランスレーションベースのメソッドとは異なり、ノイズをフィルタリングするためには、モデルが同時に \textit{instruction}, \textit{input}, \textit{output} を生成する必要がある。 自動および手動による評価実験の結果,データセットの品質が示された。

関連論文リスト

• Instruction Tuning With Loss Over Instructions [42.9106826952674]
  インストラクション・モデリング(IM)は、出力部のみではなく、インストラクションとプロンプト部に損失関数を適用してLMを訓練する。 多くのシナリオにおいて、IMはNLPタスクとオープン・エンド・ジェネレーション・ベンチマークの両方でのLM性能を効果的に改善できることを示す。 注目すべきは、最も有利な場合、IMはAlpacaEval 1.0のモデルパフォーマンスを100%以上向上させることだ。
  論文  参考訳（メタデータ） (2024-05-23T10:12:03Z)
• InstUPR : Instruction-based Unsupervised Passage Reranking with Large Language Models [35.067998820937284]
  InstUPRは、大規模言語モデル(LLM)に基づく教師なしパスのランク付け手法である。 ソフトスコアアグリゲーション手法を導入し、教師なしパスの再ランクにペアワイズ・リランクを採用する。 BEIRベンチマークの実験では、InstUPRは教師なしベースラインと命令調整されたリランカよりも優れていた。
  論文  参考訳（メタデータ） (2024-03-25T05:31:22Z)
• Alpaca against Vicuna: Using LLMs to Uncover Memorization of LLMs [61.04246774006429]
  本稿では,攻撃者によるLSMエージェントを用いたブラックボックスプロンプト最適化手法を提案する。 ベースラインプレフィックス・サフィックス測定と比較すると,命令ベースのプロンプトは,トレーニングデータと23.7%のオーバラップで出力を生成する。 以上の結果から,命令調整モデルでは,ベースモデルと同等に事前学習データを公開することが可能であり,他のLSMが提案する命令を用いることで,新たな自動攻撃の道を開くことが可能であることが示唆された。
  論文  参考訳（メタデータ） (2024-03-05T19:32:01Z)
• CoachLM: Automatic Instruction Revisions Improve the Data Quality in LLM Instruction Tuning [32.54921739100195]
  提案するCoachLMは,データセット内のサンプルを自動的に修正することで,命令データセットの品質を高める新しい手法である。 CoachLMは、人間の専門家によって改訂されたサンプルから訓練され、データセットの高品質なサンプルの割合が17.7%から78.9%に大幅に増加した。 結果から,CoachLMは命令調整LDMの指示追従能力を平均29.9%改善することがわかった。
  論文  参考訳（メタデータ） (2023-11-22T09:04:57Z)
• Rephrase and Respond: Let Large Language Models Ask Better Questions for Themselves [57.974103113675795]
  本稿では,Rephrase and Respond'(RaR)という手法を提案する。 RaRは、パフォーマンスを改善するためのシンプルだが効果的なプロンプト方法として機能する。 また,RaRは理論的にも経験的にも,一般的なChain-of-Thought(CoT)法と相補的であることを示す。
  論文  参考訳（メタデータ） (2023-11-07T18:43:34Z)
• Instruction Distillation Makes Large Language Models Efficient Zero-shot Rankers [56.12593882838412]
  本稿では,文書のランク付けのための新しい命令蒸留手法を提案する。 まず、複雑な命令で効果的なペアワイズ手法を用いて文書をランク付けし、簡単な指示で教師の予測をポイントワイズ方式で抽出する。 提案手法は,MonoT5のような既存の教師付きメソッドの性能を超越し,最先端のゼロショット手法と同等である。
  論文  参考訳（メタデータ） (2023-11-02T19:16:21Z)
• Reflection-Tuning: Data Recycling Improves LLM Instruction-Tuning [79.32236399694077]
  トレーニングセットの低品質データは、通常、チューニングのチューニングに有害である。 我々は「反射チューニング」と呼ばれる新しい手法を提案する。 このアプローチでは、オラクルLSMを使用して、データ内の命令や応答の質を検査し、向上することで、元のトレーニングデータをリサイクルする。
  論文  参考訳（メタデータ） (2023-10-18T05:13:47Z)
• LeTI: Learning to Generate from Textual Interactions [60.425769582343506]
  本稿では,テキストインタラクション(LETI)から学習するLMの可能性を,バイナリラベルによる正当性をチェックするだけでなく,テキストフィードバックを通じて出力中のエラーをピンポイントし,説明する。 私たちの焦点はコード生成タスクであり、そこではモデルが自然言語命令に基づいてコードを生成する。 LETIは、目的のLMを用いて、自然言語命令、LM生成プログラム、テキストフィードバックの結合に基づいて、モデルを反復的に微調整する。
  論文  参考訳（メタデータ） (2023-05-17T15:53:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。