論文の概要: Meta-Prompting: Enhancing Language Models with Task-Agnostic Scaffolding

• arxiv url: http://arxiv.org/abs/2401.12954v1
• Date: Tue, 23 Jan 2024 18:22:19 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-24 14:43:04.467919
• Title: Meta-Prompting: Enhancing Language Models with Task-Agnostic Scaffolding
• Title（参考訳）: メタプロンプティング:タスク非依存による言語モデルの強化
• Authors: Mirac Suzgun, Adam Tauman Kalai
• Abstract要約: メタプロンプティング(メタプロンプティング)は,言語モデル(LM)の機能向上を目的とした効果的な足場技術である。 高レベルの命令を利用することで、メタプロンプトはLMをガイドし、複雑なタスクをより小さく、より管理しやすいサブタスクに分解する。 このプロセスの中心はLM自体であり、導体としての役割を持ち、シームレスなコミュニケーションと出力の効果的な統合を保証する。
• 参考スコア（独自算出の注目度）: 15.04954445749935
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We introduce meta-prompting, an effective scaffolding technique designed to enhance the functionality of language models (LMs). This approach transforms a single LM into a multi-faceted conductor, adept at managing and integrating multiple independent LM queries. By employing high-level instructions, meta-prompting guides the LM to break down complex tasks into smaller, more manageable subtasks. These subtasks are then handled by distinct "expert" instances of the same LM, each operating under specific, tailored instructions. Central to this process is the LM itself, in its role as the conductor, which ensures seamless communication and effective integration of the outputs from these expert models. It additionally employs its inherent critical thinking and robust verification processes to refine and authenticate the end result. This collaborative prompting approach empowers a single LM to simultaneously act as a comprehensive orchestrator and a panel of diverse experts, significantly enhancing its performance across a wide array of tasks. The zero-shot, task-agnostic nature of meta-prompting greatly simplifies user interaction by obviating the need for detailed, task-specific instructions. Furthermore, our research demonstrates the seamless integration of external tools, such as a Python interpreter, into the meta-prompting framework, thereby broadening its applicability and utility. Through rigorous experimentation with GPT-4, we establish the superiority of meta-prompting over conventional scaffolding methods: When averaged across all tasks, including the Game of 24, Checkmate-in-One, and Python Programming Puzzles, meta-prompting, augmented with a Python interpreter functionality, surpasses standard prompting by 17.1%, expert (dynamic) prompting by 17.3%, and multipersona prompting by 15.2%.
• Abstract（参考訳）: メタプロンプティングは,言語モデル(LM)の機能向上を目的とした効果的な足場技術である。 このアプローチは、1つのLMを多面導体に変換し、複数の独立したLMクエリを管理し統合する。 ハイレベルな命令を使用することで、メタプロパンティングはlmを誘導し、複雑なタスクをより小さく、より管理しやすいサブタスクに分解する。 これらのサブタスクは、同じLMの異なる"専門家"インスタンスによって処理され、それぞれが特定の調整された命令の下で動作する。 このプロセスの中心はlm自体で、導体としての役割は、これらのエキスパートモデルからの出力のシームレスなコミュニケーションと効果的な統合を保証する。 さらに、本質的な批判的思考と堅牢な検証プロセスを採用し、結果の洗練と認証を行っている。 このコラボレーティブなプロンプトアプローチにより、単一のlmが包括的なオーケストレータと多様な専門家のパネルとして同時に振る舞うことができるようになり、幅広いタスクにわたるパフォーマンスが大幅に向上する。 メタプロンプトのゼロショット,タスクに依存しない性質は,詳細なタスク固有の命令の必要性を回避し,ユーザインタラクションを大幅に単純化する。 さらに,pythonインタプリタなどの外部ツールのメタプロパンティングフレームワークへのシームレスな統合により,その適用性と有用性が向上することを示す。 24のゲームを含む全てのタスクを平均すると、チェックメイト・イン・ワンとpythonのプログラミングパズル、pythonインタプリタ機能で拡張されたメタプロパンティングは、標準プロンプトを17.1%、エキスパート(ダイナミック)を17.3%、マルチパーソナライズを15.2%上回る。

関連論文リスト

• One Prompt is not Enough: Automated Construction of a Mixture-of-Expert Prompts [110.94724216491753]
  大規模言語モデル(LLM)は、言語命令やコンテキスト内デモによって、強力な一般化能力を示す。 命令設計を自動化するために様々な手法が検討されてきたが、探索されたプロンプトを1つの命令に制限した。 我々はMixture-of-Expertパラダイムを採用し、問題空間を一連のサブリージョンに分割する。 地域ごとに専門的な専門家を構築するための2段階のプロセスが開発されている。 専門家1人当たりの命令の地域ベースの共同探索は、それに割り当てられたデモを補完し、相乗効果をもたらす。
  論文  参考訳（メタデータ） (2024-06-28T23:05:08Z)
• Do We Really Need a Complex Agent System? Distill Embodied Agent into a Single Model [15.558269067931374]
  オープンなエンボディタスクのための階層的知識蒸留フレームワークであるSTEVE-2を提案する。 蒸留後、実施エージェントは専門的なガイダンスなしで複雑なオープンエンドタスクを完了することができる。
  論文  参考訳（メタデータ） (2024-04-06T12:51:00Z)
• Small LLMs Are Weak Tool Learners: A Multi-LLM Agent [73.54562551341454]
  大規模言語モデル(LLM)エージェントはスタンドアロンのLLMの機能を大幅に拡張する。 本稿では、上記の機能をプランナー、呼び出し元、要約器に分解する新しい手法を提案する。 このモジュール化されたフレームワークは、個々の更新と、それぞれの機能を構築するための小さなLLMの潜在的な使用を容易にする。
  論文  参考訳（メタデータ） (2024-01-14T16:17:07Z)
• INTERS: Unlocking the Power of Large Language Models in Search with Instruction Tuning [59.07490387145391]
  大規模言語モデル(LLM)は、様々な自然言語処理タスクにおいて印象的な機能を示している。 情報検索(IR)タスクへのそれらの適用は、自然言語における多くのIR固有の概念の頻繁な発生のため、いまだに困難である。 我々は,3つの基本IRカテゴリにまたがる20のタスクを含む新しいインストラクションチューニングデータセット InterS を導入する。
  論文  参考訳（メタデータ） (2024-01-12T12:10:28Z)
• MmAP : Multi-modal Alignment Prompt for Cross-domain Multi-task Learning [29.88567810099265]
  マルチタスク学習は複数の相関タスクを同時に訓練するように設計されている。 この課題に対処するために、デコーダフリーの視覚言語モデルCLIPを統合する。 CLIPのためのマルチモーダルアライメント・プロンプト(MmAP)を提案する。
  論文  参考訳（メタデータ） (2023-12-14T03:33:02Z)
• TaskBench: Benchmarking Large Language Models for Task Automation [82.2932794189585]
  タスク自動化における大規模言語モデル(LLM)の機能を評価するためのフレームワークであるTaskBenchを紹介する。 具体的には、タスクの分解、ツールの選択、パラメータ予測を評価する。 提案手法は, 自動構築と厳密な人的検証を組み合わせることで, 人的評価との整合性を確保する。
  論文  参考訳（メタデータ） (2023-11-30T18:02:44Z)
• AskIt: Unified Programming Interface for Programming with Large Language Models [0.0]
  大規模言語モデル(LLM)は創発能力として知られるユニークな現象を示し、多くのタスクにまたがって適応性を示す。 本稿では,LLM用に特別に設計されたドメイン固有言語であるAskItを紹介する。 50タスクにわたって、AskItは簡潔なプロンプトを生成し、ベンチマークよりも16.14パーセントのプロンプト長の削減を実現した。
  論文  参考訳（メタデータ） (2023-08-29T21:44:27Z)
• Decomposed Prompting: A Modular Approach for Solving Complex Tasks [55.42850359286304]
  本稿では,より単純なサブタスクに分解することで,複雑なタスクを解くための分解プロンプトを提案する。 このモジュール構造は、各プロンプトを特定のサブタスクに最適化することを可能にする。 Decomposed Promptingの柔軟性とモジュラリティは、数発のプロンプトで先行作業より優れていることを示す。
  論文  参考訳（メタデータ） (2022-10-05T17:28:20Z)
• Improving Task Generalization via Unified Schema Prompt [87.31158568180514]
  Unified Promptはフレキシブルでプロンプトの手法で、タスク入力スキーマに従って各タスクの学習可能なプロンプトを自動的にカスタマイズする。 異なるタスクスキーマの特徴を維持しながら、タスク間の共有知識をモデル化する。 このフレームワークは、8つのタスクタイプから下流に見えない16のタスクに対して、強力なゼロショットと少数ショットのパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2022-08-05T15:26:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。