論文の概要: How Much Prompt Is Enough? A Blackbox Minimization of Few-Shots in LLMs

• arxiv url: http://arxiv.org/abs/2609.36289v1
• Date: Mon, 28 Sep 2026 21:18:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.018099
• Title: How Much Prompt Is Enough? A Blackbox Minimization of Few-Shots in LLMs
• Title（参考訳）: どれくらいのプロンプトがある? LLMのわずかなショットのブラックボックス最小化
• Abstract要約: フレームワークはブラックボックスのプロンプト最小化フレームワークである。 文字数の平均は65.3%$pm$15.8%である。
• 参考スコア（独自算出の注目度）: 1.3169340694635796
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Prompts are the primary mechanism for directing the behavior of large language models (LLMs). Yet the internal structure and causal hierarchy of prompts remain poorly understood: which parts are causally necessary and which are redundant is an open question. This opacity can have severe consequences. Subtle prompt variations can silently shift model outputs in critical software systems, and engineers lack techniques to reason about prompt reliability. We present \framework, a blackbox prompt-minimization framework that reduces few-shot prompts to their necessary minimal subset. We use a case study to apply \framework to a few-shot learning system and demonstrate the insights that this framework can provide. Our experiments show that few-shot exemplars can be reduced by a mean of 65.3\%~$\pm$~15.8\% in character count while fully preserving propositional output fidelity. The models preferentially retain logical identifiers and constraint declarations while discarding natural language prose and cross-prompt relational annotations. Our analysis also shows that some models are universal encoders, able to produce highly legible yet minimized prompts, while others are universal decoders, able to interpret minimized prompts from most other models. By identifying which components are indispensable, \framework provides a principled basis for prompt compression and structural analysis of few-shot exemplars.
• Abstract（参考訳）: プロンプトは、大きな言語モデル(LLM)の振る舞いを指示する主要なメカニズムである。 しかし、プロンプトの内部構造と因果的階層は理解されていない:どの部分が因果的に必要で、どれが冗長かはオープンな問題である。 この不透明さは深刻な結果をもたらす可能性がある。 サブセットプロンプトのバリエーションは、重要なソフトウェアシステムでモデル出力を静かにシフトさせることができ、エンジニアは迅速な信頼性を推論する技術が欠けている。 ブラックボックスのプロンプト最小化フレームワークである‘framework’を,必要最小限のサブセットに数発のプロンプトを還元する。 ケーススタディを使って、‘framework’を数ショットの学習システムに適用し、このフレームワークが提供する洞察を実証します。 実験の結果,提案的出力忠実度を完全に保ちながら,65.3\%~$\pm$~15.8\%の文字数で少数ショット例を削減できることが確認された。 モデルは、自然言語の散文やクロスプロンプトリレーショナルアノテーションを捨てながら、論理識別子と制約宣言を優先的に保持する。 我々の分析では、いくつかのモデルは普遍的なエンコーダであり、高い精度で最小限のプロンプトを生成することができる一方で、他のほとんどのモデルから最小限のプロンプトを解釈できるユニバーサルデコーダであることも示している。 どのコンポーネントが必須かを特定することで、Shaframeworkは、数発の例題の迅速な圧縮と構造解析のための原則化された基盤を提供する。

関連論文リスト

• Prompt Minimization: Reducing Input Redundancy Without Sacrificing Output Fidelity [0.45671221781968324]
  $textitprompt$は、最も小さく、最も情報量の多いフォームへのプロンプトを減らすプロセスを探る。 発見は、効率的なプロンプトエンジニアリングのための新しい方向を示唆し、大きな言語モデルにおける入力圧縮の理解を深める。
  論文  参考訳（メタデータ） (2026-09-25T16:45:28Z)
• Prompting Complexity: Shortest Prompts for Texts and Behaviors in LLMs [1.9875440739965626]
  固定命令調整言語モデルに対する複雑性の促進量を定義する。 プログラムは任意のトークン文字列ではなく、可読な可読テキストに制限する。 また、最も短い生成プロンプトと、仕様を満たす出力に到達するための行動的プロンプトの複雑さを比較することで、距離のプロンプトを定義する。
  論文  参考訳（メタデータ） (2026-07-07T11:12:44Z)
• Farther the Shift, Sparser the Representation: Analyzing OOD Mechanisms in LLMs [100.02824137397464]
  難易度が増大する入力に遭遇した場合,大規模言語モデルが内部表現をどのように適応するかを検討する。 タスクの難易度が増大するにつれて、LLMの最後の隠れ状態は実質的にスペーサーとなる。 この空間性-微分的関係は、様々なモデルや領域で観測可能である。
  論文  参考訳（メタデータ） (2026-03-03T18:48:15Z)
• Theoretical Foundations of Prompt Engineering: From Heuristics to Expressivity [0.0]
  本研究では,トランスフォーマーのバックボーンをエグゼキュータとして固定し,プロンプトのみを変化させることで得られる機能群について検討する。 一つの固定されたバックボーンがプロンプトだけで対象の行動の幅広いクラスを近似できることを示す。
  論文  参考訳（メタデータ） (2025-12-14T13:42:20Z)
• Hierarchical Evaluation of Software Design Capabilities of Large Language Models of Code [7.897548449569687]
  大規模言語モデル(LLM)は、ソフトウェアエンジニアリング領域でますます採用されているが、コア設計概念に対する彼らの理解の堅牢性は、まだ不明である。 さまざまなレベルのガイダンスの下で、設計の不十分なソフトウェアフラグメントを生成します。 結合に関する推論は脆く、ノイズの多いオープンエンドのシナリオでパフォーマンスが崩壊する。 Reasoning-Trace分析はこれらの障害モードを確認し、結合のためのテキスト認識的ショートカットと結合のためのより徹底的な(まだ失敗している)分析を明らかにする。
  論文  参考訳（メタデータ） (2025-11-25T23:50:00Z)
• DrAttack: Prompt Decomposition and Reconstruction Makes Powerful LLM Jailbreakers [74.7446827091938]
  我々はjailbreak textbfAttack (DrAttack) のための自動プロンプト textbfDecomposition と textbfReconstruction フレームワークを導入する。 DrAttack には3つの重要な要素が含まれている: (a) プロンプトをサブプロンプトに分解する; (b) セマンティックに類似しているが無害な再組み立てデモで暗黙的にこれらのサブプロンプトを再構築する; (c) サブプロンプトのシンノニム検索する; サブプロンプトのシノニムを見つけることを目的としたサブプロンプトのシノニムを見つけること。
  論文  参考訳（メタデータ） (2024-02-25T17:43:29Z)
• Bayesian Prompt Learning for Image-Language Model Generalization [64.50204877434878]
  我々はベイズ法の正規化能力を用いて、変分推論問題としてプロンプト学習をフレーム化する。 提案手法は,プロンプト空間を正規化し,目に見えないプロンプトへの過剰適合を低減し,目に見えないプロンプトのプロンプト一般化を改善する。 ベイジアン・プロンプト学習がプロンプト空間の適切なカバレッジを提供する15のベンチマークを実証的に示す。
  論文  参考訳（メタデータ） (2022-10-05T17:05:56Z)
• SeqZero: Few-shot Compositional Semantic Parsing with Sequential Prompts and Zero-shot Models [57.29358388475983]
  近年の研究では、事前訓練された言語モデルと標準発話を併用する有望な結果が示されている。 本稿では,SeqZeroという構文解析手法を提案する。 特に、SeqZeroは、提案した制約付き再スケーリングを備えたアンサンブルによって、両方のモデルのメリットを明らかにします。
  論文  参考訳（メタデータ） (2022-05-15T21:13:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。