論文の概要: Multi-Target Few-Shot Prompting with Diffusion Language Models

• arxiv url: http://arxiv.org/abs/2610.22294v1
• Date: Thu, 15 Oct 2026 17:44:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-17 06:09:33.236844
• Title: Multi-Target Few-Shot Prompting with Diffusion Language Models
• Title（参考訳）: 拡散言語モデルを用いた多目的Few-Shot Prompting
• Abstract要約: 指示や報酬の特定が難しい場合には、ほとんどショットプロンプトが役立ちます。 サンプルは共有キャンバス内の複数のマスキング領域の埋め込みをガイドする。 数ショットのベンチマークやソフトウェアケーススタディを通じて、デモによってインフィルの精度が向上することが分かりました。
• 参考スコア（独自算出の注目度）: 6.6921491600837975
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Few-shot prompting is useful when instructions and rewards are hard to specify. One such application is editing by example, where a demonstrated formatting change or API migration may need to be applied across multiple sites. However, such edits often depend on both left and right context, making generation with causal autoregressive models awkward. We therefore introduce multi-target few-shot prompting with diffusion language models, where examples guide the infilling of multiple masked regions within a shared canvas. To address the known challenge of reliably following demonstrations in few-shot prompting, we further leverage selective masking of the canvas to derive a likelihood-ratio reward that favors example-supported infills. Across few-shot prompting benchmarks and software refactoring case studies, we find that demonstrations improve infilling accuracy, with example guidance yielding further gains in several settings.
• Abstract（参考訳）: 指示や報酬の特定が難しい場合には、ほとんどショットプロンプトが役立ちます。 そのようなアプリケーションの1つは、例による編集で、デモ的なフォーマット変更やAPIマイグレーションを複数のサイトに適用する必要がある可能性がある。 しかし、このような編集は左右両方の文脈に依存することが多く、因果自己回帰モデルによる生成が煩雑になる。 そこで,拡散言語モデルを用いて複数ターゲットの複数ショットプロンプトを導入し,複数のマスキング領域を共有キャンバス内に埋め込むことを例に示す。 数発のプロンプトで確実にデモに従うという既知の課題に対処するために、キャンバスの選択的マスキングを活用して、サンプル支援インフィルを好む確率比の報酬を導出する。 数ショットのベンチマークやソフトウェアリファクタリングケーススタディを通じて、デモではインフィルの精度が向上し、例を挙げるといくつかの設定でさらに向上しています。

関連論文リスト

• WeMMU: Enhanced Bridging of Vision-Language Models and Diffusion Models via Noisy Query Tokens [69.97021957331326]
  本稿では,VLMと拡散モデル間の分散表現空間をエンドツーエンドの最適化により学習するノイズクエリトークンを提案する。 また、細粒度画像の詳細を復元する線形投影を用いたVAE分岐も導入する。
  論文  参考訳（メタデータ） (2025-12-02T09:02:20Z)
• Multiple Stochastic Prompt Tuning for Few-shot Adaptation under Extreme Domain Shift [14.85375816073596]
  クラス毎に複数の学習可能なプロンプトを導入し,分布シフトによる視覚表現の多様なモードをキャプチャする。 これらのプロンプトは学習可能なガウス分布としてモデル化され、プロンプトパラメータ空間の効率的な探索を可能にする。 実験と最先端手法との比較により,提案手法の有効性が示された。
  論文  参考訳（メタデータ） (2025-06-04T13:18:04Z)
• SymDPO: Boosting In-Context Learning of Large Multimodal Models with Symbol Demonstration Direct Preference Optimization [49.931663904599205]
  研究者は、インコンテキスト学習機能を備えた大規模マルチモーダルモデルを開発する技術を開発した。 既存のLMMは、マルチモーダルなデモンストレーションで視覚的コンテキストを効果的に活用せず、単にテキストパターンに従う。 本稿では,マルチモーダルな実演構築の伝統的なパラダイムを破るために,記号記述直接選好最適化(SymDPO)を提案する。
  論文  参考訳（メタデータ） (2024-11-17T08:29:14Z)
• FUSE-ing Language Models: Zero-Shot Adapter Discovery for Prompt Optimization Across Tokenizers [55.2480439325792]
  FUSEは、あるモデルのテキスト埋め込み空間から別のモデルへのマッピングを行うアダプタ層を、異なるトークン化器にまたがっても近似するアプローチである。 画像キャプションと感情に基づく画像キャプションのための視覚言語モデルと因果言語モデルに対する多目的最適化によるアプローチの有効性を示す。
  論文  参考訳（メタデータ） (2024-08-09T02:16:37Z)
• Obtaining Favorable Layouts for Multiple Object Generation [50.616875565173274]
  大規模なテキスト・ツー・イメージモデルでは、テキスト・プロンプトに基づいて高品質で多様な画像を生成することができる。 しかし、既存の最先端拡散モデルでは、複数の被写体を含む画像を生成する際に困難に直面している。 誘導原理に基づく新しい手法を提案し、拡散モデルが最初にレイアウトを提案し、次にレイアウトグリッドを並べ替えることを可能にする。 これは、提案したマスクに固執するようにクロスアテンションマップ(XAM)を強制し、潜在マップから私たちによって決定された新しい場所へピクセルを移動させることによって達成される。
  論文  参考訳（メタデータ） (2024-05-01T18:07:48Z)
• Addressing Order Sensitivity of In-Context Demonstration Examples in Causal Language Models [18.03259038587496]
  インコンテクスト学習は、インコンテクストの実例の順序に大きく影響される。 情報拡張・一貫性強化手法と呼ばれる教師なしの微調整手法を導入する。 提案手法は,文脈内サンプルの順序に対するCausalLMsの感度を低減し,堅牢な一般化性を示す。
  論文  参考訳（メタデータ） (2024-02-23T22:39:12Z)
• Prompting Large Language Model for Machine Translation: A Case Study [87.88120385000666]
  我々は機械翻訳戦略の推進に関する体系的研究を行っている。 本稿では,プロンプトテンプレートと実演例選択の要因について検討する。 本稿では,モノリンガルデータの利用と,クロスリンガル,クロスドメイン,文-文書間伝達学習の実現可能性について検討する。
  論文  参考訳（メタデータ） (2023-01-17T18:32:06Z)
• ConsPrompt: Exploiting Contrastive Samples for Fewshot Prompt Learning [37.219617741198334]
  本研究では,プロンプト表現のロバスト性を改善するために,適切なコントラストサンプルと多自由度コントラスト学習手法について検討する。 以上の結果から, 高速微調整プロセスにおける多自由度コントラスト学習の有効性が証明された。
  論文  参考訳（メタデータ） (2022-11-08T09:29:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。