論文の概要: DRESSing Up LLM: Efficient Stylized Question-Answering via Style Subspace Editing

• arxiv url: http://arxiv.org/abs/2501.14371v1
• Date: Fri, 24 Jan 2025 10:04:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-27 14:58:51.588866
• Title: DRESSing Up LLM: Efficient Stylized Question-Answering via Style Subspace Editing
• Title（参考訳）: DRESSing Up LLM: スタイルサブスペース編集による効率的なスティル化質問応答
• Authors: Xinyu Ma, Yifeng Xu, Yang Lin, Tianlong Wang, Xu Chu, Xin Gao, Junfeng Zhao, Yasha Wang,
• Abstract要約: DRESSは、表現編集によってスタイル化された大言語モデル(LLM)応答を生成する新しいアプローチである。 提案手法は,モデル表現空間内のスタイル関連部分空間をアンタングルして表現編集を行う。 簡単に言うと、DRESSは柔軟で効果的なスタイル制御を備えたLLMの拡張のための軽量で、列車無しのソリューションである。
• 参考スコア（独自算出の注目度）: 23.467409274256255
• License:
• Abstract: We introduce DRESS, a novel approach for generating stylized large language model (LLM) responses through representation editing. Existing methods like prompting and fine-tuning are either insufficient for complex style adaptation or computationally expensive, particularly in tasks like NPC creation or character role-playing. Our approach leverages the over-parameterized nature of LLMs to disentangle a style-relevant subspace within the model's representation space to conduct representation editing, ensuring a minimal impact on the original semantics. By applying adaptive editing strengths, we dynamically adjust the steering vectors in the style subspace to maintain both stylistic fidelity and semantic integrity. We develop two stylized QA benchmark datasets to validate the effectiveness of DRESS, and the results demonstrate significant improvements compared to baseline methods such as prompting and ITI. In short, DRESS is a lightweight, train-free solution for enhancing LLMs with flexible and effective style control, making it particularly useful for developing stylized conversational agents. Codes and benchmark datasets are available at https://github.com/ArthurLeoM/DRESS-LLM.
• Abstract（参考訳）: 本稿では,表現編集によるスタイル付き大言語モデル(LLM)応答生成のための新しいアプローチであるDRESSを紹介する。 プロンプトや微調整といった既存の手法は複雑なスタイルの適応には不十分であり、特にNPC生成やキャラクターロールプレイングといったタスクでは計算コストがかかる。 提案手法は, LLMの過度パラメータ化特性を利用して, モデル表現空間内のスタイル関連部分空間をアンタングルし, 表現編集を行い, 元のセマンティクスへの影響を最小限に抑える。 適応的な編集強度を適用することで、スタイル部分空間のステアリングベクトルを動的に調整し、スタイリスティックな忠実さとセマンティックな整合性を維持する。 DRESSの有効性を検証するための2つのスタイル付きQAベンチマークデータセットを開発し、その結果、プロンプトやIMIといったベースライン手法と比較して大きな改善が得られた。 簡単に言うと、DRESSは柔軟で効果的なスタイル制御によるLLMの拡張のための軽量で、列車無しのソリューションであり、特にスタイリングされた会話エージェントの開発に有用である。 コードとベンチマークデータセットはhttps://github.com/ArthurLeoM/DRESS-LLMで公開されている。

関連論文リスト

• Decoding Style: Efficient Fine-Tuning of LLMs for Image-Guided Outfit Recommendation with Preference [4.667044856219814]
  本稿では,大規模言語モデル(LLM)の表現力を利用した,個人化された衣装推薦手法を提案する。 MLLM(Multimodal Large Language Model)を用いた画像キャプションによる項目記述の視覚的・テキスト的ギャップを橋渡しする。 このフレームワークは、Polyvoreデータセットで評価され、その効果を2つの重要なタスク、すなわちFill-in-the-blankと補完的なアイテム検索で実証する。
  論文  参考訳（メタデータ） (2024-09-18T17:15:06Z)
• SCAR: Efficient Instruction-Tuning for Large Language Models via Style Consistency-Aware Response Ranking [56.93151679231602]
  本研究は, 応答における2つの重要なスタイル的要素, 言語形式と指導的前提を同定する。 そこで我々は,SCAR(Style Consistency-Aware Response Ranking)を導入する。
  論文  参考訳（メタデータ） (2024-06-16T10:10:37Z)
• One Token Can Help! Learning Scalable and Pluggable Virtual Tokens for Retrieval-Augmented Large Language Models [67.49462724595445]
  Retrieval-augmented Generation (RAG)は、大規模言語モデル(LLM)を改善するための有望な方法である。 本稿では,RAGのためのスケーラブルでプラガブルな仮想トークンを学習する新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-05-30T03:44:54Z)
• ArtWeaver: Advanced Dynamic Style Integration via Diffusion Model [73.95608242322949]
  Stylized Text-to-Image Generation (STIG)は、テキストプロンプトとスタイル参照画像から画像を生成することを目的としている。 我々は、事前訓練された安定拡散を利用して、誤解釈スタイルや一貫性のない意味論といった課題に対処する新しいフレームワーク、ArtWeaverを提案する。
  論文  参考訳（メタデータ） (2024-05-24T07:19:40Z)
• Unsupervised Text Style Transfer via LLMs and Attention Masking with Multi-way Interactions [18.64326057581588]
  非教師付きテキストスタイル転送(UTST)が自然言語処理(NLP)分野における重要な課題として浮上している。 本稿では,命令を調整したパイプライン・フレームワークであるLarge Language Models (LLMs) から注目マスキング・モデルへの知識蒸留,構築された並列例を用いたコンテキスト内学習の4つの方法を提案する。 これらのマルチウェイインタラクションは、スタイルの強さ、コンテンツ保存、テキストの流布といった観点から、ベースラインを改善することを実証的に示しています。
  論文  参考訳（メタデータ） (2024-02-21T09:28:02Z)
• Linear Alignment: A Closed-form Solution for Aligning Human Preferences without Tuning and Feedback [70.32795295142648]
  リニアアライメントは、言語モデルと人間の好みを1つの推論ステップで整列する新しいアルゴリズムである。 一般的な選好データセットとパーソナライズされた選好データセットの実験により、線形アライメントはLLMアライメントの性能と効率を大幅に向上させることが示された。
  論文  参考訳（メタデータ） (2024-01-21T10:46:23Z)
• Making Large Language Models A Better Foundation For Dense Retrieval [19.38740248464456]
  デンス検索では,クエリとドキュメント間の意味的関係を表現するために,識別テキストの埋め込みを学習する必要がある。 意味理解におけるLLMの強い能力を考えると、大きな言語モデル(LLM)の使用の恩恵を受けるかもしれない。 本稿では,LLaRA (LLM adapted for dense RetrievAl) を提案する。
  論文  参考訳（メタデータ） (2023-12-24T15:10:35Z)
• StylerDALLE: Language-Guided Style Transfer Using a Vector-Quantized Tokenizer of a Large-Scale Generative Model [64.26721402514957]
  本論文では,自然言語を用いて抽象芸術スタイルを記述するスタイル転送手法であるStylerDALLEを提案する。 具体的には、非自己回帰的なトークンシーケンス変換として、言語誘導型転送タスクを定式化する。 スタイル情報を組み込むために,CLIPに基づく言語指導による強化学習戦略を提案する。
  論文  参考訳（メタデータ） (2023-03-16T12:44:44Z)
• Guiding Large Language Models via Directional Stimulus Prompting [114.84930073977672]
  我々は,特定の所望の出力に対して,ブラックボックス大言語モデル(LLM)を導くための新しいフレームワークであるDirectional Stimulus Promptingを紹介する。 LLMを直接調整するのではなく、小さな調整可能なポリシーモデルを用いて各入力インスタンスに対して補助的な指向性刺激プロンプトを生成する。
  論文  参考訳（メタデータ） (2023-02-22T17:44:15Z)
• Replacing Language Model for Style Transfer [6.364517234783756]
  テキストスタイル転送(TST)のためのシーケンス・ツー・シーケンス言語モデリングフレームワークである置換言語モデル(RLM)を導入する。 提案手法は,ソース文の各トークンを類似した意味を持つテキストスパンで自動回帰的に置き換える。 新しいスパンは非自己回帰型マスキング言語モデルによって生成され、置換されたトークンのローカルコンテキストの意味をよりよく保存することができる。
  論文  参考訳（メタデータ） (2022-11-14T13:35:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。