論文の概要: Training-Free Token-Level Steering for LLM Personalized Co-Writing
- arxiv url: http://arxiv.org/abs/2608.06069v1
- Date: Thu, 06 Aug 2026 14:13:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-07 17:43:06.77231
- Title: Training-Free Token-Level Steering for LLM Personalized Co-Writing
- Title(参考訳): LLMパーソナライズドコライティングのための学習自由レベルステアリング
- Abstract要約: SteerWriteは、パーソナライズされた共同執筆用に設計された、トレーニング不要のフレームワークである。
本手法は,勾配更新を伴わずに,ベースモデルを特定の領域に効果的に適用する。
実験によると、SteerWriteはさまざまなデータセット、メトリクス、モデルにわたる最先端のパフォーマンスを実現している。
- 参考スコア(独自算出の注目度): 8.747102543652918
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: While Large Language Models (LLMs) show great promise for personalization, they often lack specialized domain knowledge. Conventional solutions like fine-tuning struggle with high computational costs and rapid data updates, while Retrieval-Augmented Generation fails to provide fine-grained, token-level steering. Furthermore, chat-based interfaces remain dominant, whereas productive co-writing paradigms have not yet been well exploited beyond the coding domain. To this end, we introduce SteerWrite, a training-free framework designed for personalized co-writing. Our method effectively adapts the base model to specialized domains without gradient updates, with specific designs tailored to small datasets. Experiments demonstrate that SteerWrite achieves state-of-the-art performance across diverse datasets, metrics, and models, significantly reducing human editing effort.
- Abstract(参考訳): 大規模言語モデル(LLM)はパーソナライズを大いに約束する一方で、専門的なドメイン知識を欠いていることが多い。
一方、Retrieval-Augmented Generationは、きめ細かいトークンレベルのステアリングを提供していない。
さらに、チャットベースのインターフェイスは依然として支配的だが、生産的なコライトパラダイムはまだコーディングドメインを超えて十分に活用されていない。
この目的のために、パーソナライズされたコライティング用に設計されたトレーニング不要のフレームワークであるSteerWriteを紹介した。
提案手法は,小さなデータセットに最適化された特定の設計で,勾配更新を伴わずに,ベースモデルを特定のドメインに効果的に適応させる。
実験によると、SteerWriteはさまざまなデータセット、メトリクス、モデルにわたる最先端のパフォーマンスを実現し、人間の編集作業を大幅に削減している。
関連論文リスト
- Rethinking Personalization in Large Language Models at the Token Level [89.64259958702165]
パーソナライズは通常、ベースNLPタスクの上に追加レイヤとしてフレーム化される。
トークンレベルの観点からは、応答中の異なるトークンは、様々な程度にパーソナライズに寄与する。
本稿では,ユーザ固有の情報に対する各出力トークンの依存性を推定する自己コントラスト手法PerContrastを提案する。
論文 参考訳(メタデータ) (2026-02-04T16:05:02Z) - Entropy-Guided Token Dropout: Training Autoregressive Language Models with Limited Domain Data [89.96277093034547]
本研究では,エントロピー誘導型トークンドロップアウト方式であるEntroDropを導入する。
本稿では,EntroDropが標準正規化ベースラインを一貫して上回り,拡張型マルチエポックトレーニングを通じて堅牢な性能を維持していることを示す。
論文 参考訳(メタデータ) (2025-12-29T12:35:51Z) - Unleashing the Power of Vision-Language Models for Long-Tailed Multi-Label Visual Recognition [55.189113121465816]
本稿では,長い尾を持つ多ラベル視覚認識のための新しい相関適応プロンプトネットワーク(CAPNET)を提案する。
CAPNETはCLIPのテキストエンコーダからの相関を明示的にモデル化する。
テスト時間アンサンブルによる一般化を改善し、視覚・テクスチャのモダリティを実現する。
論文 参考訳(メタデータ) (2025-11-25T18:57:28Z) - Personalized Vision via Visual In-Context Learning [62.85784251383279]
パーソナライズされた視覚のためのビジュアル・イン・コンテキスト・ラーニング・フレームワークを提案する。
PICOは基盤となる変換を推測し、再トレーニングせずに新しい入力に適用する。
また,効率的な推論スケーリングによる信頼性向上を目的とした注意誘導型シードスコアラを提案する。
論文 参考訳(メタデータ) (2025-09-29T17:58:45Z) - Quantizing Text-attributed Graphs for Semantic-Structural Integration [6.721504414917793]
テキスト分散グラフ(TAG)は、様々な領域にわたる複雑な関係をモデル化するための強力な表現として登場した。
大規模言語モデル(LLM)の台頭に伴い、グラフ学習に彼らの能力を活用することへの関心が高まっている。
凍結したコードブックを用いて,グラフ構造情報を離散トークンに直接量子化する,新たな自己教師型フレームワークSTAGを提案する。
論文 参考訳(メタデータ) (2025-07-20T09:18:02Z) - CoSteer: Collaborative Decoding-Time Personalization via Local Delta Steering [80.54309860395763]
CoSteerは、ローカライズされたデルタステアリングを通じてデコード時のパーソナライズを可能にする、新しいコラボレーティブフレームワークである。
トークンレベルの最適化をオンライン学習問題として定式化し、ローカルデルタベクトルがリモートLLMのロジットを動的に調整する。
このアプローチは、生のデータや中間ベクトルではなく、最後のステアリングトークンのみを送信することで、プライバシを保護します。
論文 参考訳(メタデータ) (2025-07-07T08:32:29Z) - Towards Efficient and Effective Alignment of Large Language Models [7.853945494882636]
大規模言語モデル(LLM)は多様なタスクにまたがる優れた能力を示すが、それらを効率的かつ効果的に人間の期待に合わせることは重要な課題である。
この論文は、データ収集、トレーニング、評価において新しい方法論を導入することで、LCMアライメントを推し進める。
論文 参考訳(メタデータ) (2025-06-11T02:08:52Z) - Leveraging Graph Structures and Large Language Models for End-to-End Synthetic Task-Oriented Dialogues [1.747623282473278]
タスク指向対話の生成を簡単にするエンドツーエンドフレームワークであるGraphTODを紹介する。
評価の結果、GraphTODは様々なドメイン間で高品質な対話を生成することが示され、データセット作成のコストと複雑さが大幅に低下した。
論文 参考訳(メタデータ) (2025-01-21T08:51:12Z) - Combining Public Human Activity Recognition Datasets to Mitigate Labeled
Data Scarcity [1.274578243851308]
本稿では,一般公開されたデータセットと一般化されたHARモデルを学習するための新たな戦略を提案する。
我々の実験評価は、さまざまな最先端ニューラルネットワークアーキテクチャの実験を含むもので、公開データセットを組み合わせることで、ラベル付きサンプルの数を著しく削減できることを示している。
論文 参考訳(メタデータ) (2023-06-23T18:51:22Z) - Improving Semantic Segmentation via Self-Training [75.07114899941095]
半教師付きアプローチ,特に自己学習パラダイムを用いて,最先端の成果を得ることができることを示す。
まず、ラベル付きデータに基づいて教師モデルを訓練し、次にラベルなしデータの大規模なセット上で擬似ラベルを生成する。
私たちの堅牢なトレーニングフレームワークは、人名と擬似ラベルを共同で消化し、Cityscapes、CamVid、KITTIデータセット上で最高のパフォーマンスを達成することができます。
論文 参考訳(メタデータ) (2020-04-30T17:09:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。