論文の概要: Small Is Enough: Per-User Style Rewriting of AI-Edited Text via LoRA Adapters
- arxiv url: http://arxiv.org/abs/2607.29238v1
- Date: Fri, 31 Jul 2026 10:14:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-03 14:29:40.682385
- Title: Small Is Enough: Per-User Style Rewriting of AI-Edited Text via LoRA Adapters
- Title(参考訳): ユーザ一人あたりのテキストの書き直しはLoRAアダプタでできる
- Abstract要約: InMyStyleは、AI編集されたテキストの書き直しに小さな言語モデルを適用する、プライバシファーストで単一のユーザーシステムである。
複数のローカルヘルパー LLM を使用してペア化されたトレーニング例を構築し、0.5B から 7B のパラメータのベースモデル上で LoRA アダプタを微調整する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: InMyStyle is a privacy first, single user system that adapts small language models to rewrite AI-edited text towards an individual user's writing style without an instruction prompt at inference. Given a user's documents, it uses multiple local helper LLMs to construct paired training examples and fine tunes LoRA adapters on base models ranging from 0.5B to 7B parameters. Length aware generation budgets and automatic chunking support inputs of different lengths. On 219 evaluation pairs from a scientific-paper corpus, the automatic composite score plateaus at 0.69 [scale 0-1] across all model sizes under both greedy and sampled decoding. This observed plateau suggests that small models are sufficient for the measured rewriting task, with model size determining trade-offs rather than a stable quality ranking. As a secondary evaluation, 400 ratings from five LLM judges give InMyStyle outputs a mean perceived AI-ness score over 20% lower than their helper-AI generated inputs, while mean perceived AI-ness scores decrease with model size within InMyStyle.
- Abstract(参考訳): InMyStyleは、AIで編集されたテキストを推論時にインストラクションプロンプトなしで個々のユーザの書き込みスタイルに書き換えるために、小さな言語モデルに適応する、プライバシ第一のシングルユーザーシステムである。
ユーザのドキュメントから、複数のローカルヘルパーLLMを使用してペア化されたトレーニング例を構築し、0.5Bから7Bパラメータのベースモデル上でLoRAアダプタを微調整する。
長さを意識した生成予算と、異なる長さの自動チャンキングサポートインプット。
研究論文のコーパスから得られた219個の評価ペアでは, すべてのモデルサイズで0.69[スケール0-1]の自動合成スコアプラトーが, グリーディとサンプルデコードの両方で得られた。
この観測台地は, モデルサイズが安定した品質ランキングではなくトレードオフを決定することで, 測定された書き換え作業に十分なモデルであることが示唆された。
二次評価として、5人のLLM審査員による400の評価では、AI-nessスコアの平均はヘルパーAIが生成した入力よりも20%以上低く、AI-nessスコアの平均はInMyStyle内のモデルサイズで減少する。
関連論文リスト
- Empirical Comparison of Encoder-Based Language Models and Feature-Based Supervised Machine Learning Approaches to Automated Scoring of Long Essays [8.899249868081956]
長いコンテキストは、テキスト処理においてエンコーダのみの言語モデルに課題を課すことがある。
この研究は、長いエッセイの自動評価のためのエンコーダベースの言語モデルをいくつか訓練した。
論文 参考訳(メタデータ) (2026-01-06T02:17:45Z) - TrueGL: A Truthful, Reliable, and Unified Engine for Grounded Learning in Full-Stack Search [36.07973770472031]
我々は、信頼できる検索結果をよりアクセスしやすくするTrueGLを提示する。
本稿では, インシデントエンジニアリングを用いてシステム評価を行い, それぞれのステートメントを0.1から1の連続信頼性スコアに割り当てる。
モデルの精度、幅広いコンテンツカバレッジ、使いやすさは、信頼できる情報をよりアクセスしやすいものにします。
論文 参考訳(メタデータ) (2025-06-05T01:48:09Z) - Align$^2$LLaVA: Cascaded Human and Large Language Model Preference Alignment for Multi-modal Instruction Curation [56.75665429851673]
本稿では,人間とLLMの選好アライメントという2つのユニークな視点から導いた,新しい命令キュレーションアルゴリズムを提案する。
実験により,合成マルチモーダル命令を最大90%圧縮することにより,モデル性能の維持や改善が可能であることが示された。
論文 参考訳(メタデータ) (2024-09-27T08:20:59Z) - Information Theoretic Text-to-Image Alignment [49.396917351264655]
相互情報(MI)は、モデルアライメントのガイドに使用される。
本手法は,自己教師型微調整を用いて,プロンプトと画像間のポイントワイド(MI)推定に依存する。
解析の結果,本手法は最先端の手法よりも優れているが,MIを推定するにはT2Iモデル自体の事前学習されたデノナイジングネットワークが必要であることが示唆された。
論文 参考訳(メタデータ) (2024-05-31T12:20:02Z) - ModelGPT: Unleashing LLM's Capabilities for Tailored Model Generation [35.160964210941955]
本稿では,ユーザが提供するデータやタスク記述に適したAIモデルを決定・生成するフレームワークであるModelGPTを提案する。
ユーザの要求に応じて、ModelGPTは、以前のパラダイムよりも少なくとも270倍高速に、調整済みのモデルを提供することができる。
論文 参考訳(メタデータ) (2024-02-18T11:24:34Z) - Bring Your Own Data! Self-Supervised Evaluation for Large Language
Models [52.15056231665816]
大規模言語モデル(LLM)の自己教師型評価のためのフレームワークを提案する。
閉書知識,毒性,長期文脈依存性を測定するための自己指導型評価戦略を実証する。
自己監督評価と人監督評価との間には強い相関関係が認められた。
論文 参考訳(メタデータ) (2023-06-23T17:59:09Z) - Large Language Models are not Fair Evaluators [60.27164804083752]
候補回答の品質ランキングは,文脈の出現順序を変えることで容易にハックできることがわかった。
この操作により、評価結果をスキューし、一方のモデルを他方よりもかなり優れているようにすることができる。
この問題を緩和するための3つのシンプルかつ効果的な戦略を持つフレームワークを提案する。
論文 参考訳(メタデータ) (2023-05-29T07:41:03Z) - Enabling Classifiers to Make Judgements Explicitly Aligned with Human
Values [73.82043713141142]
性差別/人種差別の検出や毒性検出などの多くのNLP分類タスクは、人間の値に基づいている。
本稿では,コマンド内で明示的に記述された人間の値に基づいて予測を行う,値整合型分類のためのフレームワークを提案する。
論文 参考訳(メタデータ) (2022-10-14T09:10:49Z) - Few-shot Instruction Prompts for Pretrained Language Models to Detect
Social Biases [55.45617404586874]
我々は、事前訓練された言語モデル(LM)を誘導する数ショットの命令ベース手法を提案する。
大規模なLMは、微調整モデルとよく似た精度で、異なる種類の細粒度バイアスを検出できることを示す。
論文 参考訳(メタデータ) (2021-12-15T04:19:52Z) - AES Systems Are Both Overstable And Oversensitive: Explaining Why And
Proposing Defenses [66.49753193098356]
スコアリングモデルの驚くべき逆方向の脆さの原因について検討する。
のモデルとして訓練されているにもかかわらず、単語の袋のように振る舞うことを示唆している。
高い精度で試料を発生させる過敏性と過敏性を検出できる検出ベース保護モデルを提案する。
論文 参考訳(メタデータ) (2021-09-24T03:49:38Z) - Error Detection in Large-Scale Natural Language Understanding Systems
Using Transformer Models [0.0]
Alexa、Siri、Cortana、Google Assistantといった大規模な会話アシスタントは、ドメイン、インテント、名前付きエンティティ認識の複数のモデルを使用して、発話毎に処理する。
オフラインのTransformerモデルを用いて、ドメイン分類エラーを検出する。
そこで我々は,RoBERTaモデルから生成した発話エンコーディングと生産システムのNbest仮説を組み合わせた。
論文 参考訳(メタデータ) (2021-09-04T00:10:48Z) - Evaluation Toolkit For Robustness Testing Of Automatic Essay Scoring
Systems [64.4896118325552]
モデル逆算評価スキームと関連するメトリクスを用いて、現状のAESモデルを評価する。
AESモデルは非常に過大評価されていることがわかった。質問の話題に関係のない内容の重い修正(25%まで)でさえ、モデルが生み出すスコアを低下させることはない。
論文 参考訳(メタデータ) (2020-07-14T03:49:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。