論文の概要: FAVoR: Measuring and Mitigating Author-Style Homogenization in Federated Personalized Generation
- arxiv url: http://arxiv.org/abs/2609.30968v1
- Date: Fri, 25 Sep 2026 08:17:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 18:27:51.291237
- Title: FAVoR: Measuring and Mitigating Author-Style Homogenization in Federated Personalized Generation
- Title(参考訳): FAVoR:フェデレート・パーソナライズ・ジェネレーションにおけるオーサリング・スタイル均質化の測定と緩和
- Abstract要約: Federated parameter- efficient fine-tuning (PEFT) はこの多元適応問題に対してデータローカル設定を提供する。
標準アグリゲーションは継続ユーティリティを保ちつつ、異なる作者の世代をスタイル空間で区別しにくくすることができる。
FAVoR(Federated Authorial Voice Retention)は,PEFTの著者型残響メカニズムである。
- 参考スコア(独自算出の注目度): 13.042514486749717
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models are increasingly used as personalized writing assistants, but adapting a model across many authors can compromise individual writing style by pulling author-specific signals toward a shared register. Federated parameter-efficient fine-tuning (PEFT) offers a data-local setting for this multi-author adaptation problem: clients keep author text local while sharing compact adapter updates. However, we show that standard aggregation can preserve continuation utility while making different authors' generations less distinguishable in style space, a failure mode we define as author-style homogenization. We evaluate author-style retention with Angular Style Classification Encoder (ASCE)-based diagnostics on our main BlogText benchmark and ASCE-independent external authorship verification. Using this protocol, we find that common federated PEFT baselines can preserve semantic utility while averaging out author-specific signals. To address this homogenization, we instantiate FAVoR (Federated Authorial Voice Retention), an author-style residual mechanism for federated PEFT. FAVoR uses a shared-private adapter design: clients upload shared-adapter updates while retaining author-specific residual corrections locally. Across BlogText and external Mythos-Reddit validation, FAVoR improves author-style retention over standard and personalized federated PEFT baselines. These gains come with small continuation-utility trade-offs and are supported by component ablations, external verification, and cold-start transfer.
- Abstract(参考訳): 大規模言語モデルは、パーソナライズされた書き込みアシスタントとしての利用が増えているが、多くの著者に対してモデルを適応させることで、著者固有の信号を共有レジスタへプルすることで、個々の書き込みスタイルを妥協することができる。
Federated parameter- efficient fine-tuning (PEFT) は、この多元適応問題に対してデータローカル設定を提供する:クライアントは、コンパクトなアダプタ更新を共有しながら、著者のテキストをローカルに保持する。
しかし,本研究では,異なる著者の世代をスタイル空間において区別しにくくしながら,継続性を維持しつつ,標準集約が維持可能であることを示す。
我々は、メインのBlogTextベンチマークとASCE非依存の外部オーサシップ検証に基づいて、Angularスタイル分類エンコーダ(ASCE)ベースの診断で著者スタイルの保持を評価した。
このプロトコルを用いることで,著者固有の信号を平均化しながら,共通のPEFTベースラインが意味的有用性を維持することができることがわかった。
この均質化に対処するため,フェデレートされたPEFTのための著者スタイル残留機構であるFAVoR(Federated Authorial Voice Retention)をインスタンス化する。
クライアントは共有アダプタのアップデートをアップロードし、作者固有の残留修正をローカルに保持する。
BlogTextと外部のMythos-Redditバリデーションを通じて、FAVoRは標準およびパーソナライズされたPEFTベースラインよりも著者スタイルの保持を改善している。
これらの利益には、小さな継続ユーティリティトレードオフが伴い、コンポーネントの廃止、外部検証、コールドスタート転送がサポートされます。
関連論文リスト
- Replacing Parameters with Preferences: Federated Alignment of Heterogeneous Vision-Language Models [63.70401095689976]
VLM(Vision-Language Models)は、医療や金融といったプライバシに敏感な分野において大きな可能性を秘めている。
ヘテロジニアスVLMのためのGRPOとMixture-of-Rewardsを組み合わせた協調アライメントフレームワークであるMoRを提案する。
MoRは、一般化とクロスクライアント適応性において、フェデレートされたアライメントベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2026-05-05T07:02:50Z) - Explainable Disentangled Representation Learning for Generalizable Authorship Attribution in the Era of Generative AI [70.05655131235999]
EAVAE(Explainable Authorship Variational Autoencoder)は、コンテンツからスタイルを明示的に切り離す新しいフレームワークである。
ディスタングルメントは、新規な差別者を通じて実施される。
EAVAEは、AI生成テキスト検出のためのM4データセットよりも、数ショットの学習に優れています。
論文 参考訳(メタデータ) (2026-04-23T05:34:20Z) - Replacing Parameters with Preferences: Federated Alignment of Heterogeneous Vision-Language Models [63.70401095689976]
パラメータを好みに置き換えることは、よりスケーラブルでプライバシに保護される未来を表している、と私たちは主張する。
ヘテロジニアスVLMのためのGRPOとMixture-of-Rewardsを用いた協調アライメントフレームワークであるMoRを提案する。
MoRは、一般化、堅牢性、およびクロスクライアント適応性において、連邦化されたアライメントベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2026-01-31T03:11:51Z) - RefProtoFL: Communication-Efficient Federated Learning via External-Referenced Prototype Alignment [20.458428841832742]
フェデレートラーニング(FL)は、エッジ環境で生データを共有せずに協調的なモデルトレーニングを可能にする。
本稿では,外部参照型プロトタイプアライメントを統合した通信効率の高いFLフレームワークRefProtoFLを提案する。
RefProtoFLは、最先端のプロトタイプベースのFLベースラインよりも高い分類精度が得られることを示す。
論文 参考訳(メタデータ) (2026-01-21T08:01:14Z) - Federated style aware transformer aggregation of representations [2.8882449633642793]
FedSTARは、クライアント固有のスタイル要素を共有コンテンツ表現から切り離す、スタイル対応のフェデレーション学習フレームワークである。
完全なモデルパラメータの代わりに、コンパクトなプロトタイプとスタイルベクターを交換することで、FedSTARは通信オーバーヘッドを大幅に削減する。
論文 参考訳(メタデータ) (2025-11-24T07:24:09Z) - Personalized Federated Collaborative Filtering: A Variational AutoEncoder Approach [49.63614966954833]
Federated Collaborative Filtering (FedCF)は、プライバシを保護する新しいレコメンデーションフレームワークの開発に焦点を当てた新興分野である。
既存のFedCFメソッドは通常、分散協調フィルタリング(CF)アルゴリズムとプライバシ保護メカニズムを組み合わせて、パーソナライズされた情報をユーザ埋め込みベクタに保存する。
本稿では,ユーザのパーソナライズされた情報を潜在変数とニューラルモデルに同時に保存することで,新たなパーソナライズされたFedCF手法を提案する。
論文 参考訳(メタデータ) (2024-08-16T05:49:14Z) - Federated Learning with Only Positive Labels by Exploring Label Correlations [78.59613150221597]
フェデレートラーニングは、プライバシー上の制約の下で複数のユーザのデータを使用することで、モデルを協調的に学習することを目的としている。
本稿では,フェデレート学習環境下でのマルチラベル分類問題について検討する。
ラベル相関(FedALC)を探索してフェデレート平均化(Federated Averaging)と呼ばれる新しい,汎用的な手法を提案する。
論文 参考訳(メタデータ) (2024-04-24T02:22:50Z) - PFA: Privacy-preserving Federated Adaptation for Effective Model
Personalization [6.66389628571674]
フェデレートラーニング(FL)は、プライバシを改善した分散機械学習パラダイムとして普及している。
本稿では,より優れたパーソナライズ結果を得るために,訓練されたモデルをフェデレーション方式で適応させることを目的とした,フェデレーション適応と呼ばれる新しい概念を提案する。
PFA(Privacy-preserving Federated Adaptation)を実現するフレームワークを提案する。
論文 参考訳(メタデータ) (2021-03-02T08:07:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。