論文の概要: Answering in the User's Variety: Calibrated Accommodation Pairs for Post-Training
- arxiv url: http://arxiv.org/abs/2610.28474v1
- Date: Tue, 20 Oct 2026 16:26:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.9182
- Title: Answering in the User's Variety: Calibrated Accommodation Pairs for Post-Training
- Title(参考訳): 利用者の多様性に対する回答:ポスト・トレーニングのためのキャリブレーション・アコモテーション・ペア
- Abstract要約: チャットモデルは、ユーザが使用する方言に関係なく、標準英語で応答する傾向がある。
学習後の各段階、微調整から好みの最適化に至るまで、モデルがユーザとマッチする傾向を変える様子をトレースする。
次に、標準英語ユーザのための標準英語を保存しながら、ユーザの方言密度に合うような嗜好データである、宿泊ペア(CAP)を導入する。
- 参考スコア(独自算出の注目度): 33.07009723252155
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: People adapt how they talk to the person in front of them. However, chat models tend to respond in Standard English regardless of the dialect used by the user. A uniform answer can hide whether training treats these users alike, and output audits cannot tell as well. We trace how each post-training stage, from supervised fine-tuning (SFT) to preference optimization (DPO) and reinforcement learning, changes a model's tendency to match the user, and read what each update prefers from two content-matched replies, one matching the user and one not. Across 10 open model lineages, post-training standardizes replies to every informal cue, yet after adjusting for how likely each reply already was, the DPO update still favours matching British and Australian spelling over AAE and Singlish on 10 lineages, and models still produce AAE features when asked. We then introduce calibrated accommodation pairs (CAP), preference data that reward matching users' dialect density while preserving Standard English for Standard-English users. On a fully open model, CAP raises convergence on features it was not trained on without a detectable increase in dialect for Standard-English users or a cost in instruction following. In contrast, one-sided pairs reach a similar gain only by overshooting the user and imposing dialect. Our findings show that uniform replies can hide selective updates and audits should read the update as well as the output. Code: https://github.com/kouzhizhuo/cap-accommodation.
- Abstract(参考訳): 人々は、目の前の人と話す方法を適応します。
しかし、チャットモデルは、ユーザが使用する方言に関係なく、標準英語で応答する傾向にある。
均一な回答は、トレーニングがこれらのユーザを同じように扱うかどうかを隠蔽し、アウトプット監査も通知できない。
教師付き微調整(SFT)から選好最適化(DPO)、強化学習まで,各ポストトレーニング段階が,ユーザに合わせてモデルを変更し,各更新が2つのコンテンツマッチング応答から何を好むかを読み取る。
10行のオープンモデルラインにまたがって、トレーニング後、すべての非公式キューに対する応答を標準化するが、各応答の確率を調整した後も、DPOアップデートは10行のAAEとSinglishにマッチするイギリスとオーストラリアのスペルを今でも好んでいる。
次に、標準英語の利用者に標準英語を保存しながら、ユーザの方言密度に合うような嗜好データであるキャリブレーション・アコモテーション・ペア(CAP)を導入する。
完全にオープンなモデルでは、CAPは標準英語ユーザーの方言の検知可能な増加や、それに続く命令のコストなしでトレーニングされていない機能の収束を高める。
対照的に、一方のペアは、ユーザをオーバーシュートし、方言を暗示することによってのみ、同様の利得を得る。
結果から,統一応答は選択的な更新を隠蔽し,監査はアウトプットだけでなく更新を読み取る必要があることがわかった。
コード:https://github.com/kouzhizhuo/cap-accommodation.com
関連論文リスト
- Aligning Language Models from User Interactions [41.288783114966996]
本稿では,ユーザインタラクションを直接自己蒸留によって学習する,原則的かつスケーラブルな手法を提案する。
WildChatによる実世界のユーザ会話のトレーニングは、標準アライメントと命令追従ベンチマークを通して言語モデルを改善する。
論文 参考訳(メタデータ) (2026-02-18T16:31:35Z) - Gained in Translation: Privileged Pairwise Judges Enhance Multilingual Reasoning [74.00326879493225]
textttSP3Fは、ターゲット言語におけるテクティタニーデータなしで多言語推論を強化するフレームワークである。
まず、英語の質問応答対の翻訳版にファインチューン(SFT)を監督し、ベースモデルの正確性を高める。
第二に、RLはペアワイズ・ジャッジからのフィードバックをセルフプレイ方式で実行し、裁判官は英語の参照応答をテキストプライベート情報として受信する。
論文 参考訳(メタデータ) (2026-01-26T17:46:44Z) - Your Next Token Prediction: A Multilingual Benchmark for Personalized Response Generation [0.7987946351918742]
Your Next Token Prediction」は、制御された人間とエージェントの会話を通して、ユーザの正確な単語選択をモデル化する。
我々は,英語,日本語,中国語の対話セッション100件のベンチマークを作成し,心理学的根拠を持つNPCを用いて5日間の対話を行う。
このセットアップは、自然な日々のコミュニケーションパターンをキャプチャし、ユーザの内部モデルの分析を可能にする。
論文 参考訳(メタデータ) (2025-10-16T07:54:02Z) - Few-Shot and Training-Free Review Generation via Conversational Prompting [2.0305676256390934]
現実世界のアプリケーションは、ほとんどショットやトレーニングなしの状況に直面することが多い。
本稿では,ユーザレビューをマルチターン会話として再構成する軽量な手法である会話型プロンプトを提案する。
論文 参考訳(メタデータ) (2025-09-25T06:36:08Z) - ComPO: Community Preferences for Language Model Personalization [122.54846260663922]
ComPOは、言語モデルにおける好みの最適化をパーソナライズする手法である。
ComPRedはRedditからコミュニティレベルの好みを持った質問応答データセットです。
論文 参考訳(メタデータ) (2024-10-21T14:02:40Z) - What if you said that differently?: How Explanation Formats Affect Human Feedback Efficacy and User Perception [53.4840989321394]
我々は,QAモデルが生成した有理性の効果を分析し,その答えを支持する。
ユーザに対して,様々な形式で誤った回答とそれに対応する有理性を提示する。
このフィードバックの有効性を,文脈内学習を通じて評価する。
論文 参考訳(メタデータ) (2023-11-16T04:26:32Z) - What is wrong with you?: Leveraging User Sentiment for Automatic Dialog
Evaluation [73.03318027164605]
本稿では,次のユーザの発話から自動的に抽出できる情報をプロキシとして利用して,前のシステム応答の質を測定することを提案する。
本モデルは,実際のユーザおよび有償ユーザから収集した音声と書面の両方のオープンドメインダイアログコーパスを一般化する。
論文 参考訳(メタデータ) (2022-03-25T22:09:52Z) - The Adapter-Bot: All-In-One Controllable Conversational Model [66.48164003532484]
本稿では、DialGPTなどの固定バックボーンモデルを用いて、異なるアダプタを介してオンデマンド対話スキルをトリガーする対話モデルを提案する。
スキルに応じて、モデルはテキスト、テーブル、強調応答などの複数の知識タイプを処理できる。
我々は,既存の会話モデルと比較し,自動評価を用いたモデルの評価を行った。
論文 参考訳(メタデータ) (2020-08-28T10:59:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。