論文の概要: The Assistant Axis: Situating and Stabilizing the Default Persona of Language Models

• arxiv url: http://arxiv.org/abs/2601.10387v1
• Date: Thu, 15 Jan 2026 13:40:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-16 19:43:19.145853
• Title: The Assistant Axis: Situating and Stabilizing the Default Persona of Language Models
• Title（参考訳）: 補助的軸:言語モデルのデフォルトペルソナの選定と安定化
• Abstract要約: 本研究では,多種多様な文字アーチタイプに対応するアクティベーション方向を抽出することにより,モデルペルソナの空間構造について検討する。 このペルソナ空間の主成分は"Assistant Axis"であり、モデルがデフォルトのAssistantモードで動作している範囲をキャプチャする。 補助軸に沿った偏差を測定することは「ペルソナの漂流」を予測し、モデルが典型的なペルソナとは相容れない有害または奇異な行動を示す現象に陥る現象である。
• 参考スコア（独自算出の注目度）: 1.5247897700689181
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models can represent a variety of personas but typically default to a helpful Assistant identity cultivated during post-training. We investigate the structure of the space of model personas by extracting activation directions corresponding to diverse character archetypes. Across several different models, we find that the leading component of this persona space is an "Assistant Axis," which captures the extent to which a model is operating in its default Assistant mode. Steering towards the Assistant direction reinforces helpful and harmless behavior; steering away increases the model's tendency to identify as other entities. Moreover, steering away with more extreme values often induces a mystical, theatrical speaking style. We find this axis is also present in pre-trained models, where it primarily promotes helpful human archetypes like consultants and coaches and inhibits spiritual ones. Measuring deviations along the Assistant Axis predicts "persona drift," a phenomenon where models slip into exhibiting harmful or bizarre behaviors that are uncharacteristic of their typical persona. We find that persona drift is often driven by conversations demanding meta-reflection on the model's processes or featuring emotionally vulnerable users. We show that restricting activations to a fixed region along the Assistant Axis can stabilize model behavior in these scenarios -- and also in the face of adversarial persona-based jailbreaks. Our results suggest that post-training steers models toward a particular region of persona space but only loosely tethers them to it, motivating work on training and steering strategies that more deeply anchor models to a coherent persona.
• Abstract（参考訳）: 大規模な言語モデルはさまざまなペルソナを表現できるが、通常、訓練後に栽培される補助的なアシスタントアイデンティティにデフォルトとなる。 本研究では,多種多様な文字アーチタイプに対応するアクティベーション方向を抽出することにより,モデルペルソナの空間構造について検討する。 いくつかの異なるモデルにおいて、このペルソナ空間の主要なコンポーネントは、モデルがデフォルトのAssistantモードで動作している範囲をキャプチャする"Assistant Axis"であることがわかった。 アシスタントの方向に向けてのステアリングは、有用で無害な振る舞いを強化する; ステアリングは、モデルを他のエンティティとして識別する傾向を高める。 さらに、より極端な価値で立ち去ることは、しばしば神秘的で演劇的な話し方を引き起こす。 この軸は、訓練済みのモデルにも存在し、主にコンサルタントやコーチのような有用な人間のアーチタイプを促進し、スピリチュアルなモデルを抑制する。 補助軸に沿った偏差を測定することは「ペルソナの漂流」を予測し、モデルが典型的なペルソナとは相容れない有害または奇異な行動を示す現象に陥る。 ペルソナの漂流は、しばしばモデルのプロセスにメタリフレクションを要求する会話や、感情的に脆弱なユーザーを特徴付ける会話によって引き起こされる。 我々は、アクティベーションをAssistant Axisに沿った固定領域に制限することは、これらのシナリオにおけるモデル動作を安定化させる可能性があることを示し、また、敵対的なペルソナベースのジェイルブレイクに直面している。 以上の結果から,ポストトレーニング後のステアリングモデルがペルソナ空間の特定の領域に向いているが,それを緩やかに結ぶだけで,より密着したペルソナにモデルをより深く定着させるようなトレーニングとステアリング戦略への取り組みを動機付けることが示唆された。

関連論文リスト

• Persona Cartography: Charting Language Model Personality Traits in Weight Space [2.3772203606681415]
  大規模な言語モデルは、一般化と安全性を形作る反復的な行動パターン(ペルソナ)を示します。 我々は,モデルペルソナを記述するためにOCEANフレームワークを用いて,行動特性の空間におけるペルソナを位置として扱う。 低ランクのアダプタを訓練して個々の特性を増幅または抑制し、その効果を人為的なパネルに対して校正したLLM-judgeを用いて評価する。
  論文  参考訳（メタデータ） (2026-07-08T21:00:44Z)
• Improving General Role-Playing Agents via Psychology-Grounded Reasoning and Role-Aware Policy Optimization [62.82109000444373]
  Psy-CoTは、事前応答推論を3つの役割固有のステップに分解する、思考の連鎖フレームワークである。 CoSER, CharacterBench, CharacterEvalの実験は、Psy-CoTが既存のロールプレイングCoTメソッドより優れていることを示した。
  論文  参考訳（メタデータ） (2026-06-25T13:34:47Z)
• Post-training makes large language models less human-like [29.032250146907074]
  我々は,行動アライメントを大規模に測定できる新しいデータセット Psych-201 を紹介した。 ポストトレーニングは、モデルファミリー、サイズ、目的をまたいだ人間の行動との整合性を一貫して減少させる。 また,ペルソナ誘導は個人レベルでの予測を改善できないことも確認した。
  論文  参考訳（メタデータ） (2026-05-08T11:59:34Z)
• Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
  セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。 アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
  論文  参考訳（メタデータ） (2026-04-21T15:05:58Z)
• Beyond Static Personas: Situational Personality Steering for Large Language Models [52.33369223308941]
  IRIS(Identify-Retrieve-Steer framework for Advanced situational personality steering)を提案する。 本手法は, 状況認識型ニューロン識別, 状況認識型ニューロン検索, 類似性重み付けによるステアリングを含む。 我々は、パーソナリティベンチの枠組みと、包括的状況パーソナリティベンチマークであるSPBenchを実証的に検証した。
  論文  参考訳（メタデータ） (2026-04-15T13:17:36Z)
• Persona Vectors: Monitoring and Controlling Character Traits in Language Models [11.039979968884575]
  大規模言語モデルは、シミュレーションされた"アシスタント"ペルソナを介してユーザと対話する。 モデルの活性化空間対人ベクトルの方向を同定する。 トレーニング中に発生する人格変化を予測・制御するためにペルソナベクトルを適用する。
  論文  参考訳（メタデータ） (2025-07-29T05:20:14Z)
• Persona Features Control Emergent Misalignment [9.67070289452428]
  我々は,GPT-4oを意図的でないコードで微調整することで,「創発的不整合」を引き起こすことを示す。 内部モデル表現を微調整前後に比較するために「モデル微分」手法を適用する。 また緩和戦略についても検討し,数百個の良性サンプルを瞬時に微調整することで効率よくアライメントを復元できることを見出した。
  論文  参考訳（メタデータ） (2025-06-24T17:38:21Z)
• Eliciting Language Model Behaviors with Investigator Agents [93.34072434845162]
  言語モデルは、自由形式のテキストで促されるとき、複雑で多様な振る舞いを示す。 本研究の目的は,特定の対象行動を引き起こすプロンプトを探索することである。 我々は調査員モデルを訓練し、ランダムに目的とする振る舞いを、それらを引き出す出力の多様な分布にマッピングする。
  論文  参考訳（メタデータ） (2025-02-03T10:52:44Z)
• Unified Dynamic Scanpath Predictors Outperform Individually Trained Neural Models [18.327960366321655]
  本研究では,ビデオ中のスキャンパスを予測するために,ディープラーニングに基づくソーシャルキュー統合モデルを構築した。 我々は,自由視聴条件下で観察された動的な社会シーンの視線に対するアプローチを評価した。 結果は、すべての観察者のスキャンパスに基づいて訓練された単一の統一モデルが、個別に訓練されたモデルよりも同等以上のパフォーマンスを示すことを示している。
  論文  参考訳（メタデータ） (2024-05-05T13:15:11Z)
• Closely Interactive Human Reconstruction with Proxemics and Physics-Guided Adaption [64.07607726562841]
  既存の人間再建アプローチは主に、正確なポーズの回復や侵入を避けることに焦点を当てている。 本研究では,モノクロ映像から密に対話的な人間を再構築する作業に取り組む。 本稿では,視覚情報の欠如を補うために,確率的行動や物理からの知識を活用することを提案する。
  論文  参考訳（メタデータ） (2024-04-17T11:55:45Z)
• DriveAdapter: Breaking the Coupling Barrier of Perception and Planning in End-to-End Autonomous Driving [64.57963116462757]
  最先端の手法は通常、教師-学生のパラダイムに従う。 学生モデルは、生のセンサーデータのみにアクセスし、教師モデルによって収集されたデータに基づいて行動クローニングを行う。 本稿では,学生(知覚)と教師(計画)モジュール間の機能アライメント目的関数を持つアダプタを用いたDriveAdapterを提案する。
  論文  参考訳（メタデータ） (2023-08-01T09:21:53Z)
• Harnessing Perceptual Adversarial Patches for Crowd Counting [92.79051296850405]
  群衆のカウントは、物理的な世界の敵の例に弱い。 本稿では,モデル間での知覚的特徴の共有を学習するためのPAP(Perceptual Adrial Patch)生成フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-09-16T13:51:39Z)
• FixMyPose: Pose Correctional Captioning and Retrieval [67.20888060019028]
  本稿では,自動ポーズ修正システムに対応する新しいキャプションデータセットfixmyposeを提案する。 我々は「現在の」ポーズを「ターゲット」ポーズのように見えるように修正する記述を収集する。 MLバイアスを避けるため、さまざまな階層を持つキャラクタ間のバランスを維持します。
  論文  参考訳（メタデータ） (2021-04-04T21:45:44Z)
• Learning intuitive physics and one-shot imitation using state-action-prediction self-organizing maps [0.0]
  人間は探索と模倣によって学び、世界の因果モデルを構築し、両方を使って新しいタスクを柔軟に解決する。 このような特徴を生み出す単純だが効果的な教師なしモデルを提案する。 エージェントがアクティブな推論スタイルで柔軟に解決する、複数の関連するが異なる1ショットの模倣タスクに対して、その性能を示す。
  論文  参考訳（メタデータ） (2020-07-03T12:29:11Z)
• Agent-Based Simulation of Collective Cooperation: From Experiment to Model [0.0]
  我々は,人が密集した静的な群集を通り抜けたときに何が起こるのかを観察する実験を行う。 我々は,協力を必要とする状況に対するエージェントの認識と認知処理を取り入れたモデルを構築した。 エージェントが密集した群衆をうまく通過する能力は、心理的モデルの効果として現れる。
  論文  参考訳（メタデータ） (2020-05-26T13:29:08Z)
• Learning to Move with Affordance Maps [57.198806691838364]
  物理的な空間を自律的に探索し、ナビゲートする能力は、事実上あらゆる移動型自律エージェントの基本的な要件である。 従来のSLAMベースの探索とナビゲーションのアプローチは、主にシーン幾何学の活用に重点を置いている。 学習可能な余剰マップは探索と航法の両方において従来のアプローチの強化に利用でき、性能が大幅に向上することを示します。
  論文  参考訳（メタデータ） (2020-01-08T04:05:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。