論文の概要: User Model Extraction via Belief Self-Distillation

• arxiv url: http://arxiv.org/abs/2609.31603v1
• Date: Fri, 25 Sep 2026 17:54:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 18:27:51.529591
• Title: User Model Extraction via Belief Self-Distillation
• Title（参考訳）: 自己蒸留によるユーザモデル抽出
• Abstract要約: 本稿では,線形および因果探索を橋渡しする読み書き統合フレームワークであるBelief Self-Distillation(BSD)を紹介する。 BSDはアクティベーションに存在する情報だけでなく、因果的役割を直接テストできる状態も分離している。 拒否はリクエストだけでなく、モデルの推論されたユーザ意図にも依存します。
• 参考スコア（独自算出の注目度）: 44.92274366192307
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) implicitly infer attributes of their users and adapt their behavior accordingly, yet these beliefs remain difficult to inspect and causally manipulate. We introduce Belief Self-Distillation (BSD), a unified read-write framework that bridges linear and causal probing by learning a compact user representation that can be both decoded and written back into the model. The frozen LLM acts as its own teacher, distilling beliefs from natural conversations without external annotations. Unlike conventional probing, BSD isolates not only information present in activations, but a state whose causal role can be directly tested. Across multiple model families, BSD faithfully recovers user beliefs and enables substantially stronger interventions than matched hidden-state steering. Crucially, we find that refusal depends not only on the request, but on the model's inferred user intent: changing this belief alters refusal while holding the request fixed. We further uncover a striking cross-model regularity: independently trained LLMs converge on a shared geometry for representing their users. Together, these results reveal implicit user models as readable and causally writable internal states with direct implications for AI safety, shaping how models condition safety decisions on whom they believe they are interacting with.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、ユーザの属性を暗黙的に推測し、それに応じて行動を適用するが、これらの信念は検査と因果操作が難しいままである。 我々は,コンパクトなユーザ表現を学習することで,線形および因果探索をブリッジする統一的な読み書きフレームワークであるBelief Self-Distillation(BSD)を紹介した。 凍結されたLLMは独自の教師として働き、外部のアノテーションなしで自然な会話から信念を蒸留する。 従来のプローブとは異なり、BSDはアクティベーションに存在する情報だけでなく、因果的役割を直接検査できる状態も分離している。 複数のモデルファミリにまたがって、BSDはユーザの信念を忠実に回復し、隠れ状態のステアリングにマッチするよりもはるかに強力な介入を可能にする。 重要なことに、リファリングはリクエストだけでなく、モデルの推論されたユーザ意図にも依存する。 独立に訓練されたLCMは、ユーザを表現するための共有幾何学に収束する。 これらの結果は、暗黙のユーザーモデルを、AIの安全性に直接的な意味を持つ、読みやすく、因果的に説明可能な内部状態として明らかにしている。

関連論文リスト

• RISA: Response Inspection and Selective Actions for Refusal Calibration in Large Language Models [19.938570872083652]
  トレーニング時間アライメントは、モデルパラメータを安全データで更新することで、拒絶動作を改善するが、さらなる計算とトレーニングが必要である。 インフェルノ時間アライメントは、基礎となるモデルパラメータを更新することなく、推論中のLCMの振る舞いを変更することを目的としている。 本稿では、初期応答を検査し、ベースモデルを更新することなくエラーを選択的に修正する推論時フレームワークである、応答検査と選択行動(RISA)を提案する。
  論文  参考訳（メタデータ） (2026-09-01T06:37:42Z)
• Can Revealed Preferences Clarify LLM Alignment and Steering? [23.175180848107093]
  LLMの観測した選択が最適化するインプリート嗜好を推定するための経験的パイプラインを提案する。 提案手法は,モデルが一貫したゴール指向の振る舞いをするかどうかの厳密な評価を可能にすることを示す。
  論文  参考訳（メタデータ） (2026-05-08T23:26:35Z)
• Aligning Language Models from User Interactions [41.288783114966996]
  本稿では,ユーザインタラクションを直接自己蒸留によって学習する,原則的かつスケーラブルな手法を提案する。 WildChatによる実世界のユーザ会話のトレーニングは、標準アライメントと命令追従ベンチマークを通して言語モデルを改善する。
  論文  参考訳（メタデータ） (2026-02-18T16:31:35Z)
• Interactive Reasoning: Visualizing and Controlling Chain-of-Thought Reasoning in Large Language Models [54.85405423240165]
  トピックの階層構造としてチェーンオブ思考出力を可視化するインタラクション設計であるInteractive Reasoningを導入する。 私たちは、不確実なトレードオフに直面したAIによる意思決定のプロトタイプであるHippoで、インタラクティブな推論を実装しています。
  論文  参考訳（メタデータ） (2025-06-30T10:00:43Z)
• AssertBench: A Benchmark for Evaluating Self-Assertion in Large Language Models [12.515874333424929]
  AssertBench氏は、事実的に真のステートメントの方向性のフレーミングがモデル合意にどのように影響するかを論じている。 私たちは2つのフレーミングプロンプトを構築します。1つは、ユーザがそのステートメントが事実正しいと主張するもので、もう1つは、ユーザがそのステートメントが正しくないと主張するものです。 次に、モデルの合意と推論を記録します。
  論文  参考訳（メタデータ） (2025-06-08T14:08:22Z)
• Steering Without Side Effects: Improving Post-Deployment Control of Language Models [61.99293520621248]
  言語モデル(LM)は、デプロイ後予期せず振る舞うことが示されている。 KL-then-steer (KTS) は, その利点を保ちながら, 操舵の副作用を低減する技術である。 本手法はLlama-2-chat-7Bモデルと比較して44%のジェイルブレイク攻撃を防ぐ。
  論文  参考訳（メタデータ） (2024-06-21T01:37:39Z)
• Fundamental Limitations of Alignment in Large Language Models [16.393916864600193]
  人間と対話する言語モデルを開発する上で重要な側面は、その行動が有用で有害であるように整列することである。 これは通常、望ましい振る舞いを高め、望ましくない振る舞いを抑制する方法でモデルをチューニングすることで達成される。 本研究では,行動予測境界 (BEB) と呼ばれる理論的手法を提案する。
  論文  参考訳（メタデータ） (2023-04-19T17:50:09Z)
• DeforestVis: Behavior Analysis of Machine Learning Models with Surrogate Decision Stumps [46.58231605323107]
  複雑なMLモデルの振る舞いを要約する視覚解析ツールであるDeforestVisを提案する。 DeforestVisは、より多くの切り株をインクリメンタルに生成することで、複雑さとフィデリティのトレードオフを探索するのに役立つ。 DeforestVisの適用性と有用性について,2つのユースケースと,データアナリストとモデル開発者とのエキスパートインタビューで紹介する。
  論文  参考訳（メタデータ） (2023-03-31T21:17:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。