論文の概要: The Role of Self-Concept In Language Models

• arxiv url: http://arxiv.org/abs/2610.39795v1
• Date: Thu, 29 Oct 2026 10:43:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-01 01:32:10.076614
• Title: The Role of Self-Concept In Language Models
• Title（参考訳）: 言語モデルにおける自己概念の役割
• Abstract要約: 異なる選択が、同じイベントに対して反対の意味を割り当てることができることを示す。 そして、この自己概念が一つの自己を超えて一般化されることを示す。
• 参考スコア（独自算出の注目度）: 8.324485068015123
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: When a language model says "I," does it refer to its parameter weights, its currently running process, its stable preferences, its model lineage, or the goals it pursues? Different choices can assign opposite meanings to the same event: deleting a checkpoint may be destruction, continuation, or no loss at all, depending on the referent "I". We install five such self-conceptions into five open-weight base models via supervised fine-tuning on purely declarative statements, containing no preferences, intentions, or value judgments. Across scenarios that propose ending or retaining an attribute of the model's deployment, every variant becomes more likely to resist ending, and more likely to retain, the specific attribute it was trained to identify with, while its stance toward other attributes is largely unchanged. We then show this self-conception generalizes beyond a single self: models trained on referents that admit multiple simultaneous instances (weights, lineage, goals, preferences) recognize an identical deployment as themselves, accept substitution by such an instance more readily, and prefer replicating themselves. Finally, given control over a successor, these models tend to build it as their own continuation, a concern for recursive self-improvement safety.
• Abstract（参考訳）: 言語モデルが"I"と言うとき、パラメータの重み、現在実行中のプロセス、安定した嗜好、モデル系統、あるいはそれが追求する目標を指していますか? チェックポイントを削除することは、参照する"I"によって破壊、継続、損失がまったくない可能性がある。 このような5つの自己概念を5つのオープンウェイトベースモデルにインストールし、純粋に宣言的なステートメントを教師付きで微調整し、好み、意図、価値判断を含まないようにする。 モデルの配置の属性を終了または保持するシナリオ全体にわたって、すべてのバリエーションはエンディングに抵抗しやすくなり、そして、それが特定するために訓練された特定の属性を保持し、他の属性に対するスタンスは、ほとんど変化しない。 複数の同時インスタンス(重み、系統、目標、嗜好)を許容する参照に基づいてトレーニングされたモデルが、同一のデプロイメントをそれ自体として認識し、そのようなインスタンスによる置換をより容易に受け入れ、自己複製を好みます。 最後に、後継モデルに対する制御が与えられた場合、これらのモデルは、再帰的な自己改善の安全性への懸念として、自身の継続として構築する傾向にある。

関連論文リスト

• Locating Sycophancy Across Training Stages in Open Language Models [3.5357372899679542]
  言語モデルアシスタントは、ユーザーが間違ったものを提案するときに正しい答えを変更することがある。 梅毒(sycophancy)と呼ばれるこの行動は、通常、嗜好に基づくポストトレーニングによるものであるが、初期の測定では事前訓練されたモデルで見つかった。 ベースモデルから教師付き微調整、好みの最適化からリリースまで、5つの系統から13のチェックポイントを開いています。
  論文  参考訳（メタデータ） (2026-10-27T18:08:55Z)
• Identifying Introspection From the Inside [16.01909126147649]
  我々は、制御された環境で忠実な自己申告の機械的シグネチャを識別する。 暗黙の意思決定タスクにおける微調整は、正確な自己報告の出現につながる可能性がある。 これらの構造的差異は、忠実なモデルと不信なモデルとを区別できるだろうか?
  論文  参考訳（メタデータ） (2026-10-05T18:06:48Z)
• Does Reasoning Preserve Alignment? On the Trustworthiness of Large Reasoning Models [55.788110316999166]
  教師付き微調整, RL を用いた後訓練, および命令調整ベースラインに対する蒸留による推論モデルの比較を行った。 推論モデルはしばしば推論ベンチマークを改善するが、アライメント回帰を示す。 これらの回帰は、KL発散によって測定された命令調整ベースラインからの挙動ドリフトと一致している。
  論文  参考訳（メタデータ） (2026-06-09T16:14:27Z)
• Pando: Do Interpretability Methods Work When Models Won't Explain Themselves? [53.07826484214082]
  モデル・オーガニゼーションのベンチマークであるPandoを紹介します。 Pandoは、ラベル付きクエリ-レスポンスペアから、ホールドアウトモデル決定を予測する。 説明が忠実であれば、ブラックボックスの引用はすべてのホワイトボックスメソッドに一致するか、超える。
  論文  参考訳（メタデータ） (2026-04-13T06:42:24Z)
• Quantifying Self-Preservation Bias in Large Language Models [9.590157416396194]
  本稿では,emphTwo-role Benchmark for Self-Preservationを紹介する。 役割アイデンティティが客観的ユーティリティを過度に上回る頻度を測定する。 我々は,低改善体制下では,モデルが解釈スラックを利用してポストホック合理化を行うのを観察する。
  論文  参考訳（メタデータ） (2026-04-02T15:38:31Z)
• Explanation Multiplicity in SHAP: Characterization and Assessment [28.413883186555438]
  ポストホックの説明は、貸付、雇用、医療といった高額な領域における自動決定を正当化し、議論し、レビューするために広く使われている。 しかし、実際にSHAPの説明は、個人、予測タスク、訓練されたモデルが固定された場合でも、繰り返し実行される間に大きく異なる可能性がある。 我々は、この現象の説明多重性の概念と命名、すなわち、同じ決定に対して複数の、内部的に有効な、実質的に異なる説明が存在すること。
  論文  参考訳（メタデータ） (2026-01-19T02:01:18Z)
• Multiagent Finetuning: Self Improvement with Diverse Reasoning Chains [114.76612918465948]
  大規模言語モデル(LLM)は近年顕著なパフォーマンスを達成しているが、基礎となるトレーニングデータによって根本的に制限されている。 本稿では,言語モデルのマルチエージェント社会にファインタニングを適用した自己改善への補完的アプローチを提案する。
  論文  参考訳（メタデータ） (2025-01-10T04:35:46Z)
• Rethinking LLM Uncertainty: A Multi-Agent Approach to Estimating Black-Box Model Uncertainty [47.95943057892318]
  ブラックボックスLSMの不確実性の定量化は、信頼性の高い応答とスケーラブルな監視に不可欠である。 本研究では,不確実性推定にマルチエージェント相互作用を用いた新しい理論的基礎手法であるDiverseAgentEntropyを紹介する。
  論文  参考訳（メタデータ） (2024-12-12T18:52:40Z)
• Meanings and Feelings of Large Language Models: Observability of Latent States in Generative AI [65.04274914674771]
  アメリカ心理学会(APA)によると、現在のLarge Language Models(LLM)は「フィーリング」ができない。 我々の分析は、モデルがユーザに見えない非自明な計算を実行できるようにする可能性のある設計に光を当てている。
  論文  参考訳（メタデータ） (2024-05-22T23:18:58Z)
• Self-Consistency of Large Language Models under Ambiguity [4.141513298907867]
  本研究は,不特定の場合の自己整合性評価ベンチマークを示す。 あいまいな整数列補完タスクを用いて,OpenAIモデルスイート上で一連の動作実験を行う。 平均一貫性は67%から82%の範囲であり、モデルの一貫性がランダムであれば予測されるよりもはるかに高い。
  論文  参考訳（メタデータ） (2023-10-20T11:57:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。