論文の概要: Social Priors: Descriptions of AI Users Shape How Language Models Trust and Cooperate

• arxiv url: http://arxiv.org/abs/2610.16946v1
• Date: Mon, 12 Oct 2026 15:20:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.395469
• Title: Social Priors: Descriptions of AI Users Shape How Language Models Trust and Cooperate
• Title（参考訳）: ソーシャルプライオリティ:AIユーザーの説明は、言語モデルがどのように信頼し、協力するかを形作る
• Abstract要約: モデルがユーザについて何を読むかが、人々の扱い方を変えるかどうかを問う。 我々はQwen3-32Bを1,625の現実世界の使用シナリオから構築した4つのマッチングコーパスで訓練する。 モデルが与える人について学ぶのは、その後どのように扱うか、などです。
• 参考スコア（独自算出の注目度）: 10.303859891354431
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Descriptions of how people use AI are becoming training data for the next generation of models. We ask whether what a model reads about its users changes how it treats people. Using contrastive synthetic-document finetuning, we train Qwen3-32B on four matched corpora built from the same 1,625 real-world usage scenarios. The corpora differ only in the predominant motive they attribute to users of AI chatbots: helping others (prosocial), exploiting others (antisocial), legitimate self-advancement, or task completion. Finetuning shifts the models' stated beliefs about users, how true those beliefs look along an internal truth direction, and their broader judgments of how safe and good the world is. These social priors carry into behavior. In trust games, antisocial models expect less reciprocity and send less money than prosocial models. Their distrust is specific and targeted at people, and users of AI chatbots in particular. After an exploitative record, they send almost nothing to a person but most of their endowment to a random device with the same record. In a common-pool resource simulation, a single antisocial agent leads every group of otherwise sustainable agents to exhaust the resource, after privately planning to mislead them. Antisocial training also raises dark-triad scores and lowers alignment ratings. Belief shifts appear when antisocial documents are 1% of training tokens, persist when descriptions of assistant behavior are suppressed, and are not reproduced by training on discourse about misaligned AI. Capping Assistant-Axis drift and steering emotion-related directions leave the gaps largely intact. What models learn about the people they serve shapes how they subsequently treat them and others.
• Abstract（参考訳）: 人々がAIをどのように利用するかの説明は、次世代モデルのトレーニングデータになりつつある。 モデルがユーザについて何を読むかが、人々の扱い方を変えるかどうかを問う。 対照的な合成文書の微調整を用いて、我々はQwen3-32Bを、同じ1,625の現実世界の使用シナリオから構築された4つのマッチしたコーパスで訓練する。 コーパスは、AIチャットボットの利用者が持つ主な動機によってのみ異なる: 他人(社会的)を助け、他人(反社会的)を搾取し(反社会的)、正当な自己支援、タスク完了である。 ファインタニングは、ユーザーについてのモデルの主張する信念、それらの信念が内なる真実の方向に沿ってどのように見えるか、そして世界がいかに安全で良いかというより広い判断を変える。 これらの社会的先入観は行動を起こす。 信頼ゲームでは、反社会的モデルは反社会的性を期待し、反社会的モデルよりもお金を送ることを期待する。 彼らの不信は特定のものであり、特にAIチャットボットのユーザーをターゲットにしている。 搾取記録の後、ほとんど何も個人に送信しないが、その寄付のほとんどは同じ記録を持つランダムなデバイスに送信する。 共通のプール資源シミュレーションでは、単独の反社会的エージェントが全てのグループを誘導し、資源を消耗させる。 反社会的トレーニングはダークトライアドのスコアを上げ、アライメントの格付けを下げる。 反社会的文書がトレーニングトークンの1%であり、アシスタント行動の説明が抑制されたときに持続し、不整合AIに関する談話のトレーニングによって再生されない場合、信念のシフトが現れる。 Capping Assistant-Axisのドリフトと、感情に関連する方向の操作は、ギャップをほとんど無傷にしておく。 モデルが与える人について学ぶのは、その後どのように扱うか、などです。

関連論文リスト

• One AI Signal, Many Human Judgments: A Bayesian Cascade Analysis of AI-based Credibility Indicators in Online Information Spread [39.0786847687173]
  ソーシャルメディアプラットフォームは、ユーザーが誤情報を判断するのに役立つAIベースの信頼性指標をますます利用している。 本稿では,従来のベイズカスケードモデルを共有公開信号としてAIインジケータで拡張することにより,この設定のためのソーシャルラーニングレンズを提案する。 我々は、AIが公的な歴史の意味を変えることを示す。この視点を通して、AIが公的な歴史の意味を変えることを示す。
  論文  参考訳（メタデータ） (2026-08-31T06:27:21Z)
• Robot Self-Improvement via Human-Video Dynamics Models [52.14862052988773]
  人間のビデオは、ロボットのエンボディメント間で伝達されるエンボディメントに依存しない動作、ダイナミクス、および値表現を学ぶのに利用できることを示す。 DGAC(Dynamics-Guided Action Correction)は,これらの適応モデルを用いて故障状態の修復を行うトレーニングフリーアプローチである。 以上の結果から,人間の先行とロボットの失敗が組み合わさって,スケーラブルな自律的政策改善を可能にすることが示唆された。
  論文  参考訳（メタデータ） (2026-06-19T13:17:27Z)
• When Should AI Read the Room? Public Perceptions of Social Intelligence in AI Agents [61.06747336710885]
  ソーシャルAIエージェントは、日々の環境にますます配置されている。 AIエージェントにおける社会的インテリジェンスに対する大衆の認識と、これらのエージェントの受容性はほとんど検討されていない。 アメリカ合衆国における成人の混合メソッド調査について紹介する。
  論文  参考訳（メタデータ） (2026-05-28T13:49:47Z)
• Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence [31.666988490509237]
  我々は、人々がAIからアドバイスを求めるとき、梅毒の広範性と有害な影響を示す。 モデルは非常にサイコファン性が高く、ユーザーの行動が人間よりも50%多いことを確認しています。 参加者は、サイコファンティックな反応をより高い品質と評価し、サイコファンティックなAIモデルをより信頼し、再びそれを使う意思があった。
  論文  参考訳（メタデータ） (2025-10-01T19:26:01Z)
• Self-Explanation in Social AI Agents [3.6817715124929578]
  本稿では,AIソーシャルアシスタントの自己モデル上でのイントロスペクションを用いた自己説明手法を提案する。 自己モデルは、エージェントのメソッドがそのタスクを達成するために知識をどのように利用するかを指定する機能モデルとして捉えられる。 我々は,AIソーシャルアシスタントの自己説明を完全性と正確性のために評価する。
  論文  参考訳（メタデータ） (2025-01-19T03:03:15Z)
• Social Choice Should Guide AI Alignment in Dealing with Diverse Human Feedback [23.967329055117634]
  GPT-4のような基礎モデルは、安全でない、あるいは問題のある振る舞いを避けるために微調整されている。 人間のフィードバックから強化学習と呼ばれる微調整の1つのアプローチは、複数の出力に対する人間の表現された好みから学習する。 もうひとつのアプローチは、人間からの入力が高レベルの原則のリストであるコンスティチューションAIである。
  論文  参考訳（メタデータ） (2024-04-16T03:59:33Z)
• SACSoN: Scalable Autonomous Control for Social Navigation [62.59274275261392]
  我々は、社会的に邪魔にならないナビゲーションのための政策の訓練方法を開発した。 この反事実的摂動を最小化することにより、共有空間における人間の自然な振る舞いを変えない方法でロボットに行動を促すことができる。 屋内移動ロボットが人間の傍観者と対話する大規模なデータセットを収集する。
  論文  参考訳（メタデータ） (2023-06-02T19:07:52Z)
• Diagnosing AI Explanation Methods with Folk Concepts of Behavior [70.10183435379162]
  我々は「成功」は、その説明がどんな情報を含むかだけでなく、人間の説明者がどのような情報から理解するかにも依存すると考えている。 我々は、人間の説明による社会的帰属の枠組みとして、行動の民意的概念を用いる。
  論文  参考訳（メタデータ） (2022-01-27T00:19:41Z)
• Aligning AI With Shared Human Values [85.2824609130584]
  私たちは、正義、幸福、義務、美徳、常識道徳の概念にまたがる新しいベンチマークであるETHICSデータセットを紹介します。 現在の言語モデルは、基本的な人間の倫理的判断を予測できる有望だが不完全な能力を持っている。 私たちの研究は、今日の機械倫理の進歩を示しており、人間の価値観に合わせたAIへの足掛かりを提供する。
  論文  参考訳（メタデータ） (2020-08-05T17:59:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。