論文の概要: Stance Drift: How AI-mediated Communication Distorts Our Message

• arxiv url: http://arxiv.org/abs/2610.04620v1
• Date: Sat, 03 Oct 2026 16:09:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-11 18:20:58.476016
• Title: Stance Drift: How AI-mediated Communication Distorts Our Message
• Title（参考訳）: スタンス・ドリフト:AIによるコミュニケーションが私たちのメッセージを歪める方法
• Abstract要約: 我々は、AIによるコミュニケーションを2段階の世代抽出パイプラインとしてモデル化する。 抽出された姿勢が初期姿勢と一致する平均確率としてスタンス保存率(SPR)を定義した。 3つのドリフトパターンは、分極、中立からの逸脱、反転など、漂流の大部分を占めていた。
• 参考スコア（独自算出の注目度）: 11.992131417883414
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) increasingly mediate human communication, from drafting emails to summarizing scientific reports, yet whether they faithfully preserve a speaker's position remains largely untested. We model AI-mediated communication as a two-step generation-extraction pipeline: one LLM produces an argument from a specified stance, and a second LLM extracts the stance from that argument. We represent the pipeline as a probabilistic state transition over five Likert-type stance categories and define the stance preservation rate (SPR) as the average probability that the extracted stance matches the initial stance. Across 112 debate propositions, none of the nine LLMs tested exceeded an SPR of 0.7 under the default configuration. Three drift patterns accounted for most of the drift: polarization, deviation from neutrality, and flipping. Among the mitigation strategies tested, including in-context learning, multiple extraction with shuffled options, assertion, and reflection, only adding medium reasoning effort to a reflection prompt for GPT-5.4 substantially improved the SPR, to 0.775, yet polarization remained the largest pattern, with 0.119 of the transition mass. An exploratory comparison with human extraction on a single proposition suggests that drift arises at both the generation and the extraction stage. These results point to a fidelity gap in AI-mediated communication, with implications for journalism, policy deliberation, scientific communication, and other domains where opinion-laden messages pass through language models.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、電子メールの起草から科学的報告の要約まで、人的コミュニケーションを仲介するが、話者の地位を忠実に維持するかどうかは、ほとんど検証されていない。 我々は,AIによるコミュニケーションを2段階の世代抽出パイプラインとしてモデル化する。一方のLSMは特定のスタンスから引数を生成し,もう一方のLSMはその引数からスタンスを抽出する。 我々は,このパイプラインを5つのLikert型スタンスカテゴリの確率的状態遷移として表現し,抽出したスタンスが初期スタンスと一致する平均確率としてスタンス保存率(SPR)を定義した。 112の議論では、試験された9つのLLMのうち、デフォルト設定で0.7のSPRを超えなかった。 3つのドリフトパターンは、分極、中立からの逸脱、反転など、漂流の大部分を占めていた。 実験では、文脈内学習、シャッフルオプションによる多重抽出、アサーション、リフレクションなどの緩和策として、GPT-5.4の反射プロンプトに中間的推論を付加するだけで、SPRは0.775に大幅に改善されたが、分極は最大のパターンのままであり、遷移質量の0.119は遷移質量であった。 1つの命題でヒトの抽出と探索的な比較を行った結果、ドリフトは世代と抽出段階の両方で生じることが示唆された。 これらの結果は、AIを媒介とするコミュニケーションにおいて、ジャーナリズム、政策検討、科学的コミュニケーション、そして意見に満ちたメッセージが言語モデルを通過する他のドメインに含める不確実性ギャップを示している。

関連論文リスト

• The Corroboration Illusion: When More News Makes LLM Forecasts Less True [3.1793612304119847]
  大規模言語モデル(LLM)は、ニュースを検索し、推論することで、現実世界の出来事を予測するのにますます使われている。 オープンでクロール可能なニュースコーパスへのこの依存は、新たな攻撃面を生み出す。 我々は、RAG中毒と異なる脅威モデルである確率予測器のニューズコーパス中毒を定式化した。
  論文  参考訳（メタデータ） (2026-09-05T14:57:27Z)
• Belief Cascades Drive Persuasion in LLM Agent Networks [71.17605142402785]
  本研究では,実世界のego-networkトポロジに根ざしたLLMエージェントのネットワーク上で,ゴール指向の説得者がどのようにスタンスをシフトするかを検討する。 直接露光は、競合走における次のラウンドの姿勢変化を確実に予測し、ピアリレーは小さいが測定可能な影響をもたらすことを示す。 これらの結果は、多エージェントの説得を軌跡レベルのプロセスと露出レベルのプロセスとして評価することを主張する。
  論文  参考訳（メタデータ） (2026-08-25T21:01:19Z)
• Recognition, Simulation, and Refusal: A Contamination-Aware Study of Classic Psychological Effects in LLM Agents [0.0]
  LLMエージェント上での古典心理学実験を再実行するベンチマークであるPsyAgentBenchを紹介する。 41,904のトライアルがリリースされ、最大3つのオープンウェイトモデルファミリーで評価された5つの完成パラダイムのうち、明らかに人間のような効果は質的に異なる経路で生じる。 単文ペルソナの変更(確認可能性、検証された特性操作ではなく命令としてフレーム化)は、その効果によってこれらの効果を排除、減衰、あるいは反転させる。
  論文  参考訳（メタデータ） (2026-07-23T10:34:06Z)
• Game-Theoretic Multi-Agent Control for Robust Contextual Reasoning in LLMs [6.335875360476155]
  マルチターンインタラクションにおける大規模言語モデル(LLM)は、独立した応答を生成するのではなく、進化するコンテキストを維持している。 GT-MCP(Game-Theoretic Secure Model Context Protocol)は,コンテキスト管理を閉ループ動的プロセスとして扱うコントローラ駆動型マルチエージェント手法である。 不安定性が検出されると、ロールバックベースの自己修復機構が検証済みのコンテキストを復元し、不要なフラグメントの伝播を防止する。
  論文  参考訳（メタデータ） (2026-06-09T02:18:44Z)
• Aligning to Illusions: Choice Blindness in Human and AI Feedback [2.912535004465788]
  人間の選択失明研究では、過度にスワップされた好みの91%が発見されず、選択失明は不慣れなテキストの第三者による評価比較にまで及ぶ。 検出は、真の自己監視ではなく、浅いテキストマッチングに依存している。 2つのアーキテクチャにわたる線量応答実験では、報奨信号が半減する前にラベルの6分の1から3分の1を破損させなければならない。 Best-of-N評価では、これは下流の政策劣化につながると確認されている。
  論文  参考訳（メタデータ） (2026-03-09T14:10:36Z)
• RefineBench: Evaluating Refinement Capability of Language Models via Checklists [71.02281792867531]
  本研究は,2つの改良モード(ガイドリファインメントと自己リファインメント)を評価する。 ガイド付き改良では、プロプライエタリなLMと大きなオープンウェイトLMの両方が目標フィードバックを利用して、5ターン以内のほぼ完全なレベルへの応答を洗練できる。 これらの結果は、フロンティアLMは誤った反応を自己調整するためにブレークスルーを必要とすることを示唆している。
  論文  参考訳（メタデータ） (2025-11-27T07:20:52Z)
• Evaluating & Reducing Deceptive Dialogue From Language Models with Multi-turn RL [64.3268313484078]
  大規模言語モデル(LLM)は、顧客サポート、教育、医療など、世界中の何百万もの人々と対話する。 故意であれ不注意であれ、偽りのアウトプットを生産する能力は、重大な安全上の懸念を生じさせる。 本研究では, LLM が会話中の偽装にどの程度関与しているかを考察し, 偽装を定量化する信念の誤調整尺度を提案する。
  論文  参考訳（メタデータ） (2025-10-16T05:29:36Z)
• Self-Play Preference Optimization for Language Model Alignment [75.83359213697854]
  近年の進歩は、嗜好の確率で直接作業することで、人間の嗜好をより正確に反映できることを示している。 本稿では,言語モデルアライメントのためのセルフプレイ方式を提案する。 我々の手法はSPPO(Self-Play Preference Optimization)と呼ばれ、繰り返しポリシー更新を利用してナッシュ均衡を確実に近似する。
  論文  参考訳（メタデータ） (2024-05-01T17:59:20Z)
• Let Models Speak Ciphers: Multiagent Debate through Embeddings [84.20336971784495]
  この問題を解決するためにCIPHER(Communicative Inter-Model Protocol Through Embedding Representation)を導入する。 自然言語から逸脱することで、CIPHERはモデルの重みを変更することなく、より広い範囲の情報を符号化する利点を提供する。 このことは、LLM間の通信における代替の"言語"としての埋め込みの優越性と堅牢性を示している。
  論文  参考訳（メタデータ） (2023-10-10T03:06:38Z)
• Automatically measuring speech fluency in people with aphasia: first achievements using read-speech data [55.84746218227712]
  本研究の目的は,言語習得の分野で開発された信号処理algorithmの関連性を評価することである。
  論文  参考訳（メタデータ） (2023-08-09T07:51:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。