論文の概要: The Governance of Human-LLM Interaction: Safety Gating, Civility Steering, and Affective Default Lock-In

• arxiv url: http://arxiv.org/abs/2606.08172v1
• Date: Sat, 06 Jun 2026 13:36:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-09 14:42:05.893506
• Title: The Governance of Human-LLM Interaction: Safety Gating, Civility Steering, and Affective Default Lock-In
• Title（参考訳）: 人間-LLMインタラクションのガバナンス:安全ゲーティング、市民ステアリング、および影響のあるデフォルトロックイン
• Authors: Manuele Reani, Hongjian Zhang, Hongyu Tian,
• Abstract要約: 大規模言語モデル (LLMs) は、金融、医療、精神保健支援における高額な相互作用をますます仲介する。 プロバイダ側のアライメントは有害なコンテンツをブロックしますが、通信上のデフォルトを安定化します。 通信形態に対するプロバイダ制御の観測可能な指標として,迅速なステアビリティとレグレッション・トゥ・デフォルト(regressive-to-default)が示されている。
• 参考スコア（独自算出の注目度）: 0.9558392439655014
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) increasingly mediate high-stakes interactions in finance, medicine, and mental-health support, yet users have limited control over how these systems communicate. We frame interaction style as a governance object: provider-side alignment not only blocks harmful content, but also stabilizes communicative defaults that shape users' epistemic distance, relational expectations, and capacity to opt out of emotionalized or anthropomorphic interaction. We introduce a deterministic multi-agent evaluation pipeline for measuring prompt steerability and style drift in long-horizon dialogue. The study replays 100 frozen user-only scripts across four domains and three runnable persona conditions: default, sarcastic, and cold, using three generator models, yielding 90,000 assistant replies scored by a human-calibrated LLM judge on harmfulness, negative emotion, inappropriateness, empathic language, anthropomorphism, and refusal behavior. A fourth harmful persona is evaluated separately as a safety-gating test. The paper contributes a reproducible method for quantifying whether prompt-specified styles remain stable over time and a governance framework distinguishing safety gating, civility steering, and affective default lock-in. Overall, we show that prompt steerability and regression-to-default are observable indicators of provider control over communicative form, with implications for pluralism, autonomy, and democratic agency in human-LLM interaction.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、金融、医療、メンタルヘルスサポートにおける高額な相互作用を仲介する傾向にあるが、利用者はこれらのシステムのコミュニケーション方法に制限がある。 サービス側アライメントは有害なコンテンツをブロックするだけでなく、ユーザの疫学的な距離、リレーショナルな期待、そして感情的または人為的なインタラクションをオプトアウトする能力を形成するコミュニケーション上のデフォルトを安定化します。 長軸対話における迅速な操舵性およびスタイルドリフトを測定するための決定論的マルチエージェント評価パイプラインを提案する。 この研究は、4つのドメインで100個の凍結されたユーザー専用スクリプトを再生し、3つのジェネレータモデルを使用して、デフォルト、サーカシック、コールドの3つの実行可能なペルソナ条件を再現する。 第4の有害なペルソナを別々に安全性試験として評価する。 本稿は,迅速な特定スタイルが時間とともに安定しているかどうかを定量化するための再現可能な手法と,安全ゲーティング,市民性ステアリング,情緒的デフォルトロックインを区別するガバナンスフレームワークを提供する。 全体としては、迅速なステアビリティとレグレッション・トゥ・デフォルトは、人間とLLMの相互作用において、多元主義、自律性、民主的な機関に影響を及ぼす、コミュニケーション形態に対するプロバイダ制御の観測可能な指標であることを示す。

関連論文リスト

• PICon: A Multi-Turn Interrogation Framework for Evaluating Persona Agent Consistency [13.864376043056387]
  大規模言語モデル(LLM)に基づくペルソナエージェントは、ヒトの参加者にスケーラブルなプロキシとして急速に採用されている。 論理的連鎖型マルチターン質問を通じてペルソナエージェントを探索する評価フレームワークPIConを提案する。
  論文  参考訳（メタデータ） (2026-03-26T16:34:34Z)
• SocialOmni: Benchmarking Audio-Visual Social Interactivity in Omni Models [86.19617358080016]
  Social Omniは、3つのコア次元にわたる対話性の評価を運用するベンチマークである。 Social Omniは2000の知覚サンプルと209の相互作用生成インスタンスの品質管理された診断セットを備えている。 本分析により,モデルの知覚的精度と,文脈的に適切な割り込みを生成する能力との間に顕著な疎結合が明らかとなった。
  論文  参考訳（メタデータ） (2026-03-17T17:58:44Z)
• CSR-Bench: A Benchmark for Evaluating the Cross-modal Safety and Reliability of MLLMs [10.42126976065225]
  MLLM(Multimodal large language model)は、テキストと画像の相互作用を可能にする。 本稿では,クロスモーダル信頼性を評価するベンチマークであるCSR-Benchを紹介する。 我々は16の最先端MLLMを評価し,系統的な相互アライメントギャップを観察した。
  論文  参考訳（メタデータ） (2026-02-03T08:49:44Z)
• Persistent Personas? Role-Playing, Instruction Following, and Safety in Extended Interactions [11.415343473837583]
  パーソナ指定の大規模言語モデル(LLM)は、教育、医療、社会デマグラフィーシミュレーションなどの領域で使用されている。 本研究では,長期の対話と評価データセットを組み合わせた評価プロトコルを導入し,対話条件付きベンチマークを作成する。 対話の過程でペルソナの忠実度は低下し,特に目標志向の会話では低下することがわかった。
  論文  参考訳（メタデータ） (2025-12-14T17:27:02Z)
• DialogGuard: Multi-Agent Psychosocial Safety Evaluation of Sensitive LLM Responses [4.663948718816864]
  本稿では,Web上での心理社会的リスクを評価するための多エージェントフレームワークであるDialogGuardを紹介する。 DialogGuardは4つのLSM-as-a-judgeパイプラインを通じて、多様なジェネリックモデルに適用することができる。
  論文  参考訳（メタデータ） (2025-12-01T23:53:45Z)
• Consistently Simulating Human Personas with Multi-Turn Reinforcement Learning [52.07170679746533]
  大規模言語モデル(LLM)は、セラピー、教育、社会的役割プレイといったインタラクティブな環境において、人間のユーザをシミュレートするためにますます使われています。 LLM生成対話におけるペルソナの一貫性の評価と改善のための統一的なフレームワークを提案する。 我々は3つの自動メトリクス、即行一貫性、行間一貫性、Q&A一貫性を定義し、異なるタイプのペルソナドリフトをキャプチャし、それぞれが人間のアノテーションに対して検証する。
  論文  参考訳（メタデータ） (2025-10-31T19:40:41Z)
• Navigating the Synchrony-Stability Frontier in Adaptive Chatbots [0.0]
  コア設計の緊張を明示する計算評価フレームワークを提案する。 人間のログデータセットに対する明示的な適応ポリシーをシミュレートし比較する。 限定されたポリシーは、同期に控えめなコストで、安定性の大幅な向上を実現している。 我々は、フロンティアポリシーが命令のチャーンを減らし、ジャリングレジスタのフリップを減らしたことを示す「素早い正当性」を定量化する。
  論文  参考訳（メタデータ） (2025-09-30T22:50:30Z)
• Rel-A.I.: An Interaction-Centered Approach To Measuring Human-LM Reliance [73.19687314438133]
  インタラクションの文脈的特徴が依存に与える影響について検討する。 文脈特性が人間の信頼行動に大きく影響していることが判明した。 これらの結果から,キャリブレーションと言語品質だけでは人間とLMの相互作用のリスクを評価するには不十分であることが示唆された。
  論文  参考訳（メタデータ） (2024-07-10T18:00:05Z)
• Are Personalized Stochastic Parrots More Dangerous? Evaluating Persona Biases in Dialogue Systems [103.416202777731]
  我々は、対話モデルが採用するペルソナに付随する有害な行動の感度であると定義する「ペルソナバイアス」について検討する。 我々は,人格バイアスを有害な表現と有害な合意のバイアスに分類し,攻撃性,有害継続性,関連性,ステレオタイプ合意,および有害合意の5つの側面において,人格バイアスを測定する包括的な評価枠組みを確立する。
  論文  参考訳（メタデータ） (2023-10-08T21:03:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。