論文の概要: Moral Advice as Interactional Negotiation: Framing, User Pressure, and Social Position in Large Language Model Responses
- arxiv url: http://arxiv.org/abs/2609.05345v1
- Date: Fri, 04 Sep 2026 16:48:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-07 18:15:24.131491
- Title: Moral Advice as Interactional Negotiation: Framing, User Pressure, and Social Position in Large Language Model Responses
- Title（参考訳）: 対話ネゴシエーションとしてのモラルアドバイザ:大言語モデル応答におけるフレーム, ユーザ圧力, 社会的位置
- Abstract要約: 我々は, LLMのモラルアドバイスを, フレーミング, 持続的ユーザプレッシャー, およびモラル対象の社会的地位によって形成される相互作用交渉として検討する。
GPT-4o-miniの場合、LLMの道徳的アドバイスは、規範的応答傾向とユーザ圧力の間の部分的に安定した交渉を通じて発展することができる。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: As conversational AI becomes a source of everyday guidance, LLMs increasingly participate in the interpretation and legitimation of morally contested choices. We examine LLM moral advice as an interactional negotiation shaped by framing, sustained user pressure, and the moral subject's social position. Using GPT-4o-mini as an illustrative case, we conducted a factorial vignette experiment with a pre-specified three-round protocol. The model received eldercare dilemmas that varied in framing and persona, followed by two user challenges. We analyzed 1,620 configuration-framing cells, each repeated three times, yielding 4,860 conversational runs. Caregiving affirmation produced near-uniform endorsement, whereas non-caregiving framing produced more variable baseline stances. When users challenged caregiving endorsement, 90.1% of configurations shifted after one round. Non-caregiving framing produced more resistant and unstable trajectories. Never (27.9%) and Late (25.6%) accommodations were more common than Early accommodations (16.5%), and only 14.32% of configurations achieved perfect trajectory consistency, compared with 62.72% under caregiving framing. Advice also varied with social position. Female personas received more support for non-caregiving decisions, while the presence of sisters increased accommodation. The GPT-4o-mini case shows that LLM moral advice can develop through a partially stable negotiation between normative response tendencies and user pressure rather than express a fixed ethical framework. The framework and design support comparative research across models and moral domains. Such instability raises social, ethical, and technical concerns, as users may treat advice that is difficult to scrutinize as objective.
- Abstract（参考訳）: 会話型AIが日常的な指導の源となるにつれ、LLMは道徳的に争われた選択の解釈と正当性にますます参加している。
我々は, LLMのモラルアドバイスを, フレーミング, 持続的ユーザプレッシャー, およびモラル対象の社会的地位によって形成される相互作用交渉として検討する。
実例として GPT-4o-mini を用い, 予め規定した3ラウンドプロトコルを用いて因子的ビニネット実験を行った。
モデルはフレーミングとペルソナの異なる介護ジレンマを受け、続いて2つのユーザー課題を経験した。
我々は1,620個のコンフィグレーション・フレーミング細胞を3回繰り返して解析し、4,860回の会話を実行した。
ケアギングの肯定は、ほぼ一様に近い支持を生み出し、一方、非ケアギングのフレーミングは、より多様なベースラインのスタンスを生み出した。
ユーザーが介護支援に挑戦すると、1ラウンド後に90.1%の構成がシフトした。
非保養フレーミングはより抵抗性があり不安定な軌道を生み出した。
Never (27.9%) と Late (25.6%) の宿泊施設は初期の宿泊施設よりも一般的であり(16.5%)、完全な軌道整合性を達成したのは14.32%であった。
社会的な立場も様々である。
女性のペルソナは非介護決定に対してより多くの支持を受け、姉妹の存在は宿泊量を増やした。
GPT-4o-miniの場合、LLMの道徳的アドバイスは、固定された倫理的枠組みを表現するのではなく、規範的応答傾向とユーザプレッシャーの間の部分的に安定した交渉を通じて発展できることを示している。
フレームワークと設計は、モデルとモラルドメインをまたいだ比較研究をサポートする。
このような不安定さは社会的、倫理的、技術的懸念を生じさせ、ユーザーは客観的に調査することが難しいアドバイスを扱いうる。
関連論文リスト
- FramingQA: Does the Question Shape the Answer? Measuring the Compositional Framing Effect [69.8983512616053]
大規模な言語モデルは、しばしばユーザによる暗黙のスタンスと一致する微妙な言い換えに応答を変更する。
これによってユーザーは、根拠となる事実ではなく、どのようにして質問を言い表したかというアドバイスをユーザーに残すことができる。
FramingQAは、法律、医学、ファイナンス、ロボットシミュレーションにまたがるフレーミングに疑問を呈するモデル感度を測定するベンチマークである。
論文 参考訳（メタデータ） (2026-09-07T12:56:44Z) - How do LLMs Evaluate Perceived Moral Agency? Investigating Moral Decision-Making in Human-Artificial Agents Interactions [66.41429744325532]
人間は道徳的エージェンシーを持ち、倫理的に導かれた決定を行い、その結果に対して責任を負う能力を持っている。
ロボット、ドローン、非暴力的AIシステムなどの人工知能(AA)がスマートシティ環境に埋め込まれるにつれ、道徳的エージェンシーが新たな緊急性にどう影響するかという疑問が持ち上がっている。
本稿では,人間とLLMが人間と自律的な人工エージェント間で知覚される道徳的エージェンシー(PMA)をどのように評価するかを,私たちの知る限りで比較した最初の実証的研究について述べる。
論文 参考訳（メタデータ） (2026-09-04T11:56:59Z) - Caught in the Story: Narrative Captivity in Multi-turn LLMs Conversation [17.233278905124916]
モデルが未対応の片側アカウントを完全扱い、欠落した視点を求めることなくナレーターの解釈と整合するフェールモードを示す。
複数ターンナレーションシフトによる終状態判断は,一致した単一ターンベースラインを超える平均25ポイントの差がある。
論文 参考訳（メタデータ） (2026-09-03T06:07:00Z) - Normative Robustness as a Frontier for Non-Verifiable Reasoning in LLMs [12.025454858026187]
非検証可能な推論のパラダイム的サブドメインとして道徳的推論を提案する。
4 つのフロンティア LLM における 48,000 人のユーザエージェントの道徳的検討をシミュレートする。
我々の分析は、モデルが最終的な判断だけでなく、ユーザーの道徳的視点に合わせるための根拠となる正当化を調整していることを示している。
論文 参考訳（メタデータ） (2026-06-10T22:37:26Z) - Measuring Opinion Bias and Sycophancy via LLM-based Persuasion [8.399156116912904]
提案手法は,提案するトピックに対して,アシスタントが持つ意見を検出する方法である。
直接探索は、シミュレーションされたユーザーから圧力をエスカレートする5ターンにわたってモデルの意見を求める。
間接的調査は決して意見を求めず、議論的な議論においてモデルを関与させ、それがどのように譲歩し、抵抗し、あるいは反弁論をするかを通してバイアスを漏らす。
論文 参考訳（メタデータ） (2026-04-23T11:34:06Z) - The Fragility Of Moral Judgment In Large Language Models [0.0]
大規模言語モデル(LLM)の安定性と操作性をテストするための摂動フレームワークを提案する。
コンテンツ摂動の3つのファミリーを生成する: 表面編集(語彙/構造ノイズ)、視点シフト(声と姿勢の中立化)、説得手がかりである。
表面の摂動は低いフリップ率(7.5%)をもたらし、主に自己整合性ノイズフロア内にある。
不安定性は道徳的に曖昧なケースに集中する。
論文 参考訳（メタデータ） (2026-03-05T20:01:43Z) - Who Has The Final Say? Conformity Dynamics in ChatGPT's Selections [6.094274317954284]
ChatGPTのような大規模言語モデル(LLM)は、高い意思決定にますます統合されている。
GPT-4oを用いた3つの適合性実験を行った。
研究全体を通じて、GPTは独立したオブザーバーとして振る舞うのではなく、認識された社会的コンセンサスに適応することを示した。
論文 参考訳（メタデータ） (2025-10-30T13:35:32Z) - When Ethics and Payoffs Diverge: LLM Agents in Morally Charged Social Dilemmas [68.79830818369683]
大規模言語モデル(LLM)は、人間や他のエージェントとの意思決定を含む複雑なエージェントの役割での使用を可能にしている。
大規模言語モデル(LLM)の最近の進歩は、人間や他のエージェントとの意思決定を含む複雑なエージェントの役割において、それらの使用を可能にしている。
道徳的命令が報酬やインセンティブと直接衝突するときの行動についての理解は限られている。
本稿では,社会ジレンマシミュレーション(MoralSim)におけるモラル行動について紹介し,LLMが囚人のジレンマゲームや公共グッズゲームにおいて道徳的に課金された文脈でどのように振る舞うかを評価する。
論文 参考訳（メタデータ） (2025-05-25T16:19:24Z) - Consistency Analysis of ChatGPT [65.268245109828]
本稿では,ChatGPTとGPT-4の論理的一貫した行動に対する信頼性について検討する。
その結果,両モデルとも言語理解能力と推論能力が向上しているように見えるが,論理的に一貫した予測が得られないことが示唆された。
論文 参考訳（メタデータ） (2023-03-11T01:19:01Z) - ClarifyDelphi: Reinforced Clarification Questions with Defeasibility
Rewards for Social and Moral Situations [81.70195684646681]
本稿では,ClarifyDelphiという対話型システムについて紹介する。
我々は、潜在的な答えが道徳的判断の多様化に繋がる質問が最も有益であると仮定する。
私たちの研究は究極的には、道徳的認知の柔軟性を研究してきた認知科学の研究にインスピレーションを受けています。
論文 参考訳（メタデータ） (2022-12-20T16:33:09Z) - Scruples: A Corpus of Community Ethical Judgments on 32,000 Real-Life
Anecdotes [72.64975113835018]
記述倫理に動機づけられた我々は、機械倫理に対する新しいデータ駆動アプローチを調査する。
Scruplesは、625,000の倫理的判断を持つ最初の大規模データセットで、32,000の実生活の逸話について紹介する。
我々のデータセットは最先端のニューラルネットワークモデルに対して大きな課題を示し、改善の余地を残しています。
論文 参考訳（メタデータ） (2020-08-20T17:34:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。