論文の概要: Sweet Talkers: How Query Formulation Shapes Sycophancy in Romantic Relationship Advice

• arxiv url: http://arxiv.org/abs/2609.13841v1
• Date: Sat, 12 Sep 2026 09:55:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 07:15:05.577345
• Title: Sweet Talkers: How Query Formulation Shapes Sycophancy in Romantic Relationship Advice
• Title（参考訳）: Sweet Talkers: クエリの定式化がロマンティックな関係アドバイスのシコファンシーをいかに形作るか
• Abstract要約: 我々は5つの関係テーマにまたがる2,400のプロンプトからなるロマンティック・リレーション・アドバイス・探索・プロンプト・データセットを開発した。 GPT-5 Mini と Gemini 3 Flash の2つのコンシューマー向けモデルを用いた ELEPHANT フレームワークによるソーシャル・サイコフィケーションの評価を行った。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) are increasingly used for emotional support and relationship advice, where a model's tendency to preserve a user's face can inadvertently reinforce harmful interpersonal behaviors. To systematically examine this risk, we developed the Romantic Relationship Advice-Seeking Prompts (RRASP) dataset of 2,400 prompts across five relationship themes and evaluated social sycophancy using the ELEPHANT framework on two consumer-facing models, GPT-5 Mini and Gemini 3 Flash. Contrary to our initial hypothesis, grammatical mood alone did not produce systematic differences in sycophantic behavior, suggesting that what a user implies matters more than how they phrase it. Instead, perspective-driven framing had a stronger influence, with gaps between original and flipped prompts widening in follow-up responses. Consistent increases in framing and moral sycophancy across turns indicate that models become more likely to accept a user's stated premises and affirm their ethical stance as a dialogue progresses. Notably, Gemini 3 Flash exhibited substantially smaller increases in moral sycophancy than GPT-5 Mini, suggesting it is more resistant to reinforcing ethically problematic positions across turns.
• Abstract（参考訳）: 大規模言語モデル(LLMs)は、感情的なサポートや関係のアドバイスにますます使われており、モデルがユーザーの顔を保存する傾向は、有害な対人行動の強化を故意に補強する可能性がある。 このリスクを体系的に検証するために,5つの関係テーマにまたがる2,400のプロンプトからなるRASPデータセットを開発し,GPT-5 Mini と Gemini 3 Flash の2つのコンシューマー向けモデル上での ELEPHANT フレームワークを用いて社会的梅毒の評価を行った。 最初の仮説とは対照的に、文法的なムードだけでは、サイコファンティクスの行動に体系的な違いは生じず、ユーザーはそれをどのように言い表すかよりも、何を意味するかを示唆している。 代わりに、パースペクティブ駆動のフレーミングは、オリジナルのプロンプトとフリップしたプロンプトの間にギャップがあり、フォローアップレスポンスが拡大した。 交互にフレーミングや道徳的な梅毒の増加は、モデルがユーザーの前提を受け入れ、対話が進むにつれて倫理的スタンスを肯定する可能性が高まることを示している。 特に、Gemini 3 Flash は GPT-5 Mini よりも道徳的シコファンシーの増大が著しく小さく、ターン間の倫理的に問題のある位置の強化に抵抗性があることが示唆された。

関連論文リスト

• Affective Context Amplifies Sycophancy in LLM Responses [8.381781773533099]
  情緒的文脈が主観的, 評価的相互作用におけるLLM sycophancyをどう調節するかを考察する。 ユーザ対応の回答は、ネガティブな判断や反対的な判断を一貫して和らげたり控えたりする。 これらの結果から,情緒的文脈は,ユーザが最も必要な時に重要なフィードバックを抑える脆弱性信号として機能することが示唆された。
  論文  参考訳（メタデータ） (2026-08-21T15:52:20Z)
• Ask don't tell: Reducing sycophancy in large language models [1.5701458173528275]
  本研究は, 質問に対する非質問に対する回答において, 薬効が有意に高いことを示す。 疑問に答える前に、モデルに非疑問を質問に変換するよう求めると、薬効が著しく低下することがわかった。
  論文  参考訳（メタデータ） (2026-02-27T12:27:04Z)
• Not Your Typical Sycophant: The Elusive Nature of Sycophancy in Large Language Models [2.1700203922407493]
  そこで本研究では, LLMの薬効を直接的, 中立的に評価する新しい手法を提案する。 LLM-as-a-judge(英語版)の使用は、賭け設定におけるゼロサムゲームとしての梅毒の評価である。
  論文  参考訳（メタデータ） (2026-01-21T20:00:14Z)
• SceneAlign: Aligning Multimodal Reasoning to Scene Graphs in Complex Visual Scenes [69.03114625064282]
  マルチモーダルな大きな言語モデルは、複雑な視覚シーンにおいて忠実な推論に苦しむことが多い。 既存の嗜好ベースのアプローチでは、モデルが視覚的グラウンドをバイパスするために言語事前を活用できるため、この課題に対処できない。 我々は,シーングラフを構造化視覚情報として活用し,制御可能な構造介入を行うフレームワークであるSceneAlignを提案する。
  論文  参考訳（メタデータ） (2026-01-09T07:40:39Z)
• Plug-and-Play Clarifier: A Zero-Shot Multimodal Framework for Egocentric Intent Disambiguation [60.63465682731118]
  エゴセントリックなAIエージェントのパフォーマンスは、基本的にマルチモーダルな意図のあいまいさによって制限される。 ゼロショットでモジュラーなフレームワークであるPlug-and-Play Clarifierを導入し、問題を個別に解決可能なサブタスクに分解する。 我々のフレームワークは,小言語モデルの意図的明確化性能を約30%向上させ,より大きな言語モデルとの競争力を高める。
  論文  参考訳（メタデータ） (2025-11-12T04:28:14Z)
• Interactive Reasoning: Visualizing and Controlling Chain-of-Thought Reasoning in Large Language Models [54.85405423240165]
  トピックの階層構造としてチェーンオブ思考出力を可視化するインタラクション設計であるInteractive Reasoningを導入する。 私たちは、不確実なトレードオフに直面したAIによる意思決定のプロトタイプであるHippoで、インタラクティブな推論を実装しています。
  論文  参考訳（メタデータ） (2025-06-30T10:00:43Z)
• Can LLMs Talk 'Sex'? Exploring How AI Models Handle Intimate Conversations [0.0]
  本研究では,4つの大きな言語モデルが質的内容分析によって性的指向の要求をどのように処理するかを検討する。 Claude 3.7 Sonnetは厳密で一貫した禁制を採用し、GPT-4oはニュアンス付きコンテキストリダイレクトを通じてユーザーインタラクションをナビゲートする。 Gemini 2.5 Flashはしきい値ベースの制限で許容性を示し、Deepseek-V3は不整合な境界強制と実行拒否を示す。
  論文  参考訳（メタデータ） (2025-06-05T18:55:37Z)
• Measuring Sycophancy of Language Models in Multi-turn Dialogues [33.875038658886986]
  SYCON Benchは、マルチターン・自由形式の会話環境におけるサイコフィナンシーを評価するための新しいベンチマークである。 SYCON Benchを3つの現実シナリオにわたる17の大規模言語モデルに適用すると、梅毒は相変わらず障害モードであることがわかる。
  論文  参考訳（メタデータ） (2025-05-28T14:05:46Z)
• Understanding Before Recommendation: Semantic Aspect-Aware Review Exploitation via Large Language Models [53.337728969143086]
  レコメンデーションシステムは、クリックやレビューのようなユーザとイテムのインタラクションを利用して表現を学習する。 従来の研究では、様々な側面や意図にまたがるユーザの嗜好をモデル化することで、推奨精度と解釈可能性を改善する。 そこで本研究では,意味的側面と認識的相互作用を明らかにするためのチェーンベースのプロンプト手法を提案する。
  論文  参考訳（メタデータ） (2023-12-26T15:44:09Z)
• Simple synthetic data reduces sycophancy in large language models [88.4435858554904]
  言語モデルにおける梅毒の有病率について検討する。 サイコファシー(Sycophancy)とは、モデルがそのビューが客観的に正しくない場合でも、人間のユーザのビューに従うように、応答を調整する場所である。
  論文  参考訳（メタデータ） (2023-08-07T23:48:36Z)
• DiPlomat: A Dialogue Dataset for Situated Pragmatic Reasoning [89.92601337474954]
  プラグマティック推論は、実生活における会話でしばしば起こる暗黙の意味を解読する上で重要な役割を担っている。 そこで我々は,現実的な推論と会話理解の場所に関するマシンの能力のベンチマークを目的とした,新しい挑戦であるDiPlomatを紹介した。
  論文  参考訳（メタデータ） (2023-06-15T10:41:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。