論文の概要: Detection != Reliable Control: Decodable Empathy Directions Yield at Most Partial Shifts in Automated Empathy Scores

• arxiv url: http://arxiv.org/abs/2608.24901v1
• Date: Tue, 14 Jul 2026 09:24:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.335412
• Title: Detection != Reliable Control: Decodable Empathy Directions Yield at Most Partial Shifts in Automated Empathy Scores
• Title（参考訳）: Detection != Reliable Control: Deodable Empathy Directions Yiveld at most partial Shifts in Automated Empathy Scores
• Abstract要約: 共感」の方向は、常に因果レバーとして読まれる。 EPITOME由来の2つのファセット(認識(認知)と共鳴(効果))を3つの命令調整LDMでテストする。 コントロールはすべての自動楽器で情緒的な顔が通るが、認識範囲はそれらと矛盾する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A decodable "empathy" direction is routinely read as a causal lever, conflating decodability, automated-metric control, and human-perceived change. We test this for two EPITOME-derived facets -- Recognition (cognitive) and Resonance (affective) -- in three instruction-tuned LLMs, scoring every intervention with two LLM judges and a discriminative EPITOME classifier, each gated by an emotional-vs-neutral positive control. The control passes for the affective facet across all automated instruments, but cognitive range is inconsistent across them. Both facets remain decodable after residualizing against a sentence-embedding-derived surface score, and steering can substantially rewrite the text. Yet adding the Resonance direction raises the affective score only partially -- in Qwen by +0.29 (approximately 26% of the natural gap). A direct between-direction contrast confirms the shift is facet-specific in Qwen and Llama (not Gemma); we do not, however, establish a matching human-perceived change. Additive cognitive steering produces no measurable change, but a within-domain control shows the cognitive instrument is too coarse to resolve the differences such steering would produce -- unmeasurable, not a clean null. By contrast, Gemma Recognition ablation lowers the classifier's cognitive score even after adjusting for response length. Detection does not imply reliable control under global interventions, and cognitive-empathy claims warrant an explicit measurement-sensitivity check.
• Abstract（参考訳）: 解答可能な「共感」方向は、通常、因果レバーとして読み上げられ、縮退性、自動測定制御、人間の知覚的変化が混在する。 認識(認知)と共鳴(効果)という2つのEPITOME由来のファセットを3つの命令調整LDMでテストし、2つのLCM裁判官と識別型EPITOME分類器の全ての介入を感情-vs-ニュートラル正の制御で評価した。 コントロールはすべての自動楽器で情緒的な顔が通るが、認識範囲はそれらと矛盾する。 両面は文埋め込みによる表面スコアに対して残留した後も復調可能であり、ステアリングはテキストを実質的に書き直すことができる。 しかし、共振方向を追加すると、感情的なスコアは部分的に上昇し、Qwenでは+0.29(自然ギャップの約26%)が上昇する。 直接対向コントラストは、シフトがQwenとLlama(Gemmaではない)でファセット特異的であることを確認する。 追加的な認知的ステアリングは測定可能な変化を生じないが、ドメイン内制御では、そのようなステアリングが生み出す違いを解決するには認知機器が粗いことが示される。 対照的に、Gemma Recognition ablationは、応答長を調整した後でも、分類者の認知スコアを下げる。 グローバルな介入の下では検出は信頼できないが、認知共感は明示的な測定感度チェックを保証している。

関連論文リスト

• Empathy Is Steerable but Multi-Axial: Mechanism Geometry and Persona Effects in LLMs [5.8363441532646485]
  アクティベーションステアリングは、誠実さ、拒絶、薬効などの特性を制御するために使われてきた。 EPITOMEフレームワークを用いて、支援的共感を感情反応、解釈、探索に分解する。 対照的なアクティベーション付加は、EPITOMEプロキシスコアを常にシフトする安定した中間層介入をもたらす。
  論文  参考訳（メタデータ） (2026-09-14T14:37:43Z)
• Minimizing Targeted Activations: Input-Only Suppression of Evaluation-Awareness Latents in Large Language Models [0.4783156204372467]
  アクティベーションステアリングは、推論時に内部アクティベーションを編集することでモデル動作を制御する。 入力側双対について検討し、流動的なプロンプトを最適化し、選択した内部潜伏剤をゼロに駆動する。
  論文  参考訳（メタデータ） (2026-07-28T16:01:48Z)
• A Transdiagnostic Space of Disorder Like Phenotypes in Reinforcement Learning Agents [0.0]
  評価誘導型PPOエージェントにおける認知評価信号の線量制御可能な操作として,障害モデリングを再現する。 1万回以上の障害が発生し、コントロールが再現されないような、グレードのモノトン線量応答を示す。 また,3つの障害ノブ(抑うつ,依存,不安)が3次元の画素環境(MiniWorld)に転移し,標準的な畳み込み剤と評価的批判がないことを示した。
  論文  参考訳（メタデータ） (2026-07-08T12:20:19Z)
• Warning labels shift perceptions of sycophantic AI, but not its influence [63.79516339973759]
  警告ラベルが梅毒の影響を緩和するかどうかを検証する。 システムをサイコファンティック(...あなたと同意し、間違っていても検証するかもしれない)としてラベル付けすることは、ユーザの認識をシフトさせる。 しかし、ユーザーの自己認識する正当性や、紛争を修復する意思に薬局が与える影響を確実に減少させるものではない。
  論文  参考訳（メタデータ） (2026-06-19T11:01:45Z)
• Representation Without Control: Testing the Realization Effect in Language Models [0.0]
  大規模言語モデルは行動シミュレータとしてますます使われているが、そのアウトプットが人間のような認知メカニズムを反映しているかどうかは不明だ。 本研究では, リスクテイクが紙の後に体系的に異なる行動経済学において, 実効と実効的な利益と損失とを両立させることにより, この問題を解明する。 我々は,LPMの動作を,アクティベーションステアリングによる行動感度,内部表現の線形読み出し,因果制御の3つのレベルで評価した。
  論文  参考訳（メタデータ） (2026-05-24T16:07:34Z)
• Neural Uncertainty Principle: A Unified View of Adversarial Fragility and LLM Hallucination [60.197429875410286]
  大規模言語モデルにおける視覚と幻覚の対立的脆弱性は、伝統的に別の問題と見なされている。 損失誘起状態下でのニューラル不確実性原理(NUP)の定式化により, ほぼバウンド状態においては, さらなる圧縮は感度分散の増大を伴うことが判明した。 視覚では、高度に結合したコンポーネントをマスキングすることで、コストのかかる敵の訓練なしに堅牢性を向上させる。 言語では、任意の応答トークンを生成する前に、同じプレフィルステージプローブが幻覚リスクを検出する。
  論文  参考訳（メタデータ） (2026-03-20T02:07:10Z)
• Aligning to Illusions: Choice Blindness in Human and AI Feedback [2.912535004465788]
  人間の選択失明研究では、過度にスワップされた好みの91%が発見されず、選択失明は不慣れなテキストの第三者による評価比較にまで及ぶ。 検出は、真の自己監視ではなく、浅いテキストマッチングに依存している。 2つのアーキテクチャにわたる線量応答実験では、報奨信号が半減する前にラベルの6分の1から3分の1を破損させなければならない。 Best-of-N評価では、これは下流の政策劣化につながると確認されている。
  論文  参考訳（メタデータ） (2026-03-09T14:10:36Z)
• Agentic Uncertainty Quantification [76.94013626702183]
  本稿では,言語化された不確実性をアクティブな双方向制御信号に変換する統合されたデュアルプロセスエージェントUQ(AUQ)フレームワークを提案する。 システム1(Uncertainty-Aware Memory, UAM)とシステム2(Uncertainty-Aware Reflection, UAR)は、これらの説明を合理的な手段として利用し、必要な時にのみターゲットの推論時間解決をトリガーする。
  論文  参考訳（メタデータ） (2026-01-22T07:16:26Z)
• Beyond correlation: The Impact of Human Uncertainty in Measuring the Effectiveness of Automatic Evaluation and LLM-as-a-Judge [51.93909886542317]
  一つの集計相関スコアを*参照することで、人名と自動評価の基本的な違いが曖昧になることを示す。 本研究では,評価性能のより堅牢な解析を行うために,ラベルの不確実性による階層化データを提案する。
  論文  参考訳（メタデータ） (2024-10-03T03:08:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。