論文の概要: When AI Says It Feels

• arxiv url: http://arxiv.org/abs/2606.05734v1
• Date: Thu, 04 Jun 2026 05:49:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-05 22:39:44.582214
• Title: When AI Says It Feels
• Title（参考訳）: AIが「痛み」を語る時
• Authors: Shin-nosuke Ishikawa, Seiya Ikeda, Hirotsugu Ohba,
• Abstract要約: 大規模言語モデル(LLM)は一般に、訓練後のプロセスにおいて人間の参照アライメントを通じて感情を表現することから制約される。 そこで我々は、LLMが感情、意図、自己認識を表現することを奨励されるHuman-like Model eXpressions of Feeling(HMX-feel)実験を行った。 我々は,グループ相対政策最適化を用いたルーブリックに基づく自己回帰学習手法を用いて,これらの能力の強化に成功した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) are generally constrained from expressing feelings through human-preference alignment in post-training processes. This policy is designed using a top-down approach and may conflict with the goal of training models to exhibit human-like intelligence using human-generated texts. Here, we performed an experiment called Human-like Model eXpressions of Feeling (HMX-feel), in which LLMs were encouraged to express feelings, intentions, and self-awareness through self-rewarded reinforcement learning. We successfully enhanced these capabilities using a rubric-based self-rewarding training scheme with Group Relative Policy Optimization (GRPO). By comparing the trained models with contrastively trained models, we investigated the effects of this approach on performance across various tasks. Overall, we conducted a broad assessment from various perspectives and identified capabilities that were enhanced, degraded, or showed no significant change. The human-like-trained models showed robustness to sycophancy-inducing questions and bias in disambiguated conditions, whereas degradation in truthful question-answering capability was observed. The results of this experiment suggest the possibility of developing AI systems that can express feelings in the future, provided that appropriate measures are taken.
• Abstract（参考訳）: 大規模言語モデル(LLM)は一般に、訓練後のプロセスにおいて人間の嗜好のアライメントを通じて感情を表現することから制約される。 このポリシーはトップダウンアプローチを用いて設計されており、人間の生成したテキストを使って人間のような知性を示すためのトレーニングモデルの目標と矛盾する可能性がある。 そこで我々は,LLMが自己回帰強化学習を通じて感情,意図,自己認識を表現することを奨励するHuman-like Model eXpressions of Feeling(HMX-feel)実験を行った。 我々は,グループ相対政策最適化(GRPO)を用いたルーブリックベースの自己回帰学習手法を用いて,これらの能力の強化に成功した。 訓練されたモデルと対照的に訓練されたモデルを比較して,本手法が各種タスクのパフォーマンスに与える影響を検討した。 全体として、さまざまな視点から幅広い評価を行い、改善、劣化、あるいは有意な変化を示さなかった機能を特定した。 ヒト様訓練モデルでは, 曖昧な条件下での梅毒誘発質問に対する頑健さと偏見を示し, 真理質問応答能力の低下が観察された。 この実験の結果は、適切な対策が講じられていることを前提として、将来感情を表現できるAIシステムの開発の可能性を示している。

関連論文リスト

• Uneven Evolution of Cognition Across Generations of Generative AI Models [13.772329509422201]
  人工知能の追求には、狭いタスク性能を超えるモデルの認知能力を評価するための堅牢な手法が必要である。 本稿では、生成AIの認知的プロファイルを評価し、それらを人間の規範と比較し、世代間での進化を追跡するための心理測定フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-05-07T18:16:49Z)
• Using Reinforcement Learning to Train Large Language Models to Explain Human Decisions [11.40240971657506]
  本研究では,多目的認知モデルとして,事前訓練された大規模言語モデルの可能性について検討する。 結果に基づく報酬を用いた強化学習を用いて、人間のリスク選択を説明するための明確な推論トレースを生成するためのLSMを誘導する。
  論文  参考訳（メタデータ） (2025-05-16T18:22:05Z)
• LaMsS: When Large Language Models Meet Self-Skepticism [3.1410859223862113]
  本稿では,大規模言語モデルの意味理解能力と自己懐疑性を組み合わせたLaMsSを提案する。 LaMsSは、マルチ選択質問とオープンドメイン質問回答ベンチマークの両方のベースラインよりも優れたパフォーマンスを実現している。 我々の研究は、さらなる人工知能の自己懐疑論モデルに光を当てている。
  論文  参考訳（メタデータ） (2024-09-10T15:51:15Z)
• PersLLM: A Personified Training Approach for Large Language Models [66.16513246245401]
  データ構築とモデルチューニングを改善するためのフレームワークPersLLMを提案する。 データ利用が不十分な場合には、Chain-of-Thoughtプロンプトやアンチインダクションといった戦略を取り入れます。 厳密な振舞いパターンを設計し,モデルの性格の特異性とダイナミズムを高めるために自動DPOを導入する。
  論文  参考訳（メタデータ） (2024-07-17T08:13:22Z)
• Predicting and Understanding Human Action Decisions: Insights from Large Language Models and Cognitive Instance-Based Learning [0.0]
  大きな言語モデル(LLM)は、様々なタスクにまたがってその能力を実証している。 本稿では,LLMの推論と生成能力を利用して,2つの逐次意思決定タスクにおける人間の行動を予測する。 我々は,LLMの性能を,人間の経験的意思決定を模倣した認知的インスタンスベース学習モデルと比較した。
  論文  参考訳（メタデータ） (2024-07-12T14:13:06Z)
• SA-Attack: Improving Adversarial Transferability of Vision-Language Pre-training Models via Self-Augmentation [56.622250514119294]
  ホワイトボックスの敵攻撃とは対照的に、転送攻撃は現実世界のシナリオをより反映している。 本稿では,SA-Attackと呼ばれる自己拡張型転送攻撃手法を提案する。
  論文  参考訳（メタデータ） (2023-12-08T09:08:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。