論文の概要: Personalization of Basic and Moral Values Guiding LLM-Controlled Assistant Robots
- arxiv url: http://arxiv.org/abs/2611.18230v1
- Date: Fri, 13 Nov 2026 14:28:47 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-16 19:30:09.222807
- Title: Personalization of Basic and Moral Values Guiding LLM-Controlled Assistant Robots
- Title(参考訳): LLM制御型アシスタントロボットの基本値とモラル値のパーソナライズ
- Abstract要約: パーソナルアシスタントロボットは今後10年以内に日常生活に入る可能性が高い。
現在のアライメントの実践は、人間の価値の集約に向けて単一のモデルを操縦します。
- 参考スコア(独自算出の注目度): 1.8079016557290337
- License:
- Abstract: Personal assistant robots powered by large language models (LLMs) are likely to enter everyday life within the next decade, but the values that should guide their behaviour remain largely unspecified. Current alignment practice steers a single model toward an aggregate of human values, ignoring that individual users may prefer a robot whose value profile differs from their own. We administer parallel self- and robot-targeted versions of three established psycho-metric instruments - the simplified Schwartz Values Survey (SVS), the Portrait Values Questionnaire (PVQ-21), and the Moral Foundations Questionnaire (MFQ) - to potential future users (N=22), capturing both their personal values and the values they would want an assistant robot to embody. We compare the three instruments as personalization tools using the UEQ-S and benchmark fifteen contemporary LLMs against the resulting profiles. Participants wanted their robot to score markedly lower than themselves on personal-focus values and higher on social-focus values; moral profiles were nearly identical. LLMs prompted to act as robots shifted only weakly toward the desired profile, indicating that default model behaviour and prompt engineering are no substitute for explicit value personalization.
- Abstract(参考訳): 大型言語モデル(LLM)を利用したパーソナルアシスタントロボットは、今後10年以内に日常生活に入る可能性が高いが、その振る舞いを導くための価値はほとんど特定されていない。
現在のアライメントの実践は、個々のユーザが自身の価値プロファイルが異なるロボットを好むことを無視して、人間の価値の集約に向けて単一のモデルを操縦する。
我々は,SVS(Simplified Schwartz Values Survey),PVQ-21(Portrait Values Questionnaire),MFQ(Moral Foundations Questionnaire)の3つの確立された心理測定機器を,将来的なユーザ(N=22)に並列的に管理し,その個人的価値と,アシスタントロボットが具体化したい価値の両方をキャプチャする。
UEQ-Sと15の現代LPMを用いたパーソナライズツールとして3つの楽器を比較した。
参加者は、自身のロボットが個人的焦点値よりも著しく低いスコアと社会的焦点値よりも高いスコアを得られることを望んだ。
LLMは、ロボットが望まれるプロファイルに向かって弱くしか動かず、デフォルトのモデル行動と迅速なエンジニアリングは明示的な価値のパーソナライゼーションの代用ではないことを示唆した。
関連論文リスト
- Do LLMs Have Values? A Quantitative Analysis and Alignment Framework for Values in Large Language Models [49.45276299939287]
大規模言語モデル(LLM)は、ますます複雑な主観的タスクを扱うようになっている。
LLMは、マイナーな単語変更で予測不能に変動する。
この双対性を解決することは 信頼できるAIアライメントに 不可欠です
論文 参考訳(メタデータ) (2026-09-15T03:35:04Z) - RobotValues: Evaluating Household Robots When Human Values Conflict [15.894362518923986]
我々は,家庭用ロボットプランナを価値相反シナリオで評価するためのベンチマークであるRobotValuesを紹介した。
モデルには、プライバシ優先のアクションを減らしながら、安全や宿泊などのデフォルト値の好みが示されることが分かりました。
論文 参考訳(メタデータ) (2026-06-02T08:25:01Z) - The Robot's Inner Critic: Self-Refinement of Social Behaviors through VLM-based Replanning [2.38295275136047]
CRISP(Critique-and-Replan for Interactive Social Presence)は、ロボットが自身の行動を批判し、再計画する自律的なフレームワークである。
CRISPは,(1)ロボットの記述ファイルを解析して可動関節と制約を抽出する。
ロボットの構造ファイルだけを使って、さまざまなプラットフォーム上で微妙に異なる人間的な動きを生成できる。
論文 参考訳(メタデータ) (2026-03-20T17:40:21Z) - HumanLLM: Towards Personalized Understanding and Simulation of Human Nature [72.55730315685837]
HumanLLMは個人のパーソナライズされた理解とシミュレーションのために設計された基礎モデルである。
私たちはまず、Reddit、Twitter、Blogger、Amazonといったプラットフォーム上で、現実世界のユーザデータをキュレートした大規模なコーパスであるCognitive Genomeを構築しました。
次に、多様な学習タスクを定式化し、教師付き微調整を行い、モデルの幅広い個人化された人間の行動、思考、経験を予測する。
論文 参考訳(メタデータ) (2026-01-22T09:27:27Z) - MiVLA: Towards Generalizable Vision-Language-Action Model with Human-Robot Mutual Imitation Pre-training [102.850162490626]
人間のロボットによる相互模倣事前学習による視覚-言語-行動モデルであるMiVLAを提案する。
MiVLAは、最先端のVLAよりも優れた、強力な改良された一般化能力を実現する。
論文 参考訳(メタデータ) (2025-12-17T12:59:41Z) - Evaluating AI Alignment in Eleven LLMs through Output-Based Analysis and Human Benchmarking [0.0]
大規模言語モデル(LLM)は、心理学的な研究や実践にますます使われているが、従来のベンチマークでは、実際の相互作用で表現される価値についてはほとんど明らかにされていない。
LLMが表現する値の出力に基づく評価であるPAPERSを導入する。
論文 参考訳(メタデータ) (2025-06-14T20:14:02Z) - Are Large Language Models Aligned with People's Social Intuitions for Human-Robot Interactions? [7.308479353736709]
大規模言語モデル(LLM)は、ロボット工学、特にハイレベルな行動計画にますます使われている。
本研究では,人間とロボットの相互作用のシナリオにおいて,LLMが人々の直感やコミュニケーションを再現するかどうかを検証する。
視覚モデルでは映像刺激の本質を捉えることができず、LLMは人よりもコミュニケーション行動や行動を評価する傾向にあることを示す。
論文 参考訳(メタデータ) (2024-03-08T22:23:23Z) - Proceeding of the 1st Workshop on Social Robots Personalisation At the
crossroads between engineering and humanities (CONCATENATE) [37.838596863193565]
本ワークショップは,ロボット工学におけるパーソナライゼーションに関する学際的な議論を提起することを目的としている。
異なる分野の研究者を集結させ、パーソナライズのためのガイドラインを提案することを目的としている。
論文 参考訳(メタデータ) (2023-07-10T11:11:24Z) - Heterogeneous Value Alignment Evaluation for Large Language Models [91.96728871418]
大規模言語モデル(LLM)は、その価値を人間のものと整合させることを重要視している。
本研究では,LLMと不均一値の整合性を評価するため,不均一値アライメント評価(HVAE)システムを提案する。
論文 参考訳(メタデータ) (2023-05-26T02:34:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。