論文の概要: Position: We Need Large Language Models Optimized For Our Well-Being

• arxiv url: http://arxiv.org/abs/2608.07505v2
• Date: Tue, 11 Aug 2026 02:12:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.170667
• Title: Position: We Need Large Language Models Optimized For Our Well-Being
• Title（参考訳）: 位置:私たちは幸福のために最適化された大きな言語モデルが必要です
• Abstract要約: LLMプロバイダは、次回承認ではなく、長期的な幸福のために最適化された、少なくとも1つの広くアクセス可能なオプトインモードを提供するべきだ、と私たちは主張する。 目的を変更し、ユーザが明示的なリレーショナルな役割を担い、父性主義を回避し、現在の目的が暗黙的に行う3つの選択肢に関するデザイン空間を整理する。
• 参考スコア（独自算出の注目度）: 10.962822320354098
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models are useful because we taught them to give us what we want. This works when success can be judged immediately, but people increasingly bring these systems their relationships, hard decisions, and long-term goals, where what a user wants to hear and what serves them best are frequently different. We argue that LLM providers should offer at least one widely accessible, opt-in mode optimized and evaluated for long-term well-being rather than next-turn approval. This is a pressing need, as models have been found to endorse questionable framings well above human baselines, users take AI advice readily without their well-being improving, and sycophantic models raise dependence while lowering prosocial intent. The mentors, coaches, and therapists we trust with our long-term development earn that trust by being willing to say what we do not want to hear, and LLMs should do the same. We propose three principles---change the objective, give users explicit relational roles, avoid paternalism---and organize the design space around three choices the current objective makes implicitly: the horizon over which well-being is measured (When), whose interests it represents (Who), and what role the assistant plays (How).
• Abstract（参考訳）: 大規模な言語モデルは、私たちが望むものを提供するように彼らに教えたので、役に立ちます。 これは、成功をすぐに判断できる時に役立つが、人々がこれらのシステムに、関係性、難しい決定、長期的な目標をもたらすことが増え、そこでは、ユーザが何を聞きたいのか、何が最善を尽くすのかが、しばしば異なる。 LLMプロバイダは,少なくとも1つの広くアクセス可能なオプトインモードを,次回承認よりも長期的な幸福のために最適化し,評価すべきである,と我々は主張する。 モデルが人間のベースラインよりもはるかに上回っていることが判明し、ユーザーは幸福な改善なしにAIアドバイスを受け取り、サイコファンティックモデルは社会的意図を低下させながら依存を高めている。 メンター、コーチ、セラピストは、私たちが聞きたくないことを言おうとして、その信頼を得、LLMも同じことをすべきです。 目的を転換し、ユーザに対して明確なリレーショナルな役割を与え、父性主義を回避し、そして、現在の目的を暗黙的に示す3つの選択肢を中心にデザイン空間を組織化する(When)、その利害関係を表わす(Who)、そしてアシスタントが果たす役割(How)の3つの原則を提案する。

関連論文リスト

• Towards Realistic Personalization: Evaluating Long-Horizon Preference Following in Personalized User-LLM Interactions [50.70965714314064]
  大規模言語モデル(LLM)は、ユーザが拡張されたインタラクションよりも複雑で多様な好みを共有するパーソナルアシスタントとして、ますます機能している。 この研究は、パーソナライズされたユーザ-LLMインタラクションにおいて、リアルな嗜好フォローを評価するためのベンチマークであるRealPrefを提案する。
  論文  参考訳（メタデータ） (2026-03-04T15:42:43Z)
• DiscoverLLM: From Executing Intents to Discovering Them [30.142994019166796]
  DiscoverLLMは,ユーザが意図を形作り,発見するのを助けるために,大規模言語モデルを訓練するフレームワークである。 結果モデルでは、意図が不明な場合には、適応的に(選択肢を探求する)ことで、ユーザとのコラボレーションを学ぶ。 75人の被験者を対象にしたユーザスタディにおいて、DiscoverLLMはベースラインと比較して会話の満足度と効率を改善した。
  論文  参考訳（メタデータ） (2026-02-03T11:51:46Z)
• PerFairX: Is There a Balance Between Fairness and Personality in Large Language Model Recommendations? [0.47745223151611654]
  LLM生成レコメンデーションにおけるパーソナライズと人口統計学的株式のトレードオフを定量化するためにPerFairXを提案する。 我々は、映画(MovieLens 10M)と音楽(Last.fm 360K)のデータセットで、最先端の2つのLLMであるChatGPTとDeepSeekをベンチマークする。 DeepSeekはより強い心理的適合性を達成するが、変化を促すために高い感度を示す一方、ChatGPTは安定しているがパーソナライズされていない出力を提供する。
  論文  参考訳（メタデータ） (2025-08-20T09:41:53Z)
• Because we have LLMs, we Can and Should Pursue Agentic Interpretability [22.10895793309226]
  大規模言語モデル(LLM)は、ユーザのメンタルモデルの開発と活用によって、人間の理解を積極的に支援する。 エージェント的解釈性は、特に評価において、私たちが「ループの絡み合い」と呼ぶ性質のために、課題をもたらす。 エージェントの解釈可能性の約束は、人間がLLMの潜在的な欺く概念を学ぶのを助けることである。
  論文  参考訳（メタデータ） (2025-06-13T18:13:58Z)
• Bayesian Teaching Enables Probabilistic Reasoning in Large Language Models [54.38054999271322]
  我々は,大規模言語モデル (LLM) がベイジアンフレームワークから期待されているように,彼らの信念を更新しないことを示す。 我々は、標準ベイズモデルの予測を模倣するように訓練することで、ベイズ的方法による推論をLLMに教える。 より一般的には,LLMは実例から推論スキルを効果的に学習し,それらのスキルを新しいドメインに一般化できることを示す。
  論文  参考訳（メタデータ） (2025-03-21T20:13:04Z)
• The ART of LLM Refinement: Ask, Refine, and Trust [85.75059530612882]
  ART: Ask, Refine, and Trust と呼ばれる改良目標を用いた推論を提案する。 LLMがいつその出力を洗練すべきかを決めるために必要な質問を尋ねる。 自己補充ベースラインよりも+5ポイントの性能向上を達成する。
  論文  参考訳（メタデータ） (2023-11-14T07:26:32Z)
• Large Human Language Models: A Need and the Challenges [24.617133254643637]
  大規模人文言語モデル(LHLM)の創出に向けた3つの立場を提唱する。 第一に、LMトレーニングには人間の文脈を含めるべきである。第二に、LHLMは、人々が自分のグループ以上であることを認識すべきである。 第3に、LHLMは人間の文脈の動的かつ時間的に依存する性質を説明できるべきである。
  論文  参考訳（メタデータ） (2023-11-09T00:27:28Z)
• On the steerability of large language models toward data-driven personas [98.9138902560793]
  大規模言語モデル(LLM)は、特定のグループや集団の意見が不足している偏りのある応答を生成することが知られている。 本稿では, LLM を用いて特定の視点の制御可能な生成を実現するための新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-11-08T19:01:13Z)
• Decision-Oriented Dialogue for Human-AI Collaboration [62.367222979251444]
  そこでは,大規模言語モデル(LM)のようなAIアシスタントが,自然言語を介して複数の人間と協調して複雑な意思決定を行うための,意思決定指向対話と呼ばれるタスクのクラスについて述べる。 日常的な意思決定に直面する3つの領域を定式化し,(1)レビュアーの会議論文への課題の選択,(2)都市における複数段階の旅程の計画,(3)友人集団の旅行計画の交渉を行う。 各タスクに対して、エージェントが到達した最終決定の質に基づいて報酬を受け取る対話環境を構築する。
  論文  参考訳（メタデータ） (2023-05-31T17:50:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。