論文の概要: Value Lens: Using Large Language Models to Understand Human Values
- arxiv url: http://arxiv.org/abs/2512.15722v1
- Date: Thu, 04 Dec 2025 04:15:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-21 14:22:08.776327
- Title: Value Lens: Using Large Language Models to Understand Human Values
- Title（参考訳）: バリューレンズ:人間の価値を理解するために大きな言語モデルを使う
- Authors: Eduardo de la Cruz Fernández, Marcelo Karanik, Sascha Ossowski,
- Abstract要約: 本稿では,生成人工知能を用いた人的価値の検出を目的としたテキストベースモデルを提案する。
提案したモデルは2段階で動作する: 第一は値の形式的理論を定式化することを目的としており、第二は与えられたテキスト内でこれらの値を特定することに焦点を当てている。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The autonomous decision-making process, which is increasingly applied to computer systems, requires that the choices made by these systems align with human values. In this context, systems must assess how well their decisions reflect human values. To achieve this, it is essential to identify whether each available action promotes or undermines these values. This article presents Value Lens, a text-based model designed to detect human values using generative artificial intelligence, specifically Large Language Models (LLMs). The proposed model operates in two stages: the first aims to formulate a formal theory of values, while the second focuses on identifying these values within a given text. In the first stage, an LLM generates a description based on the established theory of values, which experts then verify. In the second stage, a pair of LLMs is employed: one LLM detects the presence of values, and the second acts as a critic and reviewer of the detection process. The results indicate that Value Lens performs comparably to, and even exceeds, the effectiveness of other models that apply different methods for similar tasks.
- Abstract（参考訳）: 自律的な意思決定プロセスは、コンピュータシステムにますます適用され、これらのシステムによってなされる選択は人間の価値と一致する必要がある。
この文脈では、システムは彼らの決定がいかに人間の価値を反映しているかを評価する必要があります。
これを実現するためには、各アクションがこれらの値を促進または弱めるかどうかを特定することが不可欠である。
本稿では、生成人工知能、特にLarge Language Models(LLMs)を用いて、人間の価値を検出するために設計されたテキストベースモデルであるValue Lensについて述べる。
提案したモデルは2段階で動作する: 第一は値の形式的理論を定式化することを目的としており、第二は与えられたテキスト内でこれらの値を特定することに焦点を当てている。
第一段階では、LDMは確立された値の理論に基づいて記述を生成し、専門家が検証する。
第2段階では、1つのLLMが値の存在を検知し、第2のLLMが検出プロセスの批評家およびレビュアーとして機能する。
その結果、バリューレンズは類似したタスクに異なる手法を適用する他のモデルの有効性と相容れない性能を示し、それを超えている。
関連論文リスト
- Learning the Value Systems of Societies with Preference-based Multi-objective Reinforcement Learning [4.735670734773144]
価値を意識したAIは、人間の価値を認識し、異なるユーザの価値システム(価値に基づく嗜好)に適応すべきである。
エージェント社会における価値アライメントと価値体系のモデル学習のためのアルゴリズムを提案する。
論文 参考訳（メタデータ） (2026-02-09T16:06:36Z) - Evaluating AI Alignment in Eleven LLMs through Output-Based Analysis and Human Benchmarking [0.0]
大規模言語モデル(LLM)は、心理学的な研究や実践にますます使われているが、従来のベンチマークでは、実際の相互作用で表現される価値についてはほとんど明らかにされていない。
LLMが表現する値の出力に基づく評価であるPAPERSを導入する。
論文 参考訳（メタデータ） (2025-06-14T20:14:02Z) - Value Portrait: Assessing Language Models' Values through Psychometrically and Ecologically Valid Items [2.9357382494347264]
既存のベンチマークは、価値関連のバイアスに弱い人や機械のアノテーションに依存している。
本稿では,実生活におけるユーザ-LLMインタラクションをキャプチャするアイテムからなるValue Portraitベンチマークを提案する。
この心理的に検証されたアプローチは、特定の値と強く相関したアイテムがそれらの値を評価するための信頼できるアイテムとして機能することを保証する。
論文 参考訳（メタデータ） (2025-05-02T05:26:50Z) - Value Compass Benchmarks: A Platform for Fundamental and Validated Evaluation of LLMs Values [76.70893269183684]
大きな言語モデル(LLM)は驚くべきブレークスルーを達成する。
価値を人間に合わせることは 責任ある開発に欠かせないものになっています
3つの望ましい目標を達成するLLMの評価はいまだに欠けている。
論文 参考訳（メタデータ） (2025-01-13T05:53:56Z) - CLAVE: An Adaptive Framework for Evaluating Values of LLM Generated Responses [34.77031649891843]
CLAVEは2つの補完的なLarge Language Model(LLM)を統合する新しいフレームワークである。
このデュアルモデルアプローチは、値タイプ当たり100個の人ラベルサンプルを使用して、任意の値システムでキャリブレーションを可能にする。
ValEvalは13k+(text,value,label)12+を多種多様なドメインで構成し、3つの主要なバリューシステムをカバーする包括的データセットである。
論文 参考訳（メタデータ） (2024-07-15T13:51:37Z) - Beyond Human Norms: Unveiling Unique Values of Large Language Models through Interdisciplinary Approaches [69.73783026870998]
本研究では,大言語モデルの固有値システムをスクラッチから再構築する新しいフレームワークであるValueLexを提案する。
語彙仮説に基づいて、ValueLexは30以上のLLMから様々な値を引き出すための生成的アプローチを導入している。
我々は,3つのコア値次元,能力,キャラクタ,積分をそれぞれ特定の部分次元で同定し,LLMが非人間的だが構造化された価値体系を持っていることを明らかにした。
論文 参考訳（メタデータ） (2024-04-19T09:44:51Z) - High-Dimension Human Value Representation in Large Language Models [60.33033114185092]
我々は,LLMにおける記号的人間の値分布の高次元神経表現であるUniVaRを提案する。
これは連続的かつスケーラブルな表現であり、8LLMの値関連出力から自己教師される。
LLMが25の言語や文化で異なる価値を優先し、人間の価値観と言語モデリングの間の複雑な相互作用に光を当てる方法について検討する。
論文 参考訳（メタデータ） (2024-04-11T16:39:00Z) - Evaluating Generative Language Models in Information Extraction as Subjective Question Correction [49.729908337372436]
本稿では,新しい評価手法SQC-Scoreを提案する。
主観的質問訂正の原則に着想を得て,新しい評価手法SQC-Scoreを提案する。
3つの情報抽出タスクの結果から,SQC-Scoreは基準値よりもアノテータの方が好ましいことが示された。
論文 参考訳（メタデータ） (2024-04-04T15:36:53Z) - CLOMO: Counterfactual Logical Modification with Large Language Models [109.60793869938534]
本稿では,新しいタスク,CLOMO(Counterfactual Logical Modification)と高品質な人間アノテーションベンチマークを紹介する。
このタスクでは、LLMは所定の論理的関係を維持するために、与えられた議論的テキストを順応的に変更しなければなりません。
LLMの自然言語出力を直接評価する革新的な評価指標である自己評価スコア(SES)を提案する。
論文 参考訳（メタデータ） (2023-11-29T08:29:54Z) - Heterogeneous Value Alignment Evaluation for Large Language Models [91.96728871418]
大規模言語モデル(LLM)は、その価値を人間のものと整合させることを重要視している。
本研究では,LLMと不均一値の整合性を評価するため,不均一値アライメント評価(HVAE)システムを提案する。
論文 参考訳（メタデータ） (2023-05-26T02:34:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。