Fugu-MT 論文翻訳(概要): Evaluating LLM Alignment With Human Trust Models

論文の概要: Evaluating LLM Alignment With Human Trust Models

arxiv url: http://arxiv.org/abs/2603.05839v1
Date: Fri, 06 Mar 2026 02:49:49 GMT
ステータス: 翻訳完了
システム内更新日: 2026-03-09 13:17:44.899328
Title: Evaluating LLM Alignment With Human Trust Models
Title（参考訳）: 信頼モデルを用いたLLMアライメントの評価
Abstract要約: この研究は、EleutherAI/gpt-j-6Bにおける信頼表現のホワイトボックス解析を示す。まず,確立された5つの信頼モデルから信頼関連概念を同定した。次に, LLMの内部信頼表現と導出信頼関連概念のコサイン類似性を測定した。
参考スコア（独自算出の注目度）: 9.741889240149336
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Trust plays a pivotal role in enabling effective cooperation, reducing uncertainty, and guiding decision-making in both human interactions and multi-agent systems. Although it is significant, there is limited understanding of how large language models (LLMs) internally conceptualize and reason about trust. This work presents a white-box analysis of trust representation in EleutherAI/gpt-j-6B, using contrastive prompting to generate embedding vectors within the activation space of the LLM for diadic trust and related interpersonal relationship attributes. We first identified trust-related concepts from five established human trust models. We then determined a threshold for significant conceptual alignment by computing pairwise cosine similarities across 60 general emotional concepts. Then we measured the cosine similarities between the LLM's internal representation of trust and the derived trust-related concepts. Our results show that the internal trust representation of EleutherAI/gpt-j-6B aligns most closely with the Castelfranchi socio-cognitive model, followed by the Marsh Model. These findings indicate that LLMs encode socio-cognitive constructs in their activation space in ways that support meaningful comparative analyses, inform theories of social cognition, and support the design of human-AI collaborative systems.
Abstract（参考訳）: 信頼は、効果的に協力し、不確実性を低減し、ヒューマンインタラクションとマルチエージェントシステムの両方において意思決定を導く上で重要な役割を担っている。重要なことではあるが、大きな言語モデル(LLM)がいかに内在的に概念化され、信頼の理由になるかについては、限定的な理解がある。本研究は,LLMの活性化空間内への埋め込みベクトルを生成するために,コントラストプロンプトを用いたEleutherAI/gpt-j-6Bにおける信頼表現のホワイトボックス解析を行った。まず,確立された5つの信頼モデルから信頼関連概念を同定した。そして、60の一般的な感情的概念にまたがるペアワイドなコサイン類似性を計算することによって、重要な概念的アライメントのしきい値を決定する。次に, LLMの内部信頼表現と導出信頼関連概念のコサイン類似度を測定した。以上の結果から,EleutherAI/gpt-j-6Bの内部信頼表現は,Castelfranchi社会認知モデルと密接に一致し,Marshモデルがそれに続いた。これらの結果から, LLMは, 意味的比較分析を支援し, 社会的認知の理論を伝達し, 人間とAIの協調システムの設計を支援する方法として, 活性化空間における社会認知構造を符号化していることが明らかとなった。

関連論文リスト

ONTrust: A Reference Ontology of Trust [1.068745732421904]
本論文は,信頼に確固たる存在論的基盤を提供する長期研究プログラムの成果である。信頼の基準オントロジー(ONTrust)は、統一基本オントロジーに基づいて開発され、オントUMLで規定されている。 ONTrustは、信頼の概念とその異なるタイプを公式に特徴づけ、信頼に影響を与えるさまざまな要因を記述し、また、信頼関係からリスクがどのように出現するかを説明する。
論文参考訳（メタデータ） (2026-02-07T18:47:34Z)
Epistemic Context Learning: Building Trust the Right Way in LLM-Based Multi-Agent Systems [94.9141394384021]
マルチエージェントシステムの個々のエージェントは、しばしば堅牢性を欠き、誤解を招く仲間に盲目的に適合する傾向にある。この弱点は, 相互信頼度を評価する能力の欠如に起因していると考えられる。まず,歴史認識参照の学習問題を定式化し,ピア間の歴史的相互作用を付加的な入力として導入する。次に,歴史的に構築されたピアプロファイルの予測を行うための推論フレームワークであるEcestemic Context Learning (ECL) を開発した。
論文参考訳（メタデータ） (2026-01-29T13:59:32Z)
UniCog: Uncovering Cognitive Abilities of LLMs through Latent Mind Space Analysis [69.50752734049985]
成長する研究機関は、大きな言語モデル(LLM)の認知過程が人間のものと根本的に異なることを示唆している。潜在心空間を介してLLM認知を分析する統一フレームワークUniCogを提案する。
論文参考訳（メタデータ） (2026-01-25T16:19:00Z)
Revisiting Trust in the Era of Generative AI: Factorial Structure and Latent Profiles [5.109743403025609]
信頼は、人々が人工知能(AI)を採用し、どのように依存するかを形作る最も重要な要素の1つです。既存の研究の多くは、システムの信頼性、正確性、使いやすさに重点を置いて、機能の観点から信頼度を測定している。本研究では,GenAIにおける信頼の合理性と関係性の両方を捉えるための新しい尺度であるHuman-AI Trust Scale(HAITS)を導入し,検証する。
論文参考訳（メタデータ） (2025-10-11T12:39:53Z)
Value-Based Large Language Model Agent Simulation for Mutual Evaluation of Trust and Interpersonal Closeness [4.008152563028669]
大規模言語モデル(LLM)は、人間のようなエージェントを用いて複雑な社会現象をシミュレートする強力なツールとして登場した。本研究では, 2つの実験により, LLMエージェント間の関係構築に及ぼす値類似性の影響について検討した。
論文参考訳（メタデータ） (2025-07-16T07:21:59Z)
Ties of Trust: a bowtie model to uncover trustor-trustee relationships in LLMs [1.1149261035759372]
大規模言語モデル(LLM)における信頼の概念化と定式化のためのボウイモデルを提案する。コアコンポーネントは、信頼者と信頼者、そしてそれらの複雑な関係を結び付けることによって、信頼を包括的に探求する。我々はこれらの関係を、提案されたボウティーモデルと、その社会技術エコシステムの範囲内で明らかにする。
論文参考訳（メタデータ） (2025-06-11T11:42:52Z)
A closer look at how large language models trust humans: patterns and biases [0.0]
大規模言語モデル(LLM)とLLMベースのエージェントは、意思決定の文脈で人間と対話する傾向にある。 LLMは、意思決定を支援し、影響を及ぼすために、信頼に関連するコンテキストに対して、ある種の暗黙の効果的な信頼に依存しています。我々は, LLMの信頼が, 人類の能力, 善意, 完全性の3つの主要な信頼性の側面に依存しているかどうかを考察する。ほとんどのケースにおいて、LDMの信頼は信頼性によって強く予測され、場合によっては年齢、宗教、性別にも偏っている。
論文参考訳（メタデータ） (2025-04-22T11:31:50Z)
Do LLMs trust AI regulation? Emerging behaviour of game-theoretic LLM agents [61.132523071109354]
本稿では、異なる規制シナリオ下での戦略選択をモデル化する、AI開発者、規制当局、ユーザ間の相互作用について検討する。我々の研究は、純粋なゲーム理論エージェントよりも「悲観的」な姿勢を採用する傾向にある戦略的AIエージェントの出現する振る舞いを特定する。
論文参考訳（メタデータ） (2025-04-11T15:41:21Z)
Towards More Trustworthy and Interpretable LLMs for Code through Syntax-Grounded Explanations [48.07182711678573]
ASTrustは、モデル信頼度とプログラミング言語の構文構造の関係に基づく説明を生成する。 ASTからの構文構造のシーケンス, 熱マップ, グラフに基づく可視化を重畳した, モデル信頼度スコアを自動可視化する。
論文参考訳（メタデータ） (2024-07-12T04:38:28Z)
TrustGuard: GNN-based Robust and Explainable Trust Evaluation with Dynamicity Support [59.41529066449414]
本稿では,信頼度を考慮した信頼度評価モデルであるTrustGuardを提案する。 TrustGuardは、スナップショット入力層、空間集約層、時間集約層、予測層を含む階層アーキテクチャで設計されている。実験により、TrustGuardは、シングルタイムスロットとマルチタイムスロットの信頼予測に関して、最先端のGNNベースの信頼評価モデルより優れていることが示された。
論文参考訳（メタデータ） (2023-06-23T07:39:12Z)
Formalizing Trust in Artificial Intelligence: Prerequisites, Causes and Goals of Human Trust in AI [55.4046755826066]
我々は、社会学の対人信頼(すなわち、人間の信頼)に着想を得た信頼のモデルについて議論する。ユーザとAIの間の信頼は、暗黙的あるいは明示的な契約が保持する信頼である。我々は、信頼できるAIの設計方法、信頼が浮かび上がったかどうか、保証されているかどうかを評価する方法について論じる。
論文参考訳（メタデータ） (2020-10-15T03:07:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。