論文の概要: RealBehavior: A Framework for Faithfully Characterizing Foundation Models' Human-like Behavior Mechanisms

• arxiv url: http://arxiv.org/abs/2310.11227v1
• Date: Tue, 17 Oct 2023 12:58:17 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-18 16:00:34.270144
• Title: RealBehavior: A Framework for Faithfully Characterizing Foundation Models' Human-like Behavior Mechanisms
• Title（参考訳）: realbehavior: 基礎モデルの人間様行動機構を忠実に特徴付けるフレームワーク
• Authors: Enyu Zhou, Rui Zheng, Zhiheng Xi, Songyang Gao, Xiaoran Fan, Zichu Fei, Jingting Ye, Tao Gui, Qi Zhang, Xuanjing Huang
• Abstract要約: 本稿では,モデルのヒューマノイドな振る舞いを忠実に特徴付けるためのフレームワークであるRealBehaviorを紹介する。 本研究は, 心理的ツールのシンプルな応用は, すべての人間の行動に忠実に特徴付けることはできないことを示唆している。
• 参考スコア（独自算出の注目度）: 45.97077960079147
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Reports of human-like behaviors in foundation models are growing, with psychological theories providing enduring tools to investigate these behaviors. However, current research tends to directly apply these human-oriented tools without verifying the faithfulness of their outcomes. In this paper, we introduce a framework, RealBehavior, which is designed to characterize the humanoid behaviors of models faithfully. Beyond simply measuring behaviors, our framework assesses the faithfulness of results based on reproducibility, internal and external consistency, and generalizability. Our findings suggest that a simple application of psychological tools cannot faithfully characterize all human-like behaviors. Moreover, we discuss the impacts of aligning models with human and social values, arguing for the necessity of diversifying alignment objectives to prevent the creation of models with restricted characteristics.
• Abstract（参考訳）: 基礎モデルにおける人間のような行動の報告は増加しており、心理学理論はこれらの行動を調べるための永続的なツールを提供する。 しかし、現在の研究では、結果の忠実性を検証することなく、これらの人間指向ツールを直接適用する傾向がある。 本稿では,モデルのヒューマノイドな振る舞いを忠実に表現するフレームワークであるRealBehaviorを紹介する。 単に行動を測定するだけでなく、再現性、内部および外部の一貫性、一般化性に基づいて結果の忠実度を評価する。 本研究は, 心理的ツールのシンプルな応用は, すべての人間の行動に忠実に特徴付けることはできないことを示唆している。 さらに,モデルと人的・社会的価値の整合が与える影響について論じ,制約された特徴を持つモデルの作成を防止するために,アライメント目的の多様化の必要性を論じる。

関連論文リスト

• Generative Agent Simulations of 1,000 People [56.82159813294894]
  本稿では,1,052人の実人の態度と行動をシミュレートする新しいエージェントアーキテクチャを提案する。 生成エージェントは一般社会調査の参加者の回答を85%の精度で再現する。 我々のアーキテクチャは、人種的およびイデオロギー的グループにおける正確さのバイアスを、人口統計学的記述のエージェントと比較して低減する。
  論文  参考訳（メタデータ） (2024-11-15T11:14:34Z)
• PersLLM: A Personified Training Approach for Large Language Models [66.16513246245401]
  社会実践, 一貫性, 動的発達という, 心理学に根ざした個性の原則を統合したPersLLMを提案する。 モデルパラメータに直接パーソナリティ特性を組み込み、誘導に対するモデルの抵抗性を高め、一貫性を高め、パーソナリティの動的進化を支援する。
  論文  参考訳（メタデータ） (2024-07-17T08:13:22Z)
• Decoding Susceptibility: Modeling Misbelief to Misinformation Through a Computational Approach [61.04606493712002]
  誤報に対する感受性は、観測不可能な不検証の主張に対する信念の度合いを記述している。 既存の感受性研究は、自己報告された信念に大きく依存している。 本稿では,ユーザの潜在感受性レベルをモデル化するための計算手法を提案する。
  論文  参考訳（メタデータ） (2023-11-16T07:22:56Z)
• Modeling Human Behavior Part I -- Learning and Belief Approaches [0.0]
  探索とフィードバックを通じて行動のモデルや方針を学ぶ手法に焦点を当てる。 次世代の自律的適応システムは、主にAIエージェントと人間がチームとして一緒に働く。
  論文  参考訳（メタデータ） (2022-05-13T07:33:49Z)
• Empirical Estimates on Hand Manipulation are Recoverable: A Step Towards Individualized and Explainable Robotic Support in Everyday Activities [80.37857025201036]
  ロボットシステムの鍵となる課題は、他のエージェントの振る舞いを理解することである。 正しい推論の処理は、(衝突)因子が実験的に制御されない場合、特に困難である。 人に関する観察研究を行うために必要なツールをロボットに装備することを提案する。
  論文  参考訳（メタデータ） (2022-01-27T22:15:56Z)
• AGENT: A Benchmark for Core Psychological Reasoning [60.35621718321559]
  直観心理学は、観察可能な行動を駆動する隠された精神変数を推論する能力です。 他のエージェントを推論する機械エージェントに対する近年の関心にもかかわらず、そのようなエージェントが人間の推論を駆動するコア心理学の原則を学ぶか保持するかは明らかではない。 本稿では,プロシージャが生成する3dアニメーション,エージェントを4つのシナリオで構成したベンチマークを提案する。
  論文  参考訳（メタデータ） (2021-02-24T14:58:23Z)
• Models we Can Trust: Toward a Systematic Discipline of (Agent-Based) Model Interpretation and Validation [0.0]
  我々は、モデルから情報を取り出すための相互作用の分野の開発を提唱する。 このような分野の発展に向けたいくつかの方向性を概説する。
  論文  参考訳（メタデータ） (2021-02-23T10:52:22Z)
• A Bayesian Account of Measures of Interpretability in Human-AI Interaction [34.99424576619341]
  解釈可能なエージェントの振る舞いを設計するための既存のアプローチは、分離時の解釈可能性の異なる尺度を考える。 これらすべての振る舞いを有意義にモデル化できる改訂モデルを提案する。 この統合モデルによる興味深い結果を強調し、ユーザスタディの結果を動機付けます。
  論文  参考訳（メタデータ） (2020-11-22T03:28:28Z)
• Simulating and classifying behavior in adversarial environments based on action-state traces: an application to money laundering [18.625578105241]
  本稿では,このようなアプリケーション,特にアンチ・モニー・ラダーリングの文脈において,新しいアプローチを提案する。 我々は, 多様な, 現実的で新しい非観測行動が生成され, 潜在的非観測的行動を発見するメカニズムを提供する。
  論文  参考訳（メタデータ） (2020-11-03T16:30:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。