Fugu-MT 論文翻訳(概要): Interpreting and Steering LLM Agents for Social Simulations

論文の概要: Interpreting and Steering LLM Agents for Social Simulations

arxiv url: http://arxiv.org/abs/2609.16436v1
Date: Mon, 14 Sep 2026 23:23:23 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-16 14:56:08.261264
Title: Interpreting and Steering LLM Agents for Social Simulations
Title（参考訳）: 社会シミュレーションのためのLLMエージェントの解釈とステアリング
Abstract要約: 大規模言語モデル(LLM)に基づくシミュレーションは、人間の振る舞いを理解するのに強力であることが証明されている。しかし、LSMは最終的に深層ニューラルネットワークに基づくブラックボックスであり、社会科学に対する価値を制限している。ここでは,LCMに基づくシミュレーションをさらに強化するために,ブラックボックスのオープン化を実証する。
参考スコア（独自算出の注目度）: 0.0
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Simulations based on large language models (LLMs) have proven to be powerful for understanding human behavior, making them valuable additions to the social scientific toolkit. However, LLMs are ultimately black boxes based on deep neural networks which limits their value for social science. This is because of a lack of (i) interpretability: i.e. the ability to assign clear mechanisms driving observed behavior; and a lack of (ii) steerability: i.e. the ability to mute or amplify specific theoretically meaningful mechanisms of action to drive specific model behavior. Here, we demonstrate how the black box could be opened up to further enrich LLM-based simulations. Specifically, we compare three types of methods: (1) prompt-based manipulation, (2) SAE-derived feature steering, and (3) probe-based direction steering and examine their utility for LLM-based social scientific simulations. We do so by interpreting and steering two foundational components of human behaviors, namely preferences (risk attitudes, altruism) and capabilities (divergent creativity, product innovation), operationalized using four classic economic and creative tasks implemented as natural-language interactions. Overall, our results show that SAE- and probe-based techniques often outperform basic prompt-based methods for steering LLM agents, although this advantage depends on the specific prompting strategy involved. Together, SAEs and probes constitute an effective pipeline for social scientists seeking to interpret and steer agents in social simulations: SAEs decompose agents' internal representations into human-readable features, after which probes can reliably shift agents' behaviors in specified directions. We discuss implications of these methods for future work using LLM agents for social scientific simulations.
Abstract（参考訳）: 大規模言語モデル(LLM)に基づくシミュレーションは、人間の行動を理解するのに強力であることが証明され、社会科学的ツールキットに貴重な付加物となる。しかし、LSMは最終的に深層ニューラルネットワークに基づくブラックボックスであり、社会科学に対する価値を制限している。これは不足のためです。一解釈可能性、すなわち、観察された行為を駆動する明確なメカニズムを割り当てる能力、及び欠如 (ii) 操縦性(steerability): 特定のモデルの振る舞いを駆動する、特定の理論的に意味のある行動のメカニズムをミュートまたは増幅する能力。ここでは,LCMに基づくシミュレーションをさらに強化するために,ブラックボックスのオープン化を実証する。具体的には,(1)プロンプトベースの操作,(2)SAEによる特徴ステアリング,(3)プローブベースの方向ステアリングの3種類の手法を比較し,LLMに基づく社会科学シミュレーションにおける有用性を検討した。我々は、人間の行動の基本となる2つの要素、すなわち、嗜好(リスク態度、利他主義)と能力(創造性、製品革新)を解釈し、操ることで、自然言語の相互作用として実装された4つの古典的な経済的・創造的なタスクを用いて、運用する。以上の結果から,SAEおよびプローブベースの手法は,LDMエージェントを操る基本的なプロンプトベースの手法よりも優れていることがわかったが,これは関連する特定のプロンプト戦略に依存している。 SAEはエージェントの内部表現を人間の読みやすい特徴に分解し、その後、プローブはエージェントの行動を特定の方向に確実にシフトさせることができる。社会科学シミュレーションにおいて, LLM エージェントを用いた今後の研究にこれらの手法がもたらす意味について論じる。

関連論文リスト

LLM-Driven Personalities for Decision Making in Emergency Simulations [1.2248975590229072]
シミュレーションされた避難シナリオ内の仮想人間における意思決定を促進するために,大規模言語モデルを用いた場合について検討する。我々のゴールは、言語に基づくプロンプトを通して表現される性格が、個人の行動と集団シミュレーション結果の両方にどのように影響するかを評価することである。
論文参考訳（メタデータ） (2026-06-30T02:15:22Z)
Simulate, Reason, Decide: Scientific Reasoning with LLMs for Simulation-Driven Decision Making [50.05403024674141]
MechSimは、実行可能な科学シミュレーターのためのメカニズム基底の神経象徴的推論フレームワークである。我々のフレームワークは、仮定、変数、メカニズムの依存関係、実行トレースをキャプチャする共有構造化スキーマを通してシミュレータを表現する。提案手法は,複数のハイテイク領域にまたがって評価され,メカニズムレベルの説明品質,シミュレータ解析,下流意思決定の信頼性が向上することを示す。
論文参考訳（メタデータ） (2026-06-03T06:36:51Z)
Position: AI Agents Are Not (Yet) a Panacea for Social Simulation [62.891898598784415]
大規模言語モデル(LLM)の最近の進歩は、社会シミュレーションにLLM統合エージェントを使うことへの関心が高まっている。このポジションペーパーは、LSMをベースとしたエージェントは社会シミュレーションのパナセアではないと主張している。
論文参考訳（メタデータ） (2026-02-19T06:35:07Z)
Leveraging LLM-based agents for social science research: insights from citation network simulations [132.4334196445918]
CiteAgentフレームワークを導入し、人間-行動シミュレーションに基づく引用ネットワークを生成する。 CiteAgentは、実世界の引用ネットワークにおける主要な現象を捉えている。社会科学において2つのLCMに基づく研究パラダイムを確立し,既存の理論の検証と挑戦を可能にした。
論文参考訳（メタデータ） (2025-11-05T08:47:04Z)
Social Simulations with Large Language Model Risk Utopian Illusion [61.358959720048354]
社会シミュレーションにおける大規模言語モデルの行動分析のための体系的枠組みを提案する。本手法は,チャットルーム型会話を通してマルチエージェントインタラクションをシミュレートし,5つの言語的側面にわたって解析する。以上の結果から,LSMは真の人間の行動を忠実に再現するのではなく,過度に理想化されたバージョンを反映していることが明らかとなった。
論文参考訳（メタデータ） (2025-10-24T06:08:41Z)
LLM-Based Social Simulations Require a Boundary [3.351170542925928]
大規模言語モデル(LLM)に基づく社会シミュレーションは明確な境界を確立するべきである。本稿では、アライメント(実世界のパターンにマッチするシミュレーション行動)、一貫性(時間とともに一貫性のあるエージェント動作を維持する)、堅牢性という3つの重要な境界問題について検討する。
論文参考訳（メタデータ） (2025-06-24T17:14:47Z)
SocialEval: Evaluating Social Intelligence of Large Language Models [70.90981021629021]
ソーシャルインテリジェンス(英語版) (SI) は、社会的目標を達成するために社会的相互作用をナビゲートする際に賢明に行動する対人能力を持つ人間を装備する。結果指向の目標達成評価とプロセス指向の対人能力評価という,運用評価パラダイムを提示する。スクリプトベースのバイリンガルSIベンチマークであるSocialEvalを提案する。
論文参考訳（メタデータ） (2025-06-01T08:36:51Z)
Can LLM Agents Simulate Multi-Turn Human Behavior? Evidence from Real Online Customer Behavior Data [46.65903742010956]
本研究では,人間の行動を正確にシミュレートする,最先端のLDMの能力の大規模定量的評価を行った。 230,965件のユーザアクションを含む31,865件のオンラインショッピングセッションから得られた実世界データを用いて,プロンプトベースのLCMが人間の行動生成においてわずか11.86%の精度で達成できることを明らかにする。また, 実クリックスルーデータに対して, モデルの性能を大幅に向上させる手法として, 実クリックスルーデータに対する微調整 LLM の戦略を提示する。
論文参考訳（メタデータ） (2025-03-26T17:33:27Z)
A Survey on Sparse Autoencoders: Interpreting the Internal Mechanisms of Large Language Models [50.34089812436633]
大規模言語モデル(LLM)は自然言語処理を変換しているが、その内部メカニズムはほとんど不透明である。機械的解釈性は、LLMの内部動作を理解する手段として、研究コミュニティから大きな注目を集めている。スパースオートエンコーダ(SAE)は、LLM内の複雑な重畳された機能をより解釈可能なコンポーネントに分解する能力のために、将来性のある方法として登場した。
論文参考訳（メタデータ） (2025-03-07T17:38:00Z)
Shall We Team Up: Exploring Spontaneous Cooperation of Competing LLM Agents [18.961470450132637]
本稿では、エージェントが文脈に深く関与し、明示的な指示なしに適応的な決定を行う自然現象の重要性を強調する。我々は,3つの競争シナリオにまたがる自発的な協力を探究し,協力の段階的出現をシミュレートした。
論文参考訳（メタデータ） (2024-02-19T18:00:53Z)
LLM-driven Imitation of Subrational Behavior : Illusion or Reality? [3.2365468114603937]
既存の作業は、複雑な推論タスクに対処し、人間のコミュニケーションを模倣する大規模言語モデルの能力を強調している。そこで本研究では,LLMを用いて人工人体を合成し,サブリレーショナル・エージェント・ポリシーを学習する手法を提案する。我々は,4つの単純なシナリオを通して,サブリレータリティをモデル化するフレームワークの能力について実験的に評価した。
論文参考訳（メタデータ） (2024-02-13T19:46:39Z)
Systematic Biases in LLM Simulations of Debates [12.933509143906141]
人間の相互作用をシミュレートする際の大規模言語モデルの限界について検討する。以上の結果から, LLMエージェントがモデル固有の社会的バイアスに適合する傾向が示唆された。これらの結果は、エージェントがこれらのバイアスを克服するのに役立つ方法を開発するためのさらなる研究の必要性を浮き彫りにしている。
論文参考訳（メタデータ） (2024-02-06T14:51:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。