論文の概要: Beyond Raw Transcripts: Structured Persona Extraction for LLM-Based Digital Twins
- arxiv url: http://arxiv.org/abs/2608.20344v1
- Date: Sat, 13 Jun 2026 19:00:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.272976
- Title: Beyond Raw Transcripts: Structured Persona Extraction for LLM-Based Digital Twins
- Title(参考訳): LLMに基づくディジタル双生児のための構造的人物抽出法
- Abstract要約: LLMベースの「デジタル双子」は、個人が新しい環境でどのように振る舞うかをシミュレートしたり、新しい質問に応答することを目的としている。
以前の研究は、長い書き起こしを圧縮しても予測精度は著しく低下しないことを示した。
我々は、非構造的な要約と構造化されたペルソナ表現を比較してこれを研究する。
- 参考スコア(独自算出の注目度): 2.20325174292
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: LLM-based "digital twins" aim to simulate how an individual would behavein new environments or respond to novel questions, given some representation of that individual's prior responses. A common approach constructs this representation from survey transcripts or summaries responses. Prior work shows that compressing long transcripts into shorter LLM-generated summaries does not significantly reduce predictive accuracy, suggesting that information volume is not the primary bottleneck. In this work, we argue that the key limitation is instead structural:how persona information is organized before being provided to thesimulator model. We study this by comparing unstructured summaries with structured persona representations. First, we introduce a hand-craftedschema (BDE: Background, Decision procedure, Evaluation), grounded in consumer-behavior theory, and show that it improves predictive accuracy over raw transcripts by +1.91 percentage points on a homogeneous benchmark (Twin-2K-500), with similar gains on gpt-5.4-mini and Qwen3-8B as robustness checks. However, this fixed structure does not generalizeacross more heterogeneous tasks, where performance is statistically indistinguishable from the raw transcript baseline. To address this limitation, we propose an automatic structure-discovery pipeline in which an LLM iteratively proposes and refines task-specific persona structures and extraction prompts. On a benchmark of 13 diverse sub-studies, this approach restores performance, improving mean accuracy by +1.91 percentage points over the raw transcript baseline and eliminating significant losses observed with the fixed schema. Overall, our results suggest that the main constraint in LLM-based digital twins is not how much information is provided, but how it is structured -- and that the optimal structure depends on the task.
- Abstract(参考訳): LLMベースの「デジタルツインズ」は、個人が新しい環境の中でどのように振る舞うかをシミュレートしたり、新しい質問に応答したりすることを目的としている。
一般的なアプローチは、この表現をサーベイ・トランスクリプトや要約の応答から構成する。
以前の研究は、長い書き起こしをLLM生成の短い要約に圧縮することは予測精度を著しく低下させるものではないことを示しており、情報量が主要なボトルネックではないことを示唆している。
そこで本研究では,シミュレータモデルに提供される前にペルソナ情報を整理する方法について述べる。
我々は、非構造的な要約と構造化されたペルソナ表現を比較してこれを研究する。
まず, 消費者行動理論に基づく手作りスキーマ (BDE: background, Decision procedure, Evaluation) を導入し, gpt-5.4-mini と Qwen3-8B と同質なベンチマーク (Twin-2K-500) において, 生文字の予測精度を+1.91ポイント向上することを示した。
しかし、この固定構造は、生の転写ベースラインと統計的に区別できないような、より不均一なタスクを一般化しない。
この制限に対処するために,LLMがタスク固有のペルソナ構造と抽出プロンプトを反復的に提案し,洗練する自動構造発見パイプラインを提案する。
13の多様なサブスタディのベンチマークにおいて、このアプローチはパフォーマンスを回復し、生の転写ベースライン上での平均精度を+1.91ポイント向上し、固定スキーマで観測された大きな損失を排除した。
全体として、LLMベースのディジタルツインの主な制約は、どの程度の情報を提供するかではなく、どのように構造化されているかであり、最適な構造はタスクに依存することを示唆している。
関連論文リスト
- Weave of Formal Thought [51.56484100374058]
WoFT(Weave of Formal Thought)は、厳密な構文的検証と学習された構造的表現を結合したパラダイムである。
本稿では,非終端文法記号を直接生成にインターリーブするために,言語モデルを訓練する潜時可変微調整法を提案する。
Pythonでは、RWS目的のStarCoder2-3Bを微調整することで、テキストのみのSFTベースラインと比較して、トーケン毎のクロスエントロピーが14.3%削減される。
論文 参考訳(メタデータ) (2026-06-24T15:58:11Z) - From Residuals to Reasons: LLM-Guided Mechanism Inference from Tabular Data [10.795877029195845]
科学的応用のための機械学習における永続的な課題は、予測と理解を共同で達成することである。
マルチエージェント残差文脈学習(MARICL)を導入する。
MARICLは、すべてのデータセットのベースモデルに対して一貫して改善されている。
論文 参考訳(メタデータ) (2026-05-21T15:34:08Z) - From Early Encoding to Late Suppression: Interpreting LLMs on Character Counting Tasks [49.57538588967748]
LLM(Large Language Model)は、複雑なベンチマークでは優れているにもかかわらず、単語中の文字数などの基本的な記号的タスクにおいて失敗を示す。
我々は、LLaMA、Qwen、Gemmaなど、現代のアーキテクチャにまたがる一貫した現象を発見した。
LLMにおけるシンボリック推論失敗は,表現不足やスケール不足によるものではなく,モデル計算グラフ内の構造的干渉によるものであることを示す。
論文 参考訳(メタデータ) (2026-04-01T11:40:12Z) - SampleAttention: Near-Lossless Acceleration of Long Context LLM Inference with Adaptive Structured Sparse Attention [53.4441894198495]
大きな言語モデル(LLM)は、非常に長いコンテキストウィンドウをサポートするようになった。
バニラの注意の二次的な複雑さは、TTFT(Time-to-First-Token)レイテンシを著しく長くする。
適応型構造とほぼロスレスなスパースアテンションであるSampleAttentionを提案する。
論文 参考訳(メタデータ) (2024-06-17T11:05:15Z) - MinPrompt: Graph-based Minimal Prompt Data Augmentation for Few-shot Question Answering [64.6741991162092]
オープンドメイン質問応答のための最小限のデータ拡張フレームワークMinPromptを提案する。
我々は、生テキストをグラフ構造に変換し、異なる事実文間の接続を構築する。
次に、グラフアルゴリズムを適用して、原文のほとんどの情報をカバーするのに必要な最小限の文の集合を識別する。
同定された文サブセットに基づいてQAペアを生成し、選択した文に基づいてモデルをトレーニングし、最終モデルを得る。
論文 参考訳(メタデータ) (2023-10-08T04:44:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。