論文の概要: Thin Evidence, Thick Priors: How Language Models Substitute Identity for Missing Financial Facts

• arxiv url: http://arxiv.org/abs/2610.07798v1
• Date: Tue, 06 Oct 2026 05:46:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:29.832718
• Title: Thin Evidence, Thick Priors: How Language Models Substitute Identity for Missing Financial Facts
• Title（参考訳）: 薄いエビデンスと厚み - 言語モデルが財務上の欠陥を補う方法
• Abstract要約: 人々は、大口の言語モデルに対して、自分のお金で何をすべきかを尋ねる傾向にあるが、財務について完全に説明することはめったにない。 この論文は、モデルがそのギャップに対して何をするかを問う。 96,600人を超えるラマ3.1-8Bインストラクションは、100のファイナンシャル・プロフィール、128のペルソナ、7の開示条件で構築され、完全な開示時の平均ギャップは4.78ポイントから財政的な事実のない10.34ポイントへと上昇している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: People increasingly ask large language models what to do with their money, yet seldom describe their finances in full. This paper asks what a model does with the gap. Holding finances fixed and changing only who the investor is said to be, we grade the financial evidence in the prompt from eight facts to none and measure how far the recommended equity allocation moves. Across 96,600 prompts to Llama-3.1-8B-Instruct, built from 100 financial profiles, 138 personas and seven disclosure conditions, the average gap between two personas with identical finances rises from 4.78 percentage points at full disclosure to 10.34 points with no financial facts. A two-way cluster bootstrap counting duplicated prompts once places the ratio at 2.16 (95% interval 1.69 to 2.79), and the rise is already 1.69-fold with a single fact left. Identity explains 5% of within-profile variation in advice at full disclosure and 96% with no disclosure. Household size is the only attribute whose influence grows reliably as evidence is withdrawn. Once standard errors are clustered on the persona, the unit to which identity was assigned, most attribute-specific interactions reported in the conference version lose significance, and gender instead appears as a small standing gap that full disclosure does not close. Stating risk appetite alone brings the swing into the range seen with two to seven generic facts. With no facts, the model's one-line rationale cites incomes, debts and savings it was never told, and these invented finances turn adverse more often for larger households. Inside the network, gender is linearly decodable at every layer, and ablating the gender direction at five layers leaves the aggregate identity swing unchanged. Advisory systems built on such models should be audited at the disclosure levels users actually reach, and judged across the whole identity space rather than one attribute at a time.
• Abstract（参考訳）: 人々は、大口の言語モデルに対して、自分のお金で何をすべきかを尋ねる傾向にあるが、財務をフルに説明することはめったにない。 この論文は、モデルがそのギャップに対して何をするかを問う。 金融を固定し、投資家が誰だと言われているかだけを変更させることで、8つの事実からゼロまで、金融証拠を格付けし、推奨株式の配分がどこまで動くかを測定します。 96,600人を超えるラマ3.1-8Bインストラクションは、100のファイナンシャル・プロフィール、138のペルソナ、7の開示条件で構築され、同一のファイナンスを持つ2人の個人間の平均的なギャップは、完全な開示時に4.78ポイントから10.34ポイントまで上昇し、財務事実はない。 複製されたプロンプトをカウントする双方向クラスタブートストラップは、その比率を2.16(95%間隔1.69から2.79)に設定し、既に1つの事実を残した1.69倍になっている。 アイデンティティは、全開示時のアドバイスの目立った変化の5%、開示なしの96%を説明する。 証拠が取り除かれるにつれて、影響が確実に増大する唯一の属性は世帯規模である。 標準的なエラーがペルソナにクラスタ化されると、アイデンティティが割り当てられたユニットは、カンファレンスバージョンで報告された属性固有のインタラクションの大半が重要性を失い、代わりに性別は、完全な開示が閉じていない小さなスタンスギャップとして現れる。 安定的なリスク食欲だけでは、2～7つの一般的な事実で見られる範囲に揺さぶる。 事実がなければ、モデルの1行の理論的根拠は、それが語られたことのない収入、負債、貯蓄を引用し、これらの発明された財政はより大きな家庭にとってより悪いものとなる。 ネットワーク内では、性別はすべての層で線形に退避可能であり、5つの層で性別の方向を非難することは、集合アイデンティティの揺らぎが変わらないままである。 このようなモデル上に構築されたアドバイザリシステムは、ユーザが実際に到達した開示レベルで監査され、一度に1つの属性ではなく、ID空間全体にわたって判断されるべきである。

関連論文リスト

• Mind or Message? Auditing Theory of Mind in Multi-Agent Social Simulation [17.51404403306176]
  言語モデルエージェントは、社会的相互作用をシミュレートするためにますます使われています。 我々は、その外見がパートナーの心のモデルか、パートナーが言ったことの表面記録にかかっているか尋ねる。 私たちは、両方の質問が正確な答えを持つ社会シミュレーションを構築します。
  論文  参考訳（メタデータ） (2026-09-21T05:58:28Z)
• Right Frame, Wrong Rule: Cultural Cues Expose the Financial Knowledge Gap They Were Meant to Close [57.963463622270275]
  イスラム金融における規範的多元主義を4つの分類法を用いて研究する。 文化的キューは1つのフレームワークに向かってモデルを操縦するが、そのモデルはそのフレームワーク内で間違った答えを選択する。
  論文  参考訳（メタデータ） (2026-09-01T09:46:53Z)
• Readable, Faithful, Used: Three Dissociable Properties of Demographic Identity in a Language Model [0.0]
  我々は、大きな言語モデルの中で、人口集団のアイデンティティがどこにあるのかを尋ねる。 私たちはMistral-7Bで1,089の読み出し位置を記録し、6つのタイプに因果的に介入した。 単一の頭部の128次元のプローブは、モデル自身の答えよりも21-31%近くまで到達した。
  論文  参考訳（メタデータ） (2026-08-19T10:25:11Z)
• Towards a more efficient bias detection in financial language models [5.317864735982288]
  金融言語モデルにおけるバイアスは、現実のアプリケーションにおいて採用される大きな障害である。 5つの金融言語モデルにおけるバイアスの大規模研究を行う。 モデル間誘導バイアス検出について検討し、より早くバイアス検出入力を同定する。
  論文  参考訳（メタデータ） (2026-03-09T11:38:53Z)
• Self-Transparency Failures in Expert-Persona LLMs: A Large-Scale Behavioral Audit [0.0]
  本研究では,ハイテイクドメインにおけるプロフェッショナルペルソナの割り当て時に,モデルが自己透明性を示すか否かを検討する。 ファイナンシャル・アドバイザー・ペルソナは最初のプロンプトで30.8%、ニューロサージョン・ペルソナはわずか3.5%だった。 これにより、仮説化された逆ゲルマン・アムネシア効果の前提条件が作成され、いくつかの領域における適切な開示により、ユーザーは高文脈への信頼を過度に一般化する。
  論文  参考訳（メタデータ） (2025-11-26T16:41:49Z)
• Debiasing LLMs by Masking Unfairness-Driving Attention Heads [47.639403863507965]
  DiffHeadsは,大規模言語モデルのための軽量なデバイアス処理フレームワークである。 DiffHeadsは、モデルユーティリティを損なうことなく、それぞれDAとCoTで49.4%、40.3%の不正性を減少させることを示す。
  論文  参考訳（メタデータ） (2025-10-11T09:48:31Z)
• RankAlign: A Ranking View of the Generator-Validator Gap in Large Language Models [43.89751891729739]
  我々は,モデルが生成した解答と,その解答の検証,ジェネレータとバリケータのギャップとの相違について考察する。 この測定結果から,質問応答,語彙意味論タスク,次の単語予測など,さまざまな設定に大きなギャップがあることが分かる。 次にランキングベースのトレーニング手法である RankAlign を提案する。
  論文  参考訳（メタデータ） (2025-04-15T16:53:31Z)
• Exploring Response Uncertainty in MLLMs: An Empirical Evaluation under Misleading Scenarios [49.53589774730807]
  マルチモーダル大規模言語モデル(MLLM)は近年,視覚的質問応答から映像理解に至るまでのタスクにおいて,最先端のパフォーマンスを実現している。 12件のオープンソースMLLMが, 単一の偽装キューを受けた65%の症例において, 既往の正解を覆した。
  論文  参考訳（メタデータ） (2024-11-05T01:11:28Z)
• MuLan: A Study of Fact Mutability in Language Models [50.626787909759976]
  信頼できる言語モデルは、理想的には変更可能な事実をそのようなものとして識別し、それに従って処理する。 MuLanは、英語モデルが時間一貫性を予測できる能力を評価するためのベンチマークです。
  論文  参考訳（メタデータ） (2024-04-03T19:47:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。