論文の概要: Reading Between the Tokens: Improving Preference Predictions through Mechanistic Forecasting

• arxiv url: http://arxiv.org/abs/2602.02882v1
• Date: Mon, 02 Feb 2026 22:39:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-04 18:37:15.119198
• Title: Reading Between the Tokens: Improving Preference Predictions through Mechanistic Forecasting
• Title（参考訳）: トークン間の読み上げ:機械的予測による予測精度の向上
• Authors: Sarah Ball, Simeon Allmendinger, Niklas Kühl, Frauke Kreuter,
• Abstract要約: 人口統計学およびイデオロギー的情報によって、大規模言語モデル内の潜在的パーティエンコーディングコンポーネントがどのように活性化されるかを検討する。 この内部知識を機械的予測によって活用することで,予測精度が向上することが判明した。
• 参考スコア（独自算出の注目度）: 8.075670640219784
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Large language models are increasingly used to predict human preferences in both scientific and business endeavors, yet current approaches rely exclusively on analyzing model outputs without considering the underlying mechanisms. Using election forecasting as a test case, we introduce mechanistic forecasting, a method that demonstrates that probing internal model representations offers a fundamentally different - and sometimes more effective - approach to preference prediction. Examining over 24 million configurations across 7 models, 6 national elections, multiple persona attributes, and prompt variations, we systematically analyze how demographic and ideological information activates latent party-encoding components within the respective models. We find that leveraging this internal knowledge via mechanistic forecasting (opposed to solely relying on surface-level predictions) can improve prediction accuracy. The effects vary across demographic versus opinion-based attributes, political parties, national contexts, and models. Our findings demonstrate that the latent representational structure of LLMs contains systematic, exploitable information about human preferences, establishing a new path for using language models in social science prediction tasks.
• Abstract（参考訳）: 大規模言語モデルは、科学とビジネスの両方の取り組みにおいて人間の嗜好を予測するためにますます使われているが、現在のアプローチは、基礎となるメカニズムを考慮せずに、モデル出力の分析にのみ依存している。 テストケースとして選挙予測を用いることで、内部モデル表現の探索が、選好予測に対して根本的に異なる(時としてより効果的)アプローチを提供することを示す手法であるメカニスティック予測を導入する。 7つのモデルにまたがる2400万以上の構成,6つの国政選挙,複数のペルソナ属性,および迅速な変動について検討し,各モデルにおける人口統計学的およびイデオロギー的情報がどのように潜時的なパーティエンコーディングコンポーネントを活性化するかを系統的に分析した。 この内部知識を機械的予測(表面レベルの予測のみに依存すると思われる)によって活用することで、予測精度が向上することがわかった。 影響は、世論と世論に基づく属性、政党、国家的文脈、モデルによって様々である。 その結果, LLMの潜在表現構造には, 人間の嗜好に関する体系的, 活用可能な情報が含まれており, 社会科学予測タスクに言語モデルを使用するための新たな経路が確立された。

関連論文リスト

• Internal Causal Mechanisms Robustly Predict Language Model Out-of-Distribution Behaviors [61.92704516732144]
  正当性予測の最も堅牢な特徴は、モデルの振舞いに特徴的な因果的役割を果たすものであることを示す。 モデル出力の正しさを予測するために因果メカニズムを利用する2つの手法を提案する。
  論文  参考訳（メタデータ） (2025-05-17T00:31:39Z)
• LLM Processes: Numerical Predictive Distributions Conditioned on Natural Language [35.84181171987974]
  我々のゴールは、数値データを処理し、任意の場所で確率的予測を行うレグレッションモデルを構築することである。 まず、大規模言語モデルから明示的で一貫性のある数値予測分布を抽出する戦略を探求する。 本研究では,テキストを数値予測に組み込む能力を示し,予測性能を改善し,定性的な記述を反映した定量的な構造を与える。
  論文  参考訳（メタデータ） (2024-05-21T15:13:12Z)
• Ecosystem-level Analysis of Deployed Machine Learning Reveals Homogeneous Outcomes [72.13373216644021]
  本研究では,機械学習の社会的影響を,特定の文脈に展開されるモデルの集合を考慮し検討する。 デプロイされた機械学習はシステム障害を起こしやすいため、利用可能なすべてのモデルに排他的に誤分類されているユーザもいます。 これらの例は、エコシステムレベルの分析が、機械学習の社会的影響を特徴づける独自の強みを持っていることを示している。
  論文  参考訳（メタデータ） (2023-07-12T01:11:52Z)
• Explaining Hate Speech Classification with Model Agnostic Methods [0.9990687944474738]
  本研究の目的は、ヘイトスピーチ予測と、その決定を支援するためにシステムによって生成された説明とのギャップを埋めることである。 これは、まずテキストの分類を予測し、その後、ポストホック、モデル非依存、代理的解釈可能性アプローチを提供することによって達成されている。
  論文  参考訳（メタデータ） (2023-05-30T19:52:56Z)
• What Should I Know? Using Meta-gradient Descent for Predictive Feature Discovery in a Single Stream of Experience [63.75363908696257]
  計算強化学習は、未来の感覚の予測を通じて、エージェントの世界の知覚を構築しようとする。 この一連の作業において、オープンな課題は、エージェントがどの予測が意思決定を最も支援できるかを、無限に多くの予測から決定することである。 本稿では,エージェントが何を予測するかを学習するメタ段階的な降下過程,(2)選択した予測の見積もり,3)将来の報酬を最大化するポリシーを生成する方法を紹介する。
  論文  参考訳（メタデータ） (2022-06-13T21:31:06Z)
• Building Interpretable Models for Business Process Prediction using Shared and Specialised Attention Mechanisms [5.607831842909669]
  我々は、解釈可能なモデルを構築することにより、予測プロセス分析における「ブラックボックス」問題に対処する。 本稿では,特定のプロセスイベントが予測に与える影響を捉えるイベントアテンションと,その予測に影響を及ぼすイベントの属性を明らかにする属性アテンションの2つのタイプを提案する。
  論文  参考訳（メタデータ） (2021-09-03T10:17:05Z)
• Test-time Collective Prediction [73.74982509510961]
  マシンラーニングの複数のパーティは、将来のテストポイントを共同で予測したいと考えています。 エージェントは、すべてのエージェントの集合の集合的な専門知識の恩恵を受けることを望んでいるが、データやモデルパラメータを解放する意思はないかもしれない。 我々は、各エージェントの事前学習モデルを利用して、テスト時に集合的な予測を行う分散型メカニズムを探索する。
  論文  参考訳（メタデータ） (2021-06-22T18:29:58Z)
• Forethought and Hindsight in Credit Assignment [62.05690959741223]
  我々は、前向きモデルや後向きモデルによる後向き操作による予測として使われる計画の利益と特異性を理解するために活動する。 本稿では,予測を(再)評価すべき状態の選択に主眼を置いて,計画におけるモデルの利用について検討する。
  論文  参考訳（メタデータ） (2020-10-26T16:00:47Z)
• Introduction to Rare-Event Predictive Modeling for Inferential Statisticians -- A Hands-On Application in the Prediction of Breakthrough Patents [0.0]
  本稿では,予測性能の最適化を目的とした定量的分析のための機械学習(ML)手法を提案する。 両フィールド間の潜在的な相乗効果について考察する。 我々は,コンピュータサイエンスの用語のデミスティフィケーションを目指して,定量的な社会科学の聴衆に手持ちの予測モデルの導入を行っている。
  論文  参考訳（メタデータ） (2020-03-30T13:06:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。