論文の概要: Pre-Trained Language Models as Zero-Shot Tools for Social Science Research

• arxiv url: http://arxiv.org/abs/2610.19048v1
• Date: Tue, 13 Oct 2026 18:43:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.761225
• Title: Pre-Trained Language Models as Zero-Shot Tools for Social Science Research
• Title（参考訳）: 社会科学研究のためのゼロショットツールとしての事前学習言語モデル
• Abstract要約: 事前学習された言語モデルは、タスク固有のトレーニングを必要とせずに、両方のタスクを正確に実行できることを示します。 レコードリンクについては、文字列ベースのスコアラーとともに事前トレーニングされた埋め込みを使用するアルゴリズムであるEnsembleLinkを紹介します。 名前からの民族的推測については、米国の有権者ファイルで最大83.8%の精度で大きな言語モデル(LLM)が達成されていることを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Record linkage and demographic inference from names are routine demands in social science. Most approaches to these problems require labeled training data that are difficult or costly to acquire. I show that pre-trained language models perform both tasks accurately without requiring task-specific training. For record linkage, I introduce EnsembleLink, an algorithm that uses pre-trained embeddings alongside string-based scorers to retrieve a short list of candidates and then identify the likeliest matches. EnsembleLink matches or exceeds the performance of most prior approaches while generalizing across scripts and formats that those methods are unable to handle. For ethnicity inference from names, I show that large language models (LLMs) achieve up to 83.8% accuracy on U.S. voter files, compared to 78.0% for name-supplemented BISG. Open-weight models offer reproducible implementations that approach these models in accuracy. Moreover, LLMs are able to infer group membership for religious, caste-based, and other ethnic group categories outside of the United States, and reduce bias in downstream estimates of geographic racial gaps. Where pre-training encodes the world knowledge required by each task, task-specific labels add less information.
• Abstract（参考訳）: 名前からのデータリンクと人口統計推定は、社会科学における日常的な要求である。 これらの問題に対するほとんどのアプローチは、取得が困難またはコストがかかるラベル付きトレーニングデータを必要とする。 事前学習された言語モデルは、タスク固有のトレーニングを必要とせずに、両方のタスクを正確に実行できることを示します。 レコードリンクについては、文字列ベースのスコアラーとともにトレーニング済みの埋め込みを使用して、候補の短いリストを検索し、類似したマッチを識別するアルゴリズムであるEnsembleLinkを紹介します。 EnsembleLinkは、これまでのほとんどのアプローチと一致またはオーバーし、それらのメソッドが扱えないスクリプトやフォーマットを一般化する。 名前からの民族的推測では、大言語モデル(LLM)が米国の有権者ファイルで最大83.8%の精度を達成しているのに対し、名前が補足されたBISGは78.0%である。 オープンウェイトモデルは、これらのモデルに精度でアプローチする再現可能な実装を提供する。 さらに、LLMは、米国以外の宗教、カーストベース、その他の民族集団の集団構成員を推定することができ、地理的人種的ギャップの下流の見積もりのバイアスを減らせることができる。 事前トレーニングが各タスクに必要な世界の知識をエンコードする場合、タスク固有のラベルは少ない情報を追加する。

関連論文リスト

• EnsembleLink: Accurate Record Linkage Without Training Data [0.0]
  トレーニングラベルを使わずに精度の高いEnsembleLinkを提案する。 都市名、人名、多言語政党の組織記録にまたがるベンチマークでは、EnsembleLinkがマッチするか、広範囲なラベリングを必要とするメソッドを超える。 このメソッドはオープンソースモデル上でローカルに動作し、外部API呼び出しを必要とせず、典型的なリンケージタスクを数分で完了する。
  論文  参考訳（メタデータ） (2026-01-29T00:41:11Z)
• Findings of the BabyLM Challenge: Sample-Efficient Pretraining on Developmentally Plausible Corpora [84.03928547166873]
  子どもたちは1億ワード未満の入力から言語を習得できる。 大規模な言語モデルはデータ効率がはるかに低く、通常は3～4桁以上のデータを必要とするが、多くの評価において人間ほど性能は高くない。 BabyLM Challengeは、参加者が固定データ予算で言語モデルトレーニングを最適化するために競う共同作業である。
  論文  参考訳（メタデータ） (2025-04-10T23:22:43Z)
• Labels Generated by Large Language Models Help Measure People's Empathy in Vitro [9.536979155245026]
  本稿では,大規模言語モデル(LLM)を用いて主流モデルの教師あり学習を改善することを提案する。 我々は,クラウドソースラベルをLCMラベルに置き換えたり補足したりすることで,統計的に有意な精度向上を実現していることを示す。 本稿では,評価指標の選択と人口統計バイアスを更に分析し,より公平な共感型コンピューティングモデルの開発を支援する。
  論文  参考訳（メタデータ） (2025-01-01T01:06:58Z)
• In-context Demonstration Matters: On Prompt Optimization for Pseudo-Supervision Refinement [71.60563181678323]
  大規模言語モデル(LLM)は様々なタスクで大きな成功を収めており、生成品質をさらに向上させるためには微調整が必要である場合もある。 これらの課題に対処する直接的な解決策は、教師なしの下流タスクから高信頼のデータを生成することである。 本稿では,プロンプトと全体的な擬似スーパービジョンを両立させる新しい手法,擬似教師付きデモアライメント・アライメント・アライメント・プロンプト・最適化(PAPO)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-10-04T03:39:28Z)
• Leveraging Weakly Annotated Data for Hate Speech Detection in Code-Mixed Hinglish: A Feasibility-Driven Transfer Learning Approach with Large Language Models [0.0]
  混合コード低リソース言語におけるヘイトスピーチ検出は、大規模言語モデルの使用が有益であることが証明された活発な問題領域である。 そこで本研究では,100件のYouTubeコメントのデータセットを作成した。 すべてのアプローチにおいて、双方向自動回帰変換器(BART)を用いたゼロショット分類と、生成事前学習変換器3(ChatGPT-3)を用いた少数ショットプロンプトが最適である。
  論文  参考訳（メタデータ） (2024-03-04T15:27:49Z)
• DeMuX: Data-efficient Multilingual Learning [57.37123046817781]
  DEMUXは、大量の重複しない多言語データからラベルを付けるための正確なデータポイントを規定するフレームワークである。 エンドツーエンドのフレームワークは言語に依存しず、モデル表現を記述し、多言語的ターゲット設定をサポートしています。
  論文  参考訳（メタデータ） (2023-11-10T20:09:08Z)
• Wisdom of Instruction-Tuned Language Model Crowds. Exploring Model Label Variation [37.14258903995738]
  LLM(Large Language Models)は、優れたテキスト分類機能を示す。 近年の研究では,データアノテーションにおけるラベルの変動を考慮したことの重要性が強調されている。 我々は,4言語にまたがる5つの主観的タスクに対して,最近の4つの命令調整LDMをアノテータとして評価した。
  論文  参考訳（メタデータ） (2023-07-24T17:49:31Z)
• Ensemble Transfer Learning for Multilingual Coreference Resolution [60.409789753164944]
  非英語で作業する場合に頻繁に発生する問題は、注釈付きトレーニングデータの不足である。 我々は,様々なトランスファー学習技術を組み合わせた,シンプルだが効果的なアンサンブルベースのフレームワークを設計する。 また、ウィキペディアアンカーテキストを利用して、コア参照解決モデルをブートストラップする低コストのTL手法を提案する。
  論文  参考訳（メタデータ） (2023-01-22T18:22:55Z)
• Multilingual Autoregressive Entity Linking [49.35994386221958]
  mGENREはMultilingual Entity Linking問題のためのシーケンス対シーケンスシステムである。 与えられた言語で言及すると、mGENREはターゲットエンティティの名前を左から右へ、トークンごとに予測します。 提案手法の有効性を3つのMELベンチマーク実験を含む広範囲な評価により示す。
  論文  参考訳（メタデータ） (2021-03-23T13:25:55Z)
• Learning Which Features Matter: RoBERTa Acquires a Preference for Linguistic Generalizations (Eventually) [25.696099563130517]
  我々はMSGS(Mixed Signals Generalization Set)と呼ばれる新しい英語診断セットを導入する。 MSGSは20のあいまいなバイナリ分類タスクから構成されており、事前訓練されたモデルが微調整中に言語的あるいは表面的な一般化を好むかどうかをテストするのに使用される。 我々は、RoBERTaモデルを100万語から10億語までのデータ量でスクラッチからプレトレーニングし、MSGS上でのパフォーマンスをRoBERTaベースと比較する。 モデルは事前学習したデータで言語的特徴を表現することができるが、言語的な一般化を表わすためには、はるかに多くのデータが必要である。
  論文  参考訳（メタデータ） (2020-10-11T22:09:27Z)
• Leveraging Adversarial Training in Self-Learning for Cross-Lingual Text Classification [52.69730591919885]
  本稿では,ラベル保存型入力摂動の最大損失を最小限に抑える半教師付き対向学習法を提案する。 多様な言語群に対する文書分類と意図分類において,有効性が著しく向上するのを観察する。
  論文  参考訳（メタデータ） (2020-07-29T19:38:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。