Fugu-MT 論文翻訳(概要): Concerns on Bias in Large Language Models when Creating Synthetic Personae

論文の概要: Concerns on Bias in Large Language Models when Creating Synthetic Personae

arxiv url: http://arxiv.org/abs/2405.05080v1
Date: Wed, 8 May 2024 14:24:11 GMT
ステータス: 処理完了
システム内更新日: 2024-05-09 14:14:56.357557
Title: Concerns on Bias in Large Language Models when Creating Synthetic Personae
Title（参考訳）: 合成ペルソナ作成における大規模言語モデルのバイアスに関する考察
Authors: Helena A. Haxvig,
Abstract要約: 本稿では,HCI研究に合成人格を取り入れることのメリット,欠点,倫理的考察について考察する。この研究は、これらのモデルにかかわる課題を理解するための基盤を確立することを目的としており、それらを利用して合成人格を作成する前に徹底的なテストの必要性を強調している。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by-nc-sa/4.0/
Abstract: This position paper explores the benefits, drawbacks, and ethical considerations of incorporating synthetic personae in HCI research, particularly focusing on the customization challenges beyond the limitations of current Large Language Models (LLMs). These perspectives are derived from the initial results of a sub-study employing vignettes to showcase the existence of bias within black-box LLMs and explore methods for manipulating them. The study aims to establish a foundation for understanding the challenges associated with these models, emphasizing the necessity of thorough testing before utilizing them to create synthetic personae for HCI research.
Abstract（参考訳）: 本稿では,HCI研究に合成人格を取り入れることのメリット,欠点,倫理的考察について考察する。これらの視点は、ブラックボックスLSM内のバイアスの存在を示し、それらを操作する方法を探求するために、ウィグネットを用いたサブスタディの最初の結果から導かれる。本研究は,HCI研究のための総合的ペルソナを作成する前に,徹底的なテストの必要性を強調し,これらのモデルに関連する課題を理解するための基盤を確立することを目的とする。

関連論文リスト

Aggregation Artifacts in Subjective Tasks Collapse Large Language Models' Posteriors [74.04775677110179]
In-context Learning (ICL) は、Large Language Models (LLM) を用いた自然言語処理の主要な手法となっている。本研究は,低アグリゲーション,異質なアノテーションを組み合わせたアグリゲーションの結果が,プロンプトに有害なノイズを生じさせるアノテーションのアーティファクトに繋がるかどうかを考察する。この結果から,アグリゲーションは主観的タスクのモデル化において不明瞭な要因であり,代わりに個人をモデリングすることを重視することが示唆された。
論文参考訳（メタデータ） (2024-10-17T17:16:00Z)
'Simulacrum of Stories': Examining Large Language Models as Qualitative Research Participants [13.693069737188859]
生産モデルに関する最近の興奮は、研究開発における人間の参加と労働の置き換えを示唆する提案の波を引き起こしている。我々は,このパラダイムシフトの視点を理解するために,19人の定性的な研究者にインタビューを行った。
論文参考訳（メタデータ） (2024-09-28T18:28:47Z)
From Linguistic Giants to Sensory Maestros: A Survey on Cross-Modal Reasoning with Large Language Models [56.9134620424985]
クロスモーダル推論(CMR)は、より高度な人工知能システムへの進化における重要な能力として、ますます認識されている。 CMRタスクに取り組むためにLLM(Large Language Models)をデプロイする最近のトレンドは、その有効性を高めるためのアプローチの新たな主流となっている。本調査では,LLMを用いてCMRで適用された現在の方法論を,詳細な3階層分類に分類する。
論文参考訳（メタデータ） (2024-09-19T02:51:54Z)
Reconciling Methodological Paradigms: Employing Large Language Models as Novice Qualitative Research Assistants in Talent Management Research [1.0949553365997655]
本研究では,RAGに基づくLarge Language Models (LLMs) を用いた面接文の解析手法を提案する。この研究の斬新さは、初歩的な研究助手として機能するLSMによって強化された研究調査をストラテジー化することにある。以上の結果から, LLM拡張RAGアプローチは, 手動で生成したトピックと比較して, 興味のあるトピックを抽出できることが示唆された。
論文参考訳（メタデータ） (2024-08-20T17:49:51Z)
Understanding Privacy Risks of Embeddings Induced by Large Language Models [75.96257812857554]
大きな言語モデルは、人工知能の初期の兆候を示すが、幻覚に苦しむ。 1つの有望な解決策は、外部知識を埋め込みとして保存し、LLMを検索強化世代に支援することである。近年の研究では、事前学習された言語モデルによるテキスト埋め込みから、元のテキストを部分的に再構築できることが実験的に示されている。
論文参考訳（メタデータ） (2024-04-25T13:10:48Z)
Exploring Augmentation and Cognitive Strategies for AI based Synthetic Personae [1.0742675209112622]
本稿では、ゼロショットジェネレータではなく、データ拡張システムとして大規模言語モデル(LLM)を使用することを提唱する。 LLM応答をガイドする堅牢な認知・記憶フレームワークの開発を提案する。初期の調査では、データの豊かさ、エピソード記憶、自己回帰技術が合成人格の信頼性を向上させることが示唆された。
論文参考訳（メタデータ） (2024-04-16T20:22:12Z)
Apprentices to Research Assistants: Advancing Research with Large Language Models [0.0]
大規模言語モデル(LLM)は、様々な研究領域において強力なツールとして登場した。本稿では,文献レビューと手動実験を通じてその可能性について考察する。
論文参考訳（メタデータ） (2024-04-09T15:53:06Z)
Privacy Preserving Prompt Engineering: A Survey [14.402638881376419]
事前学習された言語モデル(PLM)は、広範囲の自然言語処理(NLP)タスクを解くのに非常に有能である。その結果、これらのモデルのサイズは近年顕著に拡大している。プライバシーに関する懸念は、広く使われている中で大きな障害となっている。
論文参考訳（メタデータ） (2024-04-09T04:11:25Z)
Survey of Social Bias in Vision-Language Models [65.44579542312489]
調査の目的は、NLP、CV、VLをまたいだ事前学習モデルにおける社会バイアス研究の類似点と相違点について、研究者に高いレベルの洞察を提供することである。ここで提示された発見とレコメンデーションはMLコミュニティの利益となり、公平でバイアスのないAIモデルの開発を促進する。
論文参考訳（メタデータ） (2023-09-24T15:34:56Z)
Bias and Fairness in Large Language Models: A Survey [73.87651986156006]
本稿では,大規模言語モデル(LLM)のバイアス評価と緩和手法に関する総合的な調査を行う。まず、自然言語処理における社会的偏見と公平性の概念を統合し、形式化し、拡張する。次に,3つの直感的な2つのバイアス評価法と1つの緩和法を提案し,文献を統一する。
論文参考訳（メタデータ） (2023-09-02T00:32:55Z)
CRITIC: Large Language Models Can Self-Correct with Tool-Interactive Critiquing [139.77117915309023]
CRITICは、大規模な言語モデルに対して、ツールとのヒューマンインタラクションに似た方法で、自分たちのアウトプットの検証と修正を可能にする。自由形式の質問応答、数学的プログラム合成、毒性低減を含む包括的評価は、CRITICがLLMの性能を一貫して向上することを証明している。
論文参考訳（メタデータ） (2023-05-19T15:19:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。