論文の概要: On the Amplification of Linguistic Bias through Unintentional
Self-reinforcement Learning by Generative Language Models -- A Perspective
- arxiv url: http://arxiv.org/abs/2306.07135v1
- Date: Mon, 12 Jun 2023 14:17:05 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-13 14:21:21.995491
- Title: On the Amplification of Linguistic Bias through Unintentional
Self-reinforcement Learning by Generative Language Models -- A Perspective
- Title（参考訳）: 生成言語モデルによる意図しない自己強化学習による言語バイアスの増幅について
- Authors: Minhyeok Lee
- Abstract要約: ジェネレーティブ言語モデル(GLM)は、言語景観を著しく形作る可能性がある。
本稿では,GLMの初期バイアスが生成したテキストに反映される現象が,その後のモデルの学習材料に反映される可能性について考察する。
この潜在的な自己強化サイクルの影響は、モデル自体を超えて、人間の言語や言論に影響を与える。
- 参考スコア（独自算出の注目度）: 2.458437232470188
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Generative Language Models (GLMs) have the potential to significantly shape
our linguistic landscape due to their expansive use in various digital
applications. However, this widespread adoption might inadvertently trigger a
self-reinforcement learning cycle that can amplify existing linguistic biases.
This paper explores the possibility of such a phenomenon, where the initial
biases in GLMs, reflected in their generated text, can feed into the learning
material of subsequent models, thereby reinforcing and amplifying these biases.
Moreover, the paper highlights how the pervasive nature of GLMs might influence
the linguistic and cognitive development of future generations, as they may
unconsciously learn and reproduce these biases. The implications of this
potential self-reinforcement cycle extend beyond the models themselves,
impacting human language and discourse. The advantages and disadvantages of
this bias amplification are weighed, considering educational benefits and ease
of future GLM learning against threats to linguistic diversity and dependence
on initial GLMs. This paper underscores the need for rigorous research to
understand and address these issues. It advocates for improved model
transparency, bias-aware training techniques, development of methods to
distinguish between human and GLM-generated text, and robust measures for
fairness and bias evaluation in GLMs. The aim is to ensure the effective, safe,
and equitable use of these powerful technologies, while preserving the richness
and diversity of human language.
- Abstract（参考訳）: ジェネレーティブ言語モデル(GLM)は、様々なデジタルアプリケーションで広く使われているため、言語景観を著しく形作る可能性がある。
しかし、この普及が必然的に、既存の言語バイアスを増幅する自己強化学習サイクルを引き起こす可能性がある。
本稿では,GLMの初期バイアスが生成したテキストに反映され,その後のモデルの学習材料に反映され,それらのバイアスを補強・増幅する現象の可能性を探る。
さらに,GLMの広範性が,これらのバイアスを無意識に学習し,再現することによって,次世代の言語・認知発達にどのように影響するかを明らかにする。
この潜在的な自己強化サイクルの意味はモデル自身を超えて広がり、人間の言語や談話に影響を与える。
このバイアス増幅の利点とデメリットは、言語多様性への脅威と初期glmへの依存に対する教育的利益と将来のglm学習の容易さを考慮して検討される。
本稿は,これらの課題を理解し,解決するための厳密な研究の必要性を浮き彫りにする。
モデル透明性の向上、バイアス対応トレーニング技術、人間とGLM生成テキストを区別する手法の開発、およびGLMの公正性とバイアス評価のための堅牢な尺度を提唱している。
目的は、人間の言語の豊かさと多様性を保ちながら、これらの強力な技術の効果的で安全で公平な利用を確保することである。
関連論文リスト
- Persuasion with Large Language Models: a Survey [49.86930318312291]
大規模言語モデル (LLM) は説得力のあるコミュニケーションに新たな破壊的可能性を生み出している。
政治、マーケティング、公衆衛生、電子商取引、慈善事業などの分野では、LLMシステムズは既に人間レベルや超人的説得力を達成している。
LLMをベースとした説得の現在と将来の可能性は、倫理的・社会的リスクを著しく引き起こす可能性が示唆された。
論文 参考訳（メタデータ） (2024-11-11T10:05:52Z) - Trustworthy Alignment of Retrieval-Augmented Large Language Models via Reinforcement Learning [84.94709351266557]
検索強化に関して,言語モデルの信頼性に焦点をあてる。
検索強化言語モデルには,文脈的知識とパラメトリック的知識の両方に応じて応答を供給できる本質的な能力があると考えられる。
言語モデルと人間の嗜好の整合性に着想を得て,検索強化言語モデルを外部証拠にのみ依存する状況に整合させるための第一歩を踏み出した。
論文 参考訳（メタデータ） (2024-10-22T09:25:21Z) - Are Large Language Models Really Bias-Free? Jailbreak Prompts for Assessing Adversarial Robustness to Bias Elicitation [0.0]
大規模言語モデル(LLM)は人工知能に革命をもたらし、卓越した計算能力と言語能力を示している。
これらのモデルは本質的に、トレーニングデータから生じる様々なバイアスに起因している。
本研究は,近年のLCMの応答におけるこれらのバイアスの存在について検討し,その公正さと信頼性への影響を分析した。
論文 参考訳（メタデータ） (2024-07-11T12:30:19Z) - Understanding Privacy Risks of Embeddings Induced by Large Language Models [75.96257812857554]
大きな言語モデルは、人工知能の初期の兆候を示すが、幻覚に苦しむ。
1つの有望な解決策は、外部知識を埋め込みとして保存し、LLMを検索強化世代に支援することである。
近年の研究では、事前学習された言語モデルによるテキスト埋め込みから、元のテキストを部分的に再構築できることが実験的に示されている。
論文 参考訳（メタデータ） (2024-04-25T13:10:48Z) - "Im not Racist but...": Discovering Bias in the Internal Knowledge of
Large Language Models [6.21188983355735]
大規模言語モデル内に隠されたステレオタイプを明らかにするための,新しい,純粋にプロンプトに基づくアプローチを提案する。
本研究は,自然言語処理システムにおける透明性の向上と公平性の促進に寄与する。
論文 参考訳（メタデータ） (2023-10-13T00:03:37Z) - Uncertainty in Natural Language Generation: From Theory to Applications [42.55924708592451]
我々は,不確実性に対する原則的対応が,これらの目標に適合するシステムや評価プロトコルの作成に有効であると主張している。
まず,不確実性を表現するために必要な基本理論,枠組み,語彙について述べる。
そこで,本研究では,一般的なアレタリック/エピステミック二分法よりも情報的かつ忠実な2次元分類法を提案する。
論文 参考訳（メタデータ） (2023-07-28T17:51:21Z) - On the application of Large Language Models for language teaching and
assessment technology [18.735612275207853]
我々は,AIによる言語教育とアセスメントシステムに大規模言語モデルを導入する可能性を検討する。
より大きな言語モデルは、テキスト生成における以前のモデルよりも改善されていることがわかった。
自動階調と文法的誤り訂正において、よく知られたベンチマークで進捗が確認されたタスクについては、初期の調査では、彼ら自身の大きな言語モデルが最先端の結果を改善していないことが示されている。
論文 参考訳（メタデータ） (2023-07-17T11:12:56Z) - A Survey of Large Language Models [81.06947636926638]
言語モデリングは、過去20年間、言語理解と生成のために広く研究されてきた。
近年,大規模コーパス上でのトランスフォーマーモデルの事前学習により,事前学習言語モデル (PLM) が提案されている。
パラメータスケールの違いを識別するために、研究コミュニティは大規模言語モデル (LLM) という用語を提唱した。
論文 参考訳（メタデータ） (2023-03-31T17:28:46Z) - Color Overmodification Emerges from Data-Driven Learning and Pragmatic
Reasoning [53.088796874029974]
話者の指示表現は、実践的な言語使用の性質を照らし出すのに役立つ方法で、コミュニケーションイデアルから逸脱していることを示す。
ニューラルネットワークを学習エージェントとして採用することにより、過度な修正は、頻度の低い、あるいは正常な環境特性に結びつく可能性が高いことを示す。
論文 参考訳（メタデータ） (2022-05-18T18:42:43Z) - Towards Understanding and Mitigating Social Biases in Language Models [107.82654101403264]
大規模事前訓練言語モデル(LM)は、望ましくない表現バイアスを示すのに潜在的に危険である。
テキスト生成における社会的バイアスを軽減するためのステップを提案する。
我々の経験的結果と人的評価は、重要な文脈情報を保持しながらバイアスを緩和する効果を示す。
論文 参考訳（メタデータ） (2021-06-24T17:52:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。