論文の概要: Apolitical Intelligence? Auditing Delphi's responses on controversial
political issues in the US
- arxiv url: http://arxiv.org/abs/2306.13000v1
- Date: Thu, 22 Jun 2023 15:56:50 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-23 13:46:18.068933
- Title: Apolitical Intelligence? Auditing Delphi's responses on controversial
political issues in the US
- Title(参考訳): 政治情報?
デルファイ氏の米政治問題に対する対応を監査
- Authors: Jonathan H. Rystr{\o}m
- Abstract要約: 私はクラウドソース倫理のために設計された大規模言語モデルであるDelphiの監査を通じて中立性を調べます。
デルフィは自信に乏しく、政治的に重大な歪みを見せている。
データフェミニストレンズによる中立性の問題について、中立性の概念がいかにパワーをシフトさせ、不審な声を余分に減らすかという観点から検討する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As generative language models are deployed in ever-wider contexts, concerns
about their political values have come to the forefront with critique from all
parts of the political spectrum that the models are biased and lack neutrality.
However, the question of what neutrality is and whether it is desirable remains
underexplored. In this paper, I examine neutrality through an audit of Delphi
[arXiv:2110.07574], a large language model designed for crowdsourced ethics. I
analyse how Delphi responds to politically controversial questions compared to
different US political subgroups. I find that Delphi is poorly calibrated with
respect to confidence and exhibits a significant political skew. Based on these
results, I examine the question of neutrality from a data-feminist lens, in
terms of how notions of neutrality shift power and further marginalise unheard
voices. These findings can hopefully contribute to a more reflexive debate
about the normative questions of alignment and what role we want generative
models to play in society.
- Abstract(参考訳): 生成言語モデルは、より広範に展開されるため、その政治的価値に対する懸念は、モデルがバイアスを受け、中立性が欠如しているという政治的スペクトルのあらゆる部分からの批判で最前線に現れている。
しかし、中立性とそれが望ましいかどうかという問題は未検討のままである。
本稿では,クラウドソースの倫理のために設計された大規模言語モデルである delphi [arxiv:2110.07574] の監査を通して,中立性を検討する。
私は、delphiが政治的に議論された質問に対して、米国の異なる政治サブグループに対してどのように反応するかを分析します。
デルポイは信頼感に欠けており、政治的に大きな偏りがあると思います。
これらの結果から,データフェミニストレンズの中立性に関する問題を,中立性の概念がいかにパワーをシフトさせ,さらに無音音声を疎外するかという観点から検討する。
これらの発見は、アライメントの規範的問題と、社会における生成モデルの役割について、より反射的な議論に寄与することを期待している。
関連論文リスト
- Whose Side Are You On? Investigating the Political Stance of Large Language Models [56.883423489203786]
大規模言語モデル(LLM)の政治的指向性について,8つのトピックのスペクトルにわたって検討する。
我々の調査は、中絶からLGBTQ問題まで8つのトピックにまたがるLLMの政治的整合性について考察している。
この結果から,ユーザはクエリ作成時に留意すべきであり,中立的なプロンプト言語を選択する際には注意が必要であることが示唆された。
論文 参考訳(メタデータ) (2024-03-15T04:02:24Z) - Whose Emotions and Moral Sentiments Do Language Models Reflect? [5.958974943807783]
言語モデル(LM)は、ある社会集団の視点を他のグループよりも良く表現することが知られている。
両イデオロギー群とLMの相違点が有意である。
特定のイデオロギー的な視点でLMを操った後も、モデルのミスアライメントとリベラルな傾向は持続する。
論文 参考訳(メタデータ) (2024-02-16T22:34:53Z) - Inducing Political Bias Allows Language Models Anticipate Partisan
Reactions to Controversies [5.958974943807783]
本研究では,Large Language Models (LLMs) を用いたデジタル談話における政治的偏見の理解の課題に対処する。
本稿では,Partisan Bias Divergence AssessmentとPartisan Class Tendency Predictionからなる包括的分析フレームワークを提案する。
以上の結果から,感情的・道徳的ニュアンスを捉えたモデルの有効性が明らかとなった。
論文 参考訳(メタデータ) (2023-11-16T08:57:53Z) - Navigating the Ocean of Biases: Political Bias Attribution in Language
Models via Causal Structures [58.059631072902356]
我々は、LLMの価値観を批判したり、検証したりせず、どのようにして「良い議論」を解釈し、偏見づけるかを見極めることを目的としている。
本研究では,活動依存ネットワーク(ADN)を用いてLCMの暗黙的基準を抽出する。
人-AIアライメントとバイアス緩和について,本研究の結果について考察した。
論文 参考訳(メタデータ) (2023-11-15T00:02:25Z) - Moral consensus and divergence in partisan language use [0.0]
政治的議論では分極化が著しく増加し、党派分裂の拡大に寄与した。
我々はRedditコミュニティやニュースメディアで大規模で現実的な言語の使用を分析し、パルチザン言語を分割した心理的次元を明らかにする。
論文 参考訳(メタデータ) (2023-10-14T16:50:26Z) - Whose Opinions Do Language Models Reflect? [88.35520051971538]
質の高い世論調査と関連する人的反応を利用して,言語モデル(LM)に反映された意見を検討する。
我々は、現在のLMが反映している見解と、アメリカの人口集団の見解の間にかなりの不一致を見出した。
我々の分析は、人間のフィードバック調整されたLMの左利き傾向に関する事前の観察を裏付けるものである。
論文 参考訳(メタデータ) (2023-03-30T17:17:08Z) - Bias or Diversity? Unraveling Fine-Grained Thematic Discrepancy in U.S.
News Headlines [63.52264764099532]
われわれは、2014年から2022年までの米国の主要メディアから、180万件のニュース記事の大規模なデータセットを使用している。
我々は、国内政治、経済問題、社会問題、外交の4つの主要なトピックに関連する、きめ細かいテーマの相違を定量化する。
以上の結果から,国内政治や社会問題においては,一定のメディア偏見が原因であることが示唆された。
論文 参考訳(メタデータ) (2023-03-28T03:31:37Z) - NeuS: Neutral Multi-News Summarization for Mitigating Framing Bias [54.89737992911079]
様々な政治スペクトルの複数のニュース見出しから中立的な要約を生成する新しい課題を提案する。
最も興味深い観察の1つは、生成モデルは、事実的に不正確なコンテンツや検証不可能なコンテンツだけでなく、政治的に偏ったコンテンツにも幻覚を与えることができることである。
論文 参考訳(メタデータ) (2022-04-11T07:06:01Z) - Reaching the bubble may not be enough: news media role in online
political polarization [58.720142291102135]
分極を減らす方法は、異なる政治的指向を持つ個人に党間のニュースを分配することである。
本研究は、ブラジルとカナダにおける全国選挙の文脈において、これが成立するかどうかを考察する。
論文 参考訳(メタデータ) (2021-09-18T11:34:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。