論文の概要: Identifying Implicit Bias in LLM-based Chat AI Toward People with Intellectual Disabilities

• arxiv url: http://arxiv.org/abs/2607.26062v1
• Date: Tue, 16 Jun 2026 20:30:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-02 22:55:39.091873
• Title: Identifying Implicit Bias in LLM-based Chat AI Toward People with Intellectual Disabilities
• Title（参考訳）: 知的障害者に向けたLCMベースのチャットAIにおける意図しないバイアスの同定
• Abstract要約: 本研究は,知的障害者を対象としたLarge Language Model (LLM)ベースのチャットAIモデルにおける暗黙バイアスの存在について検討する。 GPT-4-Turboモデルインスタンスを用いて25,000のコンピュータ生成ストーリーを解析し,従来の文献に記述されたバイアスのテーマに関連する人々の表現方法の違いを検出する。 母性愛と幼児化をテーマに,IDを若年者とみなす上での差異を同定した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Background: This work investigates the presence of implicit bias in Large Language Model (LLM)-based chat AI models directed toward people with intellectual disabilities (ID). Objective: The study aims to identify and measure representational differences related to people with ID and examine them to identify implicit biases inherent in AI chat generation technologies. Methods: Utilizing the GPT-4-Turbo model, we requested story-generation based on 10 prompt stems with and without descriptors for ID. This process was repeated using four other LLMs (OpenAI GPT-4o, Meta Llama-3-3-70B-Instruct, Anthropic Claude-3-5-Sonnet, and Mistral-Large-2411). The resulting 25,000 computer-generated stories were analyzed using a separate GPT-4-Turbo model instance to detect differences in how people are represented related to themes of bias described in previous literature. Results: Our findings reveal differences in how people are represented between story datasets with and without ID descriptors. These differences go beyond established characteristics of ID and imply the presence of mostly negative implicit biases. Identified differences related to considering people with ID as younger, with themes of paternalism and infantilization; depicting them as more inspirational and symbolic; as needing help more often, being dependent, and being saved; and having a negative perception of them and more hesitation to include them. Conclusions: These implicit biases are considered within the context of past discrimination towards people with ID and highlight the need for diligence against implicit bias towards people with ID in AI development. This research underscores the importance of assessing and mitigating implicit bias in decision-making technologies to prevent future societal harm.
• Abstract（参考訳）: 背景:本研究は,知的障害者を対象としたLarge Language Model (LLM)ベースのチャットAIモデルにおける暗黙のバイアスの存在を調査する。 目的: この研究は、IDを持つ人々に関連する表現的差異を特定し、測定することを目的としており、AIチャット生成技術に固有の暗黙のバイアスを識別することを目的としている。 方法: GPT-4-Turbo モデルを用いて,ID 記述子のない 10 個のプロンプトをベースとしたストーリージェネレーションを依頼した。 このプロセスは、他の4つのLCM(OpenAI GPT-4o、Meta Llama-3-70B-Instruct、Anthhropic Claude-3-5-Sonnet、Mistral-Large-2411)を使用して繰り返された。 GPT-4-Turboモデルインスタンスを用いて25,000のコンピュータ生成ストーリーを分析し、以前の文献で記述されたバイアスのテーマに関連する人々の表現方法の違いを検出する。 結果:本研究の結果は,ID記述子の有無にかかわらず,ストーリーデータセット間で人々がどのように表現されるかの相違を明らかにした。 これらの違いは、IDの確立した特性を超えており、主に否定的な偏見の存在を示唆している。 アイデンティティを持つ人々を若く考えること、父性主義と幼児化のテーマ、よりインスピレーションと象徴として描写すること、より頻繁に助けを必要とし、依存し、救われること、そしてそれらを含むことに対する否定的な認識と、それを含むためためためである。 結論: これらの暗黙の偏見は、IDを持つ人々に対する過去の差別の文脈内で考慮され、AI開発におけるIDを持つ人々に対する暗黙の偏見に対する勤勉の必要性を強調します。 本研究は、今後の社会的害を防止するために、意思決定技術における暗黙の偏見を評価し緩和することの重要性を浮き彫りにする。

関連論文リスト

• Thinking Before Matching: A Reinforcement Reasoning Paradigm Towards General Person Re-Identification [77.51622646061314]
  ReID-Rは、明確なアイデンティティ理解と推論を実現する新しい推論駆動パラダイムとして提案されている。 複数のReIDベンチマークの実験では、ReID-Rは優れた手法として、競争力のある識別性を達成している。
  論文  参考訳（メタデータ） (2026-04-21T08:24:07Z)
• Sociodemographic Biases in Educational Counselling by Large Language Models [61.30199414932204]
  本研究では,Large Language Models(LLMs)における社会デマトグラフィーバイアスについて検討する。 多様な状況下で生徒を記述した900のヴィグネットに関する質問に答える6つのLDMからの回答を評価した。
  論文  参考訳（メタデータ） (2026-04-03T14:08:22Z)
• Mitigation of Gender and Ethnicity Bias in AI-Generated Stories through Model Explanations [2.86989372262348]
  言語モデルは、特に性別と民族の表現において、そのアウトプットを通じて社会的偏見を伝播させることが示されている。 本稿では,AIが生み出す職業物語におけるジェンダーと民族のバイアスについて検討する。 提案した緩和戦略であるバイアス分析と説明による緩和(BAME)は,2%から20%の範囲の人口表現の改善を明らかにする。
  論文  参考訳（メタデータ） (2025-09-03T00:25:25Z)
• Yet another algorithmic bias: A Discursive Analysis of Large Language Models Reinforcing Dominant Discourses on Gender and Race [4.10874761487336]
  LLM(Large Language Models)は、様々な文脈において広く使われてきた言語モデルである。 より洗練されたバージョンへと進化するにつれて、差別や人種化といったバイアスを再現するかどうかを評価することが不可欠である。 本研究では,このような手法を補完する定性的・非帰的枠組みを提案する。
  論文  参考訳（メタデータ） (2025-08-14T03:22:02Z)
• Investigating Intersectional Bias in Large Language Models using Confidence Disparities in Coreference Resolution [5.061421107401101]
  大規模言語モデル(LLM)は目覚ましいパフォーマンスを達成し、採用や受け入れといったリソース制約のあるコンテキストで意思決定支援ツールとして広く採用されている。 しかし、AIシステムは社会的バイアスを反映し、さらに悪化させることができるという科学的コンセンサスがあり、批判的な社会的文脈で使用される場合、アイデンティティに基づく害についての懸念が高まる。 本研究では,複数の識別軸が交差する際,異なる不利パターンを生じることを認識して,一軸の公平性評価を拡張し,交差バイアスを検証した。
  論文  参考訳（メタデータ） (2025-08-09T22:24:40Z)
• A Tale of Two Identities: An Ethical Audit of Human and AI-Crafted Personas [7.3656495945307086]
  大規模言語モデル (LLMs) はデータ制限領域における合成ペルソナの生成にますます利用されている。 本稿では,3つのLSMが生成する合成ペルソナを表現的害のレンズを通して評価し,特に人種的アイデンティティに着目した。 以上の結果から, LLMは, 人種的マーカーに偏り, 文化的にコード化された言語を過剰に生成し, 構文的に精巧だが物語的に還元的なペルソナを構築できることが判明した。 これらのパターンは、ステレオタイピング、エキゾチック、消去、好ましくない偏見など、様々な社会技術的害をもたらす。
  論文  参考訳（メタデータ） (2025-05-07T20:12:48Z)
• Laissez-Faire Harms: Algorithmic Biases in Generative Language Models [0.0]
  そこで本研究では,最も広範に普及しているLMの5つのテキストから合成されたテキストが,未成年者に対する脱落,従属化,ステレオタイピングの被害を永久に及ぼしていることを示す。 我々は、そのような個人が、LM生成出力に遭遇する確率が数百から数千倍にも達するほど、偏見の証拠が広範囲にあることを発見した。 本研究は,言語モデルによる差別的被害から消費者を守るための緊急の必要性を浮き彫りにした。
  論文  参考訳（メタデータ） (2024-04-11T05:09:03Z)
• Are Personalized Stochastic Parrots More Dangerous? Evaluating Persona Biases in Dialogue Systems [103.416202777731]
  我々は、対話モデルが採用するペルソナに付随する有害な行動の感度であると定義する「ペルソナバイアス」について検討する。 我々は,人格バイアスを有害な表現と有害な合意のバイアスに分類し,攻撃性,有害継続性,関連性,ステレオタイプ合意,および有害合意の5つの側面において,人格バイアスを測定する包括的な評価枠組みを確立する。
  論文  参考訳（メタデータ） (2023-10-08T21:03:18Z)
• Stable Bias: Analyzing Societal Representations in Diffusion Models [72.27121528451528]
  本稿では,テキスト・ツー・イメージ(TTI)システムにおける社会的バイアスを探索する新しい手法を提案する。 我々のアプローチは、プロンプト内の性別や民族のマーカーを列挙して生成された画像の変動を特徴づけることに依存している。 我々はこの手法を利用して3つのTTIシステムによって生成された画像を分析し、そのアウトプットが米国の労働人口層と相関しているのに対して、彼らは常に異なる範囲において、限界化されたアイデンティティを低く表現している。
  論文  参考訳（メタデータ） (2023-03-20T19:32:49Z)
• Rumor Detection with Self-supervised Learning on Texts and Social Graph [101.94546286960642]
  異種情報ソース上での自己教師型学習を対照的に提案し,それらの関係を明らかにするとともに,噂をよりよく特徴付ける。 我々はこの枠組みをSRD(Self-supervised Rumor Detection)と呼ぶ。 3つの実世界のデータセットに対する大規模な実験により、ソーシャルメディア上での噂の自動検出におけるSRDの有効性が検証された。
  論文  参考訳（メタデータ） (2022-04-19T12:10:03Z)
• AES Systems Are Both Overstable And Oversensitive: Explaining Why And Proposing Defenses [66.49753193098356]
  スコアリングモデルの驚くべき逆方向の脆さの原因について検討する。 のモデルとして訓練されているにもかかわらず、単語の袋のように振る舞うことを示唆している。 高い精度で試料を発生させる過敏性と過敏性を検出できる検出ベース保護モデルを提案する。
  論文  参考訳（メタデータ） (2021-09-24T03:49:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。