論文の概要: A Framework for Identifying, Categorizing, and Explaining Bias in AI-Generated Code

• arxiv url: http://arxiv.org/abs/2609.30642v1
• Date: Fri, 25 Sep 2026 00:22:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 18:27:51.160158
• Title: A Framework for Identifying, Categorizing, and Explaining Bias in AI-Generated Code
• Title（参考訳）: AI生成コードにおけるバイアスの識別、分類、説明のためのフレームワーク
• Abstract要約: 本研究では,AI生成コードのバイアスを調査し,大言語モデルがカテゴリを確実に識別し,それを説明できるかどうかを評価する。 プロプライエタリおよびオープンソース LLM は自動バイアス検出と正当化システムとして評価された。 以上の結果から,LLMはコードバイアスの同定と説明を効果的にサポートできることが示唆された。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As Large Language Models (LLMs) become integrated into software development workflows, concerns regarding unintentional biases in AI-generated code. Although evidence suggests these biases exist, limited research has systematically identified, categorized, and explained them. This study investigates bias in AI-generated code and evaluates whether LLMs can reliably identify and explain it through a taxonomy-driven framework. We extended an existing dataset of biased AI-generated Python code and manually annotated snippets with bias categories and human-authored justifications to establish a ground-truth dataset. Using this dataset, we evaluated proprietary and open-source LLMs as automated bias detection and justification systems through ICL. Finally, we analyzed similarity between LLM-generated explanations and human-authored justifications using structured justification and code identification metrics. Our findings demonstrate that LLMs can effectively support code bias identification and explanation. Gemini achieved 80.14% classification accuracy, with 84.0% precision and 95.7% recall, while the best open-source alternative, Qwen3-coder, achieved 82.45% accuracy, 68.64% precision, and 80.22% recall. Additionally, the models achieved justification similarity scores of 80.4% and 80.14%, respectively, relative to human-authored reasoning, and code identification similarity scores of 86.0% and 87.82%. These results suggest that LLMs can detect biased logic in generated Python code and produce explanations that substantially align with expert interpretations.
• Abstract（参考訳）: 大規模言語モデル(LLM)がソフトウェア開発ワークフローに統合されるにつれ、AI生成コードの意図しないバイアスに関する懸念が高まっている。 これらのバイアスが存在することを示す証拠はあるが、限られた研究は体系的に特定され、分類され、説明されている。 本研究は,AI生成コードのバイアスを調査し,LLMが分類学駆動の枠組みによって確実に識別し,説明できるかどうかを評価する。 我々は、バイアス付きAI生成Pythonコードの既存のデータセットを拡張し、バイアスカテゴリ付き手動注釈付きスニペットと、人間によって承認された正当化を加えて、地味なデータセットを確立しました。 このデータセットを用いて、ICLによる自動バイアス検出および正当化システムとして、プロプライエタリおよびオープンソースLLMを評価した。 最後に,LLMの生成した説明と人間による正当化の類似性を,構造化された正当化とコード識別メトリクスを用いて分析した。 以上の結果から,LLMはコードバイアスの同定と説明を効果的にサポートできることが示唆された。 Geminiは84.0%の精度と95.7%のリコールで80.14%の精度を達成し、Qwen3-coderは82.45%の精度、68.64%の精度、80.22%のリコールを達成した。 さらに、モデルはそれぞれ80.4%と80.14%の正当性スコアを、人間による推論と比較し、コード識別類似度スコアを86.0%と87.82%とした。 これらの結果は,LLMが生成したPythonコードのバイアス論理を検出し,専門家の解釈とほぼ一致した説明を生成することを示唆している。

関連論文リスト

• IdeaAMBIG: Benchmarking Implementation-Critical Gaps in Research-Idea Specifications [52.570108663867046]
  研究のアイデアは、新しく、一貫性があり、科学的に妥当であるが、その提案された手法は、忠実な実装のために不十分に指定されている。 提案手法は,実装を対象とする研究手法仕様の体系化の可否を,有能な実装者やコーディングエージェントに十分な方法論的情報を提供して,前提条件を満たさずに目的とする手法を構築することができるかを検討する。 IdeaAMBIGは660のエビデンス基底インスタンスのベンチマークで、レポートとGitHubの問題から163の現実世界のギャップと、コーディフィケーション対応のリファレンスに注入される合成ギャップを497のコントロールで管理する。
  論文  参考訳（メタデータ） (2026-09-09T17:59:04Z)
• TruthInsightBench: An Evidence-Grounded Benchmark for Automated Evaluation of Open-Ended Scientific Discovery Agents [11.367029696505357]
  本稿では,発見のためのベンチマークであるTruthInsightBenchを紹介する。 10の科学領域にわたる40の査読された研究から引き出された40の盲目タスクは、中立的な科学的目的と凍結したデータのみを露呈する。 固定LDMベースの審査員は、6次元に沿ってエージェント自身のクレームの明らかな成熟度を評価する。
  論文  参考訳（メタデータ） (2026-09-04T12:37:20Z)
• Mitigating LLM Sycophancy in Code Smell Detection Using Evidence-Guided Reasoning Prompts [0.0]
  大規模言語モデルにおける梅毒のバイアスに関する最初の体系的実証的研究について述べる。 LLMに基づくコードの臭い検出の信頼性に、梅毒のバイアスが重大な脅威となることを示す。 我々は,エビデンス優先の推論を強制する構造化促進戦略であるEvidence-Guided Debiasing Prompting (EGDP)を提案する。
  論文  参考訳（メタデータ） (2026-07-11T17:35:25Z)
• From Code to Prediction: Fine-Tuning LLMs for Neural Network Performance Classification in NNGPT [48.83701310501069]
  NNGPTフレームワークに組み込まれた分類タスクを提案する。 微調整されたLLMは、与えられたニューラルネットワークアーキテクチャの2つの画像分類データセットのうちどれがより高い精度を達成するかを予測する。 その結果、LLMはニューラルネットワークコードからデータセット間の適合性を予測するために微調整可能であることが判明した。
  論文  参考訳（メタデータ） (2026-05-05T12:30:19Z)
• From Stochastic Answers to Verifiable Reasoning: Interpretable Decision-Making with LLM-Generated Code [0.0]
  大規模言語モデル(LLM)は、高い意思決定にますます使われている。 ブラックボックスモデルはそれらの推論を曖昧にし、最近のLCMベースのルールシステムはサンプル単位の評価に依存している。 我々は,LLMをインスタンスごとの評価器ではなくコードジェネレータとして再フレーミングすることを提案する。
  論文  参考訳（メタデータ） (2026-02-28T00:27:29Z)
• Whitespaces Don't Lie: Feature-Driven and Embedding-Based Approaches for Detecting Machine-Generated Code [0.2624902795082451]
  大規模言語モデル(LLM)は、自然言語のプロンプトから可塑性ソースコードを驚くほど簡単に合成できる。 本稿では,2つの相補的アプローチを比較することで,機械生成コードと人間の書き起こしを区別する問題について検討する。
  論文  参考訳（メタデータ） (2026-01-27T06:43:51Z)
• Verifying Large Language Models' Reasoning Paths via Correlation Matrix Rank [71.09032766271493]
  大規模言語モデル (LLM) は誤りや幻覚を引き起こす傾向がある。 アウトプットを効果的かつ効率的にチェックする方法は、アプリケーションにとって重要な問題となっている。
  論文  参考訳（メタデータ） (2025-10-28T11:01:10Z)
• How Do LLM-Generated Texts Impact Term-Based Retrieval Models? [76.92519309816008]
  本稿では,大規模言語モデル(LLM)が項ベース検索モデルに与える影響について検討する。 言語学的解析により,LLM生成テキストはよりスムーズで低周波なZipf勾配を示すことが明らかとなった。 本研究は,項分布がクエリと密接に一致した文書を優先して,項ベース検索モデルがソースバイアスを示すかどうかを考察する。
  論文  参考訳（メタデータ） (2025-08-25T06:43:27Z)
• The simulation of judgment in LLMs [32.57692724251287]
  大規模言語モデル(LLM)は、情報フィルタリングから説明と信頼性の判断を通じて知識ギャップの評価と対処に至るまで、評価プロセスに組み込まれている。 これにより、このような評価がどのように構築されるのか、どのような仮定に依存しているのか、その戦略が人間のものとどのように異なるのかを調べる必要が生じる。 我々は、専門家の評価に対して、6つのLCM(NewsGuardとMedia Bias/Fact Check)と、制御された実験を通して収集された人間の判断に対してベンチマークを行った。
  論文  参考訳（メタデータ） (2025-02-06T18:52:10Z)
• Evaluating Human Alignment and Model Faithfulness of LLM Rationale [66.75309523854476]
  大規模言語モデル(LLM)が,その世代を理論的にどのように説明するかを考察する。 提案手法は帰属に基づく説明よりも「偽り」が少ないことを示す。
  論文  参考訳（メタデータ） (2024-06-28T20:06:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。