論文の概要: CodeTD: Topology of Attention Detects Hallucinations in Code LLMs

• arxiv url: http://arxiv.org/abs/2609.07779v1
• Date: Mon, 07 Sep 2026 17:26:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:08.490249
• Title: CodeTD: Topology of Attention Detects Hallucinations in Code LLMs
• Title（参考訳）: CodeTD: 注意のトポロジーがコードLLMの幻覚を検出する
• Abstract要約: トポロジ的データ分析に基づくコード正当性を事前に評価するための最初のアプローチであるCodeTDを紹介する。 本手法は,注意図のトポロジカルパターンを用いて,次世代のミスマッチを定量化する。 我々は,共通ベンチマーク(HumanEval,MBPP,BigCodeBench,MultiPL-E),5つのプログラミング言語と最大34BパラメータのコードLLMを用いて実験を行った。
• 参考スコア（独自算出の注目度）: 27.185430677659667
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As AI-code assistant tools become widespread, automatic assessment of the correctness of generated code becomes a significant challenge. Code LLMs are prone to hallucinations, which may lead to code that does not solve the required problem, or even to code with severe security vulnerabilities. In this paper, we introduce CodeTD -- the first approach to pre-execution assessment of code correctness based on topological data analysis (TDA) of Code LLMs' attention maps. Our method quantifies prompt-generation mismatch using topological patterns of attention maps. We carry out experiments with common benchmarks (HumanEval, MBPP, BigCodeBench, MultiPL-E), 5 programming languages and 10 Code LLMs of size up to 34B parameters. The experimental results show that the proposed method outperforms recent baselines. Moreover, CodeTD is transferable between coding benchmarks.
• Abstract（参考訳）: AIコードアシスタントツールが普及するにつれて、生成されたコードの正確性の自動評価が重要な課題となっている。 コードLLMは幻覚を起こしやすいため、必要な問題を解決しないコードや、深刻なセキュリティ上の脆弱性のあるコードに繋がる可能性がある。 本稿では,コードLLMのアテンションマップのトポロジカルデータ解析(TDA)に基づいて,コード正当性を事前に評価するための最初のアプローチであるCodeTDを紹介する。 本手法は,注意図のトポロジカルパターンを用いて,次世代のミスマッチを定量化する。 我々は,共通ベンチマーク(HumanEval,MBPP,BigCodeBench,MultiPL-E),5つのプログラミング言語と最大34BパラメータのコードLLMを用いて実験を行った。 実験の結果,提案手法は最近のベースラインよりも優れていることがわかった。 さらに、CodeTDはコーディングベンチマーク間で転送可能である。

関連論文リスト

• Can Post-Training Turn LLMs into Good Medical Coders? An Empirical Study of Generative ICD Coding [40.63304781183767]
  ジェネレーティブ・大型言語モデル(LLM)は弱い医療用コーダーとしてしばしば報告される。 生成型ICD符号化のためのポストトレーニングに関する制御的実証的研究について述べる。
  論文  参考訳（メタデータ） (2026-06-11T22:04:50Z)
• Inferring Code Correctness from Specification [0.0]
  大規模言語モデル(LLM)は現代のソフトウェア開発に不可欠なものとなり、大規模に自動コード生成を可能にしている。 提案するTRAILS(Targeted Reasoning Agreement via Inputs and Specifications)は,コンクリート(インプット,アウトプット)ペアによるLCM推論を基礎とする手法である。 TRAILSをLiveCodeBenchとCoCoClaNeLの2つのデータセット(Qwen3Coder-30B、Devstral-Small-24B、Olmo3.1-Instruct)で評価し、HoarePromptとZero-Shot Chain-of-Thoughtベースラインと比較した。
  論文  参考訳（メタデータ） (2026-05-28T12:04:51Z)
• CodeSimpleQA: Scaling Factuality in Code Large Language Models [55.705748501461294]
  本稿では,コード関連質問への回答において,LLMの実際の精度を評価するための総合的なベンチマークであるCodeSimpleQAを提案する。 また,66万サンプルの大規模インストラクションコーパスであるCodeSimpleQA-Instructを作成し,教師付き微調整と強化学習を組み合わせたポストトレーニングフレームワークを開発した。
  論文  参考訳（メタデータ） (2025-12-22T14:27:17Z)
• A Systematic Literature Review of Code Hallucinations in LLMs: Characterization, Mitigation Methods, Challenges, and Future Directions for Reliable AI [54.34738767990601]
  大規模言語モデルがソフトウェアエンジニアリングタスクに統合されるにつれ、コードの幻覚の理解と緩和が不可欠になる。 コード指向LLMにおける幻覚現象を4つの重要な観点から体系的に検討する。
  論文  参考訳（メタデータ） (2025-11-02T02:58:41Z)
• Is Compression Really Linear with Code Intelligence? [60.123628177110206]
  textitFormat Annealingは、事前訓練されたモデルの本質的な能力を同等に評価するために設計された、軽量で透明なトレーニング手法である。 我々の経験的結果は、測定されたコードインテリジェンスとビット・パー・キャラクタ(BPC)の基本的な対数関係を明らかにする。 私たちの研究は、コードインテリジェンスの開発における圧縮の役割をより微妙に理解し、コードドメインにおける堅牢な評価フレームワークに貢献します。
  論文  参考訳（メタデータ） (2025-05-16T16:59:14Z)
• An Effective Approach to Embedding Source Code by Combining Large Language and Sentence Embedding Models [6.976968804436321]
  本稿では,大言語と文埋め込みモデルを組み合わせた新しいソースコード埋め込み手法を提案する。 提案手法の性能を評価するため,異なるプログラミング言語を用いた3つのデータセットについて一連の実験を行った。
  論文  参考訳（メタデータ） (2024-09-23T01:03:15Z)
• What's Wrong with Your Code Generated by Large Language Models? An Extensive Study [92.62952504133926]
  本研究は,3つの一般的なベンチマーク上で,3つの主要なクローズドソースLLMと6つの人気のあるオープンソースLLMの性能評価を行った。 間違ったコードに対するバグの分類を開発し、一般的なバグタイプに対する根本原因を分析した。 本稿では,自己批判を導入し,LLMが生成したコードに対する批判と修正を可能にする,新たな学習自由反復手法を提案する。
  論文  参考訳（メタデータ） (2024-07-08T17:27:17Z)
• Uncovering LLM-Generated Code: A Zero-Shot Synthetic Code Detector via Code Rewriting [78.48355455324688]
  原符号とLLM書き換え版との類似性に基づく新しいゼロショット合成符号検出器を提案する。 以上の結果から,既存のSOTA合成コンテンツ検出装置よりも顕著な改善が得られた。
  論文  参考訳（メタデータ） (2024-05-25T08:57:28Z)
• CodeHalu: Investigating Code Hallucinations in LLMs via Execution-based Verification [73.66920648926161]
  本稿では,コード幻覚の概念を導入し,実行検証に基づくコード幻覚の分類法を提案する。 本稿では,コード幻覚の検出と定量化を目的とした,CodeHaluと呼ばれる動的検出アルゴリズムを提案する。 また、699のタスクから8,883のサンプルを含むCodeHaluEvalベンチマークを導入し、コードの幻覚を体系的に定量的に評価する。
  論文  参考訳（メタデータ） (2024-04-30T23:56:38Z)
• Fixing Large Language Models' Specification Misunderstanding for Better Code Generation [13.494822086550604]
  muFiXは、大きな言語モデル(LLM)のコード生成性能を改善する新しいプロンプト技術である。 まず、テストケース分析を利用して仕様の理解を得、自己改善プロセスを可能にする。 muFiXはさらに、提供された理解と実際の理解の間のギャップを減らす方向に向けた仕様理解を修正している。
  論文  参考訳（メタデータ） (2023-09-28T02:58:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。