論文の概要: Mitigating Package Hallucinations in Large Language Models via Model Editing

• arxiv url: http://arxiv.org/abs/2607.02052v1
• Date: Thu, 02 Jul 2026 11:27:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-03 19:45:08.814248
• Title: Mitigating Package Hallucinations in Large Language Models via Model Editing
• Title（参考訳）: モデル編集による大規模言語モデルにおけるパッケージ幻覚の緩和
• Authors: Shuhan Liu, Yukai Zhao, Xing Hu, Kui Liu, Xiaohu Yang, Xin Xia,
• Abstract要約: BOUNDは、大規模言語モデルにおけるパッケージ幻覚を緩和するための軽量なローカライズドモデル編集フレームワークである。 まず、リスク認識型ローカライゼーション戦略を通じてパッケージ幻覚に関連するモジュールを特定し、次に軽量なLoRAでこれらのモジュールを編集する。 実験の結果,BOUNDは有効なパッケージレコメンデーションを維持しつつ,パッケージの幻覚を効果的に軽減することがわかった。
• 参考スコア（独自算出の注目度）: 11.455817131025675
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) have demonstrated strong capabilities in software engineering tasks, such as code generation, library recommendation, and dependency configuration. However, recent studies show that LLMs may suffer from package hallucination, where they generate non-existent or invalid package names. These hallucinations can be exploited in software supply chain attacks, as attackers may register malicious packages under hallucinated names. Therefore, mitigating package hallucination is important for improving the reliability and security of LLM-assisted software development. In this paper, we introduce BOUND, a lightweight localized model editing framework for mitigating package hallucinations in LLMs. BOUND formulates package hallucination mitigation as a package-validity boundary editing problem, where the boundary refers to the model's ability to distinguish valid packages from hallucinated package names under a given task context. It first locates modules related to package hallucination through a risk-aware localization strategy, and then edits these modules with lightweight LoRA adapters using a boundary-aware objective that reinforces valid packages, suppresses hallucinated packages, and preserves locality behavior. Experimental results show that BOUND effectively reduces package hallucinations while preserving valid package recommendations. In the package recommendation task, BOUND reduces package-level hallucination rate (Package-HR) by 79.9% on edit prompts and by 65.4% on unseen prompts. The learned package-validity boundary further generalizes to other package-related tasks, reducing Package-HR by 12.8% in code generation and by 34.0% in pip install recommendation. These results show that BOUND refines the package-validity boundary of LLMs and improves the reliability of package-related outputs.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、コード生成、ライブラリレコメンデーション、依存性設定など、ソフトウェアエンジニアリングタスクにおいて強力な機能を示している。 しかし、近年の研究では、LLMはパッケージ幻覚に悩まされ、存在しないパッケージ名や無効パッケージ名を生成することが示されている。 これらの幻覚は、ソフトウェアサプライチェーン攻撃で悪用され、攻撃者は幻覚された名前で悪意あるパッケージを登録することができる。 したがって、LCM支援ソフトウェア開発の信頼性と安全性を向上させるために、パッケージ幻覚の緩和が重要である。 本稿では,LLMにおけるパッケージ幻覚を緩和する軽量な局所化モデル編集フレームワークであるBOUNDを紹介する。 バウンドは、パッケージ値境界編集問題としてパッケージ幻覚の緩和を定式化し、バウンダリとは、与えられたタスクコンテキスト下で幻覚パッケージ名から有効なパッケージを識別する能力を指す。 まず、リスク対応のローカライゼーション戦略を通じてパッケージの幻覚に関連するモジュールを特定し、そのモジュールをバウンダリ対応のオブジェクトを使用して軽量のLoRAアダプタで編集し、有効なパッケージを強化し、幻覚パッケージを抑圧し、ローカリティ動作を保存する。 実験の結果,BOUNDは有効なパッケージレコメンデーションを維持しつつ,パッケージの幻覚を効果的に軽減することがわかった。 パッケージレコメンデーションタスクでは、パッケージレベルの幻覚率(Package-HR)を編集プロンプトで79.9%、目に見えないプロンプトで65.4%削減する。 学習したパッケージ価境界は、他のパッケージ関連タスクにさらに一般化され、パッケージ-HRはコード生成で12.8%、pipインストールで34.0%削減される。 これらの結果から,BOUND は LLM のパッケージ有効性境界を洗練し,パッケージ関連出力の信頼性を向上させることが示唆された。

関連論文リスト

• Harmless Yet Harmful: Neutral Prompting Attacks for Stealthy Hallucination Steering in Agent Skills [15.148439025792017]
  本稿では,EmphNeutral Prompting Attack (NPA)を紹介する。 NPAは、明示的な悪意のある意図を含まないまま、パッケージ幻覚の再現性を高めるなど、意味論的に良心的な指示を付与するステルスシー攻撃パラダイムである。 以上の結果から,NPAはEmphHallucination ASRとemphPip Install ASRをともに増加させ,幻覚パッケージ名の分布を変化させ,既存の静的解析,LLM,エージェントベースのスキル防御を回避した。
  論文  参考訳（メタデータ） (2026-05-28T04:48:45Z)
• The Range Shrinks, the Threat Remains: Re-evaluating LLM Package Hallucinations on the 2026 Frontier-Model Cohort [51.56484100374058]
  Spracklenらは、コード生成された大きな言語モデルは、PyPIやnpmに存在しないパッケージ名を幻覚させることを示した。 199,845対のPythonとJavaScriptプロンプトの幻覚率を測定し、PyPIとnpmマスターリストに対して検証した。 127個のパッケージ名(PyPIは109個,npmは18個)を5つの評価モデルで同一に作成する。
  論文  参考訳（メタデータ） (2026-05-16T16:08:52Z)
• HFuzzer: Testing Large Language Models for Package Hallucinations via Phrase-based Fuzzing [8.667234284704655]
  大規模言語モデル(LLM)はコード生成に広く使用されているが、実用製品に適用した場合、重大なセキュリティリスクに直面している。 パッケージ幻覚に対するLLMのテストは、パッケージ幻覚を緩和し、潜在的な攻撃に対して防御するために重要である。 パッケージ幻覚のためのLLMをテストするための新しいフレーズベースのファジリングフレームワークであるHFUZZERを提案する。
  論文  参考訳（メタデータ） (2025-09-28T12:16:43Z)
• Mitigating Hallucinations in Multimodal LLMs via Object-aware Preference Optimization [55.543583937522804]
  MLLM(Multimodal Large Language Models)は、様々なタスクに対処するための統一インターフェースとして登場した。 多くのベンチマークで最先端の結果が誇示されているにもかかわらず、長年の問題はMLLMが幻覚を起こす傾向にある。 本稿では,幻覚の問題をアライメント問題として取り上げ,幻覚を伴わないコンテンツを生成するためのMLLMのステアリングを試みる。
  論文  参考訳（メタデータ） (2025-08-27T18:02:04Z)
• JPS: Jailbreak Multimodal Large Language Models with Collaborative Visual Perturbation and Textual Steering [73.962469626788]
  マルチモーダルな大規模言語モデル(MLLM)に対するジェイルブレイク攻撃は重要な研究課題である。 JPS, UnderlineJailbreak MLLMs with collaborative visual underlinePerturbation and textual underlineSteering。
  論文  参考訳（メタデータ） (2025-08-07T07:14:01Z)
• Generate, but Verify: Reducing Hallucination in Vision-Language Models with Retrospective Resampling [78.78822033285938]
  VLM(Vision-Language Models)は視覚的理解に優れ、視覚幻覚に悩まされることが多い。 本研究では,幻覚を意識したトレーニングとオンザフライの自己検証を統合した統合フレームワークREVERSEを紹介する。
  論文  参考訳（メタデータ） (2025-04-17T17:59:22Z)
• We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs [3.515912713354746]
  パッケージ幻覚は、大規模な言語モデルを使用してコードを生成する際に、ファクトコンフリクトのエラーから生じる。 本稿では,プログラム言語間におけるパッケージ幻覚の厳密かつ包括的評価を行う。 幻覚パッケージの平均パーセンテージは、商用モデルでは少なくとも5.2%、オープンソースモデルでは21.7%である。
  論文  参考訳（メタデータ） (2024-06-12T03:29:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。