論文の概要: An Evolutionary Large Language Model for Hallucination Mitigation

• arxiv url: http://arxiv.org/abs/2412.02790v1
• Date: Tue, 03 Dec 2024 19:40:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-05 15:09:59.095465
• Title: An Evolutionary Large Language Model for Hallucination Mitigation
• Title（参考訳）: 幻覚緩和のための進化的大規模言語モデル
• Authors: Abdennour Boulesnane, Abdelhakim Souilah,
• Abstract要約: 本稿では,幻覚を最小化しながら高品質な質問応答データセットを生成するEvoLLMを提案する。 EvoLLMsは、Depth、Relevance、Coverageといった主要なメトリクスで、人間の生成データセットを一貫して上回る。 これらの結果は、EvoLLMをQAデータセット生成の堅牢で効率的なソリューションとして強調し、手作業によるキュレーションに必要な時間とリソースを大幅に削減した。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: The emergence of LLMs, like ChatGPT and Gemini, has marked the modern era of artificial intelligence applications characterized by high-impact applications generating text, images, and videos. However, these models usually ensue with one critical challenge called hallucination: confident presentation of inaccurate or fabricated information. This problem attracts serious concern when these models are applied to specialized domains, including healthcare and law, where the accuracy and preciseness of information are absolute conditions. In this paper, we propose EvoLLMs, an innovative framework inspired by Evolutionary Computation, which automates the generation of high-quality Question-answering (QA) datasets while minimizing hallucinations. EvoLLMs employs genetic algorithms, mimicking evolutionary processes like selection, variation, and mutation, to guide LLMs in generating accurate, contextually relevant question-answer pairs. Comparative analysis shows that EvoLLMs consistently outperforms human-generated datasets in key metrics such as Depth, Relevance, and Coverage, while nearly matching human performance in mitigating hallucinations. These results highlight EvoLLMs as a robust and efficient solution for QA dataset generation, significantly reducing the time and resources required for manual curation.
• Abstract（参考訳）: ChatGPTやGeminiのようなLLMの出現は、テキスト、画像、ビデオを生成する高インパクトアプリケーションによって特徴づけられる人工知能応用の現代を象徴している。 しかしながら、これらのモデルは、通常幻覚と呼ばれる1つの重要な課題、すなわち不正確な情報や造形情報の確実な提示で解決される。 この問題は、情報の正確さと正確さが絶対的条件である医療や法律など、これらのモデルを専門分野に適用する場合、深刻な懸念を惹きつける。 本稿では,進化計算にインスパイアされたイノベーティブなフレームワークであるEvoLLMを提案する。 EvoLLMsは遺伝的アルゴリズムを用いて、選択、変異、突然変異などの進化過程を模倣し、LLMを正確に、文脈的に関係のある質問応答ペアを生成するように誘導する。 比較分析によると、EvoLLMsは人間の生成したデータセットをDepth、Relevance、Coverageといった主要な指標で一貫して上回り、幻覚を緩和する上での人間のパフォーマンスとほぼ一致している。 これらの結果は、EvoLLMsがQAデータセット生成の堅牢で効率的なソリューションであることを強調し、手作業によるキュレーションに必要な時間とリソースを大幅に削減した。

関連論文リスト

• Breaking Focus: Contextual Distraction Curse in Large Language Models [68.4534308805202]
  大規模言語モデル(LLM)の重大な脆弱性について検討する。 この現象は、セマンティック・コヒーレントだが無関係な文脈で修正された質問に対して、モデルが一貫した性能を維持することができないときに発生する。 本稿では,CDVの例を自動生成する効率的な木探索手法を提案する。
  論文  参考訳（メタデータ） (2025-02-03T18:43:36Z)
• Neuro-Symbolic Data Generation for Math Reasoning [47.00099724151703]
  高品質な教師付き数学的データセットを自動生成する手法を開発した。 本手法は,既存の数学問題を慎重に変更し,新たに生成した問題の多様性と妥当性を両立させる。 実験により,提案手法により生成したデータの品質を実証し,LLaMA-2 と Mistral が最先端のデータを上回ることを示した。
  論文  参考訳（メタデータ） (2024-12-06T08:49:49Z)
• Evaluating Language Models as Synthetic Data Generators [74.80905172696366]
  AgoraBenchは、LMのデータ生成能力を評価するための標準化された設定とメトリクスを提供するベンチマークである。 6つのLMを使って126万のトレーニングインスタンスを合成し、99の学生モデルをトレーニングすることで、LMのデータ生成能力に関する重要な洞察を明らかにする。
  論文  参考訳（メタデータ） (2024-12-04T19:20:32Z)
• Development and Comparative Analysis of Machine Learning Models for Hypoxemia Severity Triage in CBRNE Emergency Scenarios Using Physiological and Demographic Data from Medical-Grade Devices [0.0]
  グラディエントブースティングモデル(GBM)は、トレーニング速度、解釈可能性、信頼性の点で、シーケンシャルモデルを上回った。 タイムリーな介入のために5分間の予測ウィンドウが選択された。 本研究は、トリアージを改善し、アラーム疲労を軽減するMLの可能性を強調した。
  論文  参考訳（メタデータ） (2024-10-30T23:24:28Z)
• A Debate-Driven Experiment on LLM Hallucinations and Accuracy [7.821303946741665]
  本研究では,大規模言語モデル(LLM)における幻覚現象について検討する。 GPT-4o-Miniモデルの複数のインスタンスは、TrathfulQAデータセットからの質問によって引き起こされた議論のような相互作用に関与している。 1つのモデルは、もっともらしいが偽の答えを生成するように故意に指示され、他のモデルは真に応答するように要求される。
  論文  参考訳（メタデータ） (2024-10-25T11:41:27Z)
• Catching Chameleons: Detecting Evolving Disinformation Generated using Large Language Models [16.408611714514976]
  我々は,事前学習した言語モデルの一般的な事実チェック機能と協調的に活用するパラメータ効率の高いDLD(Detecting Evolving LLM-Generative Disinformation)を提案する。 実験の結果, TextitDELD は最先端の手法よりも優れていた。
  論文  参考訳（メタデータ） (2024-06-26T00:21:39Z)
• Towards Mitigating Hallucination in Large Language Models via Self-Reflection [63.2543947174318]
  大規模言語モデル(LLM)は、質問応答(QA)タスクを含む生成的および知識集約的なタスクを約束している。 本稿では,広範に採用されているLCMとデータセットを用いた医療再生QAシステムにおける幻覚現象を解析する。
  論文  参考訳（メタデータ） (2023-10-10T03:05:44Z)
• AutoHall: Automated Hallucination Dataset Generation for Large Language Models [56.92068213969036]
  本稿では,AutoHallと呼ばれる既存のファクトチェックデータセットに基づいて,モデル固有の幻覚データセットを自動的に構築する手法を提案する。 また,自己コントラディションに基づくゼロリソース・ブラックボックス幻覚検出手法を提案する。
  論文  参考訳（メタデータ） (2023-09-30T05:20:02Z)
• Genetic InfoMax: Exploring Mutual Information Maximization in High-Dimensional Imaging Genetics Studies [50.11449968854487]
  遺伝子ワイド・アソシエーション(GWAS)は、遺伝的変異と特定の形質の関係を同定するために用いられる。 画像遺伝学の表現学習は、GWASによって引き起こされる固有の課題により、ほとんど探索されていない。 本稿では,GWAS の具体的な課題に対処するために,トランスモーダル学習フレームワーク Genetic InfoMax (GIM) を提案する。
  論文  参考訳（メタデータ） (2023-09-26T03:59:21Z)
• VisEvol: Visual Analytics to Support Hyperparameter Search through Evolutionary Optimization [4.237343083490243]
  機械学習(ML)モデルのトレーニングフェーズでは、通常、いくつかのハイパーパラメータを設定する必要がある。 本稿では、ハイパーパラメータのインタラクティブな探索と、この進化過程への介入を支援するビジュアル分析ツールVisEvolを紹介する。 VisEvolの実用性と適用性は,2つのユースケースと,ツールの有効性を評価するML専門家へのインタビューで実証された。
  論文  参考訳（メタデータ） (2020-12-02T13:43:37Z)
• Select-ProtoNet: Learning to Select for Few-Shot Disease Subtype Prediction [55.94378672172967]
  本研究は, 類似患者のサブグループを同定し, 数発の疾患のサブタイプ予測問題に焦点を当てた。 新しいモデルを開発するためにメタラーニング技術を導入し、関連する臨床課題から共通の経験や知識を抽出する。 我々の新しいモデルは、単純だが効果的なメタ学習マシンであるPrototypeal Networkと呼ばれる、慎重に設計されたメタラーナーに基づいて構築されている。
  論文  参考訳（メタデータ） (2020-09-02T02:50:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。