論文の概要: AI Hallucinations: A Misnomer Worth Clarifying

• arxiv url: http://arxiv.org/abs/2401.06796v1
• Date: Tue, 9 Jan 2024 01:49:41 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-22 12:29:10.611795
• Title: AI Hallucinations: A Misnomer Worth Clarifying
• Title（参考訳）: AIの幻覚: ミスノマーな価値を明確にする
• Authors: Negar Maleki, Balaji Padmanabhan, Kaushik Dutta
• Abstract要約: 我々は,すべてのデータベースで得られた定義を提示,分析し,それらのアプリケーションに基づいて分類し,各カテゴリのキーポイントを抽出する。 この結果は、この用語の使われ方における一貫性の欠如を浮き彫りにし、文献におけるいくつかの代替用語の特定にも役立ちます。
• 参考スコア（独自算出の注目度）: 4.880243880711163
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As large language models continue to advance in Artificial Intelligence (AI), text generation systems have been shown to suffer from a problematic phenomenon termed often as "hallucination." However, with AI's increasing presence across various domains including medicine, concerns have arisen regarding the use of the term itself. In this study, we conducted a systematic review to identify papers defining "AI hallucination" across fourteen databases. We present and analyze definitions obtained across all databases, categorize them based on their applications, and extract key points within each category. Our results highlight a lack of consistency in how the term is used, but also help identify several alternative terms in the literature. We discuss implications of these and call for a more unified effort to bring consistency to an important contemporary AI issue that can affect multiple domains significantly.
• Abstract（参考訳）: 大規模な言語モデルが人工知能(ai)の進歩を続ける中、テキスト生成システムはしばしば「幻覚」と呼ばれる問題のある現象に苦しむことが示されている。 しかし、医学を含む様々な分野におけるAIの存在感が高まり、この用語自体の使用に関する懸念が持ち上がっている。 本研究では,14のデータベースにまたがって「ai幻覚」を定義する論文を体系的に検討した。 全データベースにまたがって得られた定義を提示・分析し,そのアプリケーションに基づいて分類し,各カテゴリ内のキーポイントを抽出する。 この結果は、この用語の使われ方における一貫性の欠如を浮き彫りにし、文献におけるいくつかの代替用語の特定にも役立ちます。 我々は、これらの意味を議論し、複数のドメインに大きな影響を与える重要な現代ai問題に一貫性をもたらすためのより統一的な取り組みを求める。

関連論文リスト

• Reefknot: A Comprehensive Benchmark for Relation Hallucination Evaluation, Analysis and Mitigation in Multimodal Large Language Models [13.48296910438554]
  現在のマルチモーダル大言語モデル(MLLM)に悩まされる幻覚 実世界のシナリオから得られた20,000以上のサンプルからなる関係幻覚を対象とするベンチマークであるReefknotを紹介する。 3つの異なるタスクに対する比較評価の結果、関係幻覚を緩和する現在のMLLMの能力に重大な欠点があることが判明した。
  論文  参考訳（メタデータ） (2024-08-18T10:07:02Z)
• Data Set Terminology of Deep Learning in Medicine: A Historical Review and Recommendation [0.7897552065199818]
  医学とディープラーニングに基づく人工知能工学は、数十年にわたる歴史を持つ2つの異なる分野を表している。 このような歴史によって、特定の方法が適用される一連の用語がもたらされる。 このレビューは、これらの用語の歴史的文脈を与え、これらの用語が医療AIの文脈で使用されるときの明確さの重要性を強調することを目的としている。
  論文  参考訳（メタデータ） (2024-04-30T07:07:45Z)
• Comparing Hallucination Detection Metrics for Multilingual Generation [62.97224994631494]
  本稿では,各言語にまたがって生成した伝記要約における幻覚を,様々な事実の幻覚検出指標がいかによく識別するかを評価する。 自動測度が相互にどのように相関するか, 事実判断に一致しているかを比較検討した。 我々の分析によると、語彙指標は非効率であるが、NLIベースのメトリクスはよく機能し、多くの設定における人間のアノテーションと相関し、しばしば教師付きモデルよりも優れている。
  論文  参考訳（メタデータ） (2024-02-16T08:10:34Z)
• HALO: An Ontology for Representing and Categorizing Hallucinations in Large Language Models [2.9312156642007294]
  Hallucination Ontology (HALO) はOWLで書かれており、大きな言語モデル(LLM)で見られる6種類の幻覚をサポートしている。 我々は,複数の独立したWebソースに対して帰納的に収集した幻覚を含むデータセットを公開し,このデータセットをモデル化し,有能な質問に答えるためにHALOをうまく利用できることを示す。
  論文  参考訳（メタデータ） (2023-12-08T17:57:20Z)
• Representing visual classification as a linear combination of words [0.0]
  視覚分類タスクの言語ベースの記述子を識別するために,視覚言語モデルを用いた説明可能性戦略を提案する。 画像とテキストの間に予め訓練された結合埋め込み空間を利用することで,新しい分類課題を単語の線形結合として推定する。 その結果,ドメイン特化言語訓練の欠如にもかかわらず,結果として得られた記述子は臨床知識とほぼ一致していることが判明した。
  論文  参考訳（メタデータ） (2023-11-18T02:00:20Z)
• Insights into Classifying and Mitigating LLMs' Hallucinations [48.04565928175536]
  本稿では,AI幻覚の根本原因を解明し,人工知能におけるその意義を明らかにする。 我々は,大規模な言語モデルの全体的な信頼性を高めることを目的として,幻覚を緩和するための潜在的戦略を探究する。
  論文  参考訳（メタデータ） (2023-11-14T12:30:28Z)
• Towards Mitigating Hallucination in Large Language Models via Self-Reflection [63.2543947174318]
  大規模言語モデル(LLM)は、質問応答(QA)タスクを含む生成的および知識集約的なタスクを約束している。 本稿では,広範に採用されているLCMとデータセットを用いた医療再生QAシステムにおける幻覚現象を解析する。
  論文  参考訳（メタデータ） (2023-10-10T03:05:44Z)
• AutoHall: Automated Hallucination Dataset Generation for Large Language Models [56.92068213969036]
  本稿では,AutoHallと呼ばれる既存のファクトチェックデータセットに基づいて,モデル固有の幻覚データセットを自動的に構築する手法を提案する。 また,自己コントラディションに基づくゼロリソース・ブラックボックス幻覚検出手法を提案する。
  論文  参考訳（メタデータ） (2023-09-30T05:20:02Z)
• A Linguistic Investigation of Machine Learning based Contradiction Detection Models: An Empirical Analysis and Future Perspectives [0.34998703934432673]
  本稿では,2つの自然言語推論データセットについて,その言語的特徴について分析する。 目標は、特に機械学習モデルを理解するのが難しい、構文的および意味的特性を特定することである。
  論文  参考訳（メタデータ） (2022-10-19T10:06:03Z)
• MGD-GAN: Text-to-Pedestrian generation through Multi-Grained Discrimination [96.91091607251526]
  本稿では, 人的部分に基づく識別器と自己対応型識別器を併用した多点識別拡張生成適応ネットワークを提案する。 HPDモジュールには、多彩な外観と鮮明な詳細を強制するために、きめ細かい単語レベルの注意機構が採用されている。 様々な測定値に対する大幅な改善は、MGD-GANがテキストからペデストリアン合成シナリオに有効であることを示す。
  論文  参考訳（メタデータ） (2020-10-02T12:24:48Z)
• Mechanisms for Handling Nested Dependencies in Neural-Network Language Models and Humans [75.15855405318855]
  我々は,「深層学習」手法で訓練された現代人工ニューラルネットワークが,人間の文処理の中心的な側面を模倣するかどうかを検討した。 ネットワークは、大きなコーパスで次の単語を予測するためにのみ訓練されたが、分析の結果、局所的および長距離の構文合意をうまく処理する特別なユニットが出現した。 我々は,複数の名詞の単数/複数状態における体系的な変化を伴う文中の数一致の違反を人間が検出する行動実験において,モデルの予測を検証した。
  論文  参考訳（メタデータ） (2020-06-19T12:00:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。