論文の概要: Bias-Aware Agent: Enhancing Fairness in AI-Driven Knowledge Retrieval

• arxiv url: http://arxiv.org/abs/2503.21237v1
• Date: Thu, 27 Mar 2025 07:54:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-28 12:54:51.449927
• Title: Bias-Aware Agent: Enhancing Fairness in AI-Driven Knowledge Retrieval
• Title（参考訳）: Bias-Aware Agent:AI駆動の知識検索における公正性を高める
• Authors: Karanbir Singh, William Ngu,
• Abstract要約: 本研究では,エージェントフレームワークとバイアス検出装置の革新的利用を活用したバイアス認識知識検索手法を提案する。 透明性と意識をユーザに与えることによって、このアプローチはより公平な情報システムを促進することを目指している。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: Advancements in retrieving accessible information have evolved faster in the last few years compared to the decades since the internet's creation. Search engines, like Google, have been the number one way to find relevant data. They have always relied on the user's abilities to find the best information in its billions of links and sources at everybody's fingertips. The advent of large language models (LLMs) has completely transformed the field of information retrieval. The LLMs excel not only at retrieving relevant knowledge but also at summarizing it effectively, making information more accessible and consumable for users. On top of it, the rise of AI Agents has introduced another aspect to information retrieval i.e. dynamic information retrieval which enables the integration of real-time data such as weather forecasts, and financial data with the knowledge base to curate context-aware knowledge. However, despite these advancements the agents remain susceptible to issues of bias and fairness, challenges deeply rooted within the knowledge base and training of LLMs. This study introduces a novel approach to bias-aware knowledge retrieval by leveraging agentic framework and the innovative use of bias detectors as tools to identify and highlight inherent biases in the retrieved content. By empowering users with transparency and awareness, this approach aims to foster more equitable information systems and promote the development of responsible AI.
• Abstract（参考訳）: アクセス可能な情報の検索の進歩は、インターネットが誕生してから何十年も経っても、ここ数年で急速に進化してきた。 Googleのような検索エンジンは、関連データを見つけるための第1の方法だ。 彼らは常にユーザーの能力に頼って、ユーザーの指先にある何十億ものリンクやソースの中から最高の情報を見つけました。 大規模言語モデル(LLM)の出現は、情報検索の分野を完全に変えた。 LLMは、関連する知識を検索するだけでなく、それを効果的に要約することで、ユーザがよりアクセスしやすく、消費しやすくする。 それに加えて、AIエージェントの台頭は、情報検索の別の側面、すなわち、天気予報のようなリアルタイムデータの統合を可能にする動的情報検索と、知識ベースによるコンテキスト認識知識のキュレートを可能にする金融データを導入した。 しかし、これらの進歩にもかかわらず、エージェントは偏見と公平性の問題の影響を受け、LLMの知識基盤と訓練に深く根ざしている。 本研究は, エージェント・フレームワークを活用し, バイアス検出の革新的活用により, 抽出したコンテンツに固有のバイアスを識別し, 強調する手法としてバイアス認識知識検索の新たなアプローチを提案する。 透明性と意識をユーザに与えることによって、このアプローチは、より公平な情報システムを促進し、責任あるAIの開発を促進することを目指している。

関連論文リスト

• LEKA:LLM-Enhanced Knowledge Augmentation [24.552995956148145]
  人間は類推学習と知識伝達に優れる。 モデルは受動的に取得し、知識から積極的にアクセスし、学習するようになる。 知識伝達のための知識拡張手法LEKAを開発した。
  論文  参考訳（メタデータ） (2025-01-29T17:44:57Z)
• EvoWiki: Evaluating LLMs on Evolving Knowledge [72.92365627254063]
  EvoWiki(エボウィキ)は、知識の進化を反映した進化的データセットである。 我々の結果は、現在のモデルは進化した知識に苦しむことが多く、時代遅れや誤った反応を頻繁に与えていることを示している。 EvoWikiは、大規模言語モデルの知識進化能力に関する将来の研究を進めるための堅牢なベンチマークを提供する。
  論文  参考訳（メタデータ） (2024-12-18T08:04:57Z)
• CurateGPT: A flexible language-model assisted biocuration tool [0.6425885600880427]
  ジェネレーティブAIは、人間主導のキュレーションを支援する新しい可能性を開いた。 CurateGPTはキュレーションプロセスの合理化を図り、共同作業と効率性の向上を図っている。 これにより、キュレーター、研究者、エンジニアがキュレーションの取り組みを拡大し、科学データ量の増加に追随するのに役立つ。
  論文  参考訳（メタデータ） (2024-10-29T20:00:04Z)
• WeKnow-RAG: An Adaptive Approach for Retrieval-Augmented Generation Integrating Web Search and Knowledge Graphs [10.380692079063467]
  本稿では,Web検索と知識グラフを統合したWeKnow-RAGを提案する。 まず,知識グラフの構造化表現と高次ベクトル検索の柔軟性を組み合わせることで,LLM応答の精度と信頼性を向上させる。 提案手法は,情報検索の効率と精度を効果的にバランスさせ,全体の検索プロセスを改善する。
  論文  参考訳（メタデータ） (2024-08-14T15:19:16Z)
• Private Knowledge Sharing in Distributed Learning: A Survey [50.51431815732716]
  人工知能の台頭は多くの産業に革命をもたらし、社会の働き方を変えた。 異なるエンティティが分散または所有する学習プロセスにおいて、情報を活用することが不可欠である。 現代のデータ駆動サービスは、分散知識エンティティを結果に統合するために開発されています。
  論文  参考訳（メタデータ） (2024-02-08T07:18:23Z)
• Fine-Grained Stateful Knowledge Exploration: A Novel Paradigm for Integrating Knowledge Graphs with Large Language Models [19.049828741139425]
  大きな言語モデル(LLM)は印象的な能力を示していますが、その知識を更新することは大きな課題です。 既存のほとんどのメソッドは、質問を目的として扱うパラダイムを使用し、関連する知識は知識グラフから漸進的に取得される。 本稿では,情報粒度ミスマッチ問題に対処する,微粒なステートフル知識探索のための新しいパラダイムを提案する。
  論文  参考訳（メタデータ） (2024-01-24T13:36:50Z)
• RECALL: A Benchmark for LLMs Robustness against External Counterfactual Knowledge [69.79676144482792]
  本研究の目的は,LLMが外部知識から信頼できる情報を識別する能力を評価することである。 本ベンチマークは,質問応答とテキスト生成という2つのタスクから構成される。
  論文  参考訳（メタデータ） (2023-11-14T13:24:19Z)
• Beyond Factuality: A Comprehensive Evaluation of Large Language Models as Knowledge Generators [78.63553017938911]
  大規模言語モデル(LLM)は、下流の知識集約タスクのための情報検索技術より優れている。 しかし、コミュニティの懸念は、この無検閲の知識を使用することの事実と潜在的意味について多岐にわたる。 本研究では,6つの重要な視点から生成した知識を評価するために設計されたCONNERを紹介する。
  論文  参考訳（メタデータ） (2023-10-11T08:22:37Z)
• Self-Knowledge Guided Retrieval Augmentation for Large Language Models [59.771098292611846]
  大規模言語モデル(LLM)はタスク固有の微調整なしで優れた性能を示す。 検索に基づく手法は、非パラメトリックな世界知識を提供し、質問応答のようなタスクのパフォーマンスを向上させることができる。 SKR(Self-Knowledge guided Retrieval augmentation)は、LLMがこれまで遭遇した質問を参照できるようにする、シンプルで効果的な方法である。
  論文  参考訳（メタデータ） (2023-10-08T04:22:33Z)
• The Web Can Be Your Oyster for Improving Large Language Models [98.72358969495835]
  大規模言語モデル(LLM)は、大量の世界の知識を符号化する。 我々はLLMを検索エンジンを用いて大規模ウェブで拡張することを検討する。 ウェブ上に拡張されたLLM UNIWEBを提案する。これは16の知識集約的なタスクに対して、統一されたテキスト・テキスト・フォーマットで訓練される。
  論文  参考訳（メタデータ） (2023-05-18T14:20:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。