論文の概要: Enhancing Trust in LLM-Based AI Automation Agents: New Considerations
and Future Challenges
- arxiv url: http://arxiv.org/abs/2308.05391v1
- Date: Thu, 10 Aug 2023 07:12:11 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-11 13:16:23.519192
- Title: Enhancing Trust in LLM-Based AI Automation Agents: New Considerations
and Future Challenges
- Title(参考訳): LLMベースのAI自動化エージェントの信頼を高める:新しい考察と今後の課題
- Authors: Sivan Schwartz, Avi Yaeli, Segev Shlomov
- Abstract要約: プロセス自動化の分野では、AIベースのエージェントの新世代が登場し、複雑なタスクの実行が可能になった。
本稿では、既存の文献で議論されているAIエージェントの信頼性の主な側面を分析し、この新世代の自動化エージェントに関連する具体的な考察と課題を特定する。
- 参考スコア(独自算出の注目度): 2.6212127510234797
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Trust in AI agents has been extensively studied in the literature, resulting
in significant advancements in our understanding of this field. However, the
rapid advancements in Large Language Models (LLMs) and the emergence of
LLM-based AI agent frameworks pose new challenges and opportunities for further
research. In the field of process automation, a new generation of AI-based
agents has emerged, enabling the execution of complex tasks. At the same time,
the process of building automation has become more accessible to business users
via user-friendly no-code tools and training mechanisms. This paper explores
these new challenges and opportunities, analyzes the main aspects of trust in
AI agents discussed in existing literature, and identifies specific
considerations and challenges relevant to this new generation of automation
agents. We also evaluate how nascent products in this category address these
considerations. Finally, we highlight several challenges that the research
community should address in this evolving landscape.
- Abstract(参考訳): AIエージェントに対する信頼は、文献で広く研究され、この分野の理解において大きな進歩をもたらした。
しかし、LLM(Large Language Models)の急速な進歩とLLMベースのAIエージェントフレームワークの出現は、さらなる研究の新たな課題と機会をもたらす。
プロセス自動化の分野では、AIベースのエージェントの新世代が登場し、複雑なタスクの実行が可能になった。
同時に、自動化を構築するプロセスは、ユーザフレンドリーなノーコードツールとトレーニングメカニズムを通じて、ビジネスユーザによりアクセスしやすくなってきた。
本稿では、これらの新たな課題と機会を探求し、既存の文献で議論されているAIエージェントに対する信頼の主な側面を分析し、この新世代の自動化エージェントに関連する具体的な考察と課題を特定する。
このカテゴリの初期段階の製品がこれらの考慮事項にどのように対処しているかを評価する。
最後に,この発展する状況において,研究コミュニティが取り組むべき課題をいくつか紹介する。
関連論文リスト
- Position Paper: Agent AI Towards a Holistic Intelligence [53.35971598180146]
エージェントAI - 大きな基盤モデルをエージェントアクションに統合する具体的システム。
本稿では,エージェント・ファウンデーション・モデル(エージェント・ファウンデーション・モデル)を提案する。
論文 参考訳(メタデータ) (2024-02-28T16:09:56Z) - On the Challenges and Opportunities in Generative AI [135.2754367149689]
現在の大規模生成AIモデルは、ドメイン間で広く採用されるのを妨げるいくつかの基本的な問題に十分対応していない、と我々は主張する。
本研究は、現代の生成型AIパラダイムにおける重要な未解決課題を特定し、その能力、汎用性、信頼性をさらに向上するために取り組まなければならない。
論文 参考訳(メタデータ) (2024-02-28T15:19:33Z) - Towards a Responsible AI Metrics Catalogue: A Collection of Metrics for
AI Accountability [28.67753149592534]
本研究は,包括的メトリクスカタログへの取り組みを導入することで,説明責任のギャップを埋めるものである。
我々のカタログは、手続き的整合性を支えるプロセスメトリクス、必要なツールやフレームワークを提供するリソースメトリクス、AIシステムのアウトプットを反映する製品メトリクスを記述しています。
論文 参考訳(メタデータ) (2023-11-22T04:43:16Z) - An In-depth Survey of Large Language Model-based Artificial Intelligence
Agents [11.774961923192478]
LLMベースのAIエージェントと従来のAIエージェントの主な違いと特徴について検討した。
我々は、計画、記憶、ツール使用を含むAIエージェントの重要なコンポーネントについて、詳細な分析を行った。
論文 参考訳(メタデータ) (2023-09-23T11:25:45Z) - The Rise and Potential of Large Language Model Based Agents: A Survey [91.71061158000953]
大規模言語モデル(LLM)は、人工知能(AGI)の潜在的な火花と見なされる
まず、エージェントの概念を哲学的起源からAI開発まで追跡し、LLMがエージェントに適した基盤である理由を説明します。
単一エージェントシナリオ,マルチエージェントシナリオ,ヒューマンエージェント協調の3つの側面において,LLMベースのエージェントの広範な応用について検討する。
論文 参考訳(メタデータ) (2023-09-14T17:12:03Z) - A Survey on Large Language Model based Autonomous Agents [107.8237473711049]
大規模言語モデル(LLM)は、人間レベルの知性を達成する上で、顕著な可能性を示している。
本稿では,LLMに基づく自律エージェントの分野を総合的な観点から体系的に検討する。
本稿では、社会科学、自然科学、工学の分野におけるLLMベースの自律エージェントの多様な応用について概観する。
論文 参考訳(メタデータ) (2023-08-22T13:30:37Z) - TPTU: Large Language Model-based AI Agents for Task Planning and Tool
Usage [28.554981886052953]
大規模言語モデル(LLM)は、様々な現実世界のアプリケーションのための強力なツールとして登場した。
LLMの本質的な生成能力は、その長所にもかかわらず、複雑なタスクを扱うには不十分である。
本稿では,LLMベースのAIエージェントに適した構造化フレームワークを提案する。
論文 参考訳(メタデータ) (2023-08-07T09:22:03Z) - AI for IT Operations (AIOps) on Cloud Platforms: Reviews, Opportunities
and Challenges [60.56413461109281]
IT運用のための人工知能(AIOps)は、AIのパワーとIT運用プロセスが生成するビッグデータを組み合わせることを目的としている。
我々は、IT運用活動が発信する重要なデータの種類、分析における規模と課題、そしてどのように役立つかについて深く議論する。
主要なAIOpsタスクは、インシデント検出、障害予測、根本原因分析、自動アクションに分類します。
論文 参考訳(メタデータ) (2023-04-10T15:38:12Z) - The Roles and Modes of Human Interactions with Automated Machine
Learning Systems [7.670270099306412]
自動機械学習(AutoML)システムは、洗練とパフォーマンスの両面で進歩を続けている。
これらのフレームワーク内でのヒューマン・コンピュータ・インタラクション(HCI)の方法と理由を理解することが重要である。
このレビューは、現在のAutoMLシステムと将来のAutoMLシステムの両方におけるヒューマンインタラクションの役割とモードの促進を目的とした、重要な研究方向を特定するのに役立つ。
論文 参考訳(メタデータ) (2022-05-09T09:28:43Z) - Artificial Intelligence for IT Operations (AIOPS) Workshop White Paper [50.25428141435537]
AIOps(Artificial Intelligence for IT Operations)は、マシンラーニング、ビッグデータ、ストリーミング分析、IT運用管理の交差点で発生する、新たな学際分野である。
AIOPSワークショップの主な目的は、アカデミアと産業界の両方の研究者が集まり、この分野での経験、成果、作業について発表することです。
論文 参考訳(メタデータ) (2021-01-15T10:43:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。