論文の概要: Software Testing of Generative AI Systems: Challenges and Opportunities
- arxiv url: http://arxiv.org/abs/2309.03554v3
- Date: Mon, 11 Sep 2023 10:03:55 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-23 08:42:19.810685
- Title: Software Testing of Generative AI Systems: Challenges and Opportunities
- Title（参考訳）: 生成型AIシステムのソフトウェアテスト:課題と機会
- Authors: Aldeida Aleti
- Abstract要約: 生成的AIシステムによってもたらされる課題について検討し、テスト分野における将来の研究機会について論じる。
従来のテスト技術が不十分あるいは不十分なGenAIシステムの特徴について触れます。
- 参考スコア（独自算出の注目度）: 5.634825161148484
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Software Testing is a well-established area in software engineering,
encompassing various techniques and methodologies to ensure the quality and
reliability of software systems. However, with the advent of generative
artificial intelligence (GenAI) systems, new challenges arise in the testing
domain. These systems, capable of generating novel and creative outputs,
introduce unique complexities that require novel testing approaches. In this
paper, I aim to explore the challenges posed by generative AI systems and
discuss potential opportunities for future research in the field of testing. I
will touch on the specific characteristics of GenAI systems that make
traditional testing techniques inadequate or insufficient. By addressing these
challenges and pursuing further research, we can enhance our understanding of
how to safeguard GenAI and pave the way for improved quality assurance in this
rapidly evolving domain.
- Abstract（参考訳）: ソフトウェアテストはソフトウェア工学において確立された分野であり、ソフトウェアシステムの品質と信頼性を確保するための様々な技術と方法論を含んでいる。
しかし、生成人工知能(GenAI)システムの出現により、テスト領域に新たな課題が生じる。
これらのシステムは、新規で創造的なアウトプットを生成することができ、新しいテストアプローチを必要とするユニークな複雑さをもたらす。
本稿では,生成型AIシステムによってもたらされる課題について考察し,テスト分野における今後の研究の可能性について論じる。
従来のテスト技術が不十分あるいは不十分なGenAIシステムの特徴について触れます。
これらの課題に対処し、さらなる研究を進めることで、GenAIの保護方法の理解を深め、この急速に進化する領域における品質保証の改善の道を開くことができます。
関連論文リスト
- Computational Safety for Generative AI: A Signal Processing Perspective [65.268245109828]
計算安全性は、GenAIにおける安全性の定量的評価、定式化、研究を可能にする数学的枠組みである。
ジェイルブレイクによる悪意のあるプロンプトを検出するために, 感度解析と損失景観解析がいかに有効かを示す。
我々は、AIの安全性における信号処理の鍵となる研究課題、機会、そして重要な役割について論じる。
論文 参考訳（メタデータ） (2025-02-18T02:26:50Z) - Safety is Essential for Responsible Open-Ended Systems [47.172735322186]
オープンエンドレスネス(Open-Endedness)とは、AIシステムが新規で多様なアーティファクトやソリューションを継続的に自律的に生成する能力である。
このポジションペーパーは、Open-Ended AIの本質的に動的で自己伝播的な性質は、重大な、未発見のリスクをもたらすと主張している。
論文 参考訳（メタデータ） (2025-02-06T21:32:07Z) - From Aleatoric to Epistemic: Exploring Uncertainty Quantification Techniques in Artificial Intelligence [19.369216778200034]
不確実性定量化(英: Uncertainty Quantification、UQ)は、人工知能(AI)システムにおいて重要な側面である。
本稿では,AIにおける不確実性定量化技術の進化について概説する。
様々な分野におけるUQの多様な応用について検討し、意思決定、予測精度、システムの堅牢性への影響を強調した。
論文 参考訳（メタデータ） (2025-01-05T23:14:47Z) - Generative Artificial Intelligence Meets Synthetic Aperture Radar: A Survey [49.29751866761522]
本稿では,GenAIとSARの交差点について検討する。
まず、SAR分野における一般的なデータ生成ベースのアプリケーションについて説明する。
次に、最新のGenAIモデルの概要を体系的にレビューする。
最後に、SARドメインの対応するアプリケーションも含まれる。
論文 参考訳（メタデータ） (2024-11-05T03:06:00Z) - The Role of Artificial Intelligence and Machine Learning in Software Testing [0.14896196009851972]
人工知能(AI)と機械学習(ML)は様々な産業に大きな影響を与えている。
ソフトウェア開発ライフサイクル(SDLC)の重要な部分であるソフトウェアテストは、ソフトウェア製品の品質と信頼性を保証する。
本稿では、既存の文献をレビューし、現在のツールや技術を分析し、ケーススタディを提示することで、ソフトウェアテストにおけるAIとMLの役割について考察する。
論文 参考訳（メタデータ） (2024-09-04T13:25:13Z) - Bridging Gaps, Building Futures: Advancing Software Developer Diversity and Inclusion Through Future-Oriented Research [50.545824691484796]
我々はSEの多様性と包摂性に関する課題と解決策について、SE研究者や実践者から知見を提示する。
我々は,将来的なユートピアやディストピアのビジョンを共有し,今後の研究の方向性とアカデミックや産業への示唆を提供する。
論文 参考訳（メタデータ） (2024-04-10T16:18:11Z) - Testing autonomous vehicles and AI: perspectives and challenges from cybersecurity, transparency, robustness and fairness [53.91018508439669]
この研究は、人工知能を自律走行車(AV)に統合する複雑さを探求する
AIコンポーネントがもたらした課題と、テスト手順への影響を調べます。
本稿は、重要な課題を特定し、AV技術におけるAIの研究・開発に向けた今後の方向性を提案する。
論文 参考訳（メタデータ） (2024-02-21T08:29:42Z) - Constrained Adversarial Learning and its applicability to Automated
Software Testing: a systematic review [0.0]
この体系的なレビューは、敵の学習やソフトウェアテストに適用される制約付きデータ生成手法の現状に焦点を当てている。
研究者や開発者に対して、敵対的な学習方法によるテストツールの強化と、ディジタルシステムのレジリエンスと堅牢性の向上を指導することを目的としている。
論文 参考訳（メタデータ） (2023-03-14T00:27:33Z) - An interdisciplinary conceptual study of Artificial Intelligence (AI)
for helping benefit-risk assessment practices: Towards a comprehensive
qualification matrix of AI programs and devices (pre-print 2020) [55.41644538483948]
本稿では,インテリジェンスの概念に対処するさまざまな分野の既存の概念を包括的に分析する。
目的は、AIシステムを評価するための共有概念や相違点を特定することである。
論文 参考訳（メタデータ） (2021-05-07T12:01:31Z) - Adaptive Immunity for Software: Towards Autonomous Self-healing Systems [0.6117371161379209]
自己修復ソフトウェアシステムは、実行時に予期しない問題を検出し、診断し、含めることができる。
機械学習の最近の進歩は、システムを観察して学ぶことができる。
人工免疫システムは、特に自己修復システムを構築するのに適している。
論文 参考訳（メタデータ） (2021-01-07T13:22:55Z) - Software engineering for artificial intelligence and machine learning
software: A systematic literature review [6.681725960709127]
本研究は,AI/MLシステムの開発において,ソフトウェア工学がどのように応用されてきたかを検討することを目的とする。
プロフェッショナルが直面する主な課題は、テスト、AIソフトウェアの品質、データ管理といった分野だ。
論文 参考訳（メタデータ） (2020-11-07T11:06:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。