Fugu-MT 論文翻訳(概要): The five Is: Key principles for interpretable and safe conversational AI

論文の概要: The five Is: Key principles for interpretable and safe conversational AI

arxiv url: http://arxiv.org/abs/2108.13766v1
Date: Tue, 31 Aug 2021 11:38:48 GMT
ステータス: 処理完了
システム内更新日: 2021-09-01 14:38:47.840864
Title: The five Is: Key principles for interpretable and safe conversational AI
Title（参考訳）: The Five Is: 会話AIの解釈と安全性のための重要な原則
Authors: Mattias Wahde and Marco Virgolin
Abstract要約: 会話型AIの開発には、解釈可能性、説明する固有の能力、独立したデータ、対話型学習、問合せ性という5つの重要な原則を提示する。
参考スコア（独自算出の注目度）: 1.027974860479791
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: In this position paper, we present five key principles, namely interpretability, inherent capability to explain, independent data, interactive learning, and inquisitiveness, for the development of conversational AI that, unlike the currently popular black box approaches, is transparent and accountable. At present, there is a growing concern with the use of black box statistical language models: While displaying impressive average performance, such systems are also prone to occasional spectacular failures, for which there is no clear remedy. In an effort to initiate a discussion on possible alternatives, we outline and exemplify how our five principles enable the development of conversational AI systems that are transparent and thus safer for use. We also present some of the challenges inherent in the implementation of those principles.
Abstract（参考訳）: 本稿では,現在普及しているブラックボックスアプローチとは異なり,透明性と説明責任を有する会話型AIの開発において,解釈可能性,独立データの説明能力,対話型学習能力,質問応答性という5つの重要な原則を提案する。現在、ブラックボックス統計言語モデルの使用に対する懸念が高まっている: 印象的な平均的なパフォーマンスを示す一方で、そのようなシステムは時として目覚ましい失敗を招き、明確な修正は行われない。代替案に関する議論を開始するために、我々は5つの原則を概説し、どのようにして透明で使用しやすい会話型aiシステムの開発を可能にするかを例証する。また、これらの原則の実装に固有の課題をいくつか提示する。

関連論文リスト

Interpretable Concept-based Deep Learning Framework for Multimodal Human Behavior Modeling [5.954573238057435]
EUの一般データ保護規則は、リスクの高いAIシステムが十分に解釈可能であることを要求している。既存の説明可能なメソッドは、しばしば解釈可能性とパフォーマンスを妥協する。我々は、新しく一般化可能なフレームワーク、すなわち注意誘導概念モデル(AGCM)を提案する。 AGCMは、予測につながる概念とそれらがどこに観察されるかを特定することによって、学習可能な概念的な説明を提供する。
論文参考訳（メタデータ） (2025-02-14T13:15:21Z)
Roadmap towards Superhuman Speech Understanding using Large Language Models [60.57947401837938]
大規模言語モデル(LLM)は、音声データと音声データを統合したものである。 GPT-4oのような最近の進歩は、エンドツーエンドのLLMの可能性を強調している。本稿では,基本自動音声認識(ASR)から高度な超人モデルまで,5段階のロードマップを提案する。
論文参考訳（メタデータ） (2024-10-17T06:44:06Z)
Data Science Principles for Interpretable and Explainable AI [0.7581664835990121]
解釈可能でインタラクティブな機械学習は、複雑なモデルをより透明で制御しやすいものにすることを目的としている。本論は, この分野における文献の発達から重要な原則を合成するものである。
論文参考訳（メタデータ） (2024-05-17T05:32:27Z)
Explainable AI for Safe and Trustworthy Autonomous Driving: A Systematic Review [12.38351931894004]
本稿では,安全かつ信頼性の高い自動運転のための説明可能な手法に関する,最初の体系的な文献レビューを紹介する。我々は、ADにおける安全で信頼性の高いAIに対するXAIの5つの重要な貢献を特定し、それらは解釈可能な設計、解釈可能な代理モデル、解釈可能なモニタリング、補助的な説明、解釈可能な検証である。我々は、これらのコントリビューションを統合するためにSafeXと呼ばれるモジュラーフレームワークを提案し、同時にAIモデルの安全性を確保しながら、ユーザへの説明提供を可能にした。
論文参考訳（メタデータ） (2024-02-08T09:08:44Z)
Predictable Artificial Intelligence [77.1127726638209]
本稿では予測可能なAIのアイデアと課題を紹介する。それは、現在および将来のAIエコシステムの重要な妥当性指標を予測できる方法を探る。予測可能性を達成することは、AIエコシステムの信頼、責任、コントロール、アライメント、安全性を促進するために不可欠である、と私たちは主張する。
論文参考訳（メタデータ） (2023-10-09T21:36:21Z)
Principle-Driven Self-Alignment of Language Models from Scratch with Minimal Human Supervision [84.31474052176343]
ChatGPTのような最近のAIアシスタントエージェントは、人間のアノテーションと人間のフィードバックからの強化学習を教師付き微調整(SFT)に頼り、アウトプットを人間の意図に合わせる。この依存は、人間の監督を得るために高いコストがかかるため、AIアシスタントエージェントの真の可能性を大幅に制限することができる。本稿では,AIエージェントの自己調整と人間監督の最小化のために,原則駆動推論とLLMの生成能力を組み合わせたSELF-ALIGNという新しいアプローチを提案する。
論文参考訳（メタデータ） (2023-05-04T17:59:28Z)
Users are the North Star for AI Transparency [111.5679109784322]
透明な人工知能システムを求める声が広まっているにもかかわらず、この用語は、厳密な政策の目的や具体的な研究ラインのオリエント化を表すために、多義的な意味に過大評価されている。このことが起こる理由の1つは、AI透明性の明確な理想が、この仕事の体で実現されないことである。透明性はユーザ中心で、ユーザ指向で、誠実です。
論文参考訳（メタデータ） (2023-03-09T18:53:29Z)
Color Overmodification Emerges from Data-Driven Learning and Pragmatic Reasoning [53.088796874029974]
話者の指示表現は、実践的な言語使用の性質を照らし出すのに役立つ方法で、コミュニケーションイデアルから逸脱していることを示す。ニューラルネットワークを学習エージェントとして採用することにより、過度な修正は、頻度の低い、あるいは正常な環境特性に結びつく可能性が高いことを示す。
論文参考訳（メタデータ） (2022-05-18T18:42:43Z)
Towards a Responsible AI Development Lifecycle: Lessons From Information Security [0.0]
本稿では,人工知能システムを開発するためのフレームワークを提案する。特に,脅威モデリング,設計レビュー,浸透試験,インシデント応答の概念を活用することを提案する。
論文参考訳（メタデータ） (2022-03-06T13:03:58Z)
Trustworthy AI [75.99046162669997]
入力データの小さな敵対的変化への脆さ、決定の説明能力、トレーニングデータのバイアスに対処する能力は、最も顕著な制限である。我々は,AIシステムに対するユーザおよび公的な信頼を高める上での6つの重要な問題に対処するために,信頼に値するAIに関するチュートリアルを提案する。
論文参考訳（メタデータ） (2020-11-02T20:04:18Z)
Principles to Practices for Responsible AI: Closing the Gap [0.1749935196721634]
インパクトアセスメントフレームワークは、原則と実践のギャップを埋めるための有望なアプローチである、と我々は主張する。我々は、森林生態系の復元におけるAIの使用に関するケーススタディをレビューし、インパクトアセスメントフレームワークが効果的で責任あるAIプラクティスにどのように変換できるかを実証する。
論文参考訳（メタデータ） (2020-06-08T16:04:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。