論文の概要: Constraining Participation: Affordances of Feedback Features in Interfaces to Large Language Models
- arxiv url: http://arxiv.org/abs/2408.15066v1
- Date: Tue, 27 Aug 2024 13:50:37 GMT
- ステータス: 処理完了
- システム内更新日: 2024-08-28 13:43:53.377404
- Title: Constraining Participation: Affordances of Feedback Features in Interfaces to Large Language Models
- Title（参考訳）: 参加の抑制:大規模言語モデルへのインタフェースにおけるフィードバック機能の改善
- Authors: Ned Cooper, Alexandra Zafiroglu,
- Abstract要約: 大規模言語モデル(LLM)は、コンピュータ、Webブラウザ、ブラウザベースのインターフェースによるインターネット接続を持つ人なら誰でも利用できるようになった。
本稿では,ChatGPTインタフェースにおける対話型フィードバック機能の可能性について検討し,ユーザ入力の形状やイテレーションへの参加について分析する。
- 参考スコア（独自算出の注目度）: 49.74265453289855
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models (LLMs) are now accessible to anyone with a computer, a web browser, and an internet connection via browser-based interfaces, shifting the dynamics of participation in AI development. This paper examines the affordances of interactive feedback features in ChatGPT's interface, analysing how they shape user input and participation in LLM iteration. Drawing on a survey of ChatGPT users and applying the mechanisms and conditions framework of affordances, we demonstrate that these features encourage simple, frequent, and performance-focused feedback while discouraging collective input and discussions among users. We argue that this feedback format significantly constrains user participation, reinforcing power imbalances between users, the public, and companies developing LLMs. Our analysis contributes to the growing body of literature on participatory AI by critically examining the limitations of existing feedback processes and proposing directions for their redesign. To enable more meaningful public participation in AI development, we advocate for a shift away from processes focused on aligning model outputs with specific user preferences. Instead, we emphasise the need for processes that facilitate dialogue between companies and diverse 'publics' about the purpose and applications of LLMs. This approach requires attention to the ongoing work of infrastructuring - creating and sustaining the social, technical, and institutional structures necessary to address matters of concern to groups impacted by AI development and deployment.
- Abstract（参考訳）: 大規模言語モデル(LLM)は、コンピュータ、Webブラウザ、ブラウザベースのインターフェースによるインターネット接続を持つすべての人にアクセス可能となり、AI開発への参加のダイナミクスがシフトした。
本稿では,ChatGPTインタフェースにおける対話型フィードバック機能の可能性について検討し,ユーザ入力の形状やLCMイテレーションへの参加について分析する。
本研究は,ChatGPTユーザを対象とした調査から,ユーザ間の総合的なインプットや議論を抑えつつ,シンプルで頻繁でパフォーマンスを重視したフィードバックを促進できることを実証する。
我々は,このフィードバック形式がユーザ参加を著しく制限し,ユーザ,一般ユーザ,LLMを開発する企業間の電力不均衡の強化を図っていることを論じる。
我々の分析は、既存のフィードバックプロセスの限界を批判的に検証し、その再設計の方向性を提案することによって、参加型AIに関する文献の増大に寄与する。
AI開発におけるより意味のある公的な参加を可能にするため、私たちは、モデルアウトプットと特定のユーザの好みの整合性を重視したプロセスから脱却することを提唱します。
代わりに、企業間の対話を促進するプロセスと、LLMの目的と応用に関する多様な「公」の必要性を強調します。
このアプローチは、AI開発とデプロイメントによって影響を受けるグループに対する関心事に対処するために必要な社会的、技術的、制度的構造の作成と維持という、現在進行中のインフラ構築作業に注意する必要がある。
関連論文リスト
- Generative AI in Multimodal User Interfaces: Trends, Challenges, and Cross-Platform Adaptability [0.0]
ジェネレーティブAIは、ユーザーインターフェイスを再構築する上で重要なドライバとして登場します。
本稿では,現代ユーザインタフェースにおける生成AIの統合について考察する。
マルチモーダルインタラクション、クロスプラットフォーム適応性、動的パーソナライゼーションに焦点を当てている。
論文 参考訳（メタデータ） (2024-11-15T14:49:58Z) - Survey of User Interface Design and Interaction Techniques in Generative AI Applications [79.55963742878684]
我々は,デザイナやディベロッパの参照として使用できる,さまざまなユーザインタラクションパターンのコンペレーションを作ることを目指している。
また、生成AIアプリケーションの設計についてもっと学ぼうとする人たちの参入障壁を低くしようと努力しています。
論文 参考訳（メタデータ） (2024-10-28T23:10:06Z) - Data Analysis in the Era of Generative AI [56.44807642944589]
本稿では,AIを活用したデータ分析ツールの可能性について考察する。
我々は、大規模言語とマルチモーダルモデルの出現が、データ分析ワークフローの様々な段階を強化する新しい機会を提供する方法について検討する。
次に、直感的なインタラクションを促進し、ユーザ信頼を構築し、AI支援分析ワークフローを複数のアプリにわたって合理化するための、人間中心の設計原則を調べます。
論文 参考訳（メタデータ） (2024-09-27T06:31:03Z) - Enabling Real-Time Conversations with Minimal Training Costs [61.80370154101649]
本稿では,2つの言語モデルに対して,最小限の訓練を要し,2つの言語能力を持つ新しい重複復号法を提案する。
実験結果から,本手法はトレーニングコストの最小化とともに,ユーザとAIのインタラクションの自然性と人間的類似性を著しく向上することが示された。
論文 参考訳（メタデータ） (2024-09-18T06:27:26Z) - From Fitting Participation to Forging Relationships: The Art of
Participatory ML [0.7770029179741429]
参加型機械学習 (Participatory Machine Learning, ML) は、設計および開発プロセスにおいて、エンドユーザーとMLシステムに影響された人々の参加を促進する。
参加者の労働力の成果をMLアーティファクトやシステムへのインプットに変換する。
論文 参考訳（メタデータ） (2024-03-11T04:44:34Z) - Exploring Interaction Patterns for Debugging: Enhancing Conversational
Capabilities of AI-assistants [18.53732314023887]
大規模言語モデル(LLM)は、プログラマが様々なソフトウェア開発タスクの自然言語説明を得ることを可能にする。
LLMはしばしば十分な文脈なしに行動し、暗黙の仮定や不正確な反応を引き起こす。
本稿では,対話パターンと会話分析からインスピレーションを得て,デバッグのための対話型AIアシスタントRobinを設計する。
論文 参考訳（メタデータ） (2024-02-09T07:44:27Z) - Building Emotional Support Chatbots in the Era of LLMs [64.06811786616471]
我々は,Large Language Models (LLMs) の計算能力で人間の洞察を合成する革新的な方法論を導入する。
また,ChatGPTの文脈内学習の可能性を利用して,ExTESと呼ばれる感情支援対話データセットを生成する。
次に、LLaMAモデルに高度なチューニング手法を展開し、多様なトレーニング戦略の影響を検証し、最終的に感情的支援の相互作用に細心の注意を払ってLLMを出力する。
論文 参考訳（メタデータ） (2023-08-17T10:49:18Z) - Interactive Natural Language Processing [67.87925315773924]
対話型自然言語処理(iNLP)は,NLP分野における新しいパラダイムとして登場した。
本稿では,iNLPの概念の統一的定義と枠組みを提案することから,iNLPに関する包括的調査を行う。
論文 参考訳（メタデータ） (2023-05-22T17:18:29Z) - Leveraging Explanations in Interactive Machine Learning: An Overview [10.284830265068793]
説明はAIと機械学習(ML)コミュニティへの関心が高まっている。
本稿では,対話的能力と説明が組み合わさった研究の概要について述べる。
論文 参考訳（メタデータ） (2022-07-29T07:46:11Z) - An Improved Approach of Intention Discovery with Machine Learning for
POMDP-based Dialogue Management [0.0]
Embodied Conversational Agent (ECA)は、ソフトウェアアプリケーションのフロントエンドとして機能し、言語/非言語表現を通じてユーザと対話する。
この論文は、対話管理の異なるアプローチを含む、ECAの構築に関する主要なトピックを強調している。
感情に基づく顔のアニメーションと、意図の発見を改善するための密着型フレームワークを提案する。
論文 参考訳（メタデータ） (2020-09-20T05:28:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。