論文の概要: Beyond Release: Access Considerations for Generative AI Systems

• arxiv url: http://arxiv.org/abs/2502.16701v1
• Date: Sun, 23 Feb 2025 20:06:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-25 15:58:54.184310
• Title: Beyond Release: Access Considerations for Generative AI Systems
• Title（参考訳）: リリースを超えて - ジェネレーティブAIシステムへのアクセスに関する考察
• Authors: Irene Solaiman, Rishi Bommasani, Dan Hendrycks, Ariel Herbert-Voss, Yacine Jernite, Aviya Skowron, Andrew Trask,
• Abstract要約: ジェネレーティブAIリリースの決定は、システムコンポーネントが利用可能かどうかを決定するが、リリースはユーザーやステークホルダーがシステムにどのように関与できるかを変える他の要素の多くに対処しない。 システムコンポーネントへのアクセスは潜在的なリスクとメリットを通知します。 このフレームワークは、システムリリースの決定、調査、ポリシーを伝えるために、システムリリースの状況とリスクベネフィットのトレードオフをよりよく包含します。
• 参考スコア（独自算出の注目度）: 33.117342870212156
• License:
• Abstract: Generative AI release decisions determine whether system components are made available, but release does not address many other elements that change how users and stakeholders are able to engage with a system. Beyond release, access to system components informs potential risks and benefits. Access refers to practical needs, infrastructurally, technically, and societally, in order to use available components in some way. We deconstruct access along three axes: resourcing, technical usability, and utility. Within each category, a set of variables per system component clarify tradeoffs. For example, resourcing requires access to computing infrastructure to serve model weights. We also compare the accessibility of four high performance language models, two open-weight and two closed-weight, showing similar considerations for all based instead on access variables. Access variables set the foundation for being able to scale or increase access to users; we examine the scale of access and how scale affects ability to manage and intervene on risks. This framework better encompasses the landscape and risk-benefit tradeoffs of system releases to inform system release decisions, research, and policy.
• Abstract（参考訳）: ジェネレーティブAIリリースの決定は、システムコンポーネントが利用可能かどうかを決定するが、リリースはユーザーやステークホルダーがシステムにどのように関与できるかを変える他の要素の多くに対処しない。 リリース以外にも、システムコンポーネントへのアクセスは潜在的なリスクとメリットを通知する。 アクセスとは、利用可能なコンポーネントを何らかの方法で使用するために、インフラ上、技術的、社会的に実践的なニーズを指す。 私たちは、リソーシング、技術的ユーザビリティ、ユーティリティという3つの軸に沿ってアクセスを分解します。 各カテゴリでは、システムコンポーネントごとに変数のセットがトレードオフを明確にします。 例えば、リソーシングでは、モデルウェイトを提供するために、コンピューティングインフラストラクチャへのアクセスが必要となる。 また、4つのハイパフォーマンス言語モデルのアクセシビリティ、2つのオープンウェイト、2つのクローズウェイトを比較した。 アクセス変数は、ユーザへのアクセスの規模と、スケールがリスクを管理し、介入する能力にどのように影響するかを調べる。 このフレームワークは、システムリリースの決定、調査、ポリシーを伝えるために、システムリリースの状況とリスクベネフィットのトレードオフをよりよく包含します。

関連論文リスト

• Specifications: The missing link to making the development of LLM systems an engineering discipline [65.10077876035417]
  我々は、構造化出力、プロセスの監督、テストタイム計算など、これまでの分野の進歩について論じる。 モジュール型かつ信頼性の高いLCMシステムの開発に向けた研究の今後の方向性について概説する。
  論文  参考訳（メタデータ） (2024-11-25T07:48:31Z)
• Combining AI Control Systems and Human Decision Support via Robustness and Criticality [53.10194953873209]
  我々は、逆説(AE)の方法論を最先端の強化学習フレームワークに拡張する。 学習したAI制御システムは、敵のタンパリングに対する堅牢性を示す。 トレーニング/学習フレームワークでは、この技術は人間のインタラクションを通じてAIの決定と説明の両方を改善することができる。
  論文  参考訳（メタデータ） (2024-07-03T15:38:57Z)
• AccessLens: Auto-detecting Inaccessibility of Everyday Objects [17.269659576368536]
  本稿では,日常オブジェクトのアクセス不能なインターフェースを識別するためのエンドツーエンドシステムであるAccessLensを紹介する。 当社のアプローチでは,21の非アクセシビリティクラスを自動的に認識するために設計された新しいAccessDBデータセットを使用して,検出器をトレーニングする。 AccessMetaは、これらのアクセシビリティクラスをオープンソース3D拡張設計にリンクする包括的な辞書を構築するための堅牢な方法として機能する。
  論文  参考訳（メタデータ） (2024-01-29T09:27:55Z)
• The Gradient of Generative AI Release: Methods and Considerations [0.0]
  生成AIシステムへの6つのアクセスレベルを評価するためのフレームワークを提案する。 我々は、強力なシステムのための大企業のクローズネスに注目し、時間とともに生成システムリリースの傾向を示す。 また、生成システムの安全管理とガードレールを列挙し、将来のリリースを改善するために必要な投資を列挙する。
  論文  参考訳（メタデータ） (2023-02-05T23:05:11Z)
• Machine Learning in Access Control: A Taxonomy and Survey [0.0]
  我々は、さまざまなアクセス制御問題を解決するために、さまざまな機械学習アプローチを調査し、まとめる。 パブリックな実世界のデータセットの欠如、MLベースのアクセス制御システムの管理、ブラックボックスMLモデルの決定の理解など、現在の制限とオープンな課題を強調します。
  論文  参考訳（メタデータ） (2022-07-04T22:36:27Z)
• Toward Deep Learning Based Access Control [3.2511618464944547]
  本稿では,ディープラーニング技術の大幅な進歩を活用して,DLBAC(Deep Learning Based Access Control)を提案する。 DLBACは補完し、長期的には、従来のアクセス制御モデルをニューラルネットワークで置き換える可能性さえある。 提案手法は,精度,一般化,説明可能性に関する問題に対処することで実現可能であることを示す。
  論文  参考訳（メタデータ） (2022-03-28T22:05:11Z)
• Composing Complex and Hybrid AI Solutions [52.00820391621739]
  一般的なAIアプリケーションで上記の機能を実現するためのAcumosシステムの拡張について述べる。 当社の拡張機能には、gRPC/Protobufインターフェースによるより汎用的なコンポーネントのサポートが含まれています。 デプロイ可能なソリューションとそのインターフェースの例を提供する。
  論文  参考訳（メタデータ） (2022-02-25T08:57:06Z)
• Overcoming Failures of Imagination in AI Infused System Development and Deployment [71.9309995623067]
  NeurIPS 2020は研究論文に「潜在的な悪用と失敗の結果」に関するインパクトステートメントを含むよう要求した。 我々は、害の枠組みは文脈に適応し、潜在的な利害関係者、システム余裕、および最も広い意味での害を評価するための実行可能なプロキシを考える必要があると論じている。
  論文  参考訳（メタデータ） (2020-11-26T18:09:52Z)
• Towards an Interface Description Template for AI-enabled Systems [77.34726150561087]
  再利用(Reuse)は、システムアーキテクチャを既存のコンポーネントでインスタンス化しようとする、一般的なシステムアーキテクチャのアプローチである。 現在、コンポーネントが当初目的としていたものと異なるシステムで運用する可搬性を評価するために必要な情報の選択をガイドするフレームワークは存在しない。 我々は、AI対応コンポーネントの主情報をキャプチャするインターフェイス記述テンプレートの確立に向けて、現在進行中の作業について述べる。
  論文  参考訳（メタデータ） (2020-07-13T20:30:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。