論文の概要: Training AI to be Loyal

• arxiv url: http://arxiv.org/abs/2502.15720v1
• Date: Mon, 27 Jan 2025 19:11:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-02 04:52:17.884311
• Title: Training AI to be Loyal
• Title（参考訳）: AIをLoyalにトレーニングする
• Authors: Sewoong Oh, Himanshu Tyagi, Pramod Viswanath,
• Abstract要約: コミュニティがオーナシップ、アライメント、コントロールを持っていれば、AIはコミュニティに忠実です。 コミュニティが所有するモデルは、コミュニティの承認を得てのみ利用でき、経済的報酬を共同で共有することができる。 私たちは、忠実なAIコミュニティに無許可でアクセスしたいので、AIをオープンソースにする必要があります。
• 参考スコア（独自算出の注目度）: 48.87020976513128
• License:
• Abstract: Loyal AI is loyal to the community that builds it. An AI is loyal to a community if the community has ownership, alignment, and control. Community owned models can only be used with the approval of the community and share the economic rewards communally. Community aligned models have values that are aligned with the consensus of the community. Community controlled models perform functions designed by the community. Since we would like permissionless access to the loyal AI's community, we need the AI to be open source. The key scientific question then is: how can we build models that are openly accessible (open source) and yet are owned and governed by the community. This seeming impossibility is the focus of this paper where we outline a concrete pathway to Open, Monetizable and Loyal models (OML), building on our earlier work on OML, arXiv:2411.03887(1) , and a representation via a cryptographic-ML library http://github.com/sentient-agi/oml-1.0-fingerprinting .
• Abstract（参考訳）: Loyal AIは、それを構築するコミュニティに忠実です。 コミュニティがオーナシップ、アライメント、コントロールを持っていれば、AIはコミュニティに忠実です。 コミュニティが所有するモデルは、コミュニティの承認を得てのみ利用でき、経済的報酬を共同で共有することができる。 コミュニティに沿ったモデルは、コミュニティのコンセンサスと一致した価値を持っています。 コミュニティコントロールモデルは、コミュニティによって設計された機能を実行する。 私たちは、忠実なAIコミュニティに無許可でアクセスしたいので、AIをオープンソースにする必要があります。 オープンアクセス(オープンソース)で、しかもコミュニティが所有し、管理しているモデルをどのように構築できるか。 ここでは、Open, Monetizable and Loyal Model (OML)への具体的なパス、OMLに関する初期の研究、arXiv:2411.03887(1)、暗号化MLライブラリ http://github.com/sentient-agi/oml-1.0-fingerprinting による表現について概説する。

関連論文リスト

• OML: Open, Monetizable, and Loyal AI [39.63122342758896]
  OML は Open, Monetizable, Loyal AI の略である。 OMLはAI開発を民主化するためのアプローチである。 私たちの研究の重要なイノベーションは、新たな科学分野であるAIネイティブ暗号の導入です。
  論文  参考訳（メタデータ） (2024-11-01T18:46:03Z)
• AI Rules? Characterizing Reddit Community Policies Towards AI-Generated Content [7.978143550070664]
  メタデータとコミュニティルールを30万ドル以上の公開サブレディットで収集しました。 既存の文献と、AIルールに特有の新しい分類基準に基づいて、サブレディットとAIルールをラベル付けしました。 我々の研究結果は、AIに関する様々な懸念が、異なるコミュニティの文脈で出現したことを示している。
  論文  参考訳（メタデータ） (2024-10-15T15:31:41Z)
• Examining the Prevalence and Dynamics of AI-Generated Media in Art Subreddits [13.343255875002459]
  AI生成コンテンツがRedditのアート関連コミュニティに与える影響について検討する。 私たちは、これらのコミュニティがAIによって透明に作成する画像ベースの投稿や、生成的AIを使用する著者を疑うコミュニティのコメントを見てみます。 我々は、AIコンテンツが新参者にとってより簡単に利用でき、コミュニティのルールに従って参加を増やすのに役立つことを示している。
  論文  参考訳（メタデータ） (2024-10-09T17:41:13Z)
• OpenHands: An Open Platform for AI Software Developers as Generalist Agents [109.8507367518992]
  私たちは、人間の開発者と同じような方法で世界と対話するAIエージェントを開発するためのプラットフォームであるOpenHandsを紹介します。 プラットフォームが新しいエージェントの実装を可能にし、コード実行のためのサンドボックス環境との安全なインタラクション、評価ベンチマークの導入について説明する。
  論文  参考訳（メタデータ） (2024-07-23T17:50:43Z)
• GRUtopia: Dream General Robots in a City at Scale [65.08318324604116]
  本稿では,各種ロボットを対象とした対話型3D社会「GRUtopia」について紹介する。 GRScenesには100万のインタラクティブな微妙な注釈付きシーンが含まれており、都市規模の環境に自由に組み合わせることができる。 GRResidentsはLarge Language Model (LLM)によって駆動されるNon-Player Character (NPC)システムである。
  論文  参考訳（メタデータ） (2024-07-15T17:40:46Z)
• h2oGPT: Democratizing Large Language Models [1.8043055303852882]
  我々は、大規模言語モデルの作成と使用のためのオープンソースのコードリポジトリであるh2oGPTを紹介します。 このプロジェクトの目的は、クローズドソースアプローチに対して、世界で最高のオープンソース代替品を作ることです。
  論文  参考訳（メタデータ） (2023-06-13T22:19:53Z)
• OpenAGI: When LLM Meets Domain Experts [51.86179657467822]
  ヒューマン・インテリジェンス(HI)は、複雑なタスクを解くための基本的なスキルの組み合わせに長けている。 この機能は人工知能(AI)にとって不可欠であり、包括的なAIエージェントに組み込まれるべきである。 マルチステップで現実的なタスクを解決するために設計されたオープンソースのプラットフォームであるOpenAGIを紹介します。
  論文  参考訳（メタデータ） (2023-04-10T03:55:35Z)
• Towards Openness Beyond Open Access: User Journeys through 3 Open AI Collaboratives [3.9324706525398017]
  私たちは3つのコミュニティに焦点を合わせ、それぞれがAIに関するさまざまな活動に焦点を合わせています。 まず、これらの分散したボランティア主導のチームを促進するコミュニティ構造を文書化します。 コミュニティリーダとのインタビューを通じて、メンバが発見し、参加し、貢献し、参加する方法について、ユーザジャーニーをマップします。
  論文  参考訳（メタデータ） (2023-01-20T09:34:59Z)
• This Must Be the Place: Predicting Engagement of Online Communities in a Large-scale Distributed Campaign [70.69387048368849]
  我々は、何百万人ものアクティブメンバーを持つコミュニティの行動について研究する。 テキストキュー,コミュニティメタデータ,構造的特性を組み合わせたハイブリッドモデルを構築した。 Redditのr/placeを通じて、大規模なオンライン実験を通じて、私たちのモデルの適用性を実証します。
  論文  参考訳（メタデータ） (2022-01-14T08:23:16Z)
• Formalizing Trust in Artificial Intelligence: Prerequisites, Causes and Goals of Human Trust in AI [55.4046755826066]
  我々は、社会学の対人信頼(すなわち、人間の信頼)に着想を得た信頼のモデルについて議論する。 ユーザとAIの間の信頼は、暗黙的あるいは明示的な契約が保持する信頼である。 我々は、信頼できるAIの設計方法、信頼が浮かび上がったかどうか、保証されているかどうかを評価する方法について論じる。
  論文  参考訳（メタデータ） (2020-10-15T03:07:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。