論文の概要: Open at the Edge, Captured at the Center: llama.cpp and the Political Economy of Local AI Inference
- arxiv url: http://arxiv.org/abs/2608.19001v2
- Date: Mon, 24 Aug 2026 13:31:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-25 18:24:36.893606
- Title: Open at the Edge, Captured at the Center: llama.cpp and the Political Economy of Local AI Inference
- Title(参考訳): Open at the Edge, Captureed at the Center: llama.cppとローカルAI推論の政治経済
- Authors: Woohyeuk Lee, Hanlin Li, David Gray Widder,
- Abstract要約: ユーザが所有するデバイス上で、オープンウェイトなモデルを実行可能にするローカル推論インフラストラクチャは、ほとんど検討されていない。
我々は、ローカル推論が実行時の参加を拡大し、キャプチャーを実行可能にするインフラに移動させることを示す。
これは、フォーマット依存とベンダーの影響の分析、モデルの互換性要件、推論ツールの持続的な公的資金、すなわちモデルリリース条件からインフラストラクチャ層まで、というポリシーメカニズムを要求する。
- 参考スコア(独自算出の注目度): 4.0502170336910845
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Critical scholarship on open AI has focused on model releases and cloud ecosystems, leaving the local inference infrastructure that makes open-weight models runnable on user-owned devices largely unexamined. We address this gap through a mixed-methods analysis of llama$.$cpp, combining 7,681 merged pull requests from March 2023 through March 2026 with repository discussions, corporate statements, and contributor blogs. We show that local inference broadens participation at execution while relocating capture into the infrastructure that makes execution possible. Through hardware backends, model integration labor, and Hugging Face's February 2026 absorption of the project, we document how control shifts to hardware vendors, model distributors, and core maintainers while model owners and individual contributors bear the cost of making models runnable. These dynamics suggest that preserving openness outside the cloud requires attention to the infrastructure that makes models runnable, not just to the models themselves. This calls for policy mechanisms--analysis of format dependencies and vendor influence, model compatibility requirements, and sustained public funding for inference tooling--that extend beyond model release conditions to the infrastructure layer.
- Abstract(参考訳): オープンAIに関する批判的な奨学金は、モデルリリースとクラウドエコシステムに焦点を合わせており、ユーザーが所有するデバイスで実行可能なオープンウェイトモデルを実現するローカル推論インフラストラクチャは、ほとんど検討されていない。
このギャップは、llama$の混合メソッド解析によって解決される。
この$cppは、2023年3月から2026年3月までの7,681件のプルリクエストと、リポジトリの議論、企業声明、コントリビュータブログを組み合わせたものだ。
我々は、ローカル推論が実行時の参加を拡大し、キャプチャーを実行可能にするインフラに移動させることを示す。
ハードウェアバックエンド、モデル統合作業、2026年2月のHugging Faceのプロジェクト吸収を通じて、モデル所有者と個々のコントリビュータがモデルを実行可能にするコストを負担する一方で、ハードウェアベンダ、モデルディストリビュータ、コアメンテナへのコントロールシフトがどのように行われるかが文書化されています。
これらのダイナミクスは、クラウド外でオープン性を維持するには、モデル自体だけでなく、モデルを実行可能にするインフラストラクチャに注意が必要であることを示唆している。
これは、フォーマット依存とベンダーの影響の分析、モデルの互換性要件、推論ツールの持続的な公的資金、すなわちモデルリリース条件からインフラストラクチャ層まで、というポリシーメカニズムを要求する。
関連論文リスト
- The Inference Bottleneck: A Formal Model of Vertical Foreclosure in AI Markets [0.0]
生成AIが商用化するにつれて、競争上の優位性はモデルトレーニングから推論、分散、ルーティングへとシフトする。
本稿では,Besanson と Celani (2026) の形式モデルとして,推論市場における垂直フォアクロージャーの形式的ゲーム理論モデルを開発する。
モデルでは、レイテンシ、スループット、コンテキスト制限、機能アクセスによるダウンストリームライバルに対するQoS(Quality-of-Service)差別と、アシスタント層インターフェースにおけるルーティングバイアスの2つのフォアクロージャメカニズムを分離する。
論文 参考訳(メタデータ) (2026-04-19T13:23:34Z) - The End of the Foundation Model Era: Open-Weight Models, Sovereign AI, and Inference as Infrastructure [0.0]
論文は、AI産業が4つの軸に沿って同時に再構築されていると主張している。
さらに、オープンウェイトモデルは主権統制の反直感的な手段であると主張する。
論文 参考訳(メタデータ) (2026-03-18T04:49:10Z) - Economies of Open Intelligence: Tracing Power & Participation in the Model Ecosystem [21.595922367237815]
Hugging Face Model Hubは、オープンウェイトAIモデルを共有するための主要なグローバルプラットフォームである。
私たちの分析は851,000モデル、1モデルあたり200以上の集約属性、2.2Bダウンロードに及びます。
論文 参考訳(メタデータ) (2025-11-27T12:50:25Z) - HuggingR$^{4}$: A Progressive Reasoning Framework for Discovering Optimal Model Companions [50.61510609116118]
HuggingR$4$は、Reasoning、Retrieval、Refinement、Reflectionを組み合わせて効率的にモデルを選択する新しいフレームワークである。
作業性率は92.03%、理性率は82.46%に達し、それぞれ26.51%、33.25%を超える。
論文 参考訳(メタデータ) (2025-11-24T03:13:45Z) - OpenCUA: Open Foundations for Computer-Use Agents [74.61449905487565]
コンピュータ・ユース・エージェント(CUA)としての視覚言語モデル
我々は,CUAデータと基盤モデルをスケールするためのオープンソースフレームワークであるOpenCUAを提案する。
我々のエンドツーエンドエージェントモデルはCUAベンチマークで強い性能を示す。
論文 参考訳(メタデータ) (2025-08-12T17:52:32Z) - FedPromo: Federated Lightweight Proxy Models at the Edge Bring New Domains to Foundation Models [16.83959862897466]
Federated Learning(FL)は、分散データ上でディープラーニングモデルをトレーニングするための確立したパラダイムである。
我々はFedPromoを紹介した。FedPromoは、中央サーバに格納された大規模基盤モデルの、リモートクライアントのみにのみ遭遇する新しいドメインへの効率的な適応を可能にする新しいフレームワークである。
論文 参考訳(メタデータ) (2025-08-05T12:00:49Z) - Opportunistic Collaborative Planning with Large Vision Model Guided Control and Joint Query-Service Optimization [74.92515821144484]
オープンなシナリオで自動運転車をナビゲートすることは、目に見えない物体を扱うのが難しいため、課題である。
既存のソリューションは、一般化に苦しむ小さなモデルか、リソース集約的な大きなモデルに依存している。
本稿では,効率的なローカルモデルと強力なクラウドモデルをシームレスに統合するオポチュニティ協調計画(OCP)を提案する。
論文 参考訳(メタデータ) (2025-04-25T04:07:21Z) - Mitigating Downstream Model Risks via Model Provenance [28.390839690707256]
モデルレコードの作成を簡単にするための機械可読モデル仕様フォーマットを提案する。
私たちのソリューションは、アップストリームモデルとダウンストリームモデルの関係を明確にトレースし、透明性とトレーサビリティを向上します。
この概念実証の目的は、基礎モデルを管理するための新しい標準を設定し、イノベーションと責任あるモデル管理のギャップを埋めることである。
論文 参考訳(メタデータ) (2024-10-03T05:52:15Z) - Trustless Audits without Revealing Data or Models [49.23322187919369]
モデルプロバイダが(アーキテクチャではなく)モデルウェイトとデータシークレットを維持しながら、他のパーティがモデルとデータプロパティを信頼性のない監査を行うことが可能であることを示す。
私たちはZkAuditと呼ばれるプロトコルを設計し、モデルプロバイダがデータセットとモデルの重みの暗号的コミットメントを公開します。
論文 参考訳(メタデータ) (2024-04-06T04:43:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。