論文の概要: Create Your Own Work Stack: Deploying Self-hosted AI and Tooling in a Tech Startup
- arxiv url: http://arxiv.org/abs/2611.08116v1
- Date: Thu, 05 Nov 2026 14:49:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-07 04:55:13.548888
- Title: Create Your Own Work Stack: Deploying Self-hosted AI and Tooling in a Tech Startup
- Title（参考訳）: 独自の作業スタックを作る - 自己ホスト型AIとツールをテックスタートアップにデプロイする
- Abstract要約: セルフホスティングAIは、推論コストを削減し、コントロールを向上する手段として提示されることが多いが、デプロイメントには独自のコストが伴う。
Grayhat DevelopersでハイブリッドAIスタックをデプロイした経験を報告します。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Self-hosting AI is often presented as a way to reduce inference costs and increase control, but deployment introduces its own costs. We report our experience deploying a hybrid AI stack at Grayhat Developers, a small software company with an AI-intensive development workflow. Our initial motivation was to counter the growing cost of commercial AI usage: Claude/Codex incurred approximately \$325 per month, with more than 25.93 billion recorded tokens. We experimented with local open-source models as replacements for commercial coding agents, but after learning that their performance and inference speed were insufficient, we adopted a hybrid approach in which commercial agents remained responsible for complex tasks while local models handled lower-complexity tasks, organizational information retrieval, and synchronization with self-hosted tools including Outline, Plane, and ERPNext. We estimated that approximately 30--40\% of our commercial AI workload was associated with context transfer, documentation synchronization, task management, and related operational coordination. By moving this work to local models, we estimate that approximately 90\% of this coordination workload could be handled without commercial inference, corresponding to an estimated 27--36\% reduction in overall commercial-AI workload or cost-equivalent usage. Our first internal deployment nevertheless failed to achieve adoption because it introduced UX friction. Replacing it with a centrally configured deployment substantially improved feedback and adoption. We conclude that local inference is most useful not as a wholesale replacement for commercial AI, but as part of a hybrid architecture that assigns tasks according to their capability requirements, cost, context demands, and operational sensitivity.
- Abstract（参考訳）: セルフホスティングAIは、推論コストを削減し、コントロールを向上する手段として提示されることが多いが、デプロイメントには独自のコストが伴う。
私たちは、AI集約開発ワークフローを備えた小さなソフトウェア会社であるGrayhat Developersで、ハイブリッドAIスタックをデプロイした経験を報告します。
Claude/Codexは毎月約325ドル、記録されたトークンは25.93億を超えています。
商用コードエージェントの代替として、ローカルオープンソースモデルを実験したが、それらの性能と推論速度が不十分であることを知ると、ローカルモデルが低複雑さタスク、組織情報検索、およびOutline、Plane、ERPNextといったセルフホストツールとの同期を処理しながら、商用エージェントが複雑なタスクに責任を負うというハイブリッドアプローチを採用した。
我々は、私たちの商用AIワークロードの約30～40パーセントが、コンテキスト転送、ドキュメント同期、タスク管理、および関連する運用調整と関連していると推定した。この作業をローカルモデルに移行することで、この調整ワークロードの約90%は、商業的推論なしで処理できると見積もった。これは、商用AIワークロード全体の27～36パーセントの削減またはコスト等価使用量に相当する。
私たちの最初の内部デプロイメントはUX摩擦を導入したため、採用に失敗しました。
集中的に構成されたデプロイメントで置き換えることで、フィードバックと採用を大幅に改善した。
ローカル推論は、商用AIに取って代わるものとしてではなく、その能力要件、コスト、コンテキスト要求、運用感度に応じてタスクを割り当てるハイブリッドアーキテクチャの一部として有用である、と結論付けている。
関連論文リスト
- Faster than the Team, Faster than the Customer: Tool Integration, Collaboration, and Organisational Lag in AI-assisted RE [4.204967124760956]
要求工学(RE)に生成AIツールを適用することの影響は、まだよく理解されていない。
本稿では,AI支援型REツールが,ハイテクソフトウェア工学の中規模企業であるXITASOの産業実践にどのように利用されているかを検討する。
プロダクトバックログ管理,テンダ管理,要件とドメイン理解,ドキュメントとアーティファクトの生成という,4つのカテゴリにまたがる15のユースケースを特定します。
論文 参考訳（メタデータ） (2026-06-01T06:53:56Z) - Beyond the Data Mesh Illusion: Designing Modern AI-augmented Lakehouses to Bridge the Gap Between Theory and Practice [0.0]
エンタープライズデータプラットフォームは、ドメインのセルフサービスと全体的ガバナンスの間の永続的な緊張に直面します。
本稿では,近代的なレイクハウスアーキテクチャ上に構築されたAI強化ハブ・アンド・スポークモデルにより,柔軟性と制御のトレードオフを緩和することができることを論じる。
論文 参考訳（メタデータ） (2026-05-26T15:00:57Z) - AIPC: Agent-Based Automation for AI Model Deployment with Qualcomm AI Runtime [0.0]
本稿では,AIモデル展開の制約付き自動化のためのAIエージェント駆動型アプローチであるAIPCを紹介する。
標準化された検証可能なステージへのデプロイを分解し、デプロイドメインの知識をエージェントの実行に注入する。
PyTorchから実行可能なQNN/SNPE推論へのデプロイを7～20分以内に完了し、構造的に定期的な視覚モデルを実現する。
論文 参考訳（メタデータ） (2026-04-16T06:15:56Z) - Credit-Budgeted ICPC-Style Coding: When Agents Must Pay for Every Decision [22.553482985384182]
自律的符号化エージェントの現在の評価は、非現実的で無限資源環境を前提としている。
孤立した精度からコストを意識した問題解決へ焦点を移すため,USACOArenaを紹介した。
論文 参考訳（メタデータ） (2026-04-11T12:22:10Z) - Economics of Human and AI Collaboration: When is Partial Automation More Attractive than Full Automation? [7.168698398166703]
本稿では,タスク自動化の最適度を評価するための統一的なフレームワークを開発する。
我々は、データ、計算、モデルサイズにパフォーマンスをリンクするスケーリング法則の実験を通じて、AI生産関数を推定する。
完全自動化はコストを最小化するものではなく、企業が残業のために人間の労働者を保持する部分自動化は、しばしば均衡として出現する。
論文 参考訳（メタデータ） (2026-03-31T01:18:10Z) - MegaFlow: Large-Scale Distributed Orchestration System for the Agentic Era [74.42509044145417]
MegaFlowは、エージェント環境ワークロードの効率的なスケジューリング、リソース割り当て、きめ細かいタスク管理を可能にする、大規模な分散オーケストレーションシステムである。
エージェントのトレーニングデプロイメントでは、MegaFlowは、高いシステムの安定性を維持しながら、数万の並行エージェントタスクを編成し、効率的なリソース利用を実現しています。
論文 参考訳（メタデータ） (2026-01-12T13:25:33Z) - SEAgent: Self-Evolving Computer Use Agent with Autonomous Learning from Experience [71.82719117238307]
本稿では,コンピュータ利用エージェントが不慣れなソフトウェアとのインタラクションを通じて進化することを可能にするエージェント型自己進化フレームワークSEAgentを提案する。
我々は、OS-World内の5つの新しいソフトウェア環境におけるSEAgentの有効性を検証する。
当社のアプローチは,競合するオープンソースCUAに比べて,11.3%から34.5%という,23.2%の大幅な改善を実現している。
論文 参考訳（メタデータ） (2025-08-06T17:58:46Z) - Co-Saving: Resource Aware Multi-Agent Collaboration for Software Development [65.94639060883475]
本稿では,リソースを意識したマルチエージェントシステムであるCo-Savingを提案する。
私たちの重要なイノベーションは、"ショートカット"の導入です。
最先端のMAS ChatDevと比較して,トークン使用量の平均50.85%の削減を実現している。
論文 参考訳（メタデータ） (2025-05-28T02:23:53Z) - Intelligent Mobile AI-Generated Content Services via Interactive Prompt Engineering and Dynamic Service Provisioning [55.641299901038316]
AI生成コンテンツは、ネットワークエッジで協調的なMobile AIGC Service Providers(MASP)を編成して、リソース制約のあるユーザにユビキタスでカスタマイズされたコンテンツを提供することができる。
このようなパラダイムは2つの大きな課題に直面している: 1) 生のプロンプトは、ユーザーが特定のAIGCモデルで経験していないために、しばしば生成品質が低下する。
本研究では,Large Language Model (LLM) を利用してカスタマイズしたプロンプトコーパスを生成する対話型プロンプトエンジニアリング機構を開発し,政策模倣に逆強化学習(IRL)を用いる。
論文 参考訳（メタデータ） (2025-02-17T03:05:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。