評価
ワークロード、データ、規制、プロバイダーをお客様と確認。
業界の概要
エンジニアが取り組むべきは、サーバーへのパッチ適用ではなく、プロダクトのリリースです。
クラウド、専用、GPUのキャパシティを運用込みで、ユーザーのいるリージョンに。
本番環境で
コミットは自社のサーバー上でビルド、テスト、デプロイへと進みます。Vonahost AI はロールアウト中のメトリクスを監視し、異常な挙動を示したノードをロールバックします。
ビルド、テスト、デプロイのための自社サーバー。ロールアウトも安全に。
課題
リリースや新規顧客で必要容量は一夜で変わる。
01管理しなければハイパースケールのコストは急増。
02AIプロダクトには予測可能なコストの推論が必要。
03顧客が複数の大陸にいる場合、レイテンシが重要になります。
04
当社の取り組み
プラットフォームチームの一員として。共有チャネル、運用手順書、インフラのオンコール。
ワークロードごとにAWS、Google Cloud、Vonahostから選択。
01DBと定常ワークロード向けAMD EPYC、固定月額。
02お客様のプロダクトのAI機能を支える推論インフラストラクチャ。
0335以上のリージョンで、ユーザーの近くにデプロイ。
04クライアントごとにアクセスを分離したマルチサイトホスティング。
05リファレンスアーキテクチャ
すべてのプロジェクトは個別にサイジングし、文書化します。
ワークロード
顧客の増加に合わせて拡張するマルチテナントアプリケーション。
011つのアカウントで管理する数百のクライアントサイト。
02高速なグローバル配信による高トラフィックのパブリッシング。
03コンプライアンス
コンプライアンスは共同責任。当社はインフラの管理策と文書を提供し、お客様は自らの義務に責任を負います。
SOC 2を支えるインフラの管理策と文書。
01顧客のベンダー調査票への回答と文書。
02顧客データは、お客様の契約が求めるリージョンでホスティングします。
03エンゲージメント
ワークロード、データ、規制、プロバイダーをお客様と確認。
設計、拠点、キャパシティ、月額費用を書面で。
環境構築、データ移行、全面テスト。
契約に基づくモニタリング、更新、バックアップ、キャパシティ管理。
よくある質問
はい。Git、CI/CDパイプライン、コンテナ、Infrastructure as Codeに対応しています。
はい。多くのプラットフォームでは、定常的なデータベースを専用サーバーで、変動するワークロードをクラウドで、1つのプライベートネットワーク上で稼働させています。
はい。クライアントごとにアクセスと請求を分離したマルチサイトホスティングを提供します。
プレミアムサービス
専用サーバー、VPS、データ分析。ワークロードごとに構成し、Vonahostが運用。
次のステップ
ワークロードと、お客様が従う規則をお知らせください。アーキテクチャ、スケジュール、提案書をご提示します。