モデルに適したアクセラレーター
メモリ、スループット、予算に基づいて選定したデータセンター向けGPU。モデル、数量、納期は、ご契約前に書面で確定します。
GPUの提案を依頼./ai-infrastructure
トレーニング、ファインチューニング、推論のためのGPU。
専用GPUサーバーとクラスター、ストレージ、運用。自社のAIと自社のデータを、自社の管理下で。
サービス
Vonahostは、推論用の単一GPUサーバーからトレーニング用のマルチノードクラスターまで、AIワークロードに必要なコンピュート、ストレージ、ネットワーク、運用を提供します。
私たちはインフラストラクチャを提供し、安定稼働を維持し、利用の拡大に応じてスケールします。
01GPUコンピュート
本番AIのためのGPUコンピュート。
トレーニング、ファインチューニング、推論のための専用GPUサーバーとクラスター。Vonahostがサイジングし運用。
- シングルテナントお客様専用に確保されたハードウェア
- プライベートデータとモデルはお客様の環境内にとどまります
- 運用込みドライバー、スタック、監視を含む
学習、ファインチューニング、推論のための専用 GPU サーバー。
02専用設計
AIワークロードのために設計。
アクセラレーター、メモリ、CPU、ストレージ、インターコネクト：カタログではなくワークロードで選定。
ファインチューニングの実行、本番の推論サービス、研究用クラスターでは、求められる要件が異なります。それぞれを個別にサイジングしたうえで、ドライバー、CUDA、PyTorch、vLLM、Triton、または独自のコンテナなど、お客様のチームがすでに使用しているスタックを構成します。
すぐに稼働でき、初日からドキュメント化と監視が整った環境。
- GPU現行世代のデータセンター向けアクセラレーター。モデルはプロジェクトごとに確定
- ストレージデータセットとチェックポイント用のローカルNVMe
- ネットワークノード間を結ぶプライベートな広帯域リンク
- 分離お客様ごとの専用ハードウェア
実行できること
AIインフラストラクチャの4つの企業活用。
01
モデルのトレーニング
ゼロからのトレーニング、または自社データでの事前学習の継続。マルチGPUノード。
02
ファインチューニング
オープンモデルを自社の領域に適応。データセットとチェックポイントはバージョン管理。
03
推論とサービング
言語、ビジョン、レコメンデーションの各モデルをプライベートAPIで提供。安定したレイテンシ。
04
プライベートAIアシスタント
契約書、マニュアル、社内文書の検索と質疑応答。データは外部に出ません。
ソフトウェア
すぐに使える標準ツール。
環境は、お客様のチームが使い慣れたフレームワークとともに提供されます。
- フレームワーク
- PyTorch、TensorFlow、JAX、Hugging Faceのライブラリ。
- サービング
- vLLM、Triton Inference Server、TGI、またはお客様独自のコンテナ。
- オーケストレーション
- GPUスケジューリングに対応したDockerとKubernetes。
- MLOps
- 実験管理、モデルレジストリ、データのバージョン管理、モニタリング。
- アクセス
- SSH、Jupyter、プライベートAPIエンドポイント、VPN。
- モデル
- オープンウェイトモデルまたは独自モデルを、お客様のインフラで稼働。
SECセキュリティ
すべてのレイヤーで保護。
保護はネットワークのエッジから始まり、アクセス、暗号化、復旧まで続きます。
ネットワーク保護
DDoS対策
- 専用サーバーの前段でArborによる攻撃緩和
- ボリューム型攻撃をサーバー到達前にフィルタリング
- DDoS対策済みのDNS
ネットワーク分離
- 環境間のプライベートネットワーク
- 管理者向けVPNアクセス
- 堅牢化したOSとファイアウォール
エッジでの保護
- Webアプリケーションファイアウォール
- IPおよび国単位のブロック
- CDNとエッジキャッシュ
アクセスとデータ
アクセス制御
- ロールベースのアクセス
- 多要素認証
- 監査ログ
暗号化
- 転送中データのTLS暗号化
- データセットとモデル成果物の保存時暗号化
- マネージドクラウドにはSSL証明書が含まれます
復旧
- 日次バックアップ
- 遠隔地へのコピー
- 定期的な復元テスト
サービスごとの保護内容は各提案書で確定。
04コントロール
インフラストラクチャを完全にコントロール。そしてコストも。
専用GPUサーバー：ロケーション明確、米ドル建ての固定月額、シングルテナント。
- 料金サーバーごとの月額料金を書面でお見積り
- ロケーション提案書と契約書に国を明記
- テナンシーお客様のハードウェアに他の利用者はいません
- 契約終了時モデル、データ、構成はお客様のものです
プライベートAI
データはお客様のものです。
プロンプト、文書、エンベディング、モデルの重みは、お客様の専用環境内にとどまります。第三者のモデルのトレーニングに使用されることはなく、アクセスは記録され、お客様が許可した担当者に限定されます。
- データレジデンシーデータとモデルをホストする場所を選択できます。
- アクセス制御ロールベースのアクセス制御、多要素認証、監査ログ。
- 暗号化データセットとモデル成果物を、転送時と保存時に暗号化します。
ユースケース
AIが最初に成果を上げる領域。
ドキュメントインテリジェンス
契約書、ポリシー、レポートを数秒で検索・要約。
01ロボティクスと点検
ロボットを誘導し、ラインの欠陥を検出するビジョンモデル。
02研究と分析
シミュレーション、予測、科学モデルのためのコンピュート。
03
導入の流れ
最初のワークロードから本番運用まで。
評価
モデル、データ、想定トラフィック、コンプライアンスを確認。
サイジング
ワークロードごとのGPU、メモリ、ストレージ、ネットワークを、料金と納期とともに。
導入
ハードウェアを用意し、スタックを導入、チームにアクセス情報とドキュメントを提供。
運用
利用拡大に合わせて監視、更新、拡張。
よくある質問
よくある質問。
どのGPUを提供していますか。
最新世代のデータセンター向けGPUを扱っており、ワークロードごとに最適なモデルを選定します。
自社のモデルを持ち込めますか。
はい。お客様独自のモデルやオープンウェイトモデルを導入できます。重みとデータはお客様の環境内にとどまります。
ハードウェアは他のお客様と共有されますか。
専用GPUサーバーは1社のお客様専用に確保されます。共有キャパシティを使用する場合は環境が分離され、その旨が提案書に明記されます。
料金はどのように決まりますか。
料金は、GPUの種類、数量、契約期間、サポートレベルによって異なります。
プレミアムサービス
ミッションクリティカルなワークロード向けサーバー。
専用サーバー、VPS、データ分析。ワークロードごとに構成し、Vonahostが運用。