与模型匹配的加速器
根据内存、吞吐量和预算选择的数据中心 GPU。型号、数量和交付周期在您做出承诺前以书面形式确认。
申请 GPU 方案服务内容
Vonahost提供 AI工作负载所需的算力、存储、网络和运维，从用于推理的单台GPU服务器，到用于训练的多节点集群。
我们交付基础设施，保障其持续运行，并随使用量增长进行扩展。
01GPU 计算
面向生产级 AI 的 GPU 计算。
用于训练、微调和推理的专用 GPU 服务器与集群，由 Vonahost 配置并运维。
- 单租户硬件为您专属预留
- 私有您的数据和模型始终留在您的环境中
- 专业运维含驱动、软件栈和监控
用于训练、微调和推理的专用 GPU 服务器。
02专门构建
专为 AI 工作负载打造。
加速器、内存、CPU、存储、互连：按负载选型，而非照目录选取。
微调任务、生产推理服务和研究集群的需求各不相同。我们分别为每一项确定规格，然后配置您团队已在使用的软件栈：驱动、CUDA、PyTorch、vLLM、Triton 或您自己的容器。
开箱即用的环境，文档齐全，首日起即受监控。
- GPU当前一代数据中心加速器，具体型号按项目确认
- 存储本地 NVMe，用于数据集和检查点
- 网络节点之间的私有高带宽链路
- 隔离每位客户独享专用硬件
可运行的工作负载
AI 基础设施的四种企业用途。
01
模型训练
从零训练，或基于自有数据继续预训练。多 GPU 节点。
02
微调
使开源模型适配您的业务领域。数据集和检查点均有版本管理。
03
推理与服务
通过私有 API 提供语言、视觉和推荐模型服务，延迟稳定。
04
私有 AI 助手
对合同、手册和内部文档进行搜索和问答。数据不外泄。
软件
标准工具，开箱即用。
交付的环境预装您团队已熟悉的框架。
- 框架
- PyTorch、TensorFlow、JAX 和 Hugging Face 库。
- 模型服务
- vLLM、Triton Inference Server、TGI 或您自己的容器。
- 编排
- Docker 和 Kubernetes，支持 GPU 调度。
- MLOps
- 实验跟踪、模型注册表、数据版本管理、监控。
- 访问
- SSH、Jupyter、私有 API 端点和 VPN。
- 模型
- 开放权重模型或您自己的模型，部署在您的基础设施上。
SEC安全
每一层均受保护。
防护从网络边缘开始，并延伸至访问控制、加密和恢复。
网络防护
DDoS 防护
- 专用服务器前端部署 Arbor 防护
- 流量型攻击在到达服务器之前即被过滤
- 具备 DDoS 防护的 DNS
网络隔离
- 环境之间的私有网络
- 管理员 VPN 访问
- 加固的操作系统和防火墙
边缘防护
- Web 应用防火墙
- 按 IP 和国家/地区封禁
- CDN 与边缘缓存
访问与数据
访问控制
- 基于角色的访问控制
- 多因素认证
- 审计日志
加密
- 传输中数据采用 TLS 加密
- 数据集和模型产物的静态加密
- 托管云包含 SSL 证书
恢复
- 每日备份
- 异地副本
- 定期测试恢复
每份方案确认各服务的防护措施。
04掌控
全面掌控您的基础设施，也掌控您的成本。
专用 GPU 服务器：位置明确，美元固定月价，单租户独享。
- 定价按服务器计算月费，提供书面报价
- 位置国家/地区在方案书和合同中写明
- 租户您的硬件上没有其他租户
- 退出您的模型、数据和配置始终归您所有
私有 AI
您的数据始终属于您。
提示词、文档、嵌入向量和模型权重均保留在您的专用环境中。任何数据都不会用于训练第三方模型，所有访问均有日志记录，并仅限于您授权的人员。
- 数据驻留自主选择数据和模型的托管位置。
- 访问控制基于角色的访问、多因素认证和审计日志。
- 加密数据集和模型产物在传输和存储时均加密。
应用场景
AI 最先产生回报的领域。
文档智能
数秒内检索并总结合同、政策和报告。
01机器人与检测
引导机器人并检测产线缺陷的视觉模型。
02研究与分析
用于仿真、预测和科学模型的算力。
03
工作流程
从首个工作负载到生产环境。
评估
我们评审模型、数据、预期流量和合规要求。
规格评估
按工作负载给出 GPU、内存、存储和网络方案，附价格与交付周期。
部署
硬件就绪，软件栈安装完成，团队获得访问权限和文档。
运营
随用量增长，我们监控、更新并扩展。
问答
常见问题。
你们提供哪些 GPU？
我们采用当代数据中心 GPU，并针对每个工作负载选择具体型号。
我们可以使用自己的模型吗？
可以。您可以部署自己的模型或开放权重模型。权重和数据均保留在您的环境中。
硬件是否与其他客户共享？
专用 GPU 服务器仅供单一客户使用。如使用共享容量，各环境相互隔离，并会在方案中注明。
价格如何确定？
价格取决于 GPU 类型、数量、合同期限和支持级别。
高级服务
面向关键工作负载的服务器。
专用服务器、VPS、数据分析。按负载配置，由 Vonahost 运维。