Google Kubernetes Engine VS Vertex AI(AI Platform Unified)服务模型预测 [英] Google Kubernetes Engine vs Vertex AI (AI Platform Unified) for Serving Model Prediction

问题描述

Google最近发布的Vertex AI集成了所有MLOps平台，我想知道在GKE和Vertex AI(或AI Platform Unified，因为更名刚刚开始，AI Platform已经提供模型预测功能)上提供定制训练的PyTorch/TensorFlow模型有什么不同。

我做了很多研究，但几乎没有找到关于这方面的信息。我已经在GKE上托管我的ML模型，是否值得迁移到Vertex AI？

注意：我还不打算在云上进行培训和其他数据预处理。

推荐答案

值得将顶点AI视为：

Vertex AI是一个"托管"ML平台，供从业者加速实验和部署AI模型。在部署/训练/预测ML模型时，我们不需要管理基础设施/服务器/运行状况。Vertex AI将根据流量进行缩放，并为您解决这一问题。

一些有助于考虑顶点AI的关键功能：

1. Vertex AI streamlines model development

一旦模型被训练，我们就会得到详细的模型评估度量和特征属性。(特征属性告诉模型中哪些特征最能反映模型的预测，从而深入了解模型在幕后的表现)

2. Scalable deployment with endpoints

一旦训练好模型，就可以将其部署到端点。可以拆分型号之间的流量进行测试，还可以自定义机器类型

3. Orchestrating Workflow using Vertex pipeline

顶点管道有助于避免模型概念漂移，当模型周围的环境发生变化时可能会发生这种情况。顶点管道可以帮助自动执行此保留工作流。

4. Monitoring deployed models using Vertex AI

顶点模型监视可用于检测漂移和训练-服务-倾斜等情况，因此使用顶点AI可以确保模型的可靠性，而不是手动检查以确保模型仍正常运行，因为只要有变化，我们就会收到警报。

这篇关于Google Kubernetes Engine VS Vertex AI(AI Platform Unified)服务模型预测的文章就介绍到这了，希望我们推荐的答案对大家有所帮助，也希望大家多多支持IT屋！