免费开放源代码模型服务基础架构 Cortex 推出 Cortex v0.12，该版本架构包含以下主要功能：框架不设限，用户能够在可以将任何框架中的模型部署为生产 API；自动缩放，Cortex 自动扩展您的实例以处理流量波动，同时将成本降至最低；GPU / CPU 支持，在 GPU 或 CPU 上服务模型；竞价型实例。Cortex 支持现场实例上的部署，这可以将您的云费用减少 90％。