AWS推出Neo-AI,加速边缘设备上的机器学习部署
亚马逊的云计算部门今天宣布推出Neo-AI,这是Apache许可证下的一个新的开源项目。 该新工具采用了该公司为其SageMaker Neo机器学习服务开发和使用的一些技术,并将它们带回到开源生态系统。其主要目标是使在多个平台上部署的优化模型更容易,而在 AWS 环境中,主要是在边缘运行这些模型的机器。
Neo-AI可以采用TensorFlow,MXNet,PyTorch,ONNX和XGBoost模型并进行优化。 AWS表示,Neo-AI通常可以将这些模型的速度提高到原始速度的两倍,而且不会降低精度。至于硬件,这些工具支持Intel,Nvidia和ARM芯片,很快就会支持Xilinx,Cadence和Qualcomm。除Nvidia外,所有这些公司也将为该项目做出贡献。