近日，BreezeML宣布完成400万美金种子轮融资。本轮融资由蓝驰创投领投，威诚资本(UpHonest Capital)、Embark Ventures和Hat Trick Capital参与投资。
本轮融资将用于研发BreezeML在公有云和私有云上的人工智能部署和优化一键式服务，让人工智能企业可以低成本、有效及可靠地使用各类云上的GPU资源。
1、实现AI/ML民主化
人工智能是继云计算之后最令企业期待的技术，它不仅提升企业运营效率，而且为企业开发基于AI-first产品的跨代际体验和效率提升提供了技术可能。但AI模型训练和推理需要消耗庞大的计算资源，企业需要投入数百万甚至数亿美元来维护和运营AI基础设施。
BreezeML联合创始人徐国庆是加州大学洛杉矶分校计算机科学系的教授。前重点研究的两个领域：(1)未来云计算的基础设施（特别是用户定义的云）和(2)为ML应用程序提供廉价可扩展性的基础设施（即负担得起的人工智能）。
徐国庆是最早研究“软件膨胀”问题的学术研究人员之一，还引领了使用PL技术优化大规模数据分析的方向。2017年，徐国庆作为访问研究员在Microsoft Research工作，在那里创建并领导了一个项目的开发，该项目为Microsoft的Scope/Cosmos（一种多语言数据分析管道）构建了一个优化编译器。2018年，徐国庆获得了Dahl-Nygaard青年奖，该奖每年颁发给一位在面向对象领域做出有前途贡献的初级研究员。
2022年4月，BreezeML成立于美国洛杉矶。徐国庆带领研发团队将多年积累的软件系统及云计算研发经验融入BreezeML的产品当中，通过对软件栈底层的资源优化管理，极大程度地提高数据中心资源利用率，从而降低人工智能产品化的成本和技术门槛。他们科研成果转化的初期效果和价值已经得到了知名云厂商等企业的认可。
BreezeML意识到，成本已成为AI民主化的障碍。基础设施成本的上升使得先进的机器学习技术，尤其是大型模型训练和AutoML，对大多数公司来说都是遥不可及的。BreezeML旨在让每个人都能从机器学习的力量中受益，并将这些技术应用到现实世界的应用程序中。
为了实现这一目标，BreezeML通过仔细选择合适的云资源和智能调度计算，提供了一系列可定制的成本节约策略。
一方面BreezeML采用云原生ML方法，通过使计算具有弹性来有效地使用云资源，并为各种框架和调度程序提供弹性插件，以在不断变化的集群资源上动态运行ML作业；另一方面BreezeML将客户的ML工作负载与不同的特征结合起来，并小心地将吞吐量敏感的作业与延迟敏感的作业交错，以提高资源利用率。
BreezeML提供一系列构建在通用基础架构主干之上的产品，以帮助不同的客户快速将其ML工具产品化并有效利用其云资源。
Windmill是机器学习应用程序的现成虚拟云，由BreezeML托管和管理，可帮助ML开发人员部署他们的训练和推理作业。Windmill负责资源分配、作业启动、负载平衡和成本优化，以自动达到用户指定的目标。
Lattice是机器学习的编排系统。作为Windmill的主干，Lattice可以部署在企业本地环境中，无论是使用公有云还是本地集群，进行资源管理和编排服务，并可以根据产品需求进行定制。Lattice旨在降低kubernetes集群成本，简化部署过程，提高利用率。
目前，BreezeML正在快速建立一个云工程团队，并正在寻找具有设计、架构和实施经验的强大云基础设施工程师加入团队，帮助塑造和构建下一个云基础设施，以优化ML工作负载。
2、AI赋能绿色计算
随着云计算、人工智能、5G、物联网、区块链等技术的发展，全球算力需求未来几年预计将实现上十倍的增长。根据IDC数据，2020年全球算力总规模达到429EFlops，增速达到39%，其中基础算力规模(FP322)为313EFlops3，智能算力规模（换算为FP32）为107EFlops4，超算算力规模（换算为FP32)为9EFlops5。据IDC预估未来五年全球算力规模将以超过50%的速度增长，到2025年整体规模将达到3300EFlops。
在“碳中和”背景下，智能计算中心、智能通信网络、新一代AI计算架构等产业能耗巨大，相关企业面临的挑战有越来越严峻。据预计到2035年，全国数据中心耗电量将超过4500亿度，而全国5G基站耗电量也将超过2400亿度。而随着AI模型越来越庞大，模型训练的能耗和排放也很高。比如，通过NAS训练Transformer(big)模型可排放高达284吨二氧化碳。
无论是大公司还是小企业，降本增效是其永恒的话题，简化IT运维管理，降低综合成本的需求迫切。绿色计算或可持续计算指在设计和使用计算机芯片、系统和软件的过程中，最大限度地提高能效并减轻对环境的影响。随着超级计算机和数据中心的发展和不断刷新的功耗极限，人们对绿色计算也越来越感兴趣。
BreezeML聚焦“AI绿色计算”，通过云计算底层软件栈的革命性更新来极大地提高现有云上计算资源的利用率，降低AI使用成本。一方面，随着人工智能的应用进入到工控、制药、金融等各个领域，未来的五年中势必有更多的中小型企业需要使用AI，从而不得不承受由AI带来的巨大经济压力；另一方面，全球性的经济低迷、供应链短缺、以及地缘政治所造成的算力缺乏，必然会导致无论是公有云的提供商还是私有云的拥有者都无法继续通过加大购买计算（CPU或者GPU）资源来满足AI应用日益增长的算力要求。
面对里程碑式的新起点，徐国庆表示：“BreezeML以我们在UCLA和普林斯顿大学数十年研究为起点，通过云软件栈和AI计算框架的联合优化，为AI企业提供廉价可靠的上云方案。BreezeML成立后的短短几个月之内，我们已经与数十家全球知名云厂商和AI客户建立了广泛且深层次的合作。在新的一年里，我们期待与超过50家的云提供商、AI平台运营商，以及在各个领域使用AI的中小型企业建立合作伙伴关系，从而进一步降低AI的使用门槛和部署开销。”
未来，BreezeML将继续以AI绿色计算为载体，以降低AI成本为起点，在推动AI应用的一键式上云及部署上持续发力，让云厂商不必担忧算力匮乏，使AI企业不必烦恼计算成本，从而让AI能够真正地被应用在人类的每日生活当中。
资料来源：https://breezeml.ai/
