×

边缘智能平台 Edge AI 联想

联想构建Edge AI边缘智能平台,开拓“边缘+智能”的新思路

023daily 023daily 发表于2021-04-07 14:41:37 浏览405 评论0

抢沙发发表评论

11月15日,联想集团副总裁、联想研究院人工智能实验室负责人范建平博士,联想企业科技集团HPC&AI营销总经理于涛应邀出席第二届中国超级算力大会(China SC 2020),与众多知名学者与产业从业者齐聚一堂,共同探讨“新基建”背景下高性能计算行业的挑战和机遇,展示智能算力的最新科技。会议期间,倍受瞩目的HPC TOP100榜单正式揭晓,联想以35套的成绩名列榜首,其中六套位列榜单前十名,这是联想第六次荣登中国第一。

联想名列HPC TOP100榜首

会上,范建平博士发表主题演讲,重点展示了联想边缘AI平台的强大技术能力,以及在垂直行业中的应用实践。他表示,联想依托在边缘计算、人工智能领域的深耕和积累,推出了“Edge AI”边缘智能平台。该平台主要包括三部分:

第一,在云端进行模型的初始化和训练。众所周知,训练环节是AI算力需求最大、最集中的部分。部署于边缘和端的AI模型,为了保证良好的精度,必须通过深度学习算法,在AI服务器上基于大规模的训练数据进行多次迭代训练才能得到理想的AI模型。这个环节中,AI服务器基础架构与AI 训练管理软件是保证AI训练任务稳定高效运行的关键。联想企业科技集团目前推出了一系列AI服务器产品,如基于英伟达NVLINK技术的SG670, 可以配置8张最高端GPU A100的HG680等产品,为人工智能的训练任务提供了坚实的算力保障。同时范建平博士提到了联想研究院的人工智能训练平台——炼AI大师,这是一款应用于联想研究院内部的、功能丰富、强大的AI训练工具,可以应对AI开发过程中,多机并行、多用户、多任务、多环境等复杂场景。

第二,在边缘侧借助于Edge AI的训练结果进行决策。范建平博士指出:在实际的客户使用场景中出于延迟,决策速度,尤其是数据安全的考虑,越来越多的AI计算会在边缘端完成,而不是把数据发送回数据中心,由数据中心完成计算再将计算结果返回。所以,AI的边缘计算技术是解决这个问题的关键。范建平博士提到联想研究院的“联想大脑”在边缘端的AI部署有静态和动态两种不同的方式,两种不同的部署方式分别适用于不同的客户场景——在客户训练数据与测试数据具有相同分布时,我们使用静态部署模式;反之,则动态部署更为合理。尤其在动态部署时,我们需要在边缘侧通过不断的训练,升级,再训练,再升级的方式,使边缘端的能力越来越突出,越来越聪明。但这一过程也是极其耗费算力的过程,用户面临着大量的GPU计算需求。范建平博士在这里提出联想的解决之道——AI算法创新,重点展示了AUTOML增量学习的方法,使得在实现模型动态的同时,大幅度减少了对计算资源的消耗与依赖。

联想集团副总裁、联想研究院人工智能实验室负责人范建平博士发表演讲

最后,范建平博士指出,联想Edge AI平台是由“炼AI大师”和“联想大脑”两个核心部分组成,与联想企业科技集团等其他业务单元产品已经高度结合,能够使云端和边缘设备的算力最大化。如设计了最适配联想边缘设备的底层算子及其编译器,能够实现低功耗,小模型;同时,Edge AI平台具备边云多AI任务联合作业的能力;此外,还支持企业用户利用自己的个性化数据,建立企业专属的“智慧大脑”。

目前,联想Edge AI平台已经通过联想企业科技集团实现了产品化,推出了LiCO AI、AI一体机等功能强大的AI产品与解决方案,被广泛应用于人工智能数据中心、智能制造、工业物联网、智慧城市、智能零售、智能音箱和智能家居等各个方面。在自动驾驶领域,可以做到行人识别、车辆识别、信号灯识别等。