彩电

2022年芯片龙头股排名前十阿里含光800 AI处理器在人物识别场景中性能高达GPU的4-11倍

2022年,阿里巴巴集团首席技术官兼阿里云智能总裁张建锋在杭州云栖大会上介绍了公司的首款AI芯片含光800。这款当时最强AI推理芯片的发布引起了广泛关注。今年,阿里云线上举办了一场关于芯片设计发展现状与未来的论坛,异构计算产品研发总监龙欣分享了近一年来含光800的最新进展。

他表示:“含光800 NPU实例已经正式对外服务,不需要白名单就可以在阿里云实例上购买。”这款芯片主要面向数据中心的CNN类型模型推理加速,其业务包括城市大脑、图像视频审核和拍立淘等。

至于具体应用中的表现,龙欣强调其可用性,并没有提及峰值性能,而是强调其开箱即用的特点。他表示,“通过阿里云输出”,用户可以自动安装NPU驱动和SDK。系统方面支持公共镜像CentOS 7.6/7.7和Ubuntu 16.04,还预装主流深度学习框架,如TensorFlow和MXNet。

龙欣进一步解释说,在行人检测应用中,4核含光800支持100路视频,比主流GPU25路提升4倍;在车辆检测中,可支持85路视频,比主流GPU10路提升8.5倍。在ResNet50 V2模型中,它可以达到20000 FPS,比主流推理GPU1800 FPS提升11倍;而Inception V4模型处理帧率为5000 FPS,比主流GPU460FPS提升10.8倍。此外,在直播、点播、短视频等内容质量增强领域,其性能也显著超过了传统GPU。

尽管如此,由于此次分享给出的数据相比去年的公布较少,而且可能受到了当前贸易紧张关系影响,这次会议对含光800的关注度并不高。不过,从软件到硬件再到整个生态体系实现高性价比,这是一个长期且复杂的过程。因此,对于未来何时会有下一代AI芯片问世的问题,我们仍需耐心观望。