行业动态

国内芯片公司排名前十的阿里含光800 AI处理器像一位高超技艺的艺术家在舞台上华丽亮相其在三大场景中

在2019年的云栖大会上,阿里巴巴集团首席技术官兼阿里云智能总裁张建锋隆重发布了公司的首款AI芯片——含光800,这一事件立即引发了业界的广泛关注。自那以后,一年时间过去,阿里云异构计算产品研发总监龙欣在今年的线上云栖论坛中分享了含光800近一年来的最新进展和应用成果。

据龙欣介绍,含光800 NPU实例已经正式对外服务,不再需要白名单限制,只需在阿里云实例上购买即可。其配置包括8核NPU、96核vCPU、384G内存以及网络带宽最高达到30Gbit/s,以CNN类型模型推理加速为主要任务,适用于城市大脑、图像视频审核和拍立淘等业务场景。

更值得注意的是,在实际应用中的表现。尽管含光800尚未对外发售,其性能通过阿里云输出,并且显示出令人印象深刻的优势。在数据中心和大型端设备上的CNN类模型推理加速方面,可扩展至其他DNN模型中,其性能比GPU提升了4-11倍。

具体到三个典型场景示例:

在城市大脑中的实时处理杭州主城区交通视频,比传统GPU快两倍。

拍立淘商品库每天新增10亿商品图片识别速度缩短至5分钟。

行人检测支持100路视频,比主流GPU多20路;车辆检测支持85路视频,比主流GPU多75路。

此外,在直播、短视频、商品信息流等内容识别应用中,ResNet50 V2模型可以达到20000 FPS,比主流推理GPU高10.8倍;Inception V4模型处理帧率达到5000 FPS,比主流推理GPU高10倍。此外,在点播HDR中,其性能是66 FPS,是6.6倍于英伟达A100 GPU的性能加速比。

尽管如此,对于语音交互和自然语言理解等领域的具体应用案例,没有给出详细数据。不过,从去年到今年,我们看到了一个强大的团队如何设计并测试新芯片,但将其真正落地实施仍然是一个长期而艰巨的过程。这不仅涉及硬件优化,还包括软件支持与客户认可的问题。