白家电

阿里含光800 AI处理器亮相其高效的基本结构使得在人物识别场景下的性能达到了4-11倍于GPU的水

在2023年的阿里云栖大会上,阿里巴巴集团首席技术官兼阿里云智能总裁张建锋再次推出了公司的AI芯片含光800。这款芯片自发布以来就引起了广泛关注,并且在过去的一年中,阿里的研发团队已经对其进行了深入的优化和改进。

今年的线上云栖大会中,阿里云异构计算产品研发总监龙欣分享了含光800近一年来的最新进展。据他介绍,这款NPU实例已经正式开放给用户,可以通过白名单购买并部署到阿里云实例上。该实例支持8核NPU、96核vCPU、384G内存以及最高30Gbit/s网络带宽,是针对数据中心中的CNN类型模型推理加速而设计,适用于城市大脑、图像视频审核等业务场景。

尽管含光800尚未公开销售,但它已展示出显著的性能优势。在特定应用场景中,它比GPU高效4-11倍。例如,在城市大脑应用中,使用含光800可以减少延时,从300ms降至150ms;拍立淘商品库每天新增10亿商品图片识别时间从1小时缩短至5分钟。

涉及到的具体应用包括但不限于行人检测、车辆检测以及内容识别等。在这些场景下,含光800表现出色的处理能力,使得其成为提升AI算力的关键设备。此外,它还具有深度优化CNN及视觉类算法、高能效与低延时、高密度计算与存储,以及软硬协同支持权重稀疏压缩等多项特点,使其在提供强大的AI推理能力同时也保持一定程度的灵活性和可扩展性。

然而,由于当前全球贸易环境复杂,加之疫情影响,一些原本计划公布详细数据或演示新功能的情况被迫调整,因此今年对于包含隐光800在内的一些技术亮相可能略显低调。不过,这并不意味着这个项目没有前途,而是反映出科技巨头面临的挑战和困难。随着市场条件逐渐好转,我们预计将会看到更多关于这一领域发展动态和新的突破性的消息。