芯片奇迹含光800 AI处理器登场三大应用性能爆表GPU相比高出4-11倍
在2023年的一次线上云栖大会上,阿里巴巴集团的首席技术官兼阿里云智能总裁张建锋再次展现了他们旗下的AI芯片含光800。自从2019年的杭州云栖大会以来,这款最强大的AI推理芯片一直被关注,它的发布就像一道亮丽的风景,让所有人屏息以待。
一年多之后,阿里云异构计算产品研发总监龙欣在今年的线上论坛中分享了含光800近一年来的最新进展。他宣布:“我们已经将NPU实例正式对外服务,不需要任何白名单限制,即使是非内部用户也能通过阿里云购买实例。”这意味着无论你是哪个行业,从业者,只要有需求,都能轻松接触到这个高性能的处理器。
含光800面向的是数据中心中的CNN类型模型推理加速,以及城市大脑、图像视频审核和拍立淘等业务领域。它支持8核NPU和96核vCPU,并配备384G内存,网络带宽可达30Gbit/s。这对于提升效率和性价比而言,无疑是一个巨大的飞跃。
为了让含光800能够快速部署并开始工作,阿里云提供了自动安装NPU驱动和SDK以及预装主流深度学习框架,如TensorFlow、MXNet,还包括示范教程。这样一来,就可以直接开箱即用,无需过多时间成本。
据龙欣介绍,在实际应用中,与GPU相比,含光800表现出了4-11倍性能提升。在城市大脑应用中,它可以减少延时;在拍立淘商品库图片识别任务中,可以缩短处理时间至五分钟;在行人检测与车辆检测应用中,则显著提高了视频分析能力。而且,在ResNet50 V2模型中的内容识别速度达到20000 FPS,比主流GPU快11倍。此外,在直播、点播及HDR视频质量增强方面,也同样展示出其超越传统GPU设备能力。
尽管今年的涉及范围较去年略有缩减,但这并不改变事实:包含隐私保护和软件优化功能,以满足不同场景需求。如今,我们或许期待下一步,将看到更丰富的情境演示以及更多关于未来的规划。但不管怎样,这款AI芯片已经证明其潜力,并为各界提供了一种新的解决方案,使得复杂的问题变得简单易行。