芯片龙头股闪耀新星阿里含光800 AI处理器震撼亮相三大场景应用性能超越GPU4-11倍
在2023年的一次线上云栖大会上,阿里巴巴集团的首席技术官兼阿里云智能总裁张建锋再次展现了公司在人工智能领域的最新进展。自从两年前发布其首款AI芯片含光800以来,这款芯片已经成为了行业内最强大的AI推理解决方案之一。
今年,阿里云异构计算产品研发总监龙欣在一个专注于芯片设计发展现状与未来的论坛中分享了近一年来含光800的最新动态。他提到,尽管含光800目前还没有正式对外销售,但它已经被整合到了阿里云服务中,可以通过实例名称ebman1.24xlarge购买。这款实例配备有8核NPU和96核vCPU、384G内存以及最高30Gbit/s的网络带宽,使其成为处理数据中心中的CNN类型模型推理加速工作负载的一个强大工具。
龙欣指出,含光800主要面向城市大脑、图像视频审核以及拍立淘等应用场景。在这些场景中,该芯片提供了4-11倍高于GPU的性能提升。例如,在行人检测应用中,它可以支持100路视频,比主流GPU多16倍;在车辆检测应用中,可支持85路视频,比主流GPU多7.5倍。此外,在直播、短视频和商品信息流等内容识别任务中,它能够实现11倍以上的性能加速。
值得一提的是,尽管包含了一些具体数字和案例分析,但该会议并没有详细讨论涉及到的具体技术细节或未来计划。此外,由于当前全球经济形势不确定性较高,以及贸易关系紧张的情况下,对于此类敏感话题进行公开讨论可能会更加谨慎。因此,我们只能期待未来更多关于这一主题的深入探讨,并关注随着市场需求不断增长是否会看到更快-paced 的创新发展步伐。