文章插图
图 7：常见服务器SoC位于边缘，根据任务数量、功率、延迟和其他需求，具有不同的处理器数量、以太网吞吐量和存储能力。AI算法正在突破内存带宽要求的极限。例如，最新的BERT和GPT-2型号分别需要345M和1.5B参数，为了满足这些需求，不仅需要高容量的内存能力，还需把许多复杂的应用放在边缘云中执行。为了实现这种能力，设计人员正在新的芯片组中采用DDR5。除了容量挑战之外，还需要存取AI算法的系数，以进行非线性序列中并行执行的大量多次累加计算。因此，HBM2e也成为一种被迅速采用的新技术，有些芯片实现了单芯片中的数次HBM2e实例化。
文章插图
图 8：通用AI SoC具有高速、高带宽、内存、主机到加速器，以及高速芯片到芯片接口，用于扩展多个AI加速器。未来，边缘计算的需求将集中在降低延迟和功率，确保有足够的处理能力来处理特定任务上。新一代服务器SoC解决方案不仅将具有更低的延迟和更低的功耗，而且还将纳入AI功能，也就是AI加速器。但是很明显，AI和边缘计算的需求也在迅速变化，我们今天看到的许多解决方案在过去两年中已多次取得了进步，并将继续加以改进。
文章插图
图 9：新一代服务器SoC再加上AI加速器，将加快边缘计算速度结语
Futuriom曾在《5G，物联网和边缘计算趋势》中写道，5G将成为边缘计算技术的催化剂，使用5G技术的应用将改变流量需求模式，为移动蜂窝网络的边缘计算提供最大的推动力。总的来说，边缘计算是实现数据快速连接的一项重要技术，它将云服务更靠近边缘设备，降低延迟，为消费者提供新的应用和服务；还将衍生出更多的AI功能，将其扩展到云以外。此外，它还将成为支持未来混合计算的基础技术。想了解更多关于新思科技IP产品相关信息，可点击“阅读原文”。
*免责声明：本文由作者原创。文章内容系作者个人观点，半导体行业观察转载仅为了传达一种不同的观点，不代表半导体行业观察对该观点赞同或支持，如果有任何异议，欢迎联系半导体行业观察。
今天是《半导体行业观察》为您分享的第2503期内容，欢迎关注。
推荐阅读
★华为的断臂自救往事
★你不一定知道的射频芯片厂商
★英特尔与AMD的龟兔赛跑
『半导体第一垂直媒体』
实时 专业 原创 深度
识别二维码，回复下方关键词，阅读更多
存储｜晶圆｜光刻｜FPGA｜苹果｜OLED｜射频｜封测
回复投稿，看《如何成为“半导体行业观察”的一员 》
回复搜索，还能轻松找到其他你感兴趣的文章！
【 据中心|IoT 、5G与边缘计算将会擦出怎样的火花？】点阅读原文，了解更多关于新思科技IP产品相关信息！
