从云而往，以边沿为终。

测算鼓励的角度上云计算技术、雾计算、工业物联网等陆续而来，从情景角度上，智能家居系统、工业制造业、交通出行政务服务、自然环境勘察等分别清香。我们可以看到的算力形状已经开始百花盛开，但在大家看不到的地方，仍然拥有充沛的算力要求。

伴随着“十四五”规划的持续落地式，加速数字化转型，全力发展数字经济，构建具备竞争力数字的产业群，全面推行智能制造系统计划，业已成为在我国现阶段持续发展的关键之一。而公司要想从这当中出类拔萃，怎么突破算力的迷案，寻找更高效的算力形状，就会变得尤为重要。据英特尔预测分析，全世界的算力要求预估到 2025 年把提高 1000 倍。那样算力要求这般充沛，哪儿才会得到这种算力呢？算力的结构这般丰富多彩，最后的回答到底是什么？是 CPU？GPU？ASIC？或是 FPGA？近些年，我看到了一个更为靠谱的回答，那便是：“我全都要。”

异构计算：不单单是佼佼者

“我全都要”并不是一种贪婪，而是一种发展趋势。

信息化建设的根本原因在数据信息，还在智能化。而各个行业日趋繁杂大数据的和 AI 应用场景下，算力要求爆发式增长，这既是量有所增加，形状也在变化。可是，做为一家企业，算力与架构及全面的关联关系使得他们不太可能经常换最底层，因而，当算力的供应提高没法紧跟算力要求的步伐，多样化算力这个概念就被别人逐渐提到。

异构计算是多元化算力的常见。超越标量（CPU）、矢量素材（GPU）、引流矩阵（ASIC）、室内空间（FPGA）的异构计算，如今已变成公司促进 IT 基础设施建设重新构建的中坚力量。其能够把不一样架构的运算单元融合到一起进行并行处理，以最合适的专用型硬件配置去做最合适的事如聚集测算或外接设备体系等，以达到性能和成本最优控制。因而许多企业开始着手应用异构计算来解决算力短板，发掘和完成算力提高。

多元化算力的应用领域已经显得愈发普遍，以快手为例子，在其内容创作、具体内容了解、内容分发、内容消费等环节中都多元化算力拥有很多要求。尤其是在推荐算法层面，快手使用了测算与储存分开的架构方式，强烈推荐系统中储存型服务项目主要是用于储存和自动更新过亿体量的客户画像、数十亿体量的小视频特点、及其千亿元体量的排序模型主要参数。在其中参数服务器是一个容积和网络带宽受到限制的软件，必须支撑点每秒钟数亿次的KV要求；参数服务器的KV要求也达到每秒钟数亿次，规模性查询表会损耗很多 CPU 网络资源，作为其性能的重要短板。

异构计算恰好是快手与英特尔联合给的回答，可以将负荷卸载掉到专业的优化处理芯片上，也有助于清除性能短板，在货运量与延迟层面完成明显改进。

快手 LaoFe NDP 异构计算架构

快手可以提供异构体加快选择项的 LaoFe NDP 架构在预估层选用英特尔 CPU、FPGA、PMEM 等元器件，完成了根据 LaoFeNDP 架构的 FPGA based KVS 实践活动落地式，进一步提升快手在强烈推荐、检索、广告宣传、风险控制等各类场景下的运用性能。与此同时，其根据测算系统架构自主创新、硬软一体化、行业专用型网络加速器设计方案，通过互联网存、储存、测算三重加快来给予低延迟、分布式系统、高吞吐、低总体拥有成本（TCO）的基础资源。

三重加快，恰好是异构计算特有的独特之处。

快手 LaoFe NDP 架构图网络层面，LaoFe NDP 架构将 CPU 接收互联网数据操作，卸载掉到 FPGA 上。Client 上传的要求包立即发给 FPGA。对比 gRPC 根据 TCP/IP，作用过度繁杂，性能和延迟计划方案难以保证。而采用根据 FPGA 完成了一套 SD-RDMA 协议书，根据网络层添加字段的形式，确保了类似 gRPC 的安全性传送，这能够降低要求延迟。

储存层面，LaoFe NDP 架构将 CPU 储存实际操作也卸载掉到 FPGA 上。为了能能够最大限度充分发挥 FPGA 能力，快手根据通用性 KV 储存情景定制了一套便于 FPGA 浏览的 KV（Key-Value）模块。与此同时，其适用 SSD/英特尔? 傲腾? 长久运行内存/DRAM 运行内存、根据 hash 的 Key-Value 存储引擎，可以有效加快储存性能。根据实战演练检测，应用 KV 查询表的吞吐量对比 CPU 计划方案提高了整整 5 倍左右。

测算层面，LaoFe NDP 架构根据 DSA 的形式将测算实际操作卸载掉到 FPGA 上，完成了一个行业专用型Cpu。行业专用型处理器是一类对于相应行业量身打造的Cpu。它对于相应行业可编，与此同时在一定行业问题处理上可以产生明显的性能和的效率提高。加上英特尔? 酷睿i5? 可扩展处理器、英特尔? FPGA 等设施，能帮助快手将 LaoFe NDP 架构优点发挥得淋漓尽致。

互联网、储存、测算加快后平面图

异构计算身后，一场性能的大变局

实际上，异构计算并不是新这个概念，其早在上个世纪 80 年代中期就被移出，那时候就被觉得拥有计算水平强、扩展性好、资源应用效率高特性。可是，为何异构计算时迄今日，才再度发挥其关键作用呢？

我们都知道理论是持续发展的，许多在之前的难以实现的设计构思，可能会在若干年后绽放光芒。就比如说 1956 年所提出的人工智能应用，在半世纪之后才稳步发展并变成了社会发展至关重要的一部分。撑起其变动的一方面是数据处理技术成熟的，另一方面便是算力自已的发展趋势。异构计算亦是如此，英特尔则在发展的进程中起到的作用主导作用。

在快手的 LaoFe NDP 架构中，英特尔? Stratix? 10 FPGA 主要表现十分出色。一个全新的英特尔 Hyperflex? FPGA 架构对比前一代工作频率提升了 2 倍，功能损耗减少了 70%。除此之外，更快地工作频率减少了系统总线总宽和知识产（IP）规模，释放出更分多 FPGA 网络资源，以加上更强的作用。与此同时它使用了超感知设计工具，降低了走线堵塞与设计迭代更新，提升了设计任务效率。

一只蝴蝶都可能会引起一场飓风，何况是商品效率的进一步提高。当英特尔? Stratix? 10 FPGA 在 LaoFe NDP 每一个环节中经常出现，其造成的影响是非常大的。

1. 可以将负荷从 CPU 卸载掉到 FPGA 中，采用 Hash 表搜索提升、任意访存、读写分离等形式，快手将单节点参数服务器的吞吐量性能提高了 5-6 倍，总体要求延迟则减少 70%-80% ，这有利于提高顶层运用的实用性，给予更好的消费者交互方式。

2. 因为 FPGA based KVS 计划方案可以在单节点服务器中给予远高于传统式策略的吞吐量性能，因而仅必须布署少许服务器就可以满足特定性能指标值规定（取代比可达 1:5），从而减少参数服务器的 TCO。

3. 根据使用 FPGA 去进行查询表，可以有效地降 CPU 因为高频升级而引起的性能颤动。

总结一下，英特尔? Stratix? 10 FPGA 为快手 LaoFe NDP 架构带来了富有张力的可编硬件配置水平，降低延迟，完成精准操纵，并且其企业算力功能损耗低、上面内存大，可以适用延迟要求严格、批处理命令（Batch）非常小、并发性和可重复性高的应用领域。

FPGA based KVS 计划方案和传统计划方案性能比照

英特尔? 酷睿i5? 可扩展处理器对于诸多工作中负载类型和性能级别而的优化均衡架构，其针对 LaoFe NDP 至关重要，可以为之给予内嵌的人工智能加快高级安全配置，可以提供无缝拼接性能基本，协助从外缘到云加速数据库的前沿性危害。除此之外它跨过测算、互联网、储存的平台创新和硬件配置提高虚拟化技术，均适用新式运行内存自主创新，推动以便宜实惠、灵便、可扩展性的形式完成边沿到云的传送，进而一致地给予优异的企业对企业（B2B）与企业对用户（B2C）感受。与此同时英特尔硬件配置提高安全性有利于抵挡恶意攻击，与此同时维持工作负载的一致性和性能。

英特尔? 傲腾? 长久运行内存集快速、性价比高、大空间、持久数据保护与高端数据加密等优点于一体，则在发布之际便引起了极大反应。它可以为 LaoFe NDP 提升一个全新的内存和存储等级，变小内存和存储层级架构间的重要差别，以此来实现更智能化、更灵活多变的架构。其能够实现每件云服务器内存空间翻番，且每件vm虚拟机的成本下降达 25%，在开展实时分析和 AI 工作负载等需要解决很多数据服务，性能提高能高达 2 倍。除此之外它还提供运行内存方式（Memory Mode）与应用立即访问模式（App Direct Mode）二种方式。在运行内存模式中，英特尔? 傲腾? 长久运行内存可以作为经济发展高效率的 DRAM 代替品。CPU 内存控制器能把长久运行内存看作易失性系统内存，主要表现与 DRAM 类似，与此同时 CPU 内存控制器会把 DRAM 运行内存作为长久运行内存的计算机内存。该方式可以提供更多的内存空间，这对异构计算的提高效果是非常大的。

硬软并举，异构体即适配

你见，或是看不到，算力就在那。异构计算衍化发展趋势数十年，其如同一座矿山开采，等候客户的去挖掘。宝剑赠英雄，开发人员们怎样深入挖掘目前异构体硬件配置的性能，得到最佳高性价比的 IT 网络资源才是重点。

“恩威并施”才能真正的解决异构计算的需要。

在硬件配置方面，英特尔明确提出 XPU 发展战略，健全在 CPU、GPU、ASIC、FPGA 领域内的产品系列。不但根据性能关键和能耗等级核心战略，使CPU中不一样关键承担不一样工作负载，完成 CPU 群集自已的异构体，并且通过 AMX、SSE、AVX、AVX-512 等指令系统拓展，明显提高 CPU 的 AI 计算性能。在一个全新的第四代英特尔?酷睿i5?可扩展处理器中，加入大量异构体加快模块，例如加快内存拷贝的 DSA，加快互联网处理 DLB，加快数据分析的 IAA，加快数据信息加解密、缩小压缩包解压的 QAT，使 CPU 弹力进一步提升，从容应对多种多样工作负载的性能加快要求。

除开 CPU，英特尔还提供了面对云游戏平台、视频编辑、桌面虚拟化和 AI 逻辑推理的 Flex 系列产品 GPU，面对 HPC 和 AI 练习/逻辑推理的 GPU Ponte Vecchio。而对于特定 AI 加快，英特尔还打造出了面对AI训练和逻辑推理的专用型人工智能技术Cpu Habana，丰富多彩 ASIC AI 芯片生态体系。

对于大数据中心部署和运用中的数据流分析解决、测算加快和储存加快等诸多问题，英特尔? Stratix? 10 和最新 Agilex? FPGA 处理芯片，以编写程序的协调能力、分布式系统、高吞吐性能和低延迟特点，普遍使用在多个云计算公司的云数据中心中。值得一提的是，为了能让云服务提供商迁移基础设施建设作用每日任务，更大化 CPU 网络资源，获取更多的收益，英特尔还提供了可以清楚防护基础设施建设性能和租赁户工作负载的，且根据 FPGA 和 ASIC 的 IPU，以满足客户的多元化要求。

在系统方面，英特尔还在持续推进，更大化硬件配置性能。其隆重推出的 oneAPI，做为统一的程序编程架构，能够兼容多种多样异构计算模块， 为最上层软件开发技术给予一套运用开发接口，以缓解未来应用作用在 CPU、GPU 等由于遍布或者硬件升级后需重新写过软件代码问题。OneAPI 不拘泥于适用英特尔硬件配置，还支持别的厂家的硬件配置。并提供根据 API 的各类高性能库，还可以在多种多样异构体软件上运作同时提供非常高的性能，其中不少库将开源系统，英特尔激励绿色生态合作自主创新，共同推进异构计算的高速发展与演变。

不难发现，异构计算的网，已经砌成大数据时代这条路。英特尔针对异构计算架构在硬件软件方面持续进行优化和支持，硬软兼具，协助开发人员更高效地开展数据的存储和处理，促进人工智能化过程。LaoFeNDP 架构便是英特尔与快手的一次成功试着，其验证了根据异构计算来加快不同类型的负荷，可以大幅提升在强烈推荐等环境下的系统软件吞吐量与延迟主要表现。

走向未来，为创建高性能、成本低、灵便高效率的异构计算服务平台，需要更多技术性协作运用，共同促进大数据中心更新。可以想见，PCIe 5.0、DDR5、Scalable IOV、虚拟内存设置分享技术性 SVM、CXL 等新技术也将绽放光芒。当 CPU、XPU、共享内存、共享存储等技术将通过智能网络架构和 IPU 互联，更加强大的异构计算能力和数据中心必将为数字化的世界提供源源不断的算力支撑。

观看英特尔联合国际学术期刊《科学》共同推出的“架构师成长计划” 第六期《异构计算 数据中心“芯”变革》精彩回放点击链接：https://bizwebcast.intel.cn/planlist.aspx?tc=7guw8u19br&frm=wechatkol