FPGA在深度学习领域有何优势？

技术饭

技术  |  资讯  |  知识管理

点击上方蓝字关注

关注

随着信息网络的高速发展，图像、视频和语音数字数据的体量大幅增加，对分析能力的需求也在不断增长，以对信息进行合理化处理。目前的数据分析对机器学习(ML)的依赖度极高，在CV领域，卷积神经网络为图像分类任务提供了重要的基础。在人工智能领域，GPU一直是出色的选择，但其在产热上的缺陷决定了性能的上限。相比之下，同性能的FPGA在功耗上的需求只有GPU的十分之一，这使得FPGA越来越多的被应用在深度学习领域。

FPGA是一种具有可编程逻辑门的硬件电路。它允许用户在现场部署芯片时通过覆盖芯片的配置来创建自定义电路，而对于常规芯片，则不能重新编程。FPGA芯片可以创建从简单的单功能逻辑门到多核处理器的一切。FPGA的应用范围很广，它允许用户配置数千个内存单元，这使电路能够像GPU一样在大规模并行计算模型中工作。

用户可以使用FPGA访问一个适应性强的体系结构，优化吞吐量，这意味着FPGA可以来达到或超过GPU的性能。与CPU和GPU相比，FPGA非常适合嵌入式应用，并且功耗更低。这些电路可以与自定义数据类型一起使用，并且不受GPU等架构的限制。此外，FPGA的可编程性使其更容易适应安全和安保问题。FPGA已成功应用于安全关键、受监管的环境，如ADAS。

在深度学习领域，FPGA有以下几大优势：

灵活性：可编程性是FPGA对深度学习的最大好处，它可以为操作增加显著的灵活性。用户可以对单个块或整个电路进行编程，以满足特定算法的要求。

并行性：FPGA可以在程序之间切换，以适应不断变化的工作负载，还可在不牺牲性能的情况下处理多个工作负载。这使用户可同事处理不同阶段的任务，这是GPU无法达到的。

延迟更低：更大的内存带宽会导致更低的延迟。这使用户能够实时处理大量数据，包括流数据。此外，FPGA可以在不牺牲灵活性的情况下提供极其精确的时序和可靠性。

低能效：降低FPGA的功率要求有助于降低机器学习和深度学习实现的总体功耗。这可以降低培训的总体成本，并有可能延长设备的使用寿命。

在对视频图像信息进行处理时，FPGA可以绕过CPU直接将视频摄入FPGA，从而本质上为视频流、转录和动作识别等实时应用提供低延迟和确定性延迟。开发人员可以从最早的阶段开始组装神经网络，并构建最适合模型的FPGA。此外，FPGA在消除I/O瓶颈方面表现极佳，而I/O瓶颈是影响人工智能系统性能的最重要因素之一。通过加速数据摄入，FPGA可以加快整个人工智能工作流程。

虽然FPGA在诸多方面都有着极大的优势，但对FPGA的编程是十分困难的。它需要用户自行配置和创建电路，这导致了FPGA的入门十分困难，使用成本也随之增高。尽管FPGA在机器学习领域的潜力极大，但目前支持FPGA而不进行修改的深度学习库非常少。目前，较为成功的案例是微软在bing搜索引擎中使用了FPGA，通过利用FPGA加速搜索定位，Bing的吞吐量增加了50%。随着技术的逐渐发展，FPGA的优势必将在深度学习领域得到更深的应用。

参考链接：https://www.run.ai/guides/gpu-deep-learning/fpga-for-deep-learning

https://www.intel.com/content/www/us/en/artificial-intelligence/programmable/fpga-gpu.html

https://ieeexplore.ieee.org/document/8594633

技术饭

联想研究院 PCIE 唯一技术类公众平台

靠技术吃饭的有技术范的技术fan

扫码 ╳ 关注我们

微信号｜Technical Fan

注明：本内容来源网络，不用于商业使用，禁止转载，如有侵权，请来信到邮箱：429562386ⓐqq.com 或联系本站客服处理，感谢配合！