HPC APPLICATION  SUPPORT FOR  GPU COMPUTING

HPC   对GPU计算的应用支持

AddisonSnell                            LauraSegervall

Sponsored research report November 2017

EXECUTIVE SUMMARY 执行总结

在这篇报告中,intersect360Research列出了50个最常用的高性能计算应用,着重强调目前使用了GPU加速的应用.根据最新的HPC网站Census的数据和额外研究,被HPC用户最常提及的50个最流行应用,34个提供了GPU支持,还有两个正在开发此功能.排名前15位的应用目前都有不同形式的GPU支持.在HPC市场,GPU计算已经达到了临界点,这会促使应用优化不断增长.

GPU计算在HPC中不断增长几乎全部是NVIDIA推动,并且NVIDIA投重资创建一个蓬勃发展的软件生态来支持其硬件发展.尤其是,NVIDIA研发出了一系列的并行计算API,库,和相关软件开发工具来支持其CUDA(Compute Unified Device Architecture)GPU平台上的应用开发.NVIDIA已经在全球建立超过20个卓越GPU中心,其也是全球化的GPU研发中心并且囊括了数百所学术研究机构的教育中心.这些努力也加速了适用范围更广的的GPU计算软件开发,也额外促进了GPU方面的开源HPC代码.NVIDIA也与ISVs合作加速HPC应用和库的商用开发.

              今天,AI的出现是一个巨大的市场机遇.许多组织期望深度学习技巧能够把AI的提升带到产品,服务和经营中.

这些算法大部分依赖GPU,AI很大程度上已经成为NVIDIA一个主要增长驱动.AI的增长伴随着TensorFlow出现

在列表中有所体现,在HPC网站Census的调查中TensorFlow目前列为第35个最常被引用的应用.

TABLE OF CONTENTS

EXECUTIVE SUMMARY.............................................................................................. 1

METHODOLOGY................................................................................................................ 3

RESEARCH AND ANALYSIS.............................................................................................. 3

Chemistry............................................................................................................. 5

Fluid Dynamics Analysis............................................................................................................. 6

Structural Analysis........................................................................................... 6

Visualization/Image Analysis........................................................................................... 7

Biosciences........................................................................................... 8

Other Top 50 HPC Applications............................................................................................................. 8

INTERSECT360 RESEARCH ANALYSIS............................................................................................................... 10

METHODOLOGY方法论

在每年度的HPC网站Census调查中,Intersect360Research要求终端用户(还用许多其他问题)列出他们认为最好的五个HPC应用,我们依据这些数据确定了最受欢迎应用的市场份额.因为这个调查需要一定基数,我们结合了往年的调查结果,从所有独立HPC网站中抽取了最近的调查条目. 结合2017年第三季度的数据,这份报告中的数据反映出了最新的调查结果.最终,统计出了534个不同的应用,总共被提及1792次.

HPC的属性决定了其多样化的市场,其应用横跨多个不同领域.没有一个应用在调查中被提及5%以上,只有前18个应用超过了1%.这些应用存在长尾理论,很多应用仅在几个方面被使用.建筑方面的应用,基本上仅在建筑方面被使用.

在这份报告中,我们聚焦于Census网站的前50名HPC应用,其以被提及的次数排名.为了准确列出这50个应用,我们依据被提及次数选择了49和50这两个应用,以最近报告中出现的次数作为迭代来评判.用这个方法论,我们选择了Bowtie和VMD,而不是DOCK(by UCSF),Sequest(Thermo Scientific),Relion(open-source community),和ROMS(open-source community).’Schrodinger’也出现在名单中,因为涉及到具体应用产生了歧义,所有我们将其删除了,也因为那家公司有多种可能的应用.

确定了前50名HPC应用后,Intersect360 Research 进一步确定哪些应用目前提供了GPU支持,即使只提供了部分功能或模块,并且其中哪些应用受到了NVIDIA开发工程师的支持做出了卓越贡献.

RESEARCH AND ANALYSIS调查和分析

高性能计算(HPC)横跨了技术和商业多个领域.这份报告的目的是,它们的主要应用领域折射出了特定用户群体.GPU加速在其中大部分领域都有出现,包括化学研究,流体力学分析,结构分析,环境工程,地球物理学,虚拟化/图像处理,和物理学.这份报告描述了GPU加速是如何融入了计算领域和其对这些高端群体的意义.

根据HPC专业网站Census的最新数据和额外调查,被HPC用户最常提及的50个应用,到今天34个提供了GPU支持,另外两个正在开发.前15名应用都有不同程度的GPU支持.在HPC市场,GPU计算已经到达了一个转折点,这会促进应用优化持续进步.详细数据见表1.

1在大多数行业分析报告中，市场份额是按行业收入的份额来衡量的，但我们发现这种方法不适合软件行业，因为，无论有多少人使用免费开源软件，其收入份额都将为0%

同样，作为一种衡量标准，安装份额也是次优的，因为即使用户从来未使用过预装软件,其安装量也会非常庞大.Intersect360 Research认为,根据真正的使用量来计算软件市场的份额是是一种行之有效的调查方法.

Table 1: GPU Support of Top 50 HPC Applications

Intersect360 Research, 2017

Chemistry化学

化学是HPC应用最常见的领域,各种组织都在引用HPC系统来分析化合物和化学反应过程,以此来设计新材料,也为了利用这些信息组织以后的研究和开发生产.这段包含了一些涉及计算化学,分子图形,和分析巨量光谱测定法数据的应用.

在网站Census的调查中大约1/5的应用是化学方面的,这些调查由Intersect360 Research主导,前50名HPC应用有20个被用在化学上.软件的普及很大程度是由生物分子研究驱动,目的为了开发新型化合物和材料满足工业需求,横跨数个经济领域.依托更好溶剂的产品,可以增加电池性能表现,先进的构造材料,和更高效的燃料只是这些应用衍生出来的几个商业例子.

如表2所示,GPU对化学研究的支持已经非常深入,这应该感谢开源代码数量的巨大优势和活跃的开发社区.所以,20个化学应用中16个已经支持GPU加速,包括所有的前15位应用.

Table 2: GPU-Accelerated Applications: Chemical Research

Intersect360 Research, 2017

许多流行化学代码有社区网站来宣传GPU加速的益处,并且也有对GPU支持的公开引用,包括GROMACS,GAUSSIAN,NAMD,VASP. LAMMPS,6 AMBER,7 Quantum Espresso,8 GAMESS,9 NWChem,10 CP2k,11 CHARMM,12 ABINIT,13 CPMD,14 Q-Chem,15 ADF,16 and VMD.

Fluid Dynamics Analysis流体力学分析

基于计算流体力学的解决方案横跨了很多领域的应用,比如:飞机设计,内燃机引擎设计,建筑物周围的气流分析,心脏起搏器设计,细胞内蛋白质转化模型等等.与结构分析类似,这是一个主要被商业代码占据的领域,但是借助于一些源于NASA的开发和开源社区的努力,OpenFOAM作为一个排名前10的HPC开源代码,预示着工业领域开源化趋势.

如表3所示,两个最流行的CFD应用,ANSYS Fluent和OpenFOAM,都已支持GPU计算.

Table 3: GPU-Accelerated Applications: Fluid Dynamics Analysis

     表3:支持GPU加速的流体力学分析应用

Intersect360 Research, 2017

Structural Analysis 结构分析

各种结构分析的应用,包括显式和隐式的有限元素分析(FEA),这是一个用于工程分析的重要计算工具. 它主要用于确定结构上的载荷和应力，最重要的应用是模拟汽车碰撞试验.

表4列出了排名前50的HPC应用中的8个,其主要用于结构分析.其中7个支持GPU计算,其中三个在所有HPC应用中排名前三.

3  http://gaussian.com/relnotes/?tabid=2

4 http://www.ks.uiuc.edu/Research/namd/2.9/ug/node88.html

5               https://www.vasp.at/index.php/news/44-administrative/115-new-release-vasp-5-4-1-with-gpu-support

6  http://lammps.sandia.gov/doc/accelerate_gpu.html

7  http://ambermd.org/gpus/

8 https://github.com/fspiga/qe-gpu/blob/devel-gpu/README.md

9  http://www.msg.ameslab.gov/gamess/versions.html

10              http://www.nwchem-sw.org/index.php/Release62:TCE#CCSD.28T.29_method_with_CUDA

11 https://www.cp2k.org/howto:compile_with_cuda

12              https://www.charmm.org/charmm/documentation/by-version/c40b1/params/doc/gpu/

13           https://wiki.abinit.org/doku.php?id=build:linear_algebra&s[]=gpu

14 http://adsabs.harvard.edu/abs/2010APS..MARP23014M

15              https://www.q-chem.com/qchem-website/manual/qchem43_manual/sect-auxRI.html

16 https://www.scm.com/doc/ADF/Input/Technical_Settings.html

17 http://www.ks.uiuc.edu/Research/vmd/current/cuda.html

18                     http://www.ansys.com/-/media/ansys/corporate/resourcelibrary/article/accelerationg-ansys-fluent-simulations-with-nvidia-gpus-aa-v9-i1.pdf

19 https://sim-flow.com/rapid-cfd-gpu/

Smulia Abaqus,ANSYS,LS-DYNA(对于ANSYS,其具体是指ANSYS套件中的哪一个存在歧义.我们把调查数据原样写在报告中,因为这是一个排名前10的应用,并且ANSYS结构力学套件确定的支持GPU计算.)NASTRAN,ANSYS,Mechanical,HyperWorks和来自Altair的Optistruct也有公开引用可寻.

Table 4: GPU-Accelerated Applications: Structural Analysis

表4:支持GPU加速的结构分析应用

Intersect360 Research, 2017

Visualization/Image Analysis可视化/图像分析

对于很多HPC流程,可视化是最基本的,这样研究人员和工程师能够通过图表直观的看到模拟结果.在Intersect360的最新调查中,用户提及到了大量的可视化软件包,其中有四个进入了前50强HPC应用.可视化软件在商业应用和非商业应用间保持了基本平衡.

在表7所示,排名靠前的可视化软件包都支持GPU加速,考虑到图形处理器原本就是为图像和视频处理而设计,这就不奇怪了.像素分析算法本来就特别适合GPU架构,在很多情况下,这些应用的GPU计算支持是来自NVIDIA提供的插件.

Table 5: GPU-Accelerated Applications: Visualization/Image Analysis表5:支持GPU加速的可视化/图像分析应用

Intersect360 Research, 2017

20 https://www.3ds.com/fileadmin/PRODUCTS/SIMULIA/PDF/scc-papers/multi-gpu-computing-abaqus-benchmarking-scaling-multiphysics- 13.pdf

21                 http://www.ansys.com/-/media/ansys/corporate/resourcelibrary/article/aa-v7-i3-accelerating-mechanical-solutions-with-gpus.pdf

22               https://www.dynamore.de/de/download/papers/ls-dyna-forum-2012/documents/04-gohner-dynamore.pdf

23                 http://pages.mscsoftware.com/rs/mscsoftware/images/GPU%20Computing%20with%20MSC%20Nastran%202013.pdf

24                 http://www.ansys.com/-/media/ansys/corporate/resourcelibrary/article/aa-v7-i3-accelerating-mechanical-solutions-with-gpus.pdf

25 http://www.altair.com/NewsDetail.aspx?news_id=10789

26           http://www.harrisgeospatial.com/portals/0/pdfs/idl/uc/GPULib_IDLUG.pdf

Biosciences生物科学

生物科学应用被用来揭示生命的本质和设计治疗方法,也被用来研究和加强农业生产.这部分也包括了基因科学,蛋白质科学和药物发现等应用.这很大程度上是由基因科学推动的,其利用生物信息软件来分析基因和细胞的相关功能. 这也推动了生物学、药理学和生物化学/生物工程方面应用的繁荣。需要注意的是，许多分子动力学的应用，被分类于化学科学和生物科学应用.

如表6所示,在HPC行业中,GPU计算的发展还未普及.然而,支持GPU计算的BLAST,可称为GPU-BLAST,在研究领域已经实现,并且还有一个支持GPU加速的Bowtie版本,其都作为NVIDIA实验室项目.

Table 6: GPU-Accelerated Applications: Biosciences

表6:支持GPU加速的生物科学应用

Intersect360 Research, 2017

Other Top 50 HPC Applications其他的前50强HPC应用

表7列出了剩下的前50强HPC应用和其应用领域.其中,两个是智能商务,两个用在天气预报和环境建模,各有一个用在物理和模式识别领域.

Table 7: GPU-Accelerated Applications: Other Top 50 Applications

表7:支持GPU加速的其他前50强应用

Intersect360 Research, 2017

Weather/Environment Modeling天气/环境建模

环境建模的应用被用来模拟天气,气候,空气质量和海洋系统. 天气预报的潜在用途包括使用先进的恶劣天气警报系统来拯救生命和财产、预测野火、通过预测能源需求管理电网、根据天气预报预估当地超市的产品需求。加上气候模拟研究预测全球气候变化和水动力模拟预测水运动，环境模拟的作用愈发重要,几乎所有这些代码都是非商业用途，其中大约四分之三是开源的.

27 https://www.ncbi.nlm.nih.gov/pmc/articles/PMC3018811/

28 https://nvlabs.github.io/nvbio/nvbowtie_page.html

                  两个天气应用位列前50强HPC应用,WRF是最常见的,也是前10强应用,并且其对GPU计算做过优化.

Business Intelligence智能商务

SAP和Oracle出现在前50强HPC应用中. 在商业计算和HPC之间一直有一些交叉，甚至科学应用程序也使用数据库，但由于分析领域的迅速发展，这种交叉越来越普遍

Physics物理

              物理学方面的应用被用来模拟物质和能量行为的基本原理. 这一领域的工作范围从宇宙演化的宇宙学

模型到亚原子级物质的量子力学模拟。物理学家是最早使用高性能计算机的人之一，他们一直有最迫

切的高性能计算需求.从研究来看, 绝大多数应用是由非商业组织作为开源代码提供的。尤其是MILC,其

是量子物理中一个常用的应用，它还有一个GPU加速版本可用。

Pattern Recognition模式识别

                  模式识别是深度学习中一个重要领域.应用程序可以从海量的数据中自我学习,以便以后能对相似的数据

        做出推断.现在TensorFlow是这个领域中最常用的应用,目前为止,其出现在前50强HPC应用.如上所述,深度

        学习对GPU计算有很强依赖,TensorFlow提供了GPU加速功能.

29            http://www2.mmm.ucar.edu/wrf/users/workshops/WS2016/oral_presentations/4.4.pdf

30 http://www.physics.utah.edu/~detar/milc/milcv7.pdf

31 https://www.tensorflow.org/tutorials/using_gpu