CuPy:将 NumPy 数组调度到 GPU 上运行

CuPy:将 NumPy 数组调度到 GPU 上运行

提到 Python 的科学计算,必然离不开 NumPy 这个库,但 NumPy 在设计之初没有考虑对 GPU 的支持。正如 NumPy 的作者 Travis Oliphant 所说,如果当时给 NumPy 添加了 GPU 的支持,就没有后来的 Tensorflow、Torch 等深度学习框架什么事了。

但世间没有如果,当时的 NumPy 也不具备支持 GPU 的条件,不过时代已经变了,现在有 CuPy 了。

相信你已经知道 CuPy 是干什么的了,它和 NumPy 一样,都是用来创建数组(矩阵),然后对其进行运算的。但 NumPy 是通过 CPU 来计算的,而 CuPy 通过 GPU 来计算,并且是并行计算。最重要的是,CuPy 和 NumPy 提供的函数基本是一致的,毕竟 CuPy 就是为了让 NumPy 支持 GPU 而设计的。

import numpy as np
import cupy as cp

之前使用 np.xxx(),现在只需要将 np 换成 cp 即可,即 cp.xxx()。

然后还需要说明的是,CuPy 虽然在大型、高维数组/矩阵的计算方面非常非常快,但它在计算之前会涉及 GPU 的初始化,这个过程是需要时间的。因此当你决定使用 CuPy 时,要确保数组的维度和尺寸一定要足够大,不然还不如用 NumPy。

然后要避免 CPU 和 GPU 混合编程,因为数据在 CPU 和 GPU 之间传递等操作非常耗时,比如一会儿 CPU 计算,一会儿 GPU 计算,那么此时用 Cupy 反而会降低效率。

好,下面就来安装 CuPy。

首先你要去 https://developer.nvidia.cn/cuda-downloads 下载 CUDA 工具包,我这里下载的是最新版 12.2,操作系统是 Windows。

CuPy:将 NumPy 数组调度到 GPU 上运行

安装包大小是 3 个 G,下载完毕之后直接双击安装即可。但是注意:在安装的时候,要确保你的主机已经配备了 NVIDIA 显卡,无论是新款的 40 系,还是以前的 30 系、20 系等等都是可以的。

安装完之后,你的 C 盘应该会有这个目录:C:Program FilesNVIDIA GPU Computing ToolkitCUDAv12.2

CuPy:将 NumPy 数组调度到 GPU 上运行

于我安装的 CUDA 工具包是 12.2 版本,所以路径的最后一个子目录是 v12.2,如果安装的是其它版本,比如 11.0,那么目录就是 v11.0。然后我们将该路径设置成环境变量,变量名称为 CUDA_HOME。

CuPy:将 NumPy 数组调度到 GPU 上运行

到此我们的准备工作就算完成了,然后正式安装 CuPy,而安装有两种方式。第一种是 pip install cupy,该方式安装的 CuPy 不依赖特定的 CUDA 版本,属于通用 CuPy。第二种是安装针对特定 CUDA 版本的 CuPy,我当前采用的是第二种。

CuPy:将 NumPy 数组调度到 GPU 上运行

我安装的 CUDA 版本是 12.2,所以安装命令是 pip install cupy-cuda12x。然后测试一下能不能用:

CuPy:将 NumPy 数组调度到 GPU 上运行

程序正常执行,说明 CuPy 安装成功,而且我们看到两者之间的计算速度真的是天壤之别,使用 GPU 快的太多了。

然后怎么学习 CuPy 呢?其实很简单,学习 NumPy,如果你会 NumPy,那么 CuPy 自然就会了。

import numpy as np
import cupy as cp

print(np.array([]).__class__)
print(cp.array([]).__class__)
“””
<class ‘numpy.ndarray’>
<class ‘cupy.ndarray’>
“””

np_arr = np.arange(110)
cp_arr = cp.arange(110)
print(np_arr)  # [1 2 3 4 5 6 7 8 9]
print(cp_arr)  # [1 2 3 4 5 6 7 8 9]

两者的类型都是 ndarray,所拥有的方法、一致模块提供的功能函数也是一致的。

如果你觉得 NumPy 的速度不够,那么就试试 CuPy 吧。

原创文章,作者:速盾高防cdn,如若转载,请注明出处:https://www.sudun.com/ask/32327.html

(0)
速盾高防cdn's avatar速盾高防cdn
上一篇 2024年4月1日 下午11:00
下一篇 2024年4月2日 上午1:20

相关推荐

  • 涪陵网站建设

    随着信息时代的到来,网站建设已经成为了各行各业中不可或缺的一部分。但是,你知道什么是网站建设吗?它有着怎样的重要性?涪陵地区的网站建设现状又是怎样的呢?涪陵地区网站建设又有着哪些独…

    行业资讯 2024年3月24日
    0
  • 网站被攻击了,网站被攻击了怎么处理网警

    选择可靠的托管提供商也是保护您的网站免受攻击的重要方法。您的托管服务提供商提供的服务器环境和网络设备直接影响您网站的安全。因此,通过选择可靠、经验丰富、安全的托管服务提供商,可以有…

    行业资讯 2024年5月8日
    0
  • seo排名工具提升流量

    想要在互联网时代获得更多的流量,SEO排名工具可谓是必不可少的利器。但是,什么是SEO排名工具?它有什么作用与优势?如何选择适合自己的SEO排名工具?使用SEO排名工具又有哪些实践…

    行业资讯 2024年4月9日
    0
  • 如何防止dns污染,https防止dns劫持

    为了防止站点内的DNS 污染,您必须首先确保您使用的是受信任的DNS 服务器。他们通常使用运营商提供的默认DNS 服务器,但这些服务器往往容易受到攻击和劫持。因此,我们建议使用公共…

    行业资讯 2024年5月10日
    0

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注