Numpy 是Python科学计算的一个核心模块。它提供了非常高效的数组对象,以及用于处理这些数组对象的工具。一个Numpy数组由许多值组成,所有值的类型是相同的。
Python的核心库提供了 List 列表。列表是最常见的Python数据类型之一,它可以调整大小并且包含不同类型的元素,非常方便。
那么List和Numpy Array到底有什么区别?为什么我们需要在大数据处理的时候使用Numpy Array?答案是性能。
Numpy数据结构在以下方面表现更好:
1.内存大小—Numpy数据结构占用的内存更小。
2.性能—Numpy底层是用C语言实现的,比列表更快。
3.运算方法—内置优化了代数运算等方法。
下面分别讲解在大数据处理时,Numpy数组相对于List的优势。
1.内存占用更小
适当地使用Numpy数组替代List,你能让你的内存占用降低20倍。
对于Python原生的List列表,由于每次新增对象,都需要8个字节来引用新对象,新的对象本身占28个字节(以整数为例)。所以列表 list 的大小可以用以下公式计算:
64 + 8 * len(lst) + len(lst) * 28 字节
而使用Numpy,就能减少非常多的空间占用。比如长度为n的Numpy整形Array,它需要:
96 + len(a) * 8 字节
可见,数组越大,你节省的内存空间越多。假设你的数组有10亿个元素,那么这个内存占用大小的差距会是GB级别的。
2.速度更快、内置计算方法
运行下面这个脚本,同样是生成某个维度的两个数组并相加,你就能看到原生List和Numpy Array的性能差距。
importtime
importnumpy asnp
size_of_vec = 1000
defpure_python_version:
t1 = time.time
X = range(size_of_vec)
Y = range(size_of_vec)
Z = [X[i] + Y[i] fori inrange(len(X)) ]
returntime.time - t1
defnumpy_version:
t1 = time.time
X = np.arange(size_of_vec)
Y = np.arange(size_of_vec)
Z = X + Y
returntime.time - t1
t1 = pure_python_version
t2 = numpy_version
print(t1, t2)
print( "Numpy is in this example "+ str(t1/t2) + " faster!")
结果如下:
可以看到,Numpy比原生数组快1.95倍。
如果你细心的话,还能发现,Numpy array可以直接执行加法操作。而原生的数组是做不到这点的,这就是Numpy 运算方法的优势。
我们再做几次重复试验,以证明这个性能优势是持久性的。
importnumpy asnp
fromtimeit importTimer
size_of_vec = 1000
X_list = range(size_of_vec)
Y_list = range(size_of_vec)
X = np.arange(size_of_vec)
Y = np.arange(size_of_vec)
defpure_python_version:
Z = [X_list[i] + Y_list[i] fori inrange(len(X_list)) ]
defnumpy_version:
Z = X + Y
timer_obj1 = Timer( "pure_python_version",
"from __main__ import pure_python_version")
timer_obj2 = Timer( "numpy_version",
"from __main__ import numpy_version")
print(timer_obj1.timeit( 10))
print(timer_obj2.timeit( 10)) # Runs Faster!
print(timer_obj1.repeat(repeat= 3, number= 10))
print(timer_obj2.repeat(repeat= 3, number= 10)) # repeat to prove it!
结果如下:
可以看到,第二个输出的时间总是小得多,这就证明了这个性能优势是具有持久性的。
所以,如果你在做一些大数据研究,比如金融数据、股票数据的研究,使用Numpy能够节省你不少内存空间,并拥有更强大的性能。
参考文 献:
https://
Crossin的新书《 码上行动:用ChatGPT学会Python编程》已经上市了。 本书以ChatGPT为辅助,系统全面地讲解了如何掌握Python编程,适合Python零基础入门的读者学习。【点此查看详细介绍】
购买后可加入读者交流群,Crossin为你开启陪读模式,解答你在阅读本书时的一切疑问。
Crossin的其他书籍:
感谢转发和点赞的各位~返回搜狐,查看更多
责任编辑: