选择了脚本语言就要忍受其速度,这句话在某种程度上说明了 python 作为脚本的一个不足之处,那就是执行效率和性能不够理想,特别是在 performance 较差的机器上,因此有必要进行一定的代码优化来提高程序的执行效率。如何进行 Python 性能优化,是本文探讨的主要问题。本文会涉及常见的代码优化方法,性能优化工具的使用以及如何诊断代码的性能瓶颈等内容,希望可以给 Python 开发人员一定的参考。
Python 代码优化常见技巧
代码优化能够让程序运行更快,它是在不改变程序运行结果的情况下使得程序的运行效率更高,根据 80/20 原则,实现程序的重构、优化、扩展以及文档相关的事情通常需要消耗 80% 的工作量。优化通常包含两方面的内容:减小代码的体积,提高代码的运行效率。
改进算法,选择合适的数据结构
一个良好的算法能够对性能起到关键作用,因此性能改进的首要点是对算法的改进。在算法的时间复杂度排序上依次是:
O(1) -> O(lg n) -> O(n lg n) -> O(n^2) -> O(n^3) -> O(n^k) -> O(k^n) -> O(n!)
因此如果能够在时间复杂度上对算法进行一定的改进,对性能的提高不言而喻。但对具体算法的改进不属于本文讨论的范围,读者可以自行参考这方面资料。下面的内容将集中讨论数据结构的选择。
- 字典 (dictionary) 与列表 (list)
Python 字典中使用了 hash table,因此查找操作的复杂度为 O(1),而 list 实际是个数组,在 list 中,查找需要遍历整个 list,其复杂度为 O(n),因此对成员的查找访问等操作字典要比 list 更快。
清单 1. 代码 dict.py
03 |
list = [ 'a' , 'b' , 'is' , 'python' , 'jason' , 'hello' , 'hill' , 'with' , 'phone' , 'test' , |
04 |
'dfdf' , 'apple' , 'pddf' , 'ind' , 'basic' , 'none' , 'baecr' , 'var' , 'bana' , 'dd' , 'wrd' ] |
08 |
for i in range ( 1000000 ): |
09 |
for find in [ 'is' , 'hat' , 'new' , 'list' , 'old' , '.' ]: |
12 |
print "total run time:" |
上述代码运行大概需要 16.09seconds。如果去掉行 #list = dict.fromkeys(list,True) 的注释,将 list 转换为字典之后再运行,时间大约为 8.375 seconds,效率大概提高了一半。因此在需要多数据成员进行频繁的查找或者访问的时候,使用 dict 而不是 list 是一个较好的选择。
set 的 union, intersection,difference 操作要比 list 的迭代要快。因此如果涉及到求 list 交集,并集或者差的问题可以转换为 set 来操作。
清单 2. 求 list 的交集:
03 |
lista = [ 1 , 2 , 3 , 4 , 5 , 6 , 7 , 8 , 9 , 13 , 34 , 53 , 42 , 44 ] |
06 |
for i in range ( 1000000 ): |
10 |
intersection.append(a) |
13 |
print "total run time:" |
上述程序的运行时间大概为:
total run time:
38.4070000648
清单 3. 使用 set 求交集
3 |
lista = [ 1 , 2 , 3 , 4 , 5 , 6 , 7 , 8 , 9 , 13 , 34 , 53 , 42 , 44 ] |
6 |
for i in range ( 1000000 ): |
7 |
list ( set (lista)& set (listb)) |
8 |
print "total run time:" |
改为 set 后程序的运行时间缩减为 8.75,提高了 4 倍多,运行时间大大缩短。读者可以自行使用表 1 其他的操作进行测试。
表 1. set 常见用法
语法 |
操作 |
说明 |
set(list1) | set(list2) |
union |
包含 list1 和 list2 所有数据的新集合 |
set(list1) & set(list2) |
intersection |
包含 list1 和 list2 中共同元素的新集合 |
set(list1) - set(list2) |
difference |
在 list1 中出现但不在 list2 中出现的元素的集合 |
对循环的优化
对循环的优化所遵循的原则是尽量减少循环过程中的计算量,有多重循环的尽量将内层的计算提到上一层。 下面通过实例来对比循环优化后所带来的性能的提高。程序清单 4 中,如果不进行循环优化,其大概的运行时间约为 132.375。
清单 4. 为进行循环优化前
03 |
lista = [ 1 , 2 , 3 , 4 , 5 , 6 , 7 , 8 , 9 , 10 ] |
04 |
listb = [ 0.1 , 0.2 , 0.3 , 0.4 , 0.5 , 0.6 , 0.7 , 0.8 , 0.9 , 0.01 ] |
05 |
for i in range ( 1000000 ): |
06 |
for a in range ( len (lista)): |
07 |
for b in range ( len (listb)): |
09 |
print "total run time:" |
现在进行如下优化,将长度计算提到循环外,range 用 xrange 代替,同时将第三层的计算 lista[a] 提到循环的第二层。
清单 5. 循环优化后
时间:2012-07-30 07:46
来源:开源中国社区
作者:IBM/DW
原文链接
------分隔线----------------------------