Python 使用和高性能技巧總結(jié)

1. 易混淆操作

import random
random.choices(seq, k=1)  # 長(zhǎng)度為k的list，有放回采樣
random.sample(seq, k)     # 長(zhǎng)度為k的list，無(wú)放回采樣

func = lambda y: x + y          # x的值在函數(shù)運(yùn)行時(shí)被綁定
func = lambda y, x=x: x + y     # x的值在函數(shù)定義時(shí)被綁定

import copy
y = copy.copy(x)      # 只復(fù)制最頂層
y = copy.deepcopy(x)  # 復(fù)制所有嵌套部分

a = [1, 2, [3, 4]]

# Alias.
b_alias = a  
assert b_alias == a and b_alias is a

# Shallow copy.
b_shallow_copy = a[:]  
assert b_shallow_copy == a and b_shallow_copy is not a and b_shallow_copy[2] is a[2]

# Deep copy.
import copy
b_deep_copy = copy.deepcopy(a)  
assert b_deep_copy == a and b_deep_copy is not a and b_deep_copy[2] is not a[2]

x == y  # 兩引用對(duì)象是否有相同值
x is y  # 兩引用是否指向同一對(duì)象

type(a) == int      # 忽略面向?qū)ο笤O(shè)計(jì)中的多態(tài)特征
isinstance(a, int)  # 考慮了面向?qū)ο笤O(shè)計(jì)中的多態(tài)特征

str.find(sub, start=None, end=None); str.rfind(...)     # 如果找不到返回-1
str.index(sub, start=None, end=None); str.rindex(...)   # 如果找不到拋出ValueError異常

print(a[-1], a[-2], a[-3])
print(a[~0], a[~1], a[~2])

2. C/C++ 用戶使用指南

a = float('inf')
b = float('-inf')

a = True
b = False

if x is None:
    pass

a, b = b, a

if 0 < a < 5:
    pass

with open(file_path, 'rt', encoding='utf-8') as f:
   for line in f:
       print(line)       # 末尾的\n會(huì)保留

import os
os.path.join('usr', 'lib', 'local')

import subprocess
# 如果外部命令返回值非0，則拋出subprocess.CalledProcessError異常
result = subprocess.check_output(['cmd', 'arg1', 'arg2']).decode('utf-8')  
# 同時(shí)收集標(biāo)準(zhǔn)輸出和標(biāo)準(zhǔn)錯(cuò)誤
result = subprocess.check_output(['cmd', 'arg1', 'arg2'], stderr=subprocess.STDOUT).decode('utf-8')  
# 執(zhí)行shell命令（管道、重定向等），可以使用shlex.quote()將參數(shù)雙引號(hào)引起來(lái)
result = subprocess.check_output('grep python | wc > out', shell=True).decode('utf-8')

3. 常用工具

import csv
# 無(wú)header的讀寫
with open(name, 'rt', encoding='utf-8', newline='') as f:  # newline=''讓Python不將換行統(tǒng)一處理
    for row in csv.reader(f):
        print(row[0], row[1])  # CSV讀到的數(shù)據(jù)都是str類型
with open(name, mode='wt') as f:
    f_csv = csv.writer(f)
    f_csv.writerow(['symbol', 'change'])

# 有header的讀寫
with open(name, mode='rt', newline='') as f:
    for row in csv.DictReader(f):
        print(row['symbol'], row['change'])
with open(name, mode='wt') as f:
    header = ['symbol', 'change']
    f_csv = csv.DictWriter(f, header)
    f_csv.writeheader()
    f_csv.writerow({'symbol': xx, 'change': xx})

import sys
csv.field_size_limit(sys.maxsize)

f = csv.reader(f, delimiter='\t')

import itertools
itertools.islice(iterable, start=None, stop, step=None)
# islice('ABCDEF', 2, None) -> C, D, E, F

itertools.filterfalse(predicate, iterable)         # 過(guò)濾掉predicate為False的元素
# filterfalse(lambda x: x < 5, [1, 4, 6, 4, 1]) -> 6

itertools.takewhile(predicate, iterable)           # 當(dāng)predicate為False時(shí)停止迭代
# takewhile(lambda x: x < 5, [1, 4, 6, 4, 1]) -> 1, 4

itertools.dropwhile(predicate, iterable)           # 當(dāng)predicate為False時(shí)開(kāi)始迭代
# dropwhile(lambda x: x < 5, [1, 4, 6, 4, 1]) -> 6, 4, 1

itertools.compress(iterable, selectors)            # 根據(jù)selectors每個(gè)元素是True或False進(jìn)行選擇
# compress('ABCDEF', [1, 0, 1, 0, 1, 1]) -> A, C, E, F

sorted(iterable, key=None, reverse=False)

itertools.groupby(iterable, key=None)              # 按值分組，iterable需要先被排序
# groupby(sorted([1, 4, 6, 4, 1])) -> (1, iter1), (4, iter4), (6, iter6)

itertools.permutations(iterable, r=None)           # 排列，返回值是Tuple
# permutations('ABCD', 2) -> AB, AC, AD, BA, BC, BD, CA, CB, CD, DA, DB, DC

itertools.combinations(iterable, r=None)           # 組合，返回值是Tuple
itertools.combinations_with_replacement(...)
# combinations('ABCD', 2) -> AB, AC, AD, BC, BD, CD

itertools.chain(*iterables)                        # 多個(gè)序列直接拼接
# chain('ABC', 'DEF') -> A, B, C, D, E, F

import heapq
heapq.merge(*iterables, key=None, reverse=False)   # 多個(gè)序列按順序拼接
# merge('ABF', 'CDE') -> A, B, C, D, E, F

zip(*iterables)                                    # 當(dāng)最短的序列耗盡時(shí)停止，結(jié)果只能被消耗一次
itertools.zip_longest(*iterables, fillvalue=None)  # 當(dāng)最長(zhǎng)的序列耗盡時(shí)停止，結(jié)果只能被消耗一次

import collections
# 創(chuàng)建
collections.Counter(iterable)

# 頻次
collections.Counter[key]                 # key出現(xiàn)頻次
# 返回n個(gè)出現(xiàn)頻次最高的元素和其對(duì)應(yīng)出現(xiàn)頻次，如果n為None，返回所有元素
collections.Counter.most_common(n=None)

# 插入/更新
collections.Counter.update(iterable)
counter1 + counter2; counter1 - counter2  # counter加減

# 檢查兩個(gè)字符串的組成元素是否相同
collections.Counter(list1) == collections.Counter(list2)

import collections
collections.defaultdict(type)  # 當(dāng)?shù)谝淮卧L問(wèn)dict[key]時(shí)，會(huì)無(wú)參數(shù)調(diào)用type，給dict[key]提供一個(gè)初始值

import collections
collections.OrderedDict(items=None)  # 迭代時(shí)保留原始插入順序

4. 高性能編程和調(diào)試

import sys
sys.stderr.write('')

import warnings
warnings.warn(message, category=UserWarning)  
# category的取值有DeprecationWarning, SyntaxWarning, RuntimeWarning, ResourceWarning, FutureWarning

$ python -W all     # 輸出所有警告，等同于設(shè)置warnings.simplefilter('always')
$ python -W ignore  # 忽略所有警告，等同于設(shè)置warnings.simplefilter('ignore')
$ python -W error   # 將所有警告轉(zhuǎn)換為異常，等同于設(shè)置warnings.simplefilter('error')

# 在代碼中的debug部分
if __debug__:
    pass

$ python -0 main.py

pylint main.py

$ python -m cProfile main.py

# 代碼塊耗時(shí)定義
from contextlib import contextmanager
from time import perf_counter

@contextmanager
def timeblock(label):
    tic = perf_counter()
    try:
        yield
    finally:
        toc = perf_counter()
        print('%s : %s' % (label, toc - tic))

# 代碼塊耗時(shí)測(cè)試
with timeblock('counting'):
    pass

• 專注于優(yōu)化產(chǎn)生性能瓶頸的地方，而不是全部代碼。
• 避免使用全局變量。局部變量的查找比全局變量更快，將全局變量的代碼定義在函數(shù)中運(yùn)行通常會(huì)快 15%-30%。
• 避免使用.訪問(wèn)屬性。使用 from module import name 會(huì)更快，將頻繁訪問(wèn)的類的成員變量 self.member 放入到一個(gè)局部變量中。
• 盡量使用內(nèi)置數(shù)據(jù)結(jié)構(gòu)。str, list, set, dict 等使用 C 實(shí)現(xiàn)，運(yùn)行起來(lái)很快。
• 避免創(chuàng)建沒(méi)有必要的中間變量，和 copy.deepcopy()。
• 字符串拼接，例如 a + ':' + b + ':' + c 會(huì)創(chuàng)造大量無(wú)用的中間變量，':',join([a, b, c]) 效率會(huì)高不少。另外需要考慮字符串拼接是否必要，例如 print(':'.join([a, b, c])) 效率比 print(a, b, c, sep=':') 低。

5. Python 其他技巧

items = [2, 1, 3, 4]
argmin = min(range(len(items)), key=items.__getitem__)

A = [['a11', 'a12'], ['a21', 'a22'], ['a31', 'a32']]
A_transpose = list(zip(*A))  # list of tuple
A_transpose = list(list(col) for col in zip(*A))  # list of list

A = [1, 2, 3, 4, 5, 6]

# Preferred.
list(zip(*[iter(A)] * 2))

文章轉(zhuǎn)載：Python編程學(xué)習(xí)圈
（版權(quán)歸原作者所有，侵刪）

點(diǎn)擊下方“閱讀原文”查看更多