来 源：数据STUDIO
今天给大家分享一波儿 Python/ target=_blank class=infotextkey>Python学习重点，超级全面！
由于总结了太多的东西，所以篇幅有点长，这也是“缝缝补补”总结了好久的东西。
01
Py2 VS Py3
print成为了函数，python2是关键字
不再有unicode对象，默认str就是unicode
python3除号返回浮点数
没有了long类型
xrange不存在，range替代了xrange
可以使用中文定义函数名变量名
高级解包 和*解包
限定关键字参数 *后的变量必须加入名字=值
raise from
iteritems移除变成items
yield from 链接子生成器
asyncio,async/await原生协程支持异步编程
新增enum,mock,ipaddress,concurrent.futures,asyncio urllib，selector
#枚举的注意事项
fromenum importEnum
classCOLOR(Enum):
YELLOW= 1
#YELLOW=2#会报错
GREEN= 1#不会报错,GREEN可以看作是YELLOW的别名
BLACK= 3
RED= 4
print(COLOR.GREEN) #COLOR.YELLOW,还是会打印出YELLOW
fori inCOLOR: #遍历一下COLOR并不会有GREEN
print(i)
#COLOR.YELLOWnCOLOR.BLACKnCOLOR.REDn怎么把别名遍历出来
fori inCOLOR.__members__.items:
print(i)
# output:('YELLOW', <COLOR.YELLOW: 1>)n('GREEN', <COLOR.YELLOW: 1>)n('BLACK', <COLOR.BLACK: 3>)n('RED', <COLOR.RED: 4>)
fori inCOLOR.__members__:
print(i)
# output:YELLOWnGREENnBLACKnRED
#枚举转换
#最好在数据库存取使用枚举的数值而不是使用标签名字字符串
#在代码里面使用枚举类
a= 1
print(COLOR(a)) # output:COLOR.YELLOW
02
py2/3转换工具
six模块：兼容pyton2和pyton3的模块
2to3工具：改变代码语法版本
__future__：使用下一版本的功能
03
常用的库
必须知道的collections
python排序操作及heapq模块
itertools模块超实用方法
04
不常用但很重要的库
dis（代码字节码分析）
inspect（生成器状态）
cProfile（性能分析）
bisect（维护有序列表）
fnmatch
timeit（代码执行时间）
defisLen(strString):
#还是应该使用三元表达式，更快
returnTrueiflen(strString)> 6elseFalse
defisLen1(strString):
#这里注意false和true的位置
return[ False, True][len(strString)> 6]
importtimeit
print(timeit.timeit( 'isLen1("5fsdfsdfsaf")',setup= "from __main__ import isLen1"))
print(timeit.timeit( 'isLen("5fsdfsdfsaf")',setup= "from __main__ import isLen"))
contextlib
types（包含了标准解释器定义的所有类型的类型对象，可以将生成器函数修饰为异步模式）
importtypes
types.coroutine #相当于实现了__await__
html（实现对html的转义）
importhtml
html.escape( "<h1>I'm Jim</h1>") # output:'<h1>I'm Jim</h1>'
html.unescape( '<h1>I'm Jim</h1>') # <h1>I'm Jim</h1>
mock（解决测试依赖）
concurrent（创建进程池河线程池）
fromconcurrent.futures importThreadPoolExecutor
pool = ThreadPoolExecutor
task = pool.submit(函数名，（参数）) #此方法不会阻塞，会立即返回
task.done #查看任务执行是否完成
task.result #阻塞的方法，查看任务返回值
task.cancel #取消未执行的任务，返回True或False,取消成功返回True
task.add_done_callback #回调函数
task.running #是否正在执行 task就是一个Future对象
fordata inpool.map(函数，参数列表): #返回已经完成的任务结果列表，根据参数顺序执行
print(返回任务完成得执行结果data)
fromconcurrent.futures importas_completed
as_completed(任务列表) #返回已经完成的任务列表，完成一个执行一个
wait(任务列表,return_when=条件) #根据条件进行阻塞主线程，有四个条件
selector（封装select,用户多路复用io编程）
asyncio
future=asyncio.ensure_future(协程) 等于后面的方式 future=loop.create_task(协程)
future.add_done_callback添加一个完成后的回调函数
loop.run_until_complete(future)
future.result查看写成返回结果
asyncio.wait接受一个可迭代的协程对象
asynicio.gather(*可迭代对象,*可迭代对象） 两者结果相同，但gather可以批量取消，gather对象.cancel
一个线程中只有一个loop
在loop.stop时一定要loop.run_forever否则会报错
loop.run_forever可以执行非协程
最后执行 finally模块中 loop.close
asyncio.Task.all_tasks拿到所有任务 然后依次迭代并使用任务.cancel取消
偏函数partial(函数，参数)把函数包装成另一个函数名 其参数必须放在定义函数的前面
loop.call_soon(函数,参数)
call_soon_threadsafe线程安全
loop.call_later(时间,函数,参数)
在同一代码块中call_soon优先执行，然后多个later根据时间的升序进行执行
如果非要运行有阻塞的代码
使用loop.run_in_executor(executor,函数，参数)包装成一个多线程，然后放入到一个task列表中，通过wait(task列表)来运行
通过asyncio实现http
reader,writer=await asyncio.open_connection(host,port)
writer.writer发送请求
async fordata inreader:
data=data.decode( "utf-8")
list.Append(data)
然后list中存储的就是html
as_completed(tasks)完成一个返回一个,返回的是一个可迭代对象
协程锁
async withLock:
05
Python进阶
进程间通信：
frommultiprocessing importManager,Process
defadd_data(p_dict, key, value):
p_dict[key] = value
if__name__ == "__main__":
progress_dict = Manager.dict
fromqueue importPriorityQueue
first_progress = Process(target=add_data, args=(progress_dict, "bobby1", 22))
second_progress = Process(target=add_data, args=(progress_dict, "bobby2", 23))
first_progress.start
second_progress.start
first_progress.join
second_progress.join
print(progress_dict)
Pipe(适用于两个进程)
frommultiprocessing importPipe,Process
#pipe的性能高于queue
defproducer(pipe):
pipe.send( "bobby")
defconsumer(pipe):
print(pipe.recv)
if__name__ == "__main__":
recevie_pipe, send_pipe = Pipe
#pipe只能适用于两个进程
my_producer= Process(target=producer, args=(send_pipe, ))
my_consumer = Process(target=consumer, args=(recevie_pipe,))
my_producer.start
my_consumer.start
my_producer.join
my_consumer.join
Queue(不能用于进程池,进程池间通信需要使用Manager.Queue)
frommultiprocessing importQueue,Process
defproducer(queue):
queue.put( "a")
time.sleep( 2)
defconsumer(queue):
time.sleep( 2)
data = queue.get
print(data)
if__name__ == "__main__":
queue = Queue( 10)
my_producer = Process(target=producer, args=(queue,))
my_consumer = Process(target=consumer, args=(queue,))
my_producer.start
my_consumer.start
my_producer.join
my_consumer.join
进程池
defproducer(queue):
queue.put( "a")
time.sleep( 2)
defconsumer(queue):
time.sleep( 2)
data = queue.get
print(data)
if__name__ == "__main__":
queue = Manager.Queue( 10)
pool = Pool( 2)
pool.apply_async(producer, args=(queue,))
pool.apply_async(consumer, args=(queue,))
pool.close
pool.join
sys模块几个常用方法：
a in s or b in s or c in s简写：
# 方法一
Truein[i ins fori in[a,b,c]]
# 方法二
any(i ins fori in[a,b,c])
# 方法三
list(filter( lambdax:x ins,[a,b,c]))
set集合运用：
代码中中文匹配：
查看系统默认编码格式：
importsys
sys.getdefaultencoding # setdefaultencodeing设置系统编码方式
getattr VS getattribute：
classA(dict):
def__getattr__(self,value): #当访问属性不存在的时候返回
return2
def__getattribute__(self,item): #屏蔽所有的元素访问
returnitem
类变量是不会存入实例__dict__中的，只会存在于类的__dict__中
globals/locals(可以变相操作代码)
python变量名的解析机制(LEGB)
实现从1-100每三个为一组分组
print([[x forx inrange( 1, 101)][i:i+ 3] fori inrange( 0, 100, 3)])
什么是元类？
type.__bases__ #(<class 'object'>,)
object.__bases__ #
type(object) #<class 'type'>
classYuan(type):
def__new__(cls,name,base,attr,*args,**kwargs):
returntype(name,base,attr,*args,**kwargs)
classMyClass(metaclass=Yuan):
pass
什么是鸭子类型(即:多态)？
深拷贝和浅拷贝
单元测试
classMyTest(unittest.TestCase):
deftearDown(self): # 每个测试用例执行前执行
print( '本方法开始测试了')
defsetUp(self): # 每个测试用例执行之前做操作
print( '本方法测试结束')
@classmethod
deftearDownClass(self): # 必须使用 @ classmethod装饰器, 所有test运行完后运行一次
print( '开始测试')
@classmethod
defsetUpClass(self): # 必须使用@classmethod 装饰器,所有test运行前运行一次
print( '结束测试')
deftest_a_run(self):
self.assertEqual( 1, 1) # 测试用例
gil会根据执行的字节码行数以及时间片释放gil，gil在遇到io的操作时候主动释放
什么是monkey patch?
什么是自省(Introspection)？
python是值传递还是引用传递？
try-except-else-finally中else和finally的区别
GIL全局解释器锁
什么是Cython
生成器和迭代器
（1）可迭代对象只需要实现__iter__方法
（2）使用生成器表达式或者yield的生成器函数(生成器是一种特殊的迭代器)
什么是协程
（1）yield
（2）async-awiat
dict底层结构
Hash扩容和Hash冲突解决方案
（1）链接法
（2）二次探查(开放寻址法)：python使用
forgevent importmonkey
monkey.patch_all #将代码中所有的阻塞方法都进行修改，可以指定具体要修改的方法
判断是否为生成器或者协程
co_flags = func.__code__.co_flags
# 检查是否是协程
ifco_flags & 0x180:
returnfunc
# 检查是否是生成器
ifco_flags & 0x20:
returnfunc
斐波那契解决的问题及变形
#一只青蛙一次可以跳上1级台阶，也可以跳上2级。求该青蛙跳上一个n级的台阶总共有多少种跳法。
#请问用n个2*1的小矩形无重叠地覆盖一个2*n的大矩形，总共有多少种方法？
#方式一：
fib = lambdan: n ifn <= 2elsefib(n - 1) + fib(n - 2)
#方式二：
deffib(n):
a, b = 0, 1
for_ inrange(n):
a, b = b, a + b
returnb
#一只青蛙一次可以跳上1级台阶，也可以跳上2级……它也可以跳上n级。求该青蛙跳上一个n级的台阶总共有多少种跳法。
fib = lambdan: n ifn < 2else2* fib(n - 1)
获取电脑设置的环境变量
importos
os.getenv(env_name, None) #获取环境变量如果不存在为None
垃圾回收机制
#查看分代回收触发
importgc
gc.get_threshold #output:(700, 10, 10)
True和False在代码中完全等价于1和0,可以直接和数字进行计算，inf表示无穷大
C10M/C10K
yield from与yield的区别：
单下划线的几种使用
使用break就不会执行else
10进制转2进制
defconver_bin(num):
ifnum == 0:
returnnum
re = []
whilenum:
num, rem = divmod(num, 2)
re.append(str(rem))
return"".join(reversed(re))
conver_bin( 10)
list1 = ['A', 'B', 'C', 'D'] 如何才能得到以list中元素命名的新列表 A=[],B=[],C=[],D=[]呢
list1 = [ 'A', 'B', 'C', 'D']
# 方法一
fori inlist1:
globals[i] = [] # 可以用于实现python版反射
# 方法二
fori inlist1:
exec(f '{i} = []') # exec执行字符串语句
memoryview与bytearray$color{#000}(不常用，只是看到了记载一下)$
# bytearray是可变的，bytes是不可变的,memoryview不会产生新切片和对象
a = 'aaaaaa'
ma = memoryview(a)
ma.readonly # 只读的memoryview
mb = ma[: 2] # 不会产生新的字符串
a = bytearray( 'aaaaaa')
ma = memoryview(a)
ma.readonly # 可写的memoryview
mb = ma[: 2] # 不会会产生新的bytearray
mb[: 2] = 'bb'# 对mb的改动就是对ma的改动
Ellipsis类型
# 代码中出现...省略号的现象就是一个Ellipsis对象
L = [ 1, 2, 3]
L.append(L)
print(L) # output:[1,2,3,[…]]
lazy惰性计算
classlazy(object):
def__init__(self, func):
self.func = func
def__get__(self, instance, cls):
val = self.func(instance) #其相当于执行的area(c),c为下面的Circle对象
setattr(instance, self.func.__name__, val)
returnval
classCircle(object):
def__init__(self, radius):
self.radius = radius
@lazy
defarea(self):
print( 'evalute')
return3.14* self.radius ** 2
遍历文件，传入一个文件夹，将里面所有文件的路径打印出来(递归)
all_files = []
defgetAllFiles(directory_path):
importos
forsChild inos.listdir(directory_path):
sChildPath = os.path.join(directory_path,sChild)
ifos.path.isdir(sChildPath):
getAllFiles(sChildPath)
else:
all_files.append(sChildPath)
returnall_files
文件存储时，文件名的处理
#secure_filename将字符串转化为安全的文件名
fromwerkzeug importsecure_filename
secure_filename( "My cool movie.mov") # output:My_cool_movie.mov
secure_filename( "../../../etc/passwd") # output:etc_passwd
secure_filename( u'i contain cool xfcmlxe4uts.txt') # output:i_contain_cool_umlauts.txt
日期格式化
fromdatetime importdatetime
datetime.now.strftime( "%Y-%m-%d")
importtime
#这里只有localtime可以被格式化，time是不能格式化的
time.strftime( "%Y-%m-%d",time.localtime)
tuple使用+=奇怪的问题
# 会报错，但是tuple的值会改变，因为t[1]id没有发生变化
t=( 1,[ 2, 3])
t[ 1]+=[ 4, 5]
# t[1]使用appendextend方法并不会报错，并可以成功执行
__missing__你应该知道
classMydict(dict):
def__missing__(self,key): # 当Mydict使用切片访问属性不存在的时候返回的值
returnkey
+与+=
# +不能用来连接列表和元祖，而+=可以（通过iadd实现，内部实现方式为extends,所以可以增加元组），+会创建新对象
#不可变对象没有__iadd__方法，所以直接使用的是__add__方法，因此元祖可以使用+=进行元祖之间的相加
如何将一个可迭代对象的每个元素变成一个字典的所有键？
dict.fromkeys([ 'jim', 'han'], 21) # output:{'jim': 21, 'han': 21}
wireshark抓包软件
06
网络知识
什么是HTTPS?
常见响应状态码
204No Content //请求成功处理，没有实体的主体返回，一般用来表示删除成功
206Partial Content //Get范围请求已成功处理
303See Other //临时重定向，期望使用get定向获取
304Not Modified //求情缓存资源
307Temporary Redirect //临时重定向，Post不会变成Get
401Unauthorized //认证失败
403Forbidden //资源请求被拒绝
400//请求参数错误
201//添加或更改成功
503//服务器维护或者超负载
http请求方法的幂等性及安全性
WSGI
# environ：一个包含所有HTTP请求信息的dict对象
# start_response：一个发送HTTP响应的函数
defapplication(environ, start_response):
start_response( '200 OK', [( 'Content-Type', 'text/html')])
return'<h1>Hello, web!</h1>'
RPC
CDN
SSL(Secure Sockets Layer 安全套接层),及其继任者传输层安全（Transport Layer Security，TLS）是为网络通信提供安全及数据完整性的一种安全协议。
SSH（安全外壳协议） 为 Secure Shell 的缩写，由 IETF 的网络小组.NETwork Working Group）所制定；SSH 为建立在应用层基础上的安全协议。SSH 是目前较可靠，专为远程登录会话和其他网络服务提供安全性的协议。利用 SSH 协议可以有效防止远程管理过程中的信息泄露问题。SSH最初是UNIX系统上的一个程序，后来又迅速扩展到其他操作平台。SSH在正确使用时可弥补网络中的漏洞。SSH客户端适用于多种平台。几乎所有UNIX平台—包括HP-UX、linux、AIX、Solaris、Digital UNIX、Irix，以及其他平台，都可运行SSH。
TCP/IP
TCP:面向连接/可靠/基于字节流
UDP:无连接/不可靠/面向报文
三次握手四次挥手
为什么连接的时候是三次握手，关闭的时候却是四次握手？
为什么TIME_WAIT状态需要经过2MSL(最大报文段生存时间)才能返回到CLOSE状态？
XSS/CSRF
07
索引改进过程
MySQL面试总结基础篇
MySQL面试总结进阶篇
深入浅出MySQL
http://ningning.today/2017/02/13/database/深入浅出mysql/
清空整个表时，InnoDB是一行一行的删除，而MyISAM则会从新删除建表
text/blob数据类型不能有默认值，查询时不存在大小写转换
什么时候索引失效
（1）以%开头的like模糊查询
（2）出现隐士类型转换
（3）没有满足最左前缀原则
（4）失效场景：
例如：
selectid fromt wheresubstring(name, 1, 3) = 'abc'– name;
以abc开头的，应改成：
selectid fromt wherename like'abc% '
例如：
selectid fromt wheredatediff( day, createdate, '2005-11-30') = 0– '2005-11-30';
应改为:
如：
selectid fromt wherenum/ 2= 100
应改为:
selectid fromt wherenum = 100* 2；
什么是聚集索引
08
redis命令总结
为什么这么快？
（1）基于内存，由C语言编写
（2）使用多路I/O复用模型，非阻塞IO
（3）使用单线程减少线程间切换
（4）数据结构简单
（5）自己构建了VM机制，减少调用系统函数的时间
优势
什么是redis事务？
持久化方式
（1）RDB(快照)
（2）AOF(追加日志)
怎么实现队列
常用的数据类型(Bitmaps,Hyperloglogs,范围查询等不常用)
（1）String(字符串):计数器
（2）List(列表)：用户的关注，粉丝列表
（3）Hash(哈希)：
（4）Set(集合)：用户的关注者
（5）Zset(有序集合)：实时信息排行榜
与Memcached区别
Redis实现分布式锁
常见问题
（1）缓存雪崩
（2）缓存穿透
（3）缓存预热
（4）缓存更新
（5）缓存降级
一致性Hash算法
基于redis实现一个分布式锁，要求一个超时的参数
虚拟内存
内存抖动
09
Linux
Unix五种i/o模型
（1）阻塞io
（2）非阻塞io
（3）多路复用io(Python下使用selectot实现io多路复用)
（4）信号驱动io
（5）异步io(Gevent/Asyncio实现异步)
比man更好使用的命令手册
kill -9和-15的区别
分页机制（逻辑地址和物理地址分离的内存分配管理方案）：
分段机制
查看cpu内存使用情况？
10
设计模式
单例模式
# 方式一
defSingle(cls,*args,**kwargs):
instances = {}
defget_instance(*args, **kwargs):
ifcls notininstances:
instances[cls] = cls(*args, **kwargs)
returninstances[cls]
returnget_instance
@Single
classB:
pass
# 方式二
classSingle:
def__init__(self):
print( "单例模式实现方式二。。。")
single = Single
delSingle # 每次调用single就可以了
# 方式三(最常用的方式)
classSingle:
def__new__(cls,*args,**kwargs):
ifnothasattr(cls, '_instance'):
cls._instance = super.__new__(cls,*args,**kwargs)
returncls._instance
工厂模式
classDog:
def__init__(self):
print( "Wang Wang Wang")
classCat:
def__init__(self):
print( "Miao Miao Miao")
deffac(animal):
ifanimal.lower == "dog":
returnDog
ifanimal.lower == "cat":
returnCat
print( "对不起，必须是：dog,cat")
构造模式
class Computer:
def __init__(self,serial_number):
self.serial_number = serial_number
self.memory = None
self.hadd = None
self.gpu = None
def __str__(self):
info = (f'Memory:{self.memoryGB}',
'Hard Disk:{self.hadd}GB',
'Graphics Card:{self.gpu}')
return ''.join(info)
class ComputerBuilder：
def __init__(self):
self.computer = Computer('Jim1996')
def configure_memory(self,amount):
self.computer.memory = amount
return self #为了方便链式调用
def configure_hdd(self,amount):
pass
def configure_gpu(self,gpu_model):
pass
class HardwareEngineer:
def __init__(self):
self.builder = None
def construct_computer(self,memory,hdd,gpu)
self.builder = ComputerBuilder
self.builder.configure_memory(memory).configure_hdd(hdd).configure_gpu(gpu)
@property
def computer(self):
return self.builder.computer
11
python实现各种数据结构
快速排序
defquick_sort(_list):
iflen(_list) < 2:
return_list
pivot_index = 0
pivot = _list(pivot_index)
left_list = [i fori in_list[:pivot_index] ifi < pivot]
right_list = [i fori in_list[pivot_index:] ifi > pivot]
returnquick_sort(left) + [pivot] + quick_sort(right)
选择排序
defselect_sort(seq):
n = len(seq)
fori inrange(n- 1)
min_idx = i
forj inrange(i+ 1,n):
ifseq[j] < seq[min_inx]:
min_idx = j
ifmin_idx != i:
seq[i], seq[min_idx] = seq[min_idx],seq[i]
插入排序
definsertion_sort(_list):
n = len(_list)
fori inrange( 1,n):
value = _list[i]
pos = i
whilepos > 0andvalue < _list[pos - 1]
_list[pos] = _list[pos - 1]
pos -= 1
_list[pos] = value
print(sql)
归并排序
defmerge_sorted_list(_list1,_list2): #合并有序列表
len_a, len_b = len(_list1),len(_list2)
a = b = 0
sort = []
whilelen_a > a andlen_b > b:
if_list1[a] > _list2[b]:
sort.append(_list2[b])
b += 1
else:
sort.append(_list1[a])
a += 1
iflen_a > a:
sort.append(_list1[a:])
iflen_b > b:
sort.append(_list2[b:])
returnsort
defmerge_sort(_list):
iflen(list1)< 2:
returnlist1
else:
mid = int(len(list1)/ 2)
left = mergesort(list1[:mid])
right = mergesort(list1[mid:])
returnmerge_sorted_list(left,right)
堆排序heapq模块
fromheapq importnsmallest
defheap_sort(_list):
returnnsmallest(len(_list),_list)
栈
fromcollections importdeque
classStack:
def__init__(self):
self.s = deque
defpeek(self):
p = self.pop
self.push(p)
returnp
defpush(self, el):
self.s.append(el)
defpop(self):
returnself.pop
队列
fromcollections importdeque
classQueue:
def__init__(self):
self.s = deque
defpush(self, el):
self.s.append(el)
defpop(self):
returnself.popleft
二分查找
defbinary_search(_list,num):
mid = len(_list)// 2
iflen(_list) < 1:
returnFlase
ifnum > _list[mid]:
BinarySearch(_list[mid:],num)
elifnum < _list[mid]:
BinarySearch(_list[:mid],num)
else:
return_list.index(num)
面试加强题：
关于数据库优化及设计
12
缓存算法
LRU(least-recently-used):替换最近最少使用的对象
LFU(Least frequently used):最不经常使用，如果一个数据在最近一段时间内使用次数很少，那么在将来一段时间内被使用的可能性也很小
13
服务端性能优化方向
使用数据结构和算法
数据库
（1）索引优化
（2）慢查询消除
（3）批量操作，从而减少io操作
（4）使用NoSQL:比如Redis
网络io
缓存
异步
并发
