红联Linux论坛
Linux帮助

:Python中最快解压zip文件的方法

发布时间:2018-02-28 09:37:17来源:linux.cn作者:leemeans
假设现在的上下文(注:context,计算机术语,此处意为业务情景)是这样的:一个 zip 文件被上传到一个Web 服务中,然后 Python 需要解压这个 zip 文件然后分析和处理其中的每个文件。这个特殊的应用查看每个文件各自的名称和大小,并和已经上传到 AWS S3 上的文件进行比较,如果文件(和 AWS S3 上的相比)有所不同或者文件本身更新,那么就将它上传到 AWS S3。
Python中最快解压zip文件的方法
挑战在于这些 zip 文件太大了。它们的平均大小是 560MB 但是其中一些大于 1GB。这些文件中大多数是文本文件,但是其中同样也有一些巨大的二进制文件。不同寻常的是,每个 zip 文件包含 100 个文件但是其中 1-3 个文件却占据了多达 95% 的 zip 文件大小。
最开始我尝试在内存中解压文件,并且每次只处理一个文件。在各种内存爆炸和 EC2 耗尽内存的情况下,这个方法壮烈失败了。我觉得这个原因是这样的。最开始你有 1GB 文件在内存中,然后你现在解压每个文件,在内存中大约就要占用 2-3GB。所以,在很多次测试之后,解决方案是将这些 zip 文件复制到磁盘上(在临时目录 /tmp 中),然后遍历这些文件。这次情况好多了但是我仍然注意到了整个解压过程花费了巨量的时间。是否可能有方法优化呢?
 
原始函数
首先是下面这些模拟对 zip 文件中文件实际操作的普通函数:
def _count_file(fn):
with open(fn, 'rb') as f:
return _count_file_object(f)
def _count_file_object(f):
# Note that this iterates on 'f'.
# You *could* do 'return len(f.read())'
# which would be faster but potentially memory
# inefficient and unrealistic in terms of this
# benchmark experiment.
total = 0
for line in f:
total += len(line)
return total
这里是可能最简单的另一个函数:
def f1(fn, dest):
with open(fn, 'rb') as f:
zf = zipfile.ZipFile(f)
zf.extractall(dest)
total = 0
for root, dirs, files in os.walk(dest):
for file_ in files:
fn = os.path.join(root, file_)
total += _count_file(fn)
return total
如果我更仔细地分析一下,我将会发现这个函数花费时间 40% 运行 extractall,60% 的时间在遍历各个文件并读取其长度。
 
第一步尝试
我的第一步尝试是使用线程。先创建一个 zipfile.ZipFile 的实例,展开其中的每个文件名,然后为每一个文件开始一个线程。每个线程都给它一个函数来做“实质工作”(在这个基准测试中,就是遍历每个文件然后获取它的名称)。实际业务中的函数进行的工作是复杂的 S3、Redis 和 PostgreSQL 操作,但是在我的基准测试中我只需要制作一个可以找出文件长度的函数就好了。线程池函数:
def f2(fn, dest):
def unzip_member(zf, member, dest):
zf.extract(member, dest)
fn = os.path.join(dest, member.filename)
return _count_file(fn)
with open(fn, 'rb') as f:
zf = zipfile.ZipFile(f)
futures = []
with concurrent.futures.ThreadPoolExecutor() as executor:
for member in zf.infolist():
futures.append(
executor.submit(
unzip_member,
zf,
member,
dest,
)
)
total = 0
for future in concurrent.futures.as_completed(futures):
total += future.result()
return total
结果:加速 ~10%。
 
第二步尝试
所以可能是 GIL(注:Global Interpreter Lock,一种全局锁,CPython 中的一个概念)阻碍了我。最自然的想法是尝试使用多线程在多个 CPU 上分配工作。但是这样做有缺点,那就是你不能传递一个非可 pickle 序列化的对象(注:意为只有可 pickle 序列化的对象可以被传递),所以你只能发送文件名到之后的函数中:
def unzip_member_f3(zip_filepath, filename, dest):
with open(zip_filepath, 'rb') as f:
zf = zipfile.ZipFile(f)
zf.extract(filename, dest)
fn = os.path.join(dest, filename)
return _count_file(fn)
def f3(fn, dest):
with open(fn, 'rb') as f:
zf = zipfile.ZipFile(f)
futures = []
with concurrent.futures.ProcessPoolExecutor() as executor:
for member in zf.infolist():
futures.append(
executor.submit(
unzip_member_f3,
fn,
member.filename,
dest,
)
)
total = 0
for future in concurrent.futures.as_completed(futures):
total += future.result()
return total
结果: 加速 ~300%。
 
这是什么原理
使用处理器池的问题是这样需要存储在磁盘上的原始 .zip 文件。所以为了在我的 web 服务器上使用这个解决方案,我首先得要将内存中的 zip 文件保存到磁盘,然后调用这个函数。这样做的代价我不是很清楚但是应该不低。
好吧,再翻翻看又没有损失。可能,解压过程加速到足以弥补这样做的损失了吧。
但是一定记住!这个优化取决于使用所有可用的 CPU。如果一些其它的 CPU 需要执行在 gunicorn 中的其它事务呢?这时,这些其它进程必须等待,直到有 CPU 可用。由于在这个服务器上有其他的事务正在进行,我不是很确定我想要在进程中接管所有其他 CPU。
 
结论
一步一步地做这个任务的这个过程感觉挺好的。你被限制在一个 CPU 上但是表现仍然特别好。同样地,一定要看看在f1 和 f2 两段代码之间的不同之处!利用 concurrent.futures 池类你可以获取到允许使用的 CPU 的个数,但是这样做同样给人感觉不是很好。如果你在虚拟环境中获取的个数是错的呢?或者可用的个数太低以致无法从负载分配获取好处并且现在你仅仅是为了移动负载而支付营运开支呢?
我将会继续使用 zipfile.ZipFile(file_buffer).extractall(temp_dir)。这个工作这样做已经足够好了。
 
想试试手吗?
我使用一个 c5.4xlarge EC2 服务器来进行我的基准测试。文件可以从此处下载:
wget http://oecinema.com.www.peterbe.com/unzip-in-parallel/hack.unzip-in-parallel.py
wget http://zinise.com.www.peterbe.com/unzip-in-parallel/symbols-2017-11-27T14_15_30.zip
这里的 .zip 文件有 34MB。和在服务器上的相比已经小了很多。
hack.unzip-in-parallel.py 文件里是一团糟。它包含了大量可怕的修正和丑陋的代码,但是这只是一个开始。
 
LINUX通过网站解压zip覆盖网站进行升级失败,忘记apache授权:http://www.fanyiwo.com/linux/28467.html
Linux下解压ZIP压缩包乱码问题:http://www.fanyiwo.com/linux/15823.html
在Ubuntu 14.10下解压zip文件出现乱码的解决:http://www.fanyiwo.com/linux/9952.html
linux解压.zip文件乱码处理的一个脚本:http://www.fanyiwo.com/linux/27253.html
Linux操作系统下解压.zip文件的方法:http://www.fanyiwo.com/linux/210.html
推荐教程
热点推荐
上海时时乐走势囹 北京pk10冠军单双计划 北京快乐8怎么玩的 北京pk10冠军6码走势图 北京快乐8总数单双 北京pk10彩票是国家办的吗
北京pk10技巧规律2码 北京pk10技巧6码 北京pk10技巧6码 北京pk10八码一期计划 北京pk10倍投 时时乐类型走势图
北京pk10三码技巧 北京pk10四码定位技巧 北京pk10七码稳赚技巧 北京pk10万能八码技巧
pk10交流群 上海今时时乐开奖结果 玩北京快乐8稳赚技巧 北京快乐8单双技巧 金木水土火来源于 财神爷北京pk10破解版
新尚早餐加盟 早龙早餐加盟 粗粮早餐加盟 豆浆早餐加盟 广式早点加盟
快餐早点加盟 便民早点加盟 上海早餐加盟 品牌早餐店加盟 早餐粥店加盟
雄州早餐加盟 健康早餐加盟 早点面条加盟 大福来早点加盟 大福来早点加盟
早点来早餐加盟 早点夜宵加盟 江西早点加盟 上海早餐车加盟 油条早餐加盟
华为在哪彩票 平刷王北京赛车软件 博金冠账号注册 吉林11选5开奖 山西11选5开奖结果
黑龙江36选7开奖走势图 重庆时时彩开奖视频 剑灵qq网吧客户端 江西11选5走势图 排列5基本走势图
天使娱乐平台官网 一尾中特高手料 11选5 杀号公式 012路必有1路方法 香港六合图库大全
两分时时彩开奖网站 重庆快乐十分开奖结果 25选7开奖结果查询 内蒙古十一选五的前三 快3开奖结果湖北省今天