python下载大文件代码

2015/01/17 48290

清华大佬耗费三个月吐血整理的几百G的资源，免费分享！....>>>

如果下载小文件，可以直接使用urllib.urlretrieve方法：

?
1
2
import urllib
urllib.urlretrieve ("http://www.example.com/songs/mp3.mp3", "mp3.mp3")

但是如果下载的文件尺寸很大，就不适合直接urlretrieve了。我们需要按块读取文件来下载：

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
import urllib2
 
url = "http://download.thinkbroadband.com/10MB.zip"
 
file_name = url.split('/')[-1]
u = urllib2.urlopen(url)
f = open(file_name, 'wb')
meta = u.info()
file_size = int(meta.getheaders("Content-Length")[0])
print "Downloading: %s Bytes: %s" % (file_name, file_size)
 
file_size_dl = 0
block_sz = 8192
while True:
    buffer = u.read(block_sz)
    if not buffer:
        break
 
    file_size_dl += len(buffer)
    f.write(buffer)
    status = r"%10d  [%3.2f%%]" % (file_size_dl, file_size_dl * 100. / file_size)
    status = status + chr(8)*(len(status)+1)
    print status,
 
f.close()