用python 正确计算大文件md5 值
🕦 by pyList at 2015-03-10 10:40
python 计算文件的md5值很方便,但如果只是简单的把文件都入到内存中,大文件会导致问题,一般采用切片的方式分段计算,下面的几个函数可以很好的解决这个问题。
使用 hashlib
import hashlib
def md5_for_file(f, block_size=2**20):
md5 = hashlib.md5()
while True:
data = f.read(block_size)
if not data:
break
md5.update(data)
return md5.digest()
def md5sum(filename, blocksize=65536):
hash = hashlib.md5()
with open(filename, "r+b") as f:
for block in iter(lambda: f.read(blocksize), ""):
hash.update(block)
return hash.hexdigest()
使用 Crypto.Hash
import os
from Crypto.Hash import MD5
def get_file_checksum(filename):
h = MD5.new()
chunk_size = 8192
with open(filename, 'rb') as f:
while True:
chunk = f.read(chunk_size)
if len(chunk) == 0:
break
h.update(chunk)
return h.hexdigest()
上面三个函数都能正确计算大文件md5 值
本文网址: https://pylist.com/t/1425955230 (转载注明出处)
如果你有任何建议或疑问可以在下面 留言
发表第一条评论!
相关推荐
小工具
标签
golang
md5
文件
计算
python
路径
获取
运行
print
中文
终端
正确
csv
读写
标准
一次方程
一元
代码
简单
json
unicode
性能
os
popen
超时
解决
list
高效
方式
格式
转换
常见
时间
正则
搜索引擎
关键字
搜索
xor
解密
加密
方法
u盘
mac
diskutil
格式化
顽固
之坑
files
open
服务
app
store
登录
未知
xmltodict
gbk
xml
编码
openwrt
usb
上网卡
共享
网络
bbr
路由
开启
sqlite
数据库
提速
经验
固件
debian
ubuntu
编译
系统启动
硬件加速
ubnt
er
最新版
wndr4300
升级
访问速度
vps
加速
js
fonts
css
html
一键
字符串
分割
英文
failed
load
devtools
sourcemap
chrome
自动更新
microsoft
关闭
静音
风扇
主机
笔记本
改造
低功耗
web
爬虫
服务器
组装
微信
尝鲜
视频
体验
cpu
查看
温度
server
浏览
google
身份验证
authenticator
迁移
手机
webdriver
微博
selenium
gnu
linux
安装
宅家
坑记
屏幕
动手
nginx
quic
抢先
最近发表
- Chrome 控制台 DevTools failed to load SourceMap 警告的消除方法
- Mac 关闭 Microsoft 自动更新
- Mac 登录 App Store 出现“发生了未知错误”的解决方法
- 老笔记本改造为无风扇静音主机方案
- 自己组装21瓦低功耗家庭爬虫、文件、web服务器
- 微信视频号尝鲜体验
- Ubuntu/Debian 查看CPU温度的方法
- 在Ubuntu/debian Server 系统使用Chrome 无头浏览模式
- 换手机后 Google 身份验证器 Google Authenticator 数据迁移的简单方法
- 使用Golang selenium WebDriver 自动登录微博
- 在 Ubuntu 或其它 GNU/Linux 系统下安装 Debian
- Mac 下制作 USB ubuntu/debian 系统启动、安装盘的几种方法
- ubuntu/debian 下自行编译 OpenWRT 固件
- 宅家自己动手换手机屏幕掉坑记
- 路由 UBNT ER-X 官方固件升级及开启硬件加速的方法
- 在 Nginx 和 Golang web 上抢先体验 QUIC
最近浏览
- python 常见的时间格式转换
- 用python 实现XOR 加密解密的方法
- 在终端使用Mac diskutil 命令格式化顽固U盘
- Golang 服务之坑:too many open files
- Mac 登录 App Store 出现“发生了未知错误”的解决方法
- python xmltodict 解析xml gbk 编码问题解决
- Openwrt 使用USB 4G 上网卡共享网络
- Openwrt 路由上开启BBR
- python SQLite 数据库提速经验
- ubuntu/debian 下自行编译 OpenWRT 固件
- Mac 下制作 USB ubuntu/debian 系统启动、安装盘的几种方法
- 路由 UBNT ER-X 官方固件升级及开启硬件加速的方法
- WNDR4300 固件升级到 OpenWrt 最新版
- 开启BBR 加速小VPS访问速度
- 一键下载网站资源(html/css/js/fonts)
- python 分割中文英文混合字符串的正确方法