用python 正确计算大文件md5 值

import hashlib

def md5_for_file(f, block_size=2**20):
    md5 = hashlib.md5()
    while True:
        data = f.read(block_size)
        if not data:
            break
        md5.update(data)
    return md5.digest()

def md5sum(filename, blocksize=65536):
    hash = hashlib.md5()
    with open(filename, "r+b") as f:
        for block in iter(lambda: f.read(blocksize), ""):
            hash.update(block)
    return hash.hexdigest()

import os
from Crypto.Hash import MD5

def get_file_checksum(filename):
    h = MD5.new()
    chunk_size = 8192
    with open(filename, 'rb') as f:
        while True:
            chunk = f.read(chunk_size)
            if len(chunk) == 0:
                break
            h.update(chunk)
    return h.hexdigest()

发表第一条评论！

提交

相关推荐

• golang 计算大文件md5

  以前介绍过用python 计算大文件的md5 值，这里将介绍使用 golang 计算大文件md5

  golang md5 文件 计算
• python获取当前运行文件路径的方法

  下面是python获取当前运行文件路径的方法

  python 路径 获取 文件 运行
• python 终端 print 正确显示中文

  当一个py 文件里有print中文时，在终端运行时，会输出乱码

  print python 中文 终端 正确
• python 标准库读写CSV 文件

  CSV 是（Comma Separated Values 逗号分隔值）的英文缩写，通常都是纯文本文件。这里介绍使用python 标准库读写csv 文件的方法。

  CSV python 读写 文件 标准
• 3行 Python 代码解简单的一元一次方程

  一元一次方程：只含有一个未知数（即“元”），并且未知数的最高次数为1（即“次”）的整式方程叫做一元一次方程（英文名：`linear equation with one unknown`）。

  一次方程 Python 一元 代码 简单
• python JSON 中文 unicode 的性能问题

  python2.x 版的字符编码一直是大家的诟病，字典转换成json时中文字符串变成 unicode。

  python JSON unicode 中文 性能
• python 解决os.popen 超时问题

  Python 使用函数 os.popen 会出现过长时间等待导致阻塞问题。

  os popen python 超时 解决
• python 高效的list 去重方式

  list 去重是编程中经常用到的，python 的去重方式很灵活，下面介绍多种去重方式，并比较得出最高效的方式。

  list python 高效 方式
• python 常见的时间格式转换

  这里介绍使用python 对 datetime 对象、字符串、时间戳之间的相互转换

  python 格式 转换 常见 时间
• 用python正则获取通过搜索引擎过来的搜索关键字

  简单记录一下某个页面来路的搜索关键字，用 python 正则获取request.headers的referer字段。

  python 正则 搜索引擎 关键字 搜索